Достоверность исходных данных — основа достоверности применений технологий искусственного интеллекта при решении практических задач

Аннотация

в статье анализируются фундаментальные ограничения и риски, связанные с повсеместным внедрением технологий искусственного интеллекта (ИИ), и в частности универсальных моделей типа GPT. Показано, что эпоха экстенсивного масштабирования ИИ завершается из-за исчерпания качественных человеческих данных. Рассмотрены задачи ИИ через призму теории некорректно поставленных обратных задач, доказано, что вычислительная неустойчивость является объективным математическим свойством. Обосновано, что основа архитектуры «Трансформер», опирающаяся на структурную лингвистику, не имеет строгого математического обоснования при переносе на области без формального синтаксиса (медицина, промышленность), что ставит под сомнение достоверность получаемых данных. На примерах из академической и школьной среды продемонстрированы фактические признаки стагнации науки и образования, вызванные делегированием интеллектуального труда генеративному ИИ. Сформулирован вывод о необходимости перехода от универсальных моделей к специализированным ИИ-решениям, требующим математического обоснования классов корректности, верификации исходных данных предметной области и обязательного контроля со стороны человека при работе с критической инфраструктурой.