Искусственный интеллект оказался иллюзией

Исследование, проведенное учеными из Apple Computer Company, выявило, что крупные языковые модели, такие как ChatGPT, могут создавать иллюзию интеллекта, не проявляя настоящего логического рассуждения. Эта информация была опубликована на сервере препринтов arXiv.

Недавнее исследование команды ученых сфокусировалось на способности разумных существ, включая людей, отличать важную информацию от несущественной в ситуациях, где требуется логический анализ. Ученые предположили, что истинный интеллект заключается в умении понимать, как игнорировать ненужные данные и сосредотачиваться на сути вопроса, так же, как это делает человеческое мышление.

Подобные исследования помогают лучше понять различия между искусственным и человеческим интеллектом, а также выявить ограничения современных языковых моделей в области логического мышления.

Эксперимент, проведенный исследователями, был направлен на проверку гипотезы о способности языковых моделей (LLM) к фильтрации лишней информации. Для этого вопросы, используемые для тестирования моделей, были дополнены ненужными данными. Основной целью было выяснить, способны ли LLM игнорировать несущественные детали и давать верные ответы.

Исследование выявило, что часто LLM запутываются в избыточной информации, что приводит к неверным или бессмысленным ответам на вопросы, на которые ранее они отвечали правильно. Эти результаты наводят на мысль о том, что у LLM может отсутствовать способность к глубокому пониманию и логическому мышлению.

Важно отметить, что такие ограничения LLM могут оказать влияние на их применение в различных областях, где требуется точное и осмысленное понимание текста. Дальнейшие исследования в этой области могут помочь улучшить качество работы языковых моделей и расширить их возможности в различных прикладных задачах.

Исследование показало, что LLM способны создавать впечатление правдоподобности своих ответов, но при более глубоком анализе они оказываются ошибочными. Это проявляется, например, когда модели отвечают на вопросы о своих "чувствах", подразумевая наличие у них сознательных ощущений, что на самом деле не соответствует действительности из-за их отсутствия чувственных способностей.

Более тщательное изучение этих результатов позволило исследователям сделать вывод о том, что современные языковые модели не обладают настоящим интеллектом. Они скорее выявляют шаблоны в текстах и формируют ответы на основе статистической обработки данных, чем на основе реального понимания сути поставленных вопросов.

Данное открытие поднимает важный вопрос о том, насколько надежно можно полагаться на искусственный интеллект в области обработки естественного языка. Возникает необходимость в дальнейших исследованиях для улучшения качества и точности работы таких моделей.