ChatGPT оказался похож на мозг
Исследование, проведенное учеными Колумбийского университета и Института медицинских исследований имени Файнстейна Northwell Health, показало, что современные большие языковые модели (LLM), включая ChatGPT, все больше приближаются к нейронным процессам, происходящим в мозге человека при обработке языка. Эти выводы были опубликованы в журнале Nature Machine Intelligence.
Исследователи обнаружили, что с увеличением эффективности языковых моделей они не только успешнее справляются с задачами, но и их внутренние представления становятся ближе к нейронным реакциям, связанным с языком в мозге. Это отражается в том, как различные уровни LLM отражают иерархию обработки языка в мозге, начиная с акустических и фонетических элементов и заканчивая абстрактными компонентами.
Для анализа исследования использовали данные 12 языковых моделей с открытым исходным кодом. Одновременно с этим были зафиксированы нейронные реакции у пациентов с имплантированными электродами, которые слушали речь в рамках нейрохирургического лечения. Полученные данные из моделей были сопоставлены с реакциями мозга для определения степени их сходства.
Результаты показали, что с увеличением производительности LLM увеличивается соответствие их нейронной активности, связанной с обработкой языка. Наиболее продвинутые модели, включая ChatGPT, демонстрируют более точное соответствие последовательным слоям модели с уровнями обработки языка в мозге. Это свидетельствует о том, что внутренние представления моделей становятся более сложными и точными.
Еще одним важным наблюдением является то, что первые уровни LLM играют особенно важную роль в повышении их эффективности. Эти слои лучше всего предсказывают нейронные реакции мозга, что подчеркивает их ключевое значение в успешной обработке текста.
Больше новостей на сайтах Медиахолдинга
