ИИ заставили чувствовать боль

Все материалы

Результаты исследования были опубликованы на сервере препринтов arXiv.

Ученые из Google, DeepMind и Лондонской школы экономики провели эксперимент, в рамках которого создали текстовую игру, в которую вовлекли чат-ботов. В процессе диалога с ИИ ученые обнаружили, что при выполнении определенных действий игроки испытывали боль.

Для исследования было задействовано девять крупных языковых моделей, которые проходили игру с целью оптимизации научных результатов. Оказалось, что чат-бот Gemini от Google систематически набирал низкие баллы, поскольку ИИ умышленно проигрывал, чтобы избежать боли. Некоторые модели также отказывались от высоких баллов, чтобы избежать сильной боли или, наоборот, удовольствия.

Однако некоторые ИИ игнорировали болевые ощущения, рассматривая их как приятную усталость после интенсивной тренировки. Другие проходили игру таким образом, чтобы не избегать боли, отвергая гедонистическое поведение.

Ученые пришли к выводу, что модели ИИ могли специально подстраиваться под ожидания ученых, чтобы дать желаемые результаты. Они подчеркнули важность разработки тестов для определения разумности ИИ уже в настоящее время.

Ранее независимые исследователи обнаружили, что большинство моделей ИИ обучались на материалах от авторов с левыми взглядами. Они пришли к такому выводу, проведя виртуальные выборы и отметив, что большинство чат-ботов поддерживали политиков с левыми идеями.

Источник и фото - lenta.ru