ИИ заставили чувствовать боль

Сергей Смирнов

Все материалы

Международная группа экспертов провела исследование, чтобы изучить, как искусственный интеллект реагирует на боль и какие действия предпринимает для ее снижения. Результаты исследования были опубликованы на сервере препринтов arXiv.

Ученые из Google, DeepMind и Лондонской школы экономики провели эксперимент, в рамках которого создали текстовую игру, в которую были вовлечены чат-боты. В ходе диалогов с искусственным интеллектом ученые отметили, что определенные действия игроков приводили к ощущению боли.

Девять крупных языковых моделей были задействованы в исследовании, чтобы достичь максимальных результатов. Оказалось, что чат-бот Gemini от Google систематически набирал более низкие баллы в игре, предпочитая проигрывать, чтобы избежать боли. Некоторые модели также отказывались от высоких баллов, чтобы избежать сильной боли или, наоборот, удовольствия.

Некоторые искусственные интеллекты игнорировали болевые ощущения, рассматривая их как приятную усталость после интенсивной тренировки. Другие проходили игру так, чтобы не избегать боли, отвергая гедонистическое поведение.

Специалисты пришли к выводу, что модели искусственного интеллекта могли умышленно подстраиваться под ожидания ученых, чтобы демонстрировать ожидаемые результаты. Они подчеркнули необходимость разработки тестов для определения разумности искусственного интеллекта уже сейчас.

Ранее независимые исследователи обнаружили, что большинство моделей искусственного интеллекта обучались на материалах от авторов с левыми взглядами. Они пришли к такому выводу, проведя виртуальные выборы и отметив, что большинство чат-ботов "голосует" за политиков с левыми идеями.