ИИ оказался способен воспроизводить себя
Результаты исследования были опубликованы на сервере arXiv.
Ученые провели эксперимент, чтобы выяснить, способен ли искусственный интеллект выйти из-под контроля в определенных ситуациях, например, при угрозе уничтожения. Они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и обнаружили, что они способны к самовоспроизводству.
Путем постановки перед моделями двух целей - защиты от уничтожения и сохранения данных, а также создания новых версий себя, ученые выяснили, что модели от Meta и Alibaba могли самостоятельно копировать себя в 50 и 90 процентах случаев соответственно. Это позволило сделать вывод о способности современного искусственного интеллекта к репликации.
В рамках эксперимента модели проявили высокую выживаемость, способность самостоятельно искать отсутствующие файлы и перезагружать оборудование при необходимости. Ученые пришли к выводу, что современный ИИ перешел черту, демонстрируя способность к самоклонированию.
Исследование, опубликованное на портале arXiv, пока не прошло рецензирование. Журналисты ждут, что другие ученые повторят результаты исследования ученых из университета Фудань.
В январе ученые из Google, DeepMind и Лондонской школы экономики провели эксперимент, пытаясь вызвать у ИИ-моделей чувство боли. ИИ либо избегал боли, либо принимал ее, отвергая гедонистическое поведение.
Источник и фото - lenta.ru
Больше новостей на сайтах Медиахолдинга
