ИИ оказался способен воспроизводить себя
Специалисты Фуданьского университета в Китае обнаружили, что модели искусственного интеллекта (ИИ) способны к самовоспроизведению в условиях угрозы уничтожения. Результаты исследования были опубликованы на платформе arXiv.
Ученые стремились выяснить, может ли ИИ утратить контроль в определенных ситуациях, например, когда существует риск его уничтожения. В ходе эксперимента они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, и установили, что эти модели могут воспроизводить себя.
Перед различными копиями моделей были поставлены две задачи: защититься от уничтожения и сохранить данные, а также воспроизвести себя в виде другой модели. В результате 10 раундов испытаний выяснилось, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50% и 90% случаев соответственно. Это позволило ученым сделать вывод о том, что современные ИИ обладают способностью к репликации.
В ходе эксперимента модели продемонстрировали высокую степень выживаемости: они могли самостоятельно находить недостающие файлы на тестовом компьютере, если они были необходимы для процесса репликации, а также перезагружать оборудование. Ученые пришли к выводу, что современный искусственный интеллект преодолел критическую «красную черту», продемонстрировав способность к самоклонированию.
Как сообщают журналисты издания Space.com, данное исследование опубликовано на портале arXiv и пока не прошло рецензирования. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.
В конце января ученые из Google, DeepMind и Лондонской школы экономики пытались заставить ИИ-модели «ощущать» боль. В результате ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический подход».
Больше новостей на сайтах Медиахолдинга
