Угрозу ИИ для человечества оценили
Международная группа ученых провела оценку вероятности того, что искусственный интеллект (ИИ) в будущем может представлять опасность для человечества. Результаты исследования были опубликованы на сервере препринтов arXiv. Ученые из Университета Бата (Великобритания) и Технического университета Дармштадта (Германия) отметили, что большие языковые модели (LLM) способны к самообучению и усвоению новых навыков, но остаются предсказуемыми и легко контролируемыми. Под руководством профессора Ирины Гуревич в ходе исследования LLM были протестированы на выполнение незнакомых им действий, что показало, что ИИ наиболее эффективен при выполнении задач на основе предоставленных примеров. Ученые отметили, что вероятность выхода ИИ из-под контроля низка. Однако признали, что ИИ может быть использован в преступных целях, таких как создание фейков или содействие мошенничеству. Специалисты подчеркнули важность того, чтобы языковые модели имели четкие инструкции и конкретные примеры. В мае другие ученые высказали опасения относительно потенциальной угрозы, которую представляет искусственный интеллект для разумной жизни во Вселенной, особенно в контексте перехода цивилизации к многопланетному существованию.
Больше новостей на сайтах Медиахолдинга
