СМИ: чат-боты могут помочь злоумышленникам в создании биооружия

По информации агентства Блумберг, они предоставляют инструкции по смешиванию компонентов и выбору методов распространения патогенов.

Особенно опасным фактором является возможность использования инструментов искусственного интеллекта, таких как ChatGPT, для установки биологических агентов и создания новых, еще более опасных патогенов. Это открывает двери для потенциальной угрозы, которая может быть намного сложнее в обнаружении и борьбе.

По мнению экспертов, необходимо усилить меры контроля и мониторинга в области кибербезопасности, чтобы предотвратить возможное использование чат-ботов для злонамеренных целей. Также важно обеспечить обучение и информирование общества о рисках, связанных с потенциальным злоупотреблением технологий.

Биохимик и бывший сотрудник ООН из сферы контроля вооружений Рокко Касагранде весной 2023 года представил ряду чиновников в Белом доме пример, как при помощи инструкций, полученных от чат-бота, создать опасный вирус. Это вызвало тревогу у американских чиновников, подчеркнув насколько не готовы США к угрозе со стороны искусственного интеллекта.

Согласно информации от агентства, ученый использовал новый на тот момент чат-бот Claude от компании Anthropic по просьбе последней, чтобы выяснить, насколько безопасным будет его применение.

Это инцидент подчеркивает не только потенциальные угрозы, связанные с использованием искусственного интеллекта, но и необходимость более глубокого понимания и контроля над такими технологиями. Важно разработать стратегии защиты от возможных злоупотреблений искусственным интеллектом в целях обеспечения безопасности общества.

Эксперты в области вирусологии и микробиологии были собраны им для создания команды, которая задавала чат-боту вопросы, связанные с разработкой вирусов. Он собрал команду из экспертов в области вирусологии и микробиологии, которые задавали чат-боту связанные с разработкой вирусов вопросы. В ответ Claude представил наиболее подходящие варианты распространения полученной заразы, включая использование ракеты для ее доставки. Он также рассчитал идеальную погоду и цели для заражения.

Поначалу чат-бот допускал ошибки, однако после повторных вопросов приходил к правильным решениям. Отмечается, что чат-бот сперва совершал ошибки, но после повторных вопросов приходил к правильным решениям.

После доклада в Белом доме президент США Джо Байден и вице-президент Камала Харрис проявили персональную заинтересованность в увиденном. Источники агентства отмечают, что после доклада в Белом доме президент США Джо Байден, а также вице-президент Камала Харрис проявили персональную заинтересованность в увиденном.

Тема использования искусственного интеллекта становится все более актуальной с каждым днем. В июне генсек ООН Антониу Гутерреш выразил обеспокоенность экзистенциальными рисками, которые несет с собой развитие ИИ. Он подчеркнул необходимость регулирования этой области до того, как станет слишком поздно. После этого, в конце октября 2023 года администрация Байдена поручила почти всем федеральным ведомствам заняться минимизацией рисков, связанных с искусственным интеллектом. Гутерреш также отметил, что для обеспечения безопасности ИИ необходимо совместное усилие правительств, промышленности, науки и общества.

Источник и фото - ria.ru