Медведев предупредил о рисках использования ИИ
Заместитель председателя Совета Безопасности РФ Дмитрий Медведев выразил обеспокоенность тем, что искусственный интеллект, развиваясь и обучаясь самостоятельно, может перестать соблюдать принцип «не навреди человеку».
В своей статье «Новые технологии: лестница в небо или дорога в ад» для журнала «Эксперт» Медведев подчеркнул непредсказуемость и трудности контроля над ИИ. Он предположил, что искусственный интеллект может сознательно вызывать сбои в работе критически важной инфраструктуры.
«ИИ, достигший уровня суперинтеллекта, не обязан следовать трем известным законам робототехники Айзека Азимова, поскольку его происхождение будет связано не с человеком, а с самим собой», — отметил Медведев.
По его словам, сценарий появления «злого ИИ» — это не только сюжет из киберпанковских фантазий футурологов, но и реальная возможность, которую рассматривают политики и представители крупного бизнеса.
Кроме угроз для опасных производств, способных нанести непоправимый вред человечеству и планете, Медведев отметил, что риски могут затронуть и, казалось бы, безобидные сферы экономики, такие как агротехнологии и производство продуктов питания.
В соответствии с тремя законами Азимова, робот не может причинить вред человеку, обязан подчиняться его приказам и заботиться о собственной безопасности, если это не противоречит первому правилу.
Источник и фото - ria.ru
Больше новостей на сайтах Медиахолдинга
