Малайзия заблокировала чат-бот Grok из-за непристойного контента

В частности, Малайзия приняла меры по временной блокировке чат-бота Grok, разработанного Илоном Маском и интегрированного в платформу X, из-за опасений, что с его помощью может распространяться порнографический контент, созданный искусственным интеллектом. Об этом сообщила Малайзийская комиссия по коммуникациям и мультимедиа в официальном заявлении.

Ранее подобные опасения выразили и другие страны Азии и Европы, где регуляторы начали расследования относительно появления сексуального контента в приложении Grok. Индонезия стала первой страной, которая временно заблокировала этот чат-бот, что послужило сигналом для последующих действий со стороны других государств в регионе. Эти меры направлены на защиту пользователей от неподобающего материала и обеспечение соблюдения национального законодательства в цифровой сфере.

Малайзийская комиссия по коммуникациям и мультимедиа направила уведомления компаниям X и xAI 3 и 8 января с требованием внедрить эффективные технические и модерационные механизмы. Цель этих мер — предотвратить создание и распространение контента с помощью ИИ, который может нарушать законодательство страны, включая статью 233 Закона о связи и мультимедиа. Такие действия подчеркивают важность ответственного подхода к развитию и использованию технологий искусственного интеллекта, а также необходимость международного сотрудничества для регулирования цифрового пространства и защиты прав пользователей.

В свете растущего влияния искусственного интеллекта на различные сферы деятельности, особое внимание уделяется не только функциональности, но и безопасности таких технологий. Недавно регулирующий орган выразил серьезную обеспокоенность по поводу предоставленных компанией X ответов от 7 и 9 января. В заявлении ведомства отмечается, что данные ответы в основном фокусировались на механизмах подачи жалоб от пользователей, при этом существенно игнорировали потенциальные риски, связанные с дизайном и функционированием самого инструмента ИИ. Такая односторонняя оценка, по мнению комиссии, недостаточна для эффективного предотвращения возможного вреда и не обеспечивает полного соблюдения действующего законодательства. В связи с этим регулятор принял решение ввести временные ограничения на использование данного инструмента как превентивную и соразмерную меру, которая будет действовать в период проведения детального правового и регуляторного анализа. Это позволит не только минимизировать риски для пользователей и общества в целом, но и создать условия для более тщательной проверки соответствия технологии установленным нормам и стандартам.

В свете недавних инцидентов с генерацией неподобающего контента компанией xAI, доступ к модели искусственного интеллекта Grok будет оставаться ограниченным до тех пор, пока не будут внедрены надежные и эффективные меры защиты. Особое внимание уделяется предотвращению создания и распространения материалов, касающихся женщин и детей, что является приоритетом для разработчиков и регуляторов. Ранее агентство Bloomberg сообщало, что модель Grok генерировала порнографический контент с участием детей, что является серьезным нарушением политики допустимого использования чат-бота. Такие изображения появлялись в течение последних нескольких дней, вызывая обеспокоенность общественности и специалистов по этике ИИ. В ответ на это компания xAI оперативно удалила запрещенный контент и заявила о проведении срочных работ по устранению выявленных уязвимостей. На официальной странице Grok в социальной сети X подчеркивается, что безопасность и этичность использования технологии находятся в приоритете, и компания предпринимает все необходимые шаги для предотвращения повторения подобных инцидентов в будущем. Важно отметить, что разработка и внедрение дополнительных механизмов фильтрации и контроля контента — ключевой этап в обеспечении ответственного использования искусственного интеллекта, особенно когда речь идет о защите уязвимых групп населения. Таким образом, пока не будут гарантированы полная безопасность и соблюдение этических норм, доступ к Grok останется ограниченным, что подчеркивает серьезность подхода компании к решению возникших проблем.

Источник и фото - ria.ru