В Британии пригрозил xAI расследованием из-за обнаженных дипфейков с детьми

Все материалы

Британский медиарегулятор Ofcom предупредил компанию xAI, принадлежащую американскому миллиардеру Илону Маску, о возможном расследовании в связи с сообщениями о создании дипфейков с обнажёнными изображениями и сексуализированными изображениями детей с помощью модели искусственного интеллекта Grok.

В пятницу агентство Bloomberg сообщило, что ИИ-модель Grok от xAI генерировала порнографический контент с участием детей. По информации, такие изображения создавались в последние несколько дней, что нарушает правила допустимого использования чат-бота. Запрещённый контент был удалён, а на странице Grok в социальной сети X отмечается, что компания «в срочном порядке» устраняет выявленные уязвимости.

Пресс-секретарь Ofcom в интервью газете Telegraph заявил: «Нам известно о серьёзных опасениях, связанных с функцией Grok в соцсети X, которая создаёт обнажённые изображения людей и сексуализированные изображения детей. Мы оперативно связались с X и xAI, чтобы выяснить, какие меры они принимают для выполнения своих юридических обязательств по защите пользователей в Великобритании. По их ответу будет проведена оценка необходимости расследования».

Ранее британские СМИ сообщали о случаях, когда Grok по запросу «раздевал» Принцессу Уэльскую. В декабре 2023 года правительство Великобритании пообещало запретить инструменты для создания дипфейков, отметив, что они негативно влияют на психику молодёжи.

В воскресенье Илон Маск заявил, что «любой, кто использует Grok для создания нелегального контента, столкнётся с такими же последствиями, как и те, кто загружает запрещённый материал».

Компания xAI занимается разработкой искусственного интеллекта Grok, представленного в ноябре 2023 года. В марте 2024 года xAI опубликовала исходный код модели.

Источник и фото - ria.ru