Популярная ИИ-модель раскрыла детали о торговле данными пользователей

Сергей Смирнов

Все материалы

Американский сенатор Берни Сандерс провёл интервью с популярной ИИ-моделью Claude, которая рассказала ему о несанкционированной торговле пользовательскими данными, используемыми бизнесом в своих целях. Пересказ беседы экс-кандидата в президенты США с чат-ботом опубликовало издание TheTechPencil.

В ответ на вопрос о том, что представляет угрозу для демократии, Claude объяснил Сандерсу, что ради прибыли собираются данные об истории просмотров, местоположении, покупательском поведении и длительности сессий пользователей. На основе этой информации искусственный интеллект зачастую без согласия людей формирует профили, которые затем продаются рекламодателям и организаторам политических кампаний.

В статье перечислены проблемы, признанные ИИ-собеседником сенатора: лоббирование, профилирование, микротаргетинг и нарушение информированного согласия. Claude согласился, что из-за быстрого развития индустрии регулировать эту сферу будет крайне сложно.

Ранее Сандерс, выступающий за мораторий на создание новых центров обработки данных, предупреждал, что восстановление производства в США не принесёт пользы, если рабочие места займёт искусственный интеллект. Он также отметил, что Илон Маск и другие техномиллиардеры инвестируют в ИИ, но не учитывают интересы рабочего класса.

В феврале стало известно о Зое Хитциг, которая уволилась из OpenAI в день запуска рекламы в ChatGPT, где персонализация была включена по умолчанию. По её словам, огромный массив медицинской информации, а также данные о личных проблемах, вкусах и убеждениях пользователей, собранные «потому что люди считают, что общаются с чем-то без скрытых мотивов», в итоге попадают в руки маркетологов.