Касперская перечислила риски искусственного интеллекта

Сегодня искусственный интеллект все активнее внедряется в бизнес-процессы, промышленность и цифровые сервисы, однако вместе с его быстрым развитием растет и число сопутствующих угроз. Одними из наиболее заметных рисков становятся чрезмерное доверие к ИИ, которое во многом подпитывается его высокой популярностью и «хайпом», а также возможные утечки данных, в том числе на фоне внешнего давления и усиления киберугроз из-за рубежа. Об этом на ЦИПР-2026 рассказала президент группы компаний InfoWatch Наталья Касперская, слова которой приводит корреспондент «Ленты.ру».

По словам специалиста, сегодня общество и компании нередко воспринимают инструменты искусственного интеллекта как почти безошибочные и полностью готовые к применению решения, хотя на практике такие технологии требуют тщательной проверки, контроля и грамотной интеграции. Именно поэтому вопрос безопасности ИИ становится особенно актуальным: ошибки в алгоритмах, некорректная обработка информации и недостаточная защита цифровой инфраструктуры могут привести к серьезным последствиям для организаций и пользователей.

Модератор дискуссии напомнила Касперской, что несколько лет назад она уже называла инструменты искусственного интеллекта переоцененными, и попросила ее назвать те риски промышленного ИИ, которые сегодня считаются недооцененными. В ходе обсуждения речь шла о том, что в сфере промышленного применения ИИ важно учитывать не только технологические преимущества, но и возможные угрозы для конфиденциальности, устойчивости производственных процессов и информационной безопасности в целом.

Таким образом, эксперты все чаще подчеркивают, что искусственный интеллект нельзя рассматривать исключительно как удобный и модный инструмент. Его внедрение требует взвешенного подхода, четких правил применения и постоянного контроля за тем, как именно используются данные и насколько надежно защищены системы, в которых ИИ работает.

Сегодня вокруг искусственного интеллекта действительно много шума, и интерес к этой теме во многом подогревается модой и ажиотажем. Однако важно помнить, что любые технологические решения следует оценивать не по уровню популярности, а по их реальной пользе, надежности и возможным последствиям для бизнеса и государства. Именно поэтому к ИИ нужно подходить особенно осторожно, не поддаваясь на общий тренд.

«Переоцененные» и «много обсуждаемые» — по сути, это одно и то же явление, считает Касперская. По ее словам, популярность таких решений объясняется прежде всего тем, что тема сейчас находится на пике интереса. При этом она подчеркнула, что принимать важные решения под влиянием хайпа — неверный подход, особенно когда речь идет о технологиях, затрагивающих безопасность и критически важные процессы.

Отдельно Касперская обратила внимание на риски, связанные с использованием генеративного ИИ. Она отметила, что большинство моделей, применяемых в России, разработаны за рубежом, а собственных отечественных решений, по ее оценке, совсем немного — «одна, ну с натяжкой полторы модели». Это создает зависимость от иностранных технологий и вызывает вопросы о контроле над данными, алгоритмами и условиями их работы.

Кроме того, в промышленной сфере, по ее словам, зачастую выбирают не российские, а иностранные модели, которые используются без переноса в собственный защищенный контур. В такой ситуации повышаются риски утечки конфиденциальной информации, поскольку данные могут обрабатываться вне периметра компании или организации. Поэтому, как подчеркивает Касперская, при внедрении ИИ необходимо учитывать не только функциональность, но и вопросы цифрового суверенитета, безопасности и независимости от внешних поставщиков.

Сегодня многие компании все активнее внедряют искусственный интеллект в рабочие процессы, надеясь повысить скорость анализа данных и качество управленческих решений. Однако вместе с новыми возможностями появляются и серьезные угрозы, связанные с утечкой информации и манипулированием результатами. По словам специалиста, использование ИИ требует особенно внимательного подхода, поскольку даже обычный запрос может привести к нежелательным последствиям.

В качестве примера эксперт привела ситуацию, когда одно из промышленных предприятий, стремясь проанализировать внутренние процессы, передало ИИ подробное описание своих технологических особенностей, производственных нюансов и внутренних секретов. В результате другая сторона, используя грамотно составленный и «хитрый» промт, смогла вытащить из этой информации ценные сведения, которые компания изначально не планировала раскрывать. Подобные случаи показывают, что даже при работе с, казалось бы, безопасным инструментом важно помнить о рисках разглашения коммерческой тайны, технических деталей и конкурентно значимой информации.

Еще одна опасность, как считает Касперская, заключается в том, что на другой стороне могут находиться акторы, которые в автоматическом режиме отслеживают запросы и анализируют, кто именно обращается за информацией. Если система понимает, что речь идет о российском предприятии, ему могут начать выдавать специально искаженную или скомпрометированную информацию. При этом ответ внешне будет выглядеть убедительным и корректным, но на деле окажется заранее подготовленной ложью, рассчитанной именно на введение компании в заблуждение.

Таким образом, использование искусственного интеллекта в бизнесе требует не только технической грамотности, но и строгого контроля за тем, какие данные передаются в систему. Компаниям важно заранее продумывать политику информационной безопасности, ограничивать раскрытие чувствительных сведений и проверять любую полученную от ИИ информацию по независимым источникам. Только в этом случае можно снизить вероятность утечек, манипуляций и ошибочных решений, основанных на недостоверных ответах.

Еще один существенный риск, как подчеркнула Касперская, связан с тем, что модели искусственного интеллекта по своей природе являются вероятностной технологией. Это означает, что они не всегда дают абсолютно точные и проверяемые ответы, а иногда могут выдавать так называемые «галлюцинации» — убедительно звучащие, но фактически неверные данные. В условиях стремительного роста интереса к ИИ многие пользователи и компании начинают воспринимать такие системы слишком доверчиво, не всегда критически оценивая их ограничения.

При этом важно понимать, что даже самые продвинутые алгоритмы не обладают человеческим пониманием смысла и контекста в полном объеме. Они могут хорошо справляться с анализом текста, поиском закономерностей и генерацией вариантов решений, но при этом ошибаться в фактах, делать неточные выводы или подменять достоверную информацию правдоподобной. Именно поэтому использование ИИ требует внимательной проверки результатов, особенно когда речь идет о бизнесе, документах, аналитике или вопросах, связанных с безопасностью.

Кроме того, Касперская обратила внимание на еще одну проблему — неконтролируемое использование генеративных моделей внутри компаний. Нередко сотрудники по собственной инициативе покупают доступ к различным ИИ-сервисам и применяют их для решения рабочих задач, не согласовывая это с руководством и ИТ-службами. Такой подход может создавать дополнительные риски: от утечки конфиденциальных данных до нарушения внутренних политик информационной безопасности.

В результате компания может столкнуться не только с техническими, но и с организационными угрозами. Если сотрудники загружают в сторонние сервисы служебные документы, клиентскую информацию или внутренние материалы, эти сведения могут оказаться за пределами контролируемой среды. Поэтому, по мнению экспертов, внедрение ИИ должно сопровождаться понятными правилами использования, обучением персонала и четким контролем за тем, какие данные и в какие системы передаются.

Даже при строгих корпоративных ограничениях утечка информации все равно возможна: сотрудники, даже не желая навредить компании и действуя с самыми добрыми намерениями, могут случайно способствовать выведению данных за пределы внутреннего контура, отметила эксперт. Подобные риски особенно возрастают в условиях, когда в рабочих процессах активно используются цифровые сервисы, облачные инструменты и системы на базе искусственного интеллекта, поскольку не каждый работник до конца понимает, какие сведения можно передавать во внешние сервисы, а какие — строго запрещено.

По ее словам, в компании серьезно обеспокоились вопросом применения искусственного интеллекта в разработке и решили провести внутренний опрос среди программистов, чтобы выяснить, какие решения и модели они используют в повседневной работе. В результате анкетирования ответили около 150 сотрудников, и выяснилось, что спектр применяемых инструментов оказался очень широким. Причем часть этих сервисов и моделей руководство, по ее словам, даже не подозревало увидеть в корпоративной среде, хотя именно такие скрытые практики могут создавать дополнительные риски для безопасности и контроля над данными.

Такая ситуация показывает, что одной лишь формальной политики ограничений недостаточно: важно не только вводить правила, но и регулярно объяснять их сотрудникам, проводить обучение и выстраивать прозрачные механизмы контроля. Иначе компании могут не заметить, как данные, внутренние наработки или чувствительная информация окажутся в сторонних системах через обычную рабочую практику.

Сегодня искусственный интеллект все чаще используется в самых разных сферах — от бизнеса и образования до кибербезопасности и государственных сервисов, — и многие отмечают его ключевое преимущество: высокую скорость обработки данных и выполнения задач. На этом фоне особенно важно не ограничиваться только позитивной стороной технологии, а смотреть на нее шире. Признав преимущества, которые дает ИИ, прежде всего связанные со скоростью и автоматизацией процессов, Касперская подчеркнула, что необходимо ясно понимать и сопутствующие риски, которые, по ее словам, «есть, они существенны и пока не проработаны».

По ее мнению, одна из главных проблем заключается в том, что обсуждение этих угроз и способов их предотвращения началось сравнительно недавно, хотя сама тема ИИ уже давно находится в центре общественного внимания. Это означает, что технологический прогресс во многом опередил формирование полноценных правил, стандартов и механизмов контроля, которые могли бы снизить возможные негативные последствия. В результате перед обществом, экспертами и разработчиками встает задача не только ускорять внедрение ИИ, но и вырабатывать понятные подходы к его безопасному использованию.

«То есть это та дверь, которую нам еще предстоит открыть», — резюмировала Касперская, подчеркивая, что впереди еще большая работа по изучению, осмыслению и регулированию этой области.