На конференции ЦИПР-2026 президент группы компаний InfoWatch Наталья Касперская подняла актуальные проблемы, связанные с чрезмерным доверием к искусственному интеллекту (ИИ) и угрозами утечки данных. По ее словам, эти риски обостряются из-за давления со стороны зарубежных акторов. Подробности этого выступления можно найти на Кингисепп-сегодня.рф.
Касперская, напоминающая о своем предыдущем мнении, что инструменты ИИ могут быть переоценены, поделилась опасениями по поводу недооцененных рисков в промышленном применении ИИ. Она отметила, что многие модели генеративного ИИ, используемые в России, разработаны за пределами страны, и лишь "одна, ну с натяжкой полторы собственные модели" присутствуют на рынке.
Среди основных рисков она выделила проблему утечки информации, когда предприятия, стремящиеся улучшить свои внутренние процессы с помощью ИИ, делятся конфиденциальными данными. Касперская привела пример, когда одно предприятие отправило описание своих технологических процессов в ИИ, а затем другое, создав "умный хитрый промт", смогло извлечь эти секреты.
Также, по словам эксперта, существует риск получения скомпрометированной информации. "На той стороне" есть акторы, которые могут отслеживать запросы от российских предприятий и предоставлять им ложные данные. "Будет казаться, что это правильный ответ, а на самом деле это некая специально сгенерированная для данного предприятия ложь", — пояснила Касперская.
Еще одной проблемой является сама природа моделей ИИ, которые работают на вероятностной основе и могут выдавать "галлюцинирующие" ответы. "Из-за хайповости ИИ создается некое чрезмерное доверие", — заметила она, подчеркивая, что это может привести к неправильным решениям.
Кроме того, Касперская обратила внимание на то, что неконтролируемое использование генеративных моделей внутри компаний создает дополнительные угрозы безопасности. Даже если доступ к таким моделям ограничен, сотрудники могут невольно способствовать утечке информации.
Она поделилась опытом своей компании, которая провела опрос среди разработчиков о том, какие модели ИИ они используют. "У нас ответило порядка 150 человек, и мы получили очень широкий спектр того, что люди используют, а мы, вообще говоря, даже не знали, и не знали бы, если бы не спросили", — рассказала Касперская.
Признав преимущества ИИ в скорости выполнения задач, она все же предостерегла о существующих рисках, которые "существенны и пока не проработаны". Эксперт отметила, что о таких рисках начали говорить совсем недавно, несмотря на всю популярность темы ИИ. "Это та дверь, которую нам еще предстоит открыть", — резюмировала Касперская.