03.08.2026 Экспертиза, Безопасность, Искусственный интеллектБолее 70% крупных российских компаний используют искусственный интеллект в рабочих процессах. Публичные ИИ-сервисы изначально не предназначены для работы с корпоративными и персональными данными, поэтому бесконтрольное внедрение технологии создает для бизнеса скрытые угрозы. Рассмотрим главные риски и способы их снизить. Утечки конфиденциальных данных Сотрудники регулярно загружают в открытые ИИ-сервисы рабочие документы: договоры, финансовые отчеты, планы запусков. Информация попадает в среду, которую компания не контролирует. Техника промпт-инъекций позволяет злоумышленникам извлекать из моделей чужие конфиденциальные данные: достаточно сформировать набор специальных запросов, и нейросеть с определенной вероятностью выдаст сведения, которые ранее по невнимательности загрузил другой пользователь. Риск возрастает, когда компания бесконтрольно подключает ИИ-агента к бизнес-процессам и потокам корпоративных данных. В этом случае утечка может произойти через самого агента: он получает широкий доступ к внутренним системам, действия его при этом почти никто не отслеживает. Советы без учета контекста Нейросеть не знает внутренних процессов конкретной компании. Она опирается на обобщенные данные из открытых источников, поэтому ее рекомендации могут оказаться нерелевантными. Например, модель способна предложить исключить необходимый технологический процесс или подтолкнуть к неэффективным инвестициям, поскольку не погружена в нюансы устройства бизнеса. Любой совет, стратегию или ...
читать далее.
