20.05.2025  Новости, Безопасность

67% компаний, внедряющих ИИ-инструменты в бизнес-процессы, не проводят предварительную оценку их защищенности и влияния на безопасность информационной инфраструктуры. Эксперты «Информзащиты» указали, что компании приоретизируют скорость внедрения, из-за чего обеспечение защищенности использования искусственного интеллекта происходит только тогда, когда он уже внедрен в систему. Самым распространенным инцидентом ИБ, связанным с внедрением ИИ-инструментов, является утечка данных. С такими проблемами сталкивались около 80% компаний. Пренебрежение оценкой рисков информационной безопасности ведет к тому, что решение на основе искусственного интеллекта может получить доступ к конфиденциальной информации, которая не требуется модели для работы, передавать информацию через API или хранить ее в ненадежных базах данных. Все это повышает риски взлома, усложняет контроль за информацией, а в отдельных случаях ведет к прямому сливу данных. По данным «Информзащиты», компании также часто сталкиваются с prompt injection — атаками, когда промпт сформулирован таким образом, чтобы изменить поведение ИИ-модели и получить результат, который необходим злоумышленникам. Это может быть использовано для получения конфиденциальной информации, размещения вредоносного ПО в информационной инфраструктуре, изменения тех или иных настроек безопасности. С такими инцидентами столкнулись свыше 40% компаний, внедряющих ИИ-инструменты без предварительной проверки. Специалисты интегратора отмечают, что чаще всего ... читать далее.