10.09.2026  Новости, Безопасность, Искусственный интеллект, Консалтинг и системная интеграция, Общественные организации, ассоциации, ОС и разработка приложений, Рейтинги, исследования

Группа компаний Б1, ГК «Солар», Ассоциация ФинТех (АФТ) и HiveTrace представили результаты совместного исследования, посвященного обзору текущего состояния рынка защиты искусственного интеллекта (ИИ) и перспектив развития этого направления. Искусственный интеллект (ИИ) стремительно трансформируется в новую базовую платформу для всего ИТ-рынка. С развитием ИИ закономерно усиливается и его значимость как объекта защиты. В отличие от традиционных ИТ-систем ИИ-решения опираются на данные, обучаемые модели и зачастую ограниченно интерпретируемую логику принятия решений. Это формирует новый класс угроз — от атак на модели и данные до злоупотреблений генеративными системами, утечек через ИИ-интерфейсы, а также до неконтролируемого поведения ИИ-агентов и приложений. В результате кибербезопасность ИИ становится важным направлением развития рынка решений информационной безопасности (ИБ). Риски ИБ для искусственного интеллекта имеют специфический характер: манипулирование, риски во время работы, атаки на модели. Если говорить о типологии рисков, то в качестве наиболее распространенных примеров эксперты выделяют следующие: утечки данных и внутренней информации через запросы; манипуляция поведением модели через входные данные и инструкции; риски автономного и неконтролируемого поведения ИИ-систем; уязвимости моделей и решений с открытым исходным кодом, риски цепочки поставок ИИ, неконтролируемое, теневое, нарушающее регулирование использование ИИ; компрометация моделей, датасетов ... читать далее.