23.03.2026  Мнения

На форуме «Цифровой маяк» в Южно-Сахалинске начальник Аналитического центра компании «Газинформсервис», к. т. н. Лидия Виткова выступила с докладом на тему «Безопасность систем искусственного интеллекта: статус и вызовы». В своём выступлении эксперт провела параллель между системами ИИ и автомобилями, предложив участникам новый взгляд на проблему регулирования и ответственности в сфере ИБ. Основой доклада стала метафора автомобиля как сложной системы, безопасность которой обеспечивается не только техническими характеристиками, но и целым комплексом мер: правилами дорожного движения, обучением водителей, дорожной инфраструктурой и контролирующими органами. В системах ИИ, по мнению спикера, такого комплексного подхода сегодня не хватает. «В автомобиле ответственность за безопасность на дороге лежит на водителе, но при этом производитель отвечает за надёжность машины, а регулирующие органы создают среду — ПДД, знаки, разметку. В сфере ИИ мы пока не выстроили эту экосистему. Если мы хотим безопасно внедрять технологии, мы должны чётко определить границы и зоны ответственности для всех участников: от разработчика модели до конечного пользователя и специалиста по информационной безопасности», — отметила спикер. В ходе выступления были обозначены технологические риски, такие как манипуляция запросами (Prompt Injection), отравление данных (Data Poisoning) и утечки информации. Однако главным вызовом, по мнению эксперта, остаётся отсутствие понимания архитектуры ИИ-систем, которые ... читать далее.