12.08.2025  Новости, Государство и ИТ, Искусственный интеллект, Общественные организации, ассоциации, ОС и разработка приложений, Цивилизованность и прозрачность ИТ-рынка

Лидером Рабочей группы № 2 по тестированию технологий искусственного интеллекта Консорциума исследований безопасности технологий искусственного интеллекта стал Старший управляющий директор ГК Swordfish Security Антон Башарин. Задача команды экспертов — ответить на ключевые вопросы, касающиеся безопасности применения ИИ в государственных информационных системах. В числе приоритетных направлений рабочей группы на ближайшие месяцы — создание методики аудита систем с участием ИИ для определения уровня их безопасности. Полученную методику будут использовать для ранжирования моделей ИИ по степени защищенности и оценки доверия к ним. Первые результаты рабочая группа рассчитывает получить уже осенью. «Большие языковые модели уже активно внедряют в бизнес, и „дивный новый мир“ с участием искусственного интеллекта уже наступил, мы учимся в нем эффективно работать. Один из ключевых вопросов, на который нам предстоит ответить — можно или нельзя использовать модели вроде ChatGPT, DeepSeek или GigaChat в различных государственных информационных системах, и какие меры предосторожности необходимо неукоснительно соблюдать. Так, мы организуем своего рода испытательный полигон и разработаем специальное ПО для проведения испытаний технологий ИИ в различных сферах», — рассказал Антон Башарин. «Участие в Консорциуме представителей вендоров и интеграторов в области кибербезопасности позволяет подойти к защищенности процессов, в которых применяют ИИ, комплексно. Практический опыт здесь особенно ... читать далее.