14.11.2025 Новости, БезопасностьКарту угроз и профилактических мер создавали специально для российского рынка, учитывая требования регуляторов РФ и специфику российских ИИ-систем. Во фреймворке «Swordfish: SAIMM» собрали основные направления для анализа ИИ, включая ИИ-агентов, критерии оценки рисков и план по их преодолению. Это своего рода чек-лист для самопроверки компаний, внедряющих искусственный интеллект, и ориентированных оценить уровень зрелости и построить дорожную карту его развития. «На российском рынке ежедневно анонсируется запуск нового ИИ-агента, а коммерческие компании регулярно внедряют разнообразные инструменты на основе языковых моделей для ускорения бизнес-процессов. Если не обеспечить безопасность, количество и сложность атак на бизнес, которым российские компании подвергаются сейчас, может показаться разминкой, ведь AI-системы имеют свои особенности, утроены сложнее, а их защиту обойти зачастую проще, чем традиционное ПО», — рассказал директор по развитию технологий искусственного интеллекта Swordfish Security Юрий Шабалин. Важная часть фреймворка — таксономия угроз AI-систем. Методология фокусируется на специфичных для AI угрозах, дополняя классические практики AppSec. При разработке учли международные классификации уязвимостей: OWASP Top-10, NIST AI, RMF, ENISA, MITRE ATLAS. Разработчики собрали воедино около 80 основных уязвимостей систем с участием искусственного интеллекта. В таксономию угроз, в частности, попали компрометация моделей, обход ограничений, раскрытие чувствительной ...
читать далее.
