Актуальные темы
IT Channel News
itWeek
Intelligent Enterprise/RE
Бестселлеры ИТ-рынка
BYTE/Россия

Спецпредложения

Уважаемые партнеры! Merlion и POWERCOM приглашают принять участие в маркетинговой акции «Сдвиг по фазе». До конца года на трёхфазное оборудование действуют специальные условия – скидка может достигать 60%. Размер скидки зависит от выбранной модели оборудования, за подробностями и ...
При покупке каждого духового шкафа или газовой поверхности бренда Thomson получайте чайник в подарок! За подробной информацией по условиям данной программы обращайтесь к менеджерам АБСОЛЮТ
В программе участвуют системы хранения данных, жесткие диски и SSD. Покупайте системы хранения данных Synology и получайте бонус 5% на диски Synology, купленные в комплекте. За подробной информацией по условиям данной программы обращайтесь к менеджерам АБСОЛЮТ
Компания «Айсо-дистрибьюция» приглашает Вас принять участие в акции «Путешествуй с Айсо!», которая стартует 1 октября 2026 года и продлится до 28 февраля 2026 года. Зарегистрируйтесь для участия в программе, закупите оборудование* POWERCOM и примите участие в розыгрыше поездки! Топ 10 компаний по ...
Покупайте материнские платы Gigabyte и получайте бонус по схеме: Сумма покупки, в руб. и бонус, в руб.: 50 000 – 99 999 руб. - 3 000 руб. 100 000-199 999 руб. - 7 000 руб. 200 000 - 349 999 руб. - 14 000 руб. 350 000 – 599 999 руб. - 25 000 руб. от 600 000 и более руб. - 35 000 руб ...
12345Все

Пять метрик эффективности защиты ИИ-агентов от инъекции промптов

14.10.2026  Экспертиза, Безопасность, Искусственный интеллект

По данным OWASP, инъекция промптов (prompt injection) уже несколько лет стабильно занимает первую строчку в списке угроз для LLM-приложений. И это неудивительно: в 2026 году ИИ-агенты — это уже не просто чат-боты, а полноценные участники бизнес-процессов с доступом к корпоративным API, базам данных и внутренним сервисам. Если вы уже задумались о защите или даже выбрали решение — отлично. Но внедрить ограничительные барьеры (guardrail) — это только первый шаг. Гораздо важнее понять, насколько они действительно эффективны: какие атаки пропускают, насколько замедляют работу моделей и как быстро адаптируются к новым техникам обхода. Классические метрики информационной безопасности здесь работают не всегда. Количество заблокированных угроз или время отклика — привычные ориентиры, но в мире ИИ-агентов картина сложнее. Модель генерирует текст на естественном языке, атака может быть замаскирована под обычный запрос, а задержка в 200 мс, незаметная для веб-приложения, способна заметно повлиять на пользовательский опыт в диалоговом интерфейсе. Чтобы оценить защиту ИИ-агентов по достоинству, стоит смотреть на другие цифры. Вот пять метрик, которые помогут быстро и системно разобраться в возможностях решения. Метрика 1: качество детекции с детализацией ошибок Оценивать защиту только по абстрактной «точности» — не самый надёжный путь. Гораздо информативнее смотреть сразу на два показателя: ASR (Attack Success Rate) — доля атак, которые защита пропустила. FPR (False Positive Rate) — доля ... читать далее.

Рекомендовано к прочтению


IDC: стратегию в области ИИ проще сформулировать, чем реализовать
Примерно шесть из десяти организаций заявляют, что их стратегия в области искусственного интеллекта трансформирует бизнес, однако исследование IDC «MaturityScape Benchmark: AI-Fueled Organization Worldwide, 2026» показывает, что лишь 15,1% из них обладают соответствующими возможностями. Райан Смит ...

Россияне готовы доверить ИИ бытовые задачи, но не здоровье и личную жизнь
79% российских интернет-пользователей обращались к сервисам искусственного интеллекта за последние три месяца, однако доверие к технологии остается ограниченным. Чаще всего ИИ готовы поручить планирование повседневных дел и выбор товаров. Диагностику заболеваний, подбор лекарств, судебные решения ...

ProcessTech 2026: от выявления бизнес-потерь к их предотвращению
18-19 сентября в Москве прошёл форум ProcessTech 2026, организованный компанией «Инфомаксимум». Форум был посвящен актуальным аспектам технологий процессной аналитики (Process Mining) и майнинга задач (Task Mining) и собрал более 550 участников. Главным трендом года в данной области, по мнению ...

Итоги «Цифровых дней Иннополиса»: участие вице-премьера РФ, доклады министров, выставка ИИ-решений для науки и новые партнёрства
В Иннополисе завершился международный форум по робототехнике, искусственному интеллекту и инновациям в образовании. В мероприятии участвовали 5 871 спикер и слушатель офлайн и онлайн из 6 стран и 120 городов России. Организатор — Университет Иннополис. На пленарной сессии «Искусственный интеллект ...

ИСИЭЗ НИУ ВШЭ: ИИ в машиностроении: применение и кадровые эффекты
Институт статистических исследований и экономики знаний (ИСИЭЗ) НИУ ВШЭ изучает распространение практик применения ИИ в машиностроении. Как показали результаты анализа, предприятия отрасли демонстрируют прагматичный подход к внедрению технологии в производственной деятельности: используют ее для ...
     
IDC: стратегию в области ИИ проще сформулировать, чем реализовать
Примерно шесть из десяти организаций заявляют, что их стратегия в области искусственного интеллекта трансформирует бизнес, однако исследование IDC «MaturityScape Benchmark: AI-Fueled Organization Worldwide, 2026» показывает, что лишь 15,1% из них обладают соответствующими возможностями. Райан Смит ...

ИИ ломает корпоративную карьерную лестницу
Искусственный интеллект берет на себя все больше задач начального уровня, заставляя организации переосмыслить то, как младшие сотрудники получают опыт и профессиональные навыки, необходимые для перехода на старшие должности, сообщает портал AI Business. Компании рассчитывают, что ИИ возьмет на себя ...

Параллельные прямые: почему сокращения и дефицит кадров в ИТ происходят одновременно
На рынке труда сложилась странная на первый взгляд картина: компании продолжают сокращать целые команды, но при этом говорят о дефиците кадров и месяцами ищут специалистов. На самом деле никакого противоречия здесь нет. PwC в «Global AI Jobs Barometer 2026» пишет, что джуниор-роли, на которые ...

Почему в сфере безопасности в эру ИИ нет места оборонительному мышлению
Угрозы со стороны искусственного интеллекта требуют наступательного подхода к безопасности. Хаим Мазаль, CISO компании GitLab, рассказывает на портале The New Stack о том, как команды, возглавляемые инженерами, используют проактивную автоматизацию для остановки киберпреступников. В июне Five Eyes ...

Эмпатичный интерфейс: как не потерять клиента на первом экране и на втором входе
Написать эту заметку меня сподвигли собственные опыты онбординга: программа лояльности крупной сети АЗС, приложения оператора домашнего интернета и опыт перехода на нового мобильного оператора. Может показаться, что сравнивать их с банковскими приложениями некорректно, но эта грань давно стерлась ...

Лидеры читательского рейтинга

Подборка по дате

Октябрь 2026
ПнВтСрЧтПтСбВс
   1234
567891011
12131415161718
19202122232425
262728293031 

© 1991–2026 ITRN (Российская служба ИТ-новостей). Политика конфиденциальности персональных данных. 109147 г. Москва, ул. Марксистская, 34, строение 10. Телефон: +7 495 974-22-60. Факс: +7 495 974-22-63. Электропочта: itrn@itrn.ru.
Версия 21.7.  Создание сайта — студия iMake.