07.05.2026 Новости, БезопасностьРоссийская компания «СофтМедиаЛаб» представила «КиберАгентРевью» — систему безопасности и контроля ИИ-агентов в реальном времени. Актуальность таких решений подтверждает Gartner, назвавший безопасность ИИ-агентов одним из ключевых трендов кибербезопасности 2026 года. Решение позволит компаниям выявлять отклонения в действиях агентов, предотвращать утечки и расследовать аномалии, обеспечивая безопасное внедрение ИИ в корпоративной среде. КиберАгентРевью (CyberAgentReview) — система безопасности и контроля ИИ-агентов в реальном времени. В основе — мониторинг и аудит действий агентов с учетом контекста их работы. Это позволяет обеспечивать безопасность ИИ в корпоративной среде: выявлять отклонения от поставленных целей, предотвращать утечки данных и расследовать аномалии в сценариях. Технически решение реализовано в виде локального прокси-сервиса на рабочих станциях и выступает единым шлюзом к большим языковым моделям (LLM), обеспечивая защиту LLM без изменения пользовательских инструментов. В централизованном дашборде можно полностью отследить: какой агент, какие данные и куда отправил. Также доступны функции автоматического обнаружения утечек, контроля аномалий и настройки оповещений. В планах развития — расширение механизмов поведенческого анализа и защиты ИИ-агентов. Система будет сопоставлять вызовы инструментов с исходной задачей и уточнениями пользователя, выявлять отклонения (в том числе вызванные промпт-инъекциями) и обеспечивать защиту от промпт-инъекций за счет ...
читать далее.
