25.09.2024  Экспертиза, Безопасность, Искусственный интеллект

Агенты представляют собой шаг вперед в использовании искусственного интеллекта на предприятиях, однако они привносят новые риски безопасности, пишет на портале ComputerWeekly Авива Литан, заслуженный вице-президент-аналитик компании Gartner. ИИ продолжает развиваться беспрецедентными темпами, и ИИ-агенты становятся особенно мощной и преобразующей технологией. Эти агенты, основанные на передовых моделях, интегрируются в различные корпоративные продукты, предлагая значительные преимущества в автоматизации и эффективности. Однако ИИ-агенты несут в себе множество новых рисков и угроз безопасности, с которыми организациям необходимо проактивно справляться. Уникальные риски, связанные с ИИ-агентами ИИ-агенты — это не просто очередная итерация моделей ИИ; они представляют собой фундаментальный сдвиг в том, как ИИ взаимодействует с цифровой и физической средой. Эти агенты могут действовать автономно или полуавтономно, принимая решения, совершая действия и достигая целей при минимальном вмешательстве человека. Такая автономность открывает новые возможности, но при этом значительно расширяется поверхность угроз. Традиционно риски, связанные с ИИ, ограничивались входными данными, их обработкой и выходными данными моделей, а также уязвимостями в программных слоях, которые их оркестрируют. Однако в случае с ИИ-агентами риски выходят далеко за эти рамки. Цепочка событий и взаимодействий, инициируемых ИИ-агентами, может быть обширной и сложной, зачастую невидимой для человека. Отсутствие ... читать далее.