23.03.2026  Мнения

Основные риски внедрения искусственного интеллекта (ИИ) в бизнес-процессы связаны не с недостатками самих алгоритмов, а с каналами их интеграции в ИТ-ландшафт предприятий. К такому выводу приходит Левкин Кирилл, проджект-менеджер MD Audit (SL Soft FabricaONE.AI, акционер — ГК Softline). Встраивание ИИ в корпоративную среду подразумевает его взаимодействие с базами знаний, учетными системами, файловыми архивами и инструментами автоматизации. Это взаимодействие обеспечивается промежуточным программным слоем, который выступает проводником между вычислительной моделью и внутренними сервисами компании. Именно этот компонент, по мнению специалистов, становится новой мишенью для злоумышленников. В ряде интеграционных решений на Go зафиксированы случаи, когда ошибки в обработке JSON-запросов приводили к обходу встроенных проверок. Речь идет о некорректной работе с регистрозависимыми параметрами при десериализации данных в рамках протокола JSON-RPC. В определенных конфигурациях это позволяет сформировать технически корректный запрос, который проходит первичную валидацию, но фактически изменяет логику вызова метода или параметры доступа. «Предоставляя алгоритму доступ к внешним инструментам и внутренним данным, мы фактически включаем его в операционный контур предприятия, — поясняет Левкин Кирилл, проджект-менеджер MD Audit (SL Soft FabricaONE.AI, акционер — ГК Softline). — Если интеграционный сервис работает с избыточными правами или доступен из внешнего периметра, подобные ошибки ... читать далее.