21.04.2025  Новости, Безопасность, Искусственный интеллект, Итоги и тенденции, Обзоры рынков, Технология

В последнее время активно обсуждают проблематику безопасности при внедрении ИИ в бизнес-процессы. «Внедрение технологий „искусственного интеллекта“ в бизнес-процессы компаний неизменно сопровождается вызовами кибербезопасности, — говорит Сергей Лебедь, вице-президент „Сбера“ по кибербезопасности. — Организации, использующие AI, сталкиваются с новыми рисками, способными повлиять на устойчивость систем и конфиденциальность данных». В чем особенность проблематики для ИИ, инструмента, который уже каждый попробовал «в деле» для личных и для рабочих задач? Сложности есть, и они определены как новизной инструмента, так и особенностями самой технологии. Далее под ИИ будем понимать некоторый собирательный образ для инструментов разной мощности (от небольших нейросетей, самостоятельно обученных корпоративным заказчиком, до LLM) и разного формата распространения (от платных до бесплатных, в том числе, с открытым кодом). В любом случае применять ИИ нужно крайне осторожно и осмотрительно, существуют различные риски в широком спектре — от утечки данных до проблем с законом. Почему ИИ требует осторожности ИИ — одно из многих цифровых решений, которое может раскрыть свои возможности в одних ситуациях и оказаться совсем неприменимо в других. Использование несет риски, одни из которых вполне традиционные для новых цифровых инструментов, другие — весьма своеобразные. «„Искусственный интеллект“ — это „черный ящик“ с „нечеткой логикой“», — сказал на Сергей Крамаренко, директор по информационной ... читать далее.