19.12.2024 Новости, Безопасность, Итоги и тенденции, ОС и разработка приложений, Рейтинги, исследованияЧерез 5 лет это будет актуально для всех За услугами LLM Security в 2024 году среди клиентов Swordfish Security обратились 35% от всех заказчиков. Эта цифра прямо пропорциональна проценту внедрения ИИ в бизнес-процессы, уверены эксперты по кибербезопасности. Применение практик LLM Security в 2025 будет становиться все более актуальным, поскольку уровень внедрения ИИ в различных отраслях бизнеса в России составит не менее 40%, уверены специалисты по кибербезопасности (для сравнения, в 2023 эта цифра составляла 32% согласно исследованию «Белая книга цифровой экономики 2023»- прим. авт.) А к 2030 уровень внедрения ИИ может достигнуть и 90%. Внимание к кибербезопасности больших языковых моделей является неотъемлемым трендом уходящего года. Недооценка рисков в безопасности LLM может принести серьезные проблемы, уверен директор по развитию бизнеса ГК Swordfish Security Андрей Иванов. В числе потенциальных угроз в больших языковых моделях, которые могут нарушить работу всей системы инъекции вредоносного кода в промпт, уязвимости в цепочках поставок, выдача ошибочной информации за истину на этапе обучения модели и даже кража модели злоумышленниками. Для бизнеса, который не учел эти риски, отсутствие экспертизы в LLM Security может дорого обойтись. В бизнесе используют большие модели для распознавания текста, анализа данных, предиктивной аналитики, поиска, оценки ресурса механических узлов промышленных агрегатов и многого другого. Многие отрасли, та же ИТ, активно используют ...
читать далее.
