Актуальные темы
IT Channel News
itWeek
Intelligent Enterprise/RE
Бестселлеры ИТ-рынка
BYTE/Россия

Спецпредложения

Уважаемые партнёры! Приглашаем принять участие в акции «Включи выгоду!». При покупке коммутаторов Dahua вы получите бонус до 800 рублей за единицу товара. Период действия акции: 01 – 31 октября 2026 года включительно. Бонусная таблица и условия – на странице акции ...
Уважаемые партнеры! Приглашаем вас принять участие в маркетинговой акции «Время обновляться». Закупайте комплектующие для компьютеров в период действия акции и получите бонус 2 000 руб. за каждые 75 000 руб. отгрузок. В акции участвуют ПК-комплектующие брендов: Bloody, Kingprice, DIGMA, GMNG ...
Закупайте SSD и модули памяти Patriot Memory с осенним бонусом до конца октября! Для участия в программе необходимо иметь регистрацию в B2B eCom, за подробной информацией по условиям данной программы обращайтесь к менеджерам АБСОЛЮТ
До 31 октября закупайте оптом товары со склада АБСОЛЮТ с повышенным бонусом! Чем выше сумма закупки в месяц, тем больше Ваш бонус! *Программа предназначена для ограниченного круга партнёров: условия размещены на сайте для ознакомления. Для получения доступа к участию в программе, партнёру ...
Покупай неттопы, ноутбуки, планшеты, моноблоки, DDR, SSD Digma. Попади в десятку лучших покупателей и получи бонус 10 тыс. руб. Лучшими станут первые 10 дилеров, сумма закупки которых составит более 100 тыс. руб. за весь период акции. Внимание! Бюджет программы ограничен, акция может быть закончена ...
12345Все

Prompt Injection: почему инъекция подсказок представляет угрозу для больших языковых моделей

27.02.2024  Экспертиза, Безопасность, Искусственный интеллект

Манипулируя поведением большой языковой модели (LLM), атаки типа «инъекция подсказок» (prompt injection) могут предоставить злоумышленникам несанкционированный доступ к частной информации. Независимый аналитик Кристофер Тоцци обсуждает на портале ITPro Today стратегии, которые могут помочь разработчикам уменьшить уязвимость этого типа в LLM и чатботах. Если вы опытный разработчик, то наверняка знакомы с инъекционными атаками, такими как SQL-инъекции и межсайтовый скриптинг (XSS). Теперь появился новый вид инъекционного риска: prompt injection. Если вы разрабатываете приложения, основанные на генеративном искусственном интеллекте (GenAI) или больших языковых моделях (LLM), инъекция подсказок — это проблема, которую необходимо решить, чтобы предотвратить злоупотребление вашим ПО и данными, лежащими в его основе. Рассмотрим, что такое prompt injection, как это работает и как разработчики могут устранить эту уязвимость в создаваемых ими приложениях. Что такое инъекция подсказок Это тип кибератаки, направленный на то, чтобы обмануть LLM или чатботы и заставить их выполнить действия или раскрыть информацию, которая не должна быть доступна пользователю. Для этого злоумышленники вводят в интерфейс LLM или чатбота подсказки, которые призваны вызвать недопустимое поведение. Другими словами, prompt injection — это внедрение специально созданных подсказок в приложение, использующее LLM. Какова цель инъекции подсказок в LLM Как правило, злоумышленники, использующие prompt injection ... читать далее.

Рекомендовано к прочтению


BSS: как превратить задержанный заказ в дополнительные продажи с помощью ИИ
На крупнейшем мероприятии для профессионалов розничной торговли BSS провела секцию, где лидеры ритейла — Спортмастер, SELA, РОЛЬФ и другие — поделились своими кейсами применения ИИ. Эксперты BSS продемонстрировали ИИ-платформу по управлению клиентским опытом, которая находит скрытые сигналы ...

Avanpost Identity Cloud для внедрения IAM сервисов в облаке запущен в коммерческую эксплуатацию
Компания Avanpost, российский разработчик решений для управления доступом и защиты цифровых идентичностей, объявила о запуске в коммерческую эксплуатацию Avanpost Identity Cloud, облачного сервиса для защищенного доступа корпоративных ресурсов для сотрудников и подрядчиков на базе безопасной ...

CURATOR запустил в своем облаке решение CURATOR.IDENTITY для управления безопасным доступом и аутентификацией
Провайдер решений в области кибербезопасности и доставки контента CURATOR представил систему управления безопасным доступом (IdP) CURATOR.IDENTITY. Решение разработано совместно с российским разработчиком систем аутентификации и управления доступом Avanpost и встроено в облачную экосистему CURATOR ...

ИИ как инструмент защиты
ИИ в кибербезопасности может быть не только мечом, но и щитом. Рассмотрим, как именно он помогает защищать инфраструктуру, приложения и данные. Хайпа нет, полет нормальный Искусственный интеллект вошел в арсенал информационной безопасности не вчера и не сегодня. Пока защита самих ИИ-систем ...

Внедрение моделей с открытыми весами может дать предприятиям больший контроль над ИИ
Новые западные модели с открытыми весами могут предоставить предприятиям альтернативу китайскому и проприетарному ИИ, но больший контроль также влечет за собой новую ответственность, считают опрошенные порталом AI Business эксперты. Предприятиям, стремящимся размещать, настраивать и управлять ...
     
ИИ как инструмент защиты
ИИ в кибербезопасности может быть не только мечом, но и щитом. Рассмотрим, как именно он помогает защищать инфраструктуру, приложения и данные. Хайпа нет, полет нормальный Искусственный интеллект вошел в арсенал информационной безопасности не вчера и не сегодня. Пока защита самих ИИ-систем ...

Внедрение моделей с открытыми весами может дать предприятиям больший контроль над ИИ
Новые западные модели с открытыми весами могут предоставить предприятиям альтернативу китайскому и проприетарному ИИ, но больший контроль также влечет за собой новую ответственность, считают опрошенные порталом AI Business эксперты. Предприятиям, стремящимся размещать, настраивать и управлять ...

Когда авария чинится раньше, чем проснётся дежурный
С осени 2025 года у Apache Flink есть подпроект Flink Agents, который встраивает нейросети прямо в потоковую обработку данных. Что это меняет и сможет ли нейросеть заменить дежурного инженера? Проблема, которую все знают, но терпят Типичная ситуация: ночью срабатывает алерт — дежурный инженер ...

Open Source Summit Europe 2026: стратегии в области открытого ПО и суверенитета
На октябрьской конференции Open Source Summit Europe 2026 в Праге неоднократно звучал один и тот же тезис: организации и правительства, которые просто используют Open Source, остаются зависимыми от других в формировании своего будущего. Те, кто управляет, поддерживает, обеспечивает безопасность и ...

Пять метрик эффективности защиты ИИ-агентов от инъекции промптов
По данным OWASP, инъекция промптов (prompt injection) уже несколько лет стабильно занимает первую строчку в списке угроз для LLM-приложений. И это неудивительно: в 2026 году ИИ-агенты — это уже не просто чат-боты, а полноценные участники бизнес-процессов с доступом к корпоративным API, базам данных ...

Лидеры читательского рейтинга

Подборка по дате

Октябрь 2026
ПнВтСрЧтПтСбВс
   1234
567891011
12131415161718
19202122232425
262728293031 

© 1991–2026 ITRN (Российская служба ИТ-новостей). Политика конфиденциальности персональных данных. 109147 г. Москва, ул. Марксистская, 34, строение 10. Телефон: +7 495 974-22-60. Факс: +7 495 974-22-63. Электропочта: itrn@itrn.ru.
Версия 21.7.  Создание сайта — студия iMake.