Актуальные темы
BYTE/Россия
IT Channel News
Intelligent Enterprise/RE
itWeek
Бестселлеры ИТ-рынка

Спецпредложения

Как попасть в Поднебесную?

Уважаемые партнеры! Приглашаем вас принять участие в маркетинговой программе по мультимедийному оборудованию, которую мы проводим совместно с вендорами из портфеля Treolan. Чтобы присоединиться к группе партнеров-путешественников, необходимо выполнить ряд условий за период проведения промо. Мы ...
Pantum: каждый 10-й картридж - в подарок!
Специализированная программа для кухонных салонов: Shaub Lorenz.
Программа для кухонных салонов: MIDEA 4+1
Hyundai размораживает бонусы
Выгода - в комплекте!

Выгода - в комплекте!

Уважаемые партнеры! Merlion приглашает вас принять участие в маркетинговой акции по мелкой бытовой технике Hyundai и Starwind. Период действия акции: 1 – 30 апреля 2024. Закупите комплект «утюг + пылесос Hyundai или Starwind» на сумму от 200 000 до 750 000 рублей (накопительно за ...
Только в Merlion: специальные цены на расширенный ассортимент серверов линейки iRU Rock
Две мультивендорные акции по российским программным продуктам
NexTouch в Treolan - чистая выгода! Бонусы за покупку складских позиций
Товар месяца: внешние жёсткие диски Transcend
Супер цена на HP

Супер цена на HP

Фиксируем специальную цену на ноутбук HP EliteBook 650 G9! Диагональ: 15.6" Разрешение экрана: 1920x1080 Тип процессора: Intel Core i3-1215U Оперативная память RAM: 8Гб Объем накопителя SSD: 256Гб Графический адаптер: Intel Iris Xe graphics Цвет корпуса: серебристый Вес: 1.74 кг Чтобы ...
Yealink: «Кто на новенького?»
ГЕЛЕОС: шесть – бонусов не счесть!
Встречай весну вместе с Digma!
Продаем и зарабатываем на смартфонах COOLPAD!
Акция iRU: «Мини ПК с макси выгодой!»

Акция iRU: «Мини ПК с макси выгодой!»

В Merlion действует акция «Мини ПК с макси выгодой!». В марте и апреле при закупке каждого мини ПК iRU серии 310H6ITF начисляется 1000 Ситилинк-бонусов. Условие действует при закупке от 5 штук, накопительно в период действия акции. Период действия акции: 01 марта - 30 апреля 2024 г. Список фокусных ...
Как попасть в Поднебесную?
Товар месяца: моноблоки и неттопы HIPER
Радуй себя и близких вместе с Hikvision!
Бонусы за моноблоки Acer
Акция iRU: «Мини ПК с макси выгодой!»

Акция iRU: «Мини ПК с макси выгодой!»

В Merlion действует акция «Мини ПК с макси выгодой!». В марте и апреле при закупке мини ПК iRU серии 310H6ITF в количестве от 5 штук (накопительно в период действия акции), начисляется 1000 Ситилинк-бонусов. Список фокусных позиций, описание и подробные условия - на странице акции ...
Welcome-бонусы от Netac
Счастливый бонус от Pinebro
Призовые мониторы IRBIS
Весенний рибейт от Systeme Electric
12345Все

Prompt Injection: почему инъекция подсказок представляет угрозу для больших языковых моделей

27.02.2024  Экспертиза, Безопасность, Искусственный интеллект

Манипулируя поведением большой языковой модели (LLM), атаки типа «инъекция подсказок» (prompt injection) могут предоставить злоумышленникам несанкционированный доступ к частной информации. Независимый аналитик Кристофер Тоцци обсуждает на портале ITPro Today стратегии, которые могут помочь разработчикам уменьшить уязвимость этого типа в LLM и чатботах. Если вы опытный разработчик, то наверняка знакомы с инъекционными атаками, такими как SQL-инъекции и межсайтовый скриптинг (XSS). Теперь появился новый вид инъекционного риска: prompt injection. Если вы разрабатываете приложения, основанные на генеративном искусственном интеллекте (GenAI) или больших языковых моделях (LLM), инъекция подсказок — это проблема, которую необходимо решить, чтобы предотвратить злоупотребление вашим ПО и данными, лежащими в его основе. Рассмотрим, что такое prompt injection, как это работает и как разработчики могут устранить эту уязвимость в создаваемых ими приложениях. Что такое инъекция подсказок Это тип кибератаки, направленный на то, чтобы обмануть LLM или чатботы и заставить их выполнить действия или раскрыть информацию, которая не должна быть доступна пользователю. Для этого злоумышленники вводят в интерфейс LLM или чатбота подсказки, которые призваны вызвать недопустимое поведение. Другими словами, prompt injection — это внедрение специально созданных подсказок в приложение, использующее LLM. Какова цель инъекции подсказок в LLM Как правило, злоумышленники, использующие prompt injection ... читать далее.

Рекомендовано к прочтению


Общий вклад ИИ-технологий в глобальную экономику может достичь 15 трлн долл. к 2030 г.Общий вклад ИИ-технологий в глобальную экономику может достичь 15 трлн долл. к 2030 г.
Вице-премьер РФ Дмитрий Чернышенко выступил на пленарном заседании «Критика искусственного разума: проблемы бытия и познания в контексте развития искусственного интеллекта». Конгресс проводится 22–25 апреля на базе Балтийского федерального университета в 300-летнюю годовщину со дня рождения ...

Возможности нейросети Kandinsky 3.1 стали доступны всем пользователям
Улучшенная модель генерации изображений по текстовому описанию Kandinsky 3.1 теперь доступна всем пользователям без ограничений. Обновлённая версия дообучена на датасете эстетичных изображений, что позволило повысить качество генерации картинок. Об этом сообщил первый заместитель председателя ...

Заключительный этап цифровой трансформации сосредоточен на данныхЗаключительный этап цифровой трансформации сосредоточен на данных
Модернизация области данных, включающая новые методы, инструменты и технологии, — это третий этап цифровой трансформации, пишет на портале Network Computing Лори Маквитти, главный технический евангелист компании F5 Networks. Ежегодные исследования F5 Networks «The State of Application Strategy» ...

Как ИИ-чатбот может повысить продуктивность разработчиков
Чатботы могут помочь командам сосредоточиться на создании высококачественного ПО, минимизируя отвлекающие факторы и обеспечивая быстрый доступ к информации, пишет на портале The New Stack Асмита Ратхис, инженер машинного обучения компании QueryPal. В быстро меняющемся мире разработки ПО эффективная ...

Обновление BI.ZONE CPT: анализ компонентов веб-приложений и оперативное реагирование на новые веб-угрозы
Вышло обновление BI.ZONE CPT. В новом разделе «Веб-приложения» собраны данные об онлайн-ресурсах на внешнем периметре компании. Настройка фильтров позволяет в один клик определить все уязвимые приложения и принять меры. Обновление позволяет специалистам по кибербезопасности анализировать компоненты ...
     
Заключительный этап цифровой трансформации сосредоточен на данныхЗаключительный этап цифровой трансформации сосредоточен на данных
Модернизация области данных, включающая новые методы, инструменты и технологии, — это третий этап цифровой трансформации, пишет на портале Network Computing Лори Маквитти, главный технический евангелист компании F5 Networks. Ежегодные исследования F5 Networks «The State of Application Strategy» ...

Что делать с пользователями, не являющимися ИТ-специалистами, но занимающимися ИТ
ИТ-отделы все чаще и больше работают с пользователями, которые несут определенную ответственность за ИТ в рамках своей работы, но не имеют ИТ-образования. О том, как лучше всего работать с ними, на портале InformationWeek рассказывает Мэри Шеклет, президент консалтинговой компании Transworld Data ...

Как ИИ-чатбот может повысить продуктивность разработчиков
Чатботы могут помочь командам сосредоточиться на создании высококачественного ПО, минимизируя отвлекающие факторы и обеспечивая быстрый доступ к информации, пишет на портале The New Stack Асмита Ратхис, инженер машинного обучения компании QueryPal. В быстро меняющемся мире разработки ПО эффективная ...

Как выбрать эффективную технологию для бизнеса
Технологические инновации могут стать огромным катализатором в развитии вашего бизнеса и улучшении обслуживания ваших клиентов. Марселино Родригес Кансио, технический директор компании Couture Technologies, приводит на портале InformationWeek шесть советов, с помощью которых вы сможете понять ...

Раскрытие потенциала генеративного ИИ для корпоративной аналитики
Генеративный ИИ рассматривается как решение многих корпоративных проблем. Предприятия, стремящиеся демократизировать данные и аналитику в масштабе всего бизнеса, находят, что генеративный ИИ оказывается чрезвычайно плодотворным. Причина в том, что ИИ улучшает инструменты корпоративной аналитики ...

Лидеры читательского рейтинга

Подборка по дате

Апрель 2024
ПнВтСрЧтПтСбВс
1234567
891011121314
15161718192021
22232425262728
2930     

© 1991–2024 АО «СК ПРЕСС». 109147 г. Москва, ул. Марксистская, 34, строение 10. Телефон: +7 495 974-22-60. Факс: +7 495 974-22-63. Электропочта: itrn@itrn.ru.
Версия 19.7. Создание сайта — студия iMake.