06.05.2025  Экспертиза, Безопасность, Искусственный интеллект

По данным Bloomberg Research, набирающая популярность технология Retrieval-Augmented Generation (RAG, генерация с расширенной выборкой) может значительно увеличить ваши шансы получить от моделей искусственного интеллекта опасные ответы, сообщает портал ZDNet. RAG быстро становится надежной основой для организаций, стремящихся использовать всю мощь генеративного ИИ на своих бизнес-данных. Предприятия стремятся выйти за рамки общих ответов ИИ и задействовать свои уникальные базы знаний, а RAG объединяет общие возможности ИИ и специфические знания в конкретной области. Сотни, а возможно, и тысячи компаний уже используют RAG-сервисы, и их внедрение ускоряется по мере развития технологии. Это хорошая новость. Плохая новость: согласно Bloomberg Research, RAG также может значительно увеличить шансы получить опасные ответы. Прежде чем перейти к рассмотрению опасностей, давайте разберемся, что такое RAG и в чем его преимущества. Что такое RAG? RAG — это архитектура ИИ, которая объединяет сильные стороны моделей генеративного ИИ — таких как GPT-4, LLaMA 3 или Gemma — с информацией вашей компании. RAG позволяет большим языковым моделям (LLM) получать доступ к внешним знаниям, хранящимся в базах данных, документах и потоках данных, а не полагаться только на предварительно обученные на «знаниях о мире» LLM. Когда пользователь отправляет запрос, система RAG сначала извлекает наиболее релевантную информацию из базы знаний. Затем она передает эту информацию вместе с исходным запросом в LLM ... читать далее.