11.09.2026  Новости, Искусственный интеллект, Открытый код/Linux

«Яндекс» выложил в открытый доступ Alice AI Search Pretrain — свою собственную обученную с нуля языковую модель. Благодаря своей архитектуре она способна мгновенно давать емкие ответы и обрабатывать большой поток запросов. «Яндекс» первым выложил в открытый доступ базовую (pretrain) модель, дообученная версия которой генерирует ии-ответы в Поиске. Ее можно найти на платформе Hugging Face. Alice AI Search Pretrain — это компактная языковая модель, которая уже прошла первый этап обучения и имеет обширные знания о мире. Она способна обрабатывать большой объем документов и выдерживать большую нагрузку. А благодаря своей компактности не требует больших вычислительных мощностей. Разработчики и исследователи могут использовать ее в своих проектах и изучать ее архитектуру. Модель имеет гибридную архитектуру, которая до «Яндекса» существовала в основном только в научных исследованиях. Она объединяет две технологии: «Энкодер-декодер» (Encoder-Decoder) и MoE (Mixture of Experts). Первая позволяет давать емкий лаконичный ответ за счет того, что одна часть модели изучает и отбирает информацию, а другая генерирует ответ. Вторая технология ускоряет работу модели и экономит вычислительные мощности. Вместо того, чтобы задействовать всю нейросеть, MoE активирует только ту часть ее «мозга», которая лучше разбирается в теме. Эта модель содержит 35 млрд параметров, но при обработке одного токена (небольшого фрагмента текста) используется лишь около 600 млн — менее 2%. По качеству ответов Alice ... читать далее.