21.11.2025  Новости, Виртуализация/«Облака», Идеи и практики автоматизации, Консалтинг и системная интеграция, ОС и разработка приложений, Планирование и проекты, Сети и телекоммуникации

ИT-компания Deeray — разработчик AI-платформы речевой и текстовой аналитики для бизнеса — перенесла продуктовую среду в Сloud.ru. Благодаря миграции компания сократила затраты на инференс языковых моделей в 30 раз и получила надежную инфраструктуру для обработки 4 миллионов минут речи ежемесячно. Deeray снизила затраты на применение популярных open source моделей с помощью сервиса Cloud.ru Evolution Foundation Models. Для сравнения, одна из представленных в нем моделей (Qwen 2.5) обходится компании в 20 рублей за 1 миллион выходных токенов, в то время как конкурирующие решения стоят около 600 рублей. Средний промпт Deeray содержит 6-8 тысяч токенов в структурированном виде, без учета системных промптов, что дает примерно экономию в 30 раз на каждом запросе. Также доступ к производительным GPU-серверам Cloud.ru позволил Deeray справиться с резким увеличением клиентов из среднего и малого бизнеса. В данный момент платформа стабильно обрабатывает 4 миллионов минут речи и 1,5 миллиона чатов ежемесячно, при этом сохраняя возможность для роста. Кроме того, за счет дообучения моделей компании удалось значительно сократить количество ошибок распознавания речи и в ряде доменных областей добиться показателя в 1,5% против 25-29% у конкурентов. «Для бизнеса, чьи продукты построены на базе AI, цена на открытые языковые модели и графические ускорители была определяющим фактором. В случае с Cloud.ru стоимость ресурсов оказалось самой доступной на российском рынке», — сказал основатель и ... читать далее.