19.12.2019  Новости, Искусственный интеллект

NVIDIA представила программное обеспечение для инференса, с помощью которого разработчики могут создавать диалоговые приложения искусственного интеллекта, обеспечивающие полностью интерактивное взаимодействие. NVIDIA TensorRT 7 — пакет разработки ПО для инференса седьмого поколения открывает дверь в мир более передовых взаимодействий человека и ИИ и позволяет в реальном времени работать с такими приложениями, как голосовые агенты, чатботы и рекомендательные сервисы. Согласно исследованиям Juniper Research, в мире используется 3.25 млрд цифровых голосовых помощников. К 2023 году эта цифра вырастет до 8 млрд, что превысит всё население Земли. TensorRT 7 включает новый компилятор глубокого обучения, который автоматически оптимизирует и ускоряет всё усложняющиеся рекурентные нейросети и сети с архитектурой типа трансформер, необходимые для диалоговых ИИ-приложений. Он ускоряет компоненты диалогового ИИ более чем в 10 раз по сравнению с CPU, снижая латентность до 300 мс. А это именно тот порог, который необходим для взаимодействий реального времени. «Мы открыли новую главу в ИИ, где машины стали понимать язык человека в реальном времени, — говорит учредитель и генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) на конференции GTC China. — TensorRT 7 позволяет воплотить все это в жизнь, предоставляя разработчикам инструменты для создания быстрых и умных диалоговых ИИ-сервисов, обеспечивающих более естественное взаимодействие человека и ИИ». Крупнейшие инновационные компании ... читать далее.