10.06.2024  Экспертиза, Искусственный интеллект, Открытый код/Linux

Открытые большие языковые модели (LLM) становятся все более дееспособными и представляют собой жизнеспособную альтернативу коммерческим LLM, таким как GPT-4 и Gemini. А учитывая стоимость аппаратных ускорителей ИИ, разработчики внимательно рассматривают API для применения современных языковых моделей. Джанакирам МСВ, главный аналитик компании Janakiram & Associates и адъюнкт-преподаватель Международного института информационных технологий, рассказывает на портале The New Stack о пяти платформах генеративного ИИ, поддерживающих использование открытых LLM, таких как Llama 3, Mistral и Gemma. Хотя облачные платформы крупных провайдеров, такие как Azure OpenAI, Amazon Bedrock и Google Cloud Vertex AI, для многих являются очевидным выбором, существуют специально разработанные платформы, которые быстрее и дешевле платформ гиперскейлеров. Ниже представлены пять платформ генеративного ИИ, позволяющих использовать открытые LLM, такие как Llama 3, Mistral и Gemma. Некоторые из них также поддерживают фундаментальные модели, нацеленные на зрение. 1. Groq Groq — это компания, занимающаяся разработкой инфраструктуры ИИ, которая утверждает, что создает самую быструю в мире технологию получения ИИ-выводов. Их флагманский продукт — движок для обработки языковых данных (Language Processing Units, LPU) Inference Engine, аппаратно-программная платформа, цель которой — обеспечить исключительную скорость вычислений, качество и энергоэффективность ИИ-приложений. Разработчики любят Groq ... читать далее.