05.04.2024 Новости, Зарубежные вендоры hardware, Искусственный интеллект, Итоги и тенденции, Обзоры рынков, ТехнологияСтарая истина, гласящая, что всё хорошо в меру, грозит оказаться справедливой и в отношении чрезвычайно бурного развития сектора искусственного интеллекта, — об этом предупреждают аналитики McKinsey. С одной стороны, острая потребность рынка в специализированном «железе» и ПО подстёгивает инвестиции и оживляет динамику практически по всей цепочке поставок, от материалов и сырья для изготовления процессоров до создания специализированных серверов, на которых тренируются всё более и более «умные» модели ИИ. С другой, на фоне довольно сдержанного макроэкономического прогноза на обозримую перспективу нет уверенности, что необходимые средства найдутся в достаточных объёмах и в потребные сроки. Техническое обоснование Главное отличие генеративного ИИ от привычного рынку алгоритмического ПО с высокими системными требованиями — в том, что недостаточное по производительности «железо» делает использование и тем более тренировку генеративных моделей по сути нерентабельными. К примеру, если модель занимает в видеопамяти 12 Гбайт, её попросту не удастся запустить на ПК с видеокартой, содержащей 8 Гбайт памяти и менее: она должна помещаться в ОЗУ целиком. Теоретически, разумеется, есть возможность организовать последовательную загрузку и выгрузку отдельных блоков вычислений в память меньшего объёма. Однако генеративный ИИ базируется на нейросетях с десятками и сотнями миллиардов входных параметров (собственно, необходимость держать их все в памяти разом и определяет её значительный ...
читать далее.
