24.10.2024  Экспертиза, Искусственный интеллект

Приемы крупнейших игроков в области масштабирования становятся все более актуальными для остальных, что выражается в распространении инверсии архитектуры, пишет на портале The New Stack Джон Братсет, основатель и генеральный директор Vespa.ai. Вы когда-нибудь задумывались, как крупнейшие мировые интернет- и социально-медийные компании могут так быстро доставлять алгоритмизированный контент столь большому количеству пользователей? Представьте себе, что нужно делать таким, как TikTok, чтобы обеспечивать людей бесконечным потоком персонализированных видеоклипов на их телефоны. У них есть некая модель, представляющая пользователя, и они должны использовать ее, чтобы найти среди миллиардов альтернатив наиболее подходящие клипы для показа именно этому пользователю. А поскольку у них миллиарды пользователей, им нужно делать это миллионы раз в секунду. Традиционные решения Наивный способ решить проблему TikTok — сравнить модель пользователя с каждым видеоклипом, чтобы определить, насколько каждый из них подходит данному пользователю. Многие понимают, что такой подход не работает — при миллиарде видео и миллионе запросов в секунду это превращается в квадриллион сравнений в секунду! Очевидным решением этой проблемы является индексирование: поддержка структуры данных, которая позволяет находить подходящие согласно модели пользователя видеоклипы без необходимости рассматривать каждый клип. Например, если в модели пользователя отмечается предпочтение англоязычных видеороликов ... читать далее.