В последние годы рынок искусственного интеллекта активно развивался, преимущественно полагаясь на GPU-ускорители, которые использовали соответствующие архитектуры. Однако в настоящее время акцент смещается с этих чипов на процессоры. Например, Amazon увеличила количество процессоров в своих серверах втрое, но этого всё равно оказалось недостаточно. По данным Semianalysis, развитие агентных моделей ИИ и продуктов на их основе значительно повысило спрос на процессоры. Дело в том, что GPU и аналогичные ускорители в основном применяются для обучения моделей.

В результате, как уже упоминалось, Amazon испытывает нехватку процессоров, несмотря на трёхкратное увеличение их количества по сравнению с прошлым годом. Microsoft также столкнулась с проблемой: все её запасы процессоров были проданы компаниям Anthropic и OpenAI. Этот высокий спрос привёл к нестабильности в работе баз данных, таких как GitHub. Многие пользователи сообщают о сбоях в работе, и зачастую изменения не фиксируются. Напомним, что GitHub принадлежит Microsoft, а Microsoft распродала все свои запасы процессоров.

Кроме того, ранее на условные 100 МВт мощности GPU приходилось всего около 1 МВт мощности CPU или даже меньше. Однако в настоящее время эти показатели стали значительно ближе друг к другу. Это свидетельствует о том, что процессоры начинают играть более важную роль в инфраструктуре, поддерживающей искусственный интеллект.

Таким образом, текущая ситуация на рынке процессоров и GPU показывает, что для удовлетворения растущих потребностей в вычислительных мощностях, связанных с развитием агентных моделей ИИ, необходимо пересмотреть подходы к распределению ресурсов и их использованию.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *