OpenAI и Broadcom запускают чип Jalapeño для масштабного вывода LLM

OpenAI и Broadcom объявили о создании Jalapeño — нового чипа, спроектированного специально для инференса больших языковых моделей в дата-центрах. ASIC был разработан с нуля за девять месяцев на основе идей исследователей OpenAI и с учётом продуктовой дорожной карты компании.

Broadcom утверждает, что Jalapeño более специализирован для текущих потребностей LLM, чем существующее оборудование для инференса. OpenAI заявляет, что ранние тесты показывают существенно лучшую производительность на ватт по сравнению с текущими решениями, хотя подробные технические результаты будут опубликованы в ближайшие месяцы.

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев