OpenAI 和 Broadcom 发布用于大规模 LLM 推理的 Jalapeño 芯片

OpenAI 和 Broadcom 宣布推出 Jalapeño，这是一款专为数据中心大规模语言模型推理设计的新型芯片。该 ASIC 基于 OpenAI 研究人员的见解并根据公司产品路线图，历时九个月从零开始开发。

Broadcom 表示，Jalapeño 比现有的推理硬件更专注于当前 LLM 的需求。OpenAI 声称，早期测试显示该芯片每瓦性能显著优于当前解决方案，不过详细技术结果将在未来几个月内公布。