Gate News 消息,4 月 22 日——Google Cloud 宣布,于 4 月 22 日发布其第八代自研定制 TPU (Tensor Processing Unit) 芯片。新的产品线包括 TPU 8t,专为 AI 训练任务而设计,以及 TPU 8i,针对 AI 推理工作负载进行了优化。两款芯片都将于今年晚些时候上市。Google 还发布了用于构建 AI 代理的新工具,并宣布设立一项 $750 百万美元基金,以推动企业采用 AI。
TPU 8t 在相同价格水平下,性能比 Google 上一代 Ironwood TPU 提升 2.8 倍。TPU 8i 相较其前代产品性能提升 80%,并采用静态随机存取内存 (SRAM) 架构,以实现“具有成本效益的大规模吞吐与低延迟,使数百万个代理能够同时运行”,CEO Sundar Pichai 表示。与 Ironwood 相比,TPU 8t 和 TPU 8i 的每瓦性能效率均实现了超过两倍的提升,其中 TPU 8t 提升 124%,TPU 8i 提升 117%。Google 在整个技术栈中优化了能效,并集成了动态功率管理系统,可根据实时需求调整能耗。
Google 自研模型目前通过直接面向客户的 API 调用,每分钟处理超过 1600 亿个 token,较上季度的 1000 亿有所增长。在 Google 上,AI 现在生成了所有新增代码的 75%,而去年秋季为 50%。Google 的企业产品 Gemini Enterprise 在付费月活用户方面实现了环比增长 40%。公司预计到 2026 年,将其机器学习计算预算中略多于一半投向云服务,以更好地服务云端客户与合作伙伴。Google 也在扩大与博通(Broadcom)的合作,以为未来世代开发并供应定制 TPU 芯片,因为大型科技公司正寻求对来自 NVIDIA 和 AMD 的昂贵且供给受限 GPU 的替代方案。
Related News
Tencent QClaw запустил зарубежную версию открытого тестирования, в Японии раздают 700 долларов США в токенах, чтобы побыстрее попасть в число первых участников
Google стремится масштабировать экосистему ИИ-чипов с Marvell на фоне усиления конкуренции с Nvidia
Amazon удваивает ставку: Anthropic на $25 млрд — 5 ГВт вычислительных мощностей, привязка к AWS на триллион долларов