DeepSeek V4 以 1M 上下文窗口发布;华为 Ascend 与寒武纪芯片实现全面兼容

Gate News 消息,4月24日——DeepSeek V4-Pro 和 DeepSeek V4-Flash 已于4月24日正式发布并开源。其上下文处理长度由 128K 显著扩展至 1M,容量提升近 10 倍。华为计算宣布其 Ascend 超级节点产品通过芯片与模型技术的紧密协同,已全面支持 DeepSeek V4 系列模型。

华为 Ascend 950 通过融合算子内核与多流并行技术,实现高吞吐、低延迟的 DeepSeek V4 模型推理部署,从而降低 Attention 计算与内存访问开销。对于输入 8K 的 DeepSeek V4-Pro,Ascend 950 实现约 20ms TPOT,单卡 Decode 吞吐为 4,700 TPS;对于输入低于 8K 的 DeepSeek V4-Flash,其达到约 10ms TPOT,吞吐为 1,600 TPS。Ascend A3 超级节点系列也实现全面兼容,并提供训练参考实现以便快速进行微调。基于搭载大 EP 模式的 Ascend A3 64 卡超级节点,借助 vLLM 推理引擎,DeepSeek V4-Flash 在 8K/1K 输入输出场景下实现单卡 Decode 吞吐超过 2,000 TPS。华为全系列 Ascend A2、A3 和 950 产品线均支持 DeepSeek V4-Flash 与 V4-Pro。

华为云宣布与 DeepSeek V4 的率先兼容,通过其 MaaS 平台为开发者提供一键式 API Token 服务。华为云优化系统层、算子层与集群层能力,以确保快速模型适配与高性能部署。包括金山 WPS 和 360 在内的企业已通过华为云集成 DeepSeek 新模型。

寒武纪 同样宣布基于 vLLM 推理框架对 DeepSeek V4-Flash 和 V4-Pro 实现 Day 0 兼容,并将适配代码开源给 GitHub 社区。寒武纪此前在去年 DeepSeek V3.2 发布时已实现率先适配:通过对 DeepSeek 系列模型进行深度的软件-硬件协同性能优化。

Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.

Artikel Terkait

OpenAI merilis protokol jaringan superkomputer MRC! Berkolaborasi dengan NVIDIA, AMD, dan Microsoft untuk membangun infrastruktur Stargate

OpenAI mengumumkan protokol jaringan superkomputer AI MRC, bekerja sama dengan AMD, Microsoft, NVIDIA, dan lainnya, serta membuka sumbernya di OCP. MRC memecah data dan mengirimkannya melalui banyak jalur sekaligus, menghindari rintangan dalam skala mikrodetik, mengurangi kemacetan, dan menjaga sinkronisasi GPU, untuk mengatasi hambatan transmisi pada klaster pelatihan skala besar. Basis seperti Stargate Texas Abilene telah menerapkan antarmuka 800Gb/s dan digunakan dalam pelatihan nyata.

ChainNewsAbmedia11menit yang lalu

Platform Rekrutmen Berbasis AI Ethos Menyelesaikan Pendanaan Seri A senilai $22,75 juta yang Dipimpin oleh a16z pada 6 Mei

Menurut BlockBeats, platform rekrutmen AI berbasis di London, Ethos, menyelesaikan pendanaan Seri A senilai 22,75 juta dolar AS pada 6 Mei, dengan Andreessen Horowitz (a16z) memimpin putaran dan General Catalyst ikut berpartisipasi. Platform ini menggunakan AI untuk mewawancarai kandidat dan menganalisis

GateNews1jam yang lalu

OpenAI Meluncurkan Protokol Jaringan MRC dengan AMD, Intel, NVIDIA; Mendukung 100.000+ GPU

Menurut pengumuman OpenAI pada 6 Mei, perusahaan bermitra dengan AMD, Broadcom, Intel, Microsoft, dan NVIDIA untuk meluncurkan Multipath Reliable Connection (MRC), protokol jaringan terbuka untuk interkoneksi GPU pada klaster pelatihan AI skala besar. Protokol ini membagi transmisi data tunggal di seluruh

GateNews2jam yang lalu

Saham Hut 8 Melonjak 34% menjadi $9,8 miliar pada Kesepakatan Sewa Pusat Data AI

Menurut The Block, saham Hut 8 Corp. melonjak 34% menjadi $107,87 dalam perdagangan pra-pasar hari ini setelah perusahaan menandatangani sewa senilai 9,8 miliar dolar AS untuk kampus pusat data kecerdasan buatan di Nueces County, Texas, yang dirancang sesuai arsitektur komputasi NVIDIA. Kesepakatan tersebut merupakan tahap pertama dari Hu

GateNews2jam yang lalu

CleanSpark CTO: Infrastruktur AI/HPC Membutuhkan Lebih Banyak Sumber Daya Jaringan Dibanding Penambangan Bitcoin

Dalam wawancara CoinDesk, Chief Technology Officer CleanSpark Taylor Monnig menyatakan bahwa beralih dari penambangan Bitcoin ke infrastruktur AI/HPC memerlukan lebih banyak redundansi dan lebih sedikit improvisasi. "Serat jaringan dari satu rak melebihi milik seluruh fasilitas penambangan Bitcoin," Monnig

GateNews2jam yang lalu

Public Mengakuisisi Platform Investasi AI Treasury App

Menurut Foresight News, aplikasi investasi Public mengumumkan akuisisi platform investasi Treasury App yang didukung AI pada 6 Mei. Nilai akuisisinya tidak diungkapkan. Kesepakatan ini bertujuan untuk memperkuat layanan perantara berbasis AI dari Public, yang saat ini mendukung saham, obligasi, dan

GateNews3jam yang lalu
Komentar
0/400
Tidak ada komentar