Postingan

Zyphra发布首个MI355X推理评测：长文本直逼B200

币界网
币界网
币界网消息，Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测，测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1，并对标NVIDIA B200。实测显示，AMD的288GB显存远超B200的180GB，使其在处理超长文本时能更高效地利用缓存，降低硬件成本。然而，AMD在芯片间互联上处于劣势，B200通过NVLink交换机实现900GB/s带宽，而MI355X采用点对点直连，通信效率较低。为弥补这一短板，Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示，尽管在单请求速度上NVIDIA B200仍领先，但在长文本场景下，Zyphra推理栈的吞吐量逐渐逼近B200，证明AMD在长文本生产环境中具备竞争力。
NVDA-0,85%
AMD-2,10%
18.44 · 19/05/26·4,7 rb penayangan·
Kunjungi Sumber
0
0

Penafian: Konten OKX Orbit ini hanya disediakan untuk tujuan informasi. Selengkapnya

Balasan

Belum ada komentar. Jadilah yang pertama membalas!

Related Flash News

Avatar sumberOdaily•5j lalu

Sektor semikonduktor AS melakukan pembalikan "berbentuk V" selama sesi, dan penurunan banyak saham menyempit tajam atau bahkan naik

Avatar sumberChainCatcher•10j lalu

Indeks saham berjangka AS turun tipis, dan saham semikonduktor terus turun

Avatar sumber币界网•10j lalu

Bitget Wallet menambahkan 130 saham token Xstocks baru

Avatar sumberChainCatcher•12j lalu

Institusi: Permintaan pusat data AI dapat mendorong revaluasi penambang Bitcoin, dan lebih dari $90 miliar dalam kerja sama telah diumumkan

Avatar sumber币界网•12j lalu

Dell telah bekerja sama dengan Palantir untuk meluncurkan sistem operasi AI asli: penyimpanan yang mendasarinya menggantikan Ceph, secara langsung menargetkan bank pertahanan dan inti

Avatar sumber币界网•17j lalu

Analog Devices berencana untuk mengakuisisi Empower seharga $1,5 miliar, memperkuat pemasok Nvidia MPS

Avatar sumberTechFlow•23j lalu

WEEX Labs: AI dan sektor keuangan menguat bersamaan, dengan selera risiko di saham AS terus pulih

Avatar sumberChainCatcher•1h lalu

Tiga indeks saham utama ditutup beragam, dengan Li Auto turun hampir 10%

Avatar sumberChainCatcher•1h lalu

Tiga indeks saham utama AS menurun, dengan Micron Technology turun hampir 3%

Avatar sumberChainCatcher•1h lalu

Dalam perdagangan pra-pasar, Dow turun 0,37% dan Tesla (TSLA) turun 1,01%