Publicar

Zyphra发布首个MI355X推理评测：长文本直逼B200

币界网
币界网
币界网消息，Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测，测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1，并对标NVIDIA B200。实测显示，AMD的288GB显存远超B200的180GB，使其在处理超长文本时能更高效地利用缓存，降低硬件成本。然而，AMD在芯片间互联上处于劣势，B200通过NVLink交换机实现900GB/s带宽，而MI355X采用点对点直连，通信效率较低。为弥补这一短板，Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示，尽管在单请求速度上NVIDIA B200仍领先，但在长文本场景下，Zyphra推理栈的吞吐量逐渐逼近B200，证明AMD在长文本生产环境中具备竞争力。
18:44 · 19/05/26·4,79 mil visualizaciones·
Visitar origen
0
0

Descargo de responsabilidad: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información

Respuestas

Aún no hay comentarios. ¡Sé el primero en responder!

Related Flash News

Avatar de fuenteChainCatcher•hace 17 min

Grafana: La investigación concluyó que los recientes incidentes de seguridad no han afectado a los sistemas de producción ni a las operaciones de los clientes

Avatar de fuenteChainCatcher•hace 32 min

Datos: Una cartera recién creada por whale vinculada a a16z compró y apostó 206.325 HYPE

Avatar de fuenteChainCatcher•hace 46 min

Huatai Securities: La Fed podría subir dos veces los tipos de interés el próximo año

Avatar de fuenteChainCatcher•hace 51 min

Trump firmó una orden ejecutiva para revisar las restricciones al acceso de las empresas cripto a los sistemas de pago estadounidenses

Avatar de fuenteChainCatcher•hace 53 min

La dirección de Bitcoin de un traficante irlandés transfirió otros 500 BTC

Avatar de fuenteChainCatcher•hace 1 h

Paulson: Mantener los tipos de interés estables para evaluar las condiciones económicas

Avatar de fuenteChainCatcher•hace 1 h

Paulson: El mercado considera un escenario en el que los tipos de interés permanecen sin cambios o en el que la subida es "saludable"

Avatar de fuenteChainCatcher•hace 1 h

Paulson: El tipo de interés actual es apropiado y sigue ejerciendo presión a la baja sobre la inflación

Avatar de fuente币界网•hace 2 h

La capitalización bursátil de las RWA on-chain superó los 65.000 millones de dólares, con Ethereum representando el 33%

Avatar de fuenteOdaily•hace 3 h

Bitwise califica a HYPE como un activo cripto de "segunda generación", que sigue infravalorado por el mercado