المنشور

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

إخلاء المسؤولية: يُقدَّم محتوى OKX Orbit لأغراض إرشادية فقط. اعرف المزيد

الردود

لا تعليقات حتى الآن. كُن أول من يرد!

Related Flash News

الصورة الرمزية للمصدرOdailyمنذ 5 ساعاتٍ

شهد قطاع أشباه الموصلات الأمريكي انعكاسا على شكل حرف V خلال الجلسة، وانخفض انخفاض العديد من الأسهم بشكل حاد أو حتى ارتفع

الصورة الرمزية للمصدرChainCatcherمنذ 10 ساعاتٍ

انخفضت عقود مؤشرات الأسهم الأمريكية الآجلة، واستمرت أسهم أشباه الموصلات في الانخفاض

الصورة الرمزية للمصدر币界网منذ 10 ساعاتٍ

تضيف Bitget Wallet 130 سهما جديدا مرمزا من Xstocks

الصورة الرمزية للمصدرChainCatcherمنذ 12 ساعة

المؤسسات: قد يدفع الطلب على مراكز بيانات الذكاء الاصطناعي إعادة تقييم عمال تعدين البيتكوين، وقد تم الإعلان عن تعاون يزيد عن 90 مليار دولار

الصورة الرمزية للمصدر币界网منذ 12 ساعة

تعاونت ديل مع Palantir لإطلاق نظام تشغيل ذكاء اصطناعي أصلي: حيث يحل التخزين الأساسي محل Ceph، ويستهدف مباشرة بنوك الدفاع والنواة

الصورة الرمزية للمصدر币界网منذ 17 ساعة

تخطط شركة Analog Devices للاستحواذ على إمباور مقابل 1.5 مليار دولار، مما يعزز من مزود Nvidia MPS

الصورة الرمزية للمصدرTechFlowمنذ 23 ساعة

مختبرات WEEX: الذكاء الاصطناعي والقطاع المالي يزداد صدى أقوى، وتستمر شهية المخاطر في الأسهم الأمريكية في الارتفاع

الصورة الرمزية للمصدرChainCatcherمنذ 1 يوم

أغلقت مؤشرات الأسهم الثلاثة الكبرى بشكل متباين، حيث تراجع لي أوتو بنحو 10٪

الصورة الرمزية للمصدرChainCatcherمنذ 1 يوم

انخفضت مؤشرات الأسهم الأمريكية الثلاثة الكبرى، حيث انخفض مؤشر Micron Technology بنحو 3٪

الصورة الرمزية للمصدرChainCatcherمنذ 1 يوم

في التداول قبل السوق، انخفض مؤشر داو بنسبة 0.37٪ وانخفض مؤشر تسلا (TSLA) بنسبة 1.01٪