
帖子
万亿参数开源模型跑出981词/秒,Cerebras测试KimiK2.6提速29倍

币界网消息,Cerebras宣布在企业测试中上线万亿参数大模型Kimi K2.6,通过直接在整张12英寸硅晶圆上集成芯片,彻底消除了传统板级通信的互联延迟。第三方评测机构Artificial Analysis实测显示,其生成速度达到981 tokens/s,比主流GPU云服务快6.7倍。在10000输入、500输出token的长文本任务中,总响应耗时从Kimi官方接口的163.7秒缩短至5.6秒,提速达29倍。由于模型权重被分配到多个晶圆中流式传输激活值,层间通信完全运行在晶圆内部的网络织网上,其物理通信带宽达到英伟达NVL72架构中NVLink的200倍以上。配合分布式计算优化,Kimi K2.6以原始的4-bit权重进行低损存储,计算时使用16-bit浮点数维持精度,并采用定制算子内核与推测性解码最终达成实时化运行。
相关快讯
市场再传马斯克或整合SpaceX与特斯拉,双方AI与供应链协同持续加深
「新股神」Serenity评美光市值破万亿:下一个英伟达,2027年目标1.5万亿美元
拉满! 瑞银王牌分析师喊出美光华尔街最高目标价1625美元,为AI内存注入最强催化剂
AI 模型聚合平台 OpenRouter 完成 1.13 亿美元 B 轮融资,CapitalG 领投
「新股神」Serenity对SIVE一往情深:第191次喊单称其为最具吸引力CPO概念股
Wintermute:比特币关键支撑位在7.5-7.6万美元区间,市场结构未完全转坏
「新股神」Serenity狂喊190次! 三支AI芯片「螺丝钉」股全部暴走,最高录得19.6倍收益
「新股神」Serenity二月预判精准兑现:捕捉韩股期权波动率错配赚超4倍
谷歌租TPU给Anthropic的底层逻辑:用前沿模型反哺自研芯片
Wintermute:机构买盘退潮,加密市场与股市走势背离