Cerebras Systems凭借其推出的全球最大尺寸芯片——Cerebras WSE,在AI推理速度上超越了NVIDIA集群。 Cerebras WSE芯片尺寸巨大,每边长8.5英寸(约22厘米),更是集成了惊人的40亿个晶体管,这一庞大的晶体管数量让WSE在AI推理操作中创下了世界速度纪录,比同等规模的NVIDIA集群快约2.5倍。 Cerebras首席信息安全官Naor Penso在温哥华的Web Summit上表示:“这是全球最快的推理速度。就在上周,NVIDIA宣布其在Llama 4上达到每秒1000个token的处理速度,而Cerebras今日公布的基准测试结果则高达每秒2500个token。” 但芯片速度的提升不仅取决于晶体管数量,还有芯片的集成设计。WSE将所有组件集成在一块芯片上,并配备了44GB的超高速RAM。 Penso表示:“AI计算需要大量内存,而Cerebras无需像NVIDIA那样依赖外接芯片。” 独立机构Artificial Analysis也表示:“我们测试了数十家供应商的产品,Cerebras是唯一在Meta旗舰模型上超越Blackwell的推理解决方案。” Cerebras首席营销官Julie Shin表示,WSE并非x86或ARM架构,而是一种全新的加速GPU的架构,她补充道:“这不是一项渐进式技术,这是芯片领域的又一次飞跃。” |
联系电话:647-830-8888|多伦多六六网 www.66.ca
GMT-4, 2025-6-24 08:40 AM , Processed in 0.045278 second(s), 23 queries .
Powered by Discuz! X3.4
Copyright © 2001-2020, Tencent Cloud.