Cerebras 发布 CS-4 AI 加速器,称推理速度最高达 GPU 方案 30 倍
当地时间 8 月 18 日,Cerebras 发布新一代 AI 加速器 CS-4,称其推理速度最高可达基于 GPU 方案的 30 倍。CS-4 采用三颗新型 WSE-3 Turbo 晶圆级引擎,AI 算力达 750 PFLOPS,内存带宽达 129.6 PB/s。Cerebras 表示,在 GPT-OSS-120B 测试中,CS-4 每用户每秒生成超过 4400 个 Token,最高达到 GPU 方案的 30 倍;其每瓦吞吐量最高为 CS-3 的 10 倍,并可支持超过 50 万亿参数的模型。CS-4 预计将于今年第三季度开始出货。
当地时间 8 月 18 日,Cerebras 发布新一代 AI 加速器 CS-4,称其推理速度最高可达基于 GPU 方案的 30 倍。CS-4 采用三颗新型 WSE-3 Turbo 晶圆级引擎,AI 算力达 750 PFLOPS,内存带宽达 129.6 PB/s。Cerebras 表示,在 GPT-OSS-120B 测试中,CS-4 每用户每秒生成超过 4400 个 Token,最高达到 GPU 方案的 30 倍;其每瓦吞吐量最高为 CS-3 的 10 倍,并可支持超过 50 万亿参数的模型。CS-4 预计将于今年第三季度开始出货。