亿道信息:亿灵 AISSD 技术可使普通 PC、NAS 运行 35B 或更大模型
亿道信息在投资者关系活动记录表中表示,亿灵 AISSD 异构推理技术针对 MoE 混合专家架构大模型进行底层调度优化,通过动态专家驻留策略降低内存占用,并可在内存、速度之间灵活调档,使普通 PC、NAS 等内存受限的端侧设备能够运行 35B 或更大的模型。
 
 
Back to Top