共有 120 項結果


CSP巨头全面导入!辉达Dynamo平台推动多节点AI推论效能革命

CSP巨头全面导入!辉达Dynamo平台推动多节点AI推论效能革命

【记者吕承哲/台北报导】大型语言模型(LLM)与混合专家模型(MoE)持续扩张,单一 GPU 已难以支撑庞大推论需求,企业必须改采多节点架构提升速度与承载量。辉达(NVIDIA)推出 Dynamo 平台,将多节点推论能力带入实际生产环境,让企业能在既有云端架构中取得基准测试等级效能,成为扩大 AI 服务的新动能。

loading