英特尔企业副总裁暨资料中心AI解决方案总经理Pallavi Mahajan指出,「最新MLPerf基准测试结果显示,持续投资与资源配置对提升AI效能至关重要。在过去四年期间,我们透过MLPerf测试,将英特尔Xeon处理器的AI效能提升高达17倍。随著今年稍晚产品即将正式发表,我们期待携手合作伙伴与客户共同促进Xeon 6的普及。」
AI系统需要CPU作为关键元件,以便于各种情境中成功布署解决方案。英特尔Xeon提供优异的AI推论解决方案,包括古典机器学习(ML)和向量搜寻嵌入(vector search embedding)。
利用MLPerf Inference v4.1测试基准,英特尔提交了第5代英特尔Xeon处理器和搭载效能核心(P-core)的Xeon 6处理器,并以ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J模型进行测试。相较于第5代Intel Xeon处理器,Xeon 6在六项基准测试中平均提供约1.9倍的AI推论效能提升。而英特尔是唯一持续向MLPerf提交CPU测试结果的伺服器处理器供应商。
英特尔4年前首次提交MLPerf测试结果以来,在CPU的AI效能方面已经取得显著进展。与2021年第3代Intel Xeon可扩充处理器相比,Xeon 6在自然语言处理(BERT模型)上的效能表现提升高达17倍,在电脑视觉(ResNet50模型)工作负载上的效能则提升高达15倍。英特尔在其CPU产品蓝图规画中持续投资AI领域,例如借由新的资料类型与效率提升,持续创新Intel Advanced Matrix Extensions(AMX)。
最新的MLCommons基准测试结果,突显了Xeon处理器如何为OEM提供强大的CPU AI伺服器解决方案。随著AI运算需求的成长,许多客户在执行企业工作负载的同时,也在执行AI工作负载。OEM会将MLPerf基准测试结果列为优先考量条件,以确保能为顾客提供针对AI工作负载最佳化的高效能Xeon系统。
英特尔在最新的MLPerf基准测试中,支援思科、戴尔科技、慧与科技(HPE)、广达和美超微(按厂商英文名称顺序排列)等五家OEM伙伴。每位客户皆提交了使用第五代Xeon可扩充处理器的MLPerf测试结果,展示其系统对各种AI工作负载和布署的支援。