针对AI部署趋势与资安议题,APMIC回应产业痛点,推出建构于NVIDIA NeMo平台与NIM微服务架构上的「S1模型微调与蒸馏」解决方案,涵盖模型训练、知识蒸馏、测试扩充三大阶段,并支援容器化部署,可弹性安装于地端伺服器或私有云平台,满足企业对资料主权与弹性部署的双重需求。根据Bedrock Security于2025年3月发布的《企业资料安全信心指数》显示,逾七成美国资安专业人士将AI资料治理列为首要关注议题,显示私有化部署已成全球企业AI导入的关键趋势。
「S1模型微调与蒸馏」核心采用Teacher-Student架构,先以开源大语言模型结合企业资料进行训练,后以知识蒸馏技术压缩为轻量模型,有效保留语意与任务精准度,并大幅减少模型参数与推论所需资源。企业可选择平台工具租用或ODM代工模式,快速生成专属语言模型。APMIC创办人暨执行长吴柏翰表示:「我们的愿景是让企业真正掌握AI智慧资产,不再依赖云端巨头。AI应该是每间企业都能负担且可控的工具。」
在硬体基础上,APMIC同步导入NVIDIA最新Blackwell架构B200 GPU,为目前语言模型训练与推论速度提升数倍的先进平台,具备强化FP4精度与更高记忆体频宽,能有效突破大模型压缩与部署时的效能瓶颈。APMIC表示,透过B200 GPU与S1解决方案的结合,企业可在现有硬体上快速完成模型训练与部署,降低TCO(总持有成本)同时提升运算效率与AI应用准确率。

APMIC将于COMPUTEX 2025期间,于台北南港展览馆2馆InnoVEX区NVIDIA Inception主摊位(S0724)及Garage+快闪摊位(S0324)展出上述创新解决方案。吴柏翰将于5月22日上午11点在GTC Taipei发表专题演讲,主题为《透过知识蒸馏与测试阶段扩展提升LLM准确度与运算效率》,深入说明如何透过多阶段策略优化语言模型效能。
此外,APMIC亦将于5月19日参加在台北万豪酒店举行的「HPE & NVIDIA Private Cloud Conference 前瞻论坛2025」,由AI生态系策略伙伴总监蔡宜洁分享如何协助企业建置特化模型、跟上AI微调与蒸馏的发展浪潮,进一步展现APMIC协助企业完成AI自主转型的完整布局。
