NVIDIA GTC Taipei昨登场，国泰金秀出与NVIDIA 合作开发的本地化大型语言模型训练成果，显示LLM在处理专业金融知识方面的可行性，为区域内具规模、特定领域的AI 应用奠定基础。同时提出在台湾金融业导入 AI 智慧代理的发展蓝图，突显国泰在技术领域的领导地位与对创新的承诺。
国泰金副总经理暨国泰世华银行数据长梁明乔表示，国泰金运用台湾本地金融授信知识、法规文献及实务案例等作为训练语料，在模型上利用 NVIDIA NeMo 框架进行预训练 (Pre-training)、微调 (Fine-tuning) 等技术手法，藉 NVIDIA 的加速运算完成 70 至 80 亿参数量的大型语言模型训练。」
梁明乔表示，透过知识蒸馏 (Knowledge Distillation) 与 NVIDIA NeMo Curator 框架，扩增训练资料达4 至5 倍，大幅缩短资料准备时间，也辅以 NVIDIA TensorRT 框架加速模型评估流程。成果显示此模型不仅能精准回应进阶金融问答，也具备通过进阶授信人员证照考试能力，可获超过90分成绩，展现AI 在金融领域的应用潜力，相较于未经专业训练的 GPT-4o 最终考出66.7 分，并未达70分通过门槛。
随著全球 AI 技术快速演进，AI Agent 正成为新一代人工智慧的发展趋势。相较传统具对话功能的工具型 AI，AI Agent 具备环境感测、记忆与自主规划能力，能根据情境变化主动推论、规划并执行任务，象征 AI 由「回应式工具」正式迈入「主动型代理」的新阶段。
在金融场域中，AI Agent 的应用潜力无穷，惟目前市面上多数属通用大型语言模型，对于台湾在地金融知识、专业术语及产业实务掌握仍不足，难以准确回应台湾市场金融使用者需求。此次国泰金运用 NVIDIA 加速运算的优势，充分展现金融机构如何结合专有与产业特定资料，进一步提升大型语言模型的应用效能。
AI Agent 于金融场景的应用具深远潜力，目前多数 LLM 仍属于通用型，缺乏深入理解台湾金融产业特定需求的能力，因此难以完全满足本地机构与使用者的精细要求。
国泰金使用 NVIDIA 加速运算平台的成果，展示了金融机构如何结合专有和产业特定资料以超越基础大型语言模型。梁明乔强调，国泰金将持续与 NVIDIA 合作，推进具备更广泛金融知识与实务应用能力的领域专属大型语言模型。
展望未来，国泰金将持续强化 AI Agent 的适应性推理、复杂决策辅助与情境感知任务执行等能力，涵盖从交易处理、服务自动化到智慧资讯撷取等多元应用，盼开启以 AI 驱动的智慧金融创新服务新时代。
點擊閱讀下一則新聞
