AI时代到来，让台北国际电脑展再度成为全球焦点，今年创鑫智慧在会场展示的N3000晶片系列及Viper PCIe加速卡，就是聚焦可全面支援英特尔(Intel)和超微(AMD)的CPU，同时兼容Ubuntu和Windows作业系统，满足用户地端应用的多样化需求。
刘景慈指出，创鑫智慧推出的Viper PCIe半高半宽加速卡，专为LLM推论设计，具备优异能源效率，单卡支援最多14B参数模型，双卡可达24B，四卡配置甚至能处理高达70B参数的大型模型，完全满足多种LLM推论需求，举凡Llama、Mistral、Gemma、Qwen、Phi、TAIDE，甚至Deepseek蒸馏的模型，都在支援清单中。
创鑫智慧董事长林永隆博士补充说明：「最引人注目的是，创鑫智慧加速卡平均功耗仅45瓦，相当于一个普通灯泡的耗电量，显著低于现有解决方案，在大型语言模型运算通常需要消耗大量能源的情况下，创鑫智慧的解决方案为企业提供了节能高效的LLM推论选择，有效应对AI发展过程中可能面临的能源挑战。」
此外，创鑫智慧解决方案的最大优势，在于消除了高昂的月费订阅成本，让企业能以一次性投资拥有自己的AI推论基础设施，专为地端部署设计的方案，不仅降低了长期运营成本，还提高了数据安全性，使企业能完全掌控自己的AI资产。
刘景慈表示，本次展会上，创鑫智慧将携手新加坡商枫叶资讯科技和工业电脑品牌超恩，展示其加速卡广泛的硬体兼容性与系统支援，值得注意的是，这些小型系统无需额外电力配置，便可运行复杂的生成式AI应用。
此外，高登智慧和myLLM也将在创鑫智慧摊位展示基于其硬体的整合应用方案。高登智慧将展示以其核心「ShareGuru SQLPilot 系统」为基础，所开发的全地端高准确度AI会议记录查询分析系统，以及创鑫智慧AI客服系统。
ShareGuru SQLPilot运用高登智慧的Multi-Agent核心技术，整合NL2SQL Agentic AI与Table Augmented Generation (TAG)，实现可完全地端运行、高准确度高智慧的AI分析功能。
借由整合地端语言模型与结构化数据库，ShareGuru SQLPilot提升了复杂查询和分析的准确度，同时让用户能以自然语言直接进行查询，无需专业知识。这种方法可自动化完成复杂的数据查询和分析，减少了人工编写SQL语法的时间，并且超越了单纯的数据提取，能够发掘隐藏的趋势、模式和关联—最终提供更高的准确性、更佳的用户体验、更高的工作效率以及更深层的见解。
至于myLLM的myPDA平台，是专为自主LLM设计的云地整合Gen AI应用平台，myPDA提供一套具备模组化与高度弹性系统架构的解决方案，支援多种语言模型的整合与部署，并能在完全断网环境下以地端LLM模型进行推论应用，只需一键即可完成安装。系统能串接智能代理元件，进行多步骤推理、任务规划与多系统协作，同时提供统一操作介面，大幅简化应用建置流程。这套全方位解决方案应用领域广泛，涵盖智慧制造、医疗照护、知识管理及教育科技等多领域。
最重要的是，创鑫智慧已成为国家实验研究院国家高速网路与计算中心（国研院国网中心）推论硬体成员之一，透过国网中心TAIWAN AI RAP高效能生成式AI开发平台架构，使用创鑫智慧自家AI加速方案提供官网客服推论服务，大幅降低云端服务成本，国网中心的混合云方案也可确保资料安全与隐私。
此外，国网中心为落实「主权AI」促进产业创新蓬勃，将提供台湾企业、新创公司、资服业者、学研单位，多模型API及模型微调与评估等试用服务，可在1楼I0601a创鑫智慧摊位登记报名。
點擊閱讀下一則新聞
