林永隆今天参加国研院国网中心举办的「TAIWAN AI RAP 用户使用分享说明会」,并进行10分钟专题分享,展示如何结合自主研发的AI 加速晶片与国网中心云端平台,打造加速企业AI转型的地端解决方案。
创鑫智慧作为台湾少数拥有自主研发AI加速晶片技术的公司,此次分享将聚焦于Viper加速卡如何与国研院国网中心TAIWAN AI RAP平台整合,与其他软体开发服务商与终端用户不同的是,创鑫智慧从硬体层面为AI应用与产业带来转型。
林永隆指出,Viper生成式AI加速卡已成功整合至国研院国网中心的混合云环境,为企业客户提供了更多元的 AI 运算选择,目前已将这项技术应用于公司官网的线上客服系统,展现了AI取代人力的转变,TAIWAN AI RAP平台对创鑫智慧这样的硬体开发商而言,是非常弹性的好伙伴,平台开放的架构允许Viper生成式AI加速卡发挥最大效能,同时与不同的模型框架无缝对接。
创鑫智慧充分运用了TAIWAN AI RAP平台的灵活性,不仅将自家Viper加速卡整合至平台基础设施,还透过平台统一的开发介面,大幅简化了AI模型部署流程,借由TAIWAN AI RAP平台提供的容器管理与模型服务功能,创鑫智慧能够轻松管理不同规模的AI工作负载,并根据需求弹性调整运算资源。
创鑫智慧更与伙伴厂商高登智慧携手合作,利用Viper加速卡的特性,在TAIWAN AI RAP平台上开发了NL2SQL(自然语言转SQL)资料库问答解决方案,高登智慧技术长林志哲博士表示,此方案特别适合中小企业,让非技术人员也能透过自然语言查询复杂的资料库资讯,大幅降低导入AI的门槛。
林永隆表示,搭配国研院国网中心的混合云环境,创鑫智慧的解决方案可以根据客户需求灵活调整,不论是软体开发商或终端用户,都能轻易地依照自己的需求选择适当的模型与硬体做搭配与开发。
林永隆也认为,TAIWAN AI RAP平台可为企业带来三大企业转型优势:
开发效率大幅提升:透过平台提供的统一开发环境与工具链,减少了至少 70%的环境配置时间,使开发团队能够专注于核心技术研发。
弹性的算力支援:平台支援多种硬体加速方案,包括创鑫智慧Viper卡,让企业能根据不同AI任务特性选择最佳运算资源配置。
生态系整合:RAP平台汇集了台湾AI产业的多元力量,创鑫智慧透过平台已与多家软体厂商建立合作关系,共同打造完整解决方案。
