辉达推出NIM微服务　强化日本与台湾的生成式AI发展

辉达在新闻稿中指出，这些NIM微服务支援各类常用模型，并针对特定区域需求进行定制，透过深度理解当地语言和文化来优化回应，从而强化与使用者的互动。新推出的Llama-3-Swallow-70B和Llama-3-Taiwan-70B模型分别使用日文和中文资料进行训练，这使得它们能够更准确地反映当地法律、文化及其他相关习俗，并在这些方面表现特别出色。

台湾的长庚纪念医院目前正建置专属的AI推论服务系统，使用Llama 3-Taiwan 70B来管理和优化其医疗语言应用，让患者能更容易理解医护人员的说明，借此提高医护人员与患者之间的沟通效率。同时，和硕联合科技也计划利用Llama 3-Taiwan 70B NIM微服务，为内部和外部的业务开发AI应用，并与其自家的PEGAAi Agentic AI系统整合，以实现流程自动化，提升生产与运营效率。

此外，长春集团、欣兴电子、科技报橘、律果科技以及生成式AI新创公司APMIC，也纷纷采用Llama-3-Taiwan 70B NIM微服务来开发各自的AI应用，这些应用不仅能够更好地适应当地的语言与文化，还能显著提高企业的运营效能。

根据ABI Research的数据，亚太地区的生成式AI软体市场预计将在2030年达到480亿美元，较今年的50亿美元有显著成长。