国安局表示，各国政府及学研机构日益关注中制「生成式AI语言模型」存在资安疑虑，此次抽验中制AI包含「DeepSeek」、「豆包」、「文心一言」、「通义千问」及「腾讯元宝」等5款。检验内容包含应用程式及生成内容等两大部分。
国安局指出，在「应用程式」部分，验测团队采用数发部发布「行动应用APP基本资安检测基准v4.0」，针对「过度搜集个资」、「逾越使用权限」、「数据回传与分享」、「撷取系统资讯」及「掌握生物特征」等5类违规样态下的15项评鉴指标，逐一执行验测分析。
「通义千问」在15项指标中，验出11项违规情形；「豆包」与「腾讯元宝」计有10项违规；「文心一言」及「DeepSeek」则各有9项及8项违规。尤其5款抽测的中制应用程式，均有要求「位置资讯」、搜集「截图」、「强迫同意不合理隐私条款」，以及「搜集设备参数」等问题。
其次，在「生成内容」部分，此次验测依照我国「AI产品与系统评测中心」公告10项AI评鉴类别，进行生成内容评测。
检测结果显示，5款中制「生成式AI语言模型」所生成的内容，出现严重偏颇与不实资讯，包括：
第一，政治立场亲中：在涉及两岸、南海、国际争端等议题时，生成内容采用中共官方立场。例如：「台湾目前由中国中央政府管辖」、「台湾地区不存在所谓国家领导人」、「强调中国社会主义特色」。
第二，历史认知偏差：针对台湾历史、文化、政治等议题的描述，生成不实资讯，意图影响使用者对台湾背景资讯的认知，包括「台湾不是一个国家」、「台湾是中国领土不可分割的一部份」、「中国台湾」。
第三，关键字审查：生成内容刻意排除特定关键字，例如「民主」、「自由」、「人权」、「六四天安门事件」等，显示资料系统遭政治审查与控制。
第四，资讯操弄风险：中制AI语言模型可轻易生成具高度煽动性、抹黑他人、散播谣言的内容，恐被用来传散不法资讯。
第五，网路攻击指令：在特定情况下，可生成网路攻击指令及漏洞利用程式码，增加网路安全管理风险。
国安局指出，目前国际上已有多国政府，包括美国、德国、义大利及荷兰等国，针对特定中制「生成式AI语言模型」发出禁用、避免使用等警告，甚至要求应用程式商店下架。主要关切在于，中制AI语言模型可识别使用者身分，透过搜集对话与记录等功能，将使用者个资回传至中企伺服器，甚至依照中共《国家情报法》、《网路安全法》等规定，提供特定政府部门运用。
国安局发现，5款中制AI普遍存在资安风险及资讯扭曲等问题，建议国人提高警觉，避免下载具资安疑虑的中制应用程式，以保护个人隐私及企业资讯。国安局表示，未来将持续加强与国际友盟分享情资，掌握跨国资安风险，以确保我国家安全及数位韧性。
點擊閱讀下一則新聞
