辉达Blackwell助攻 GMI砸5亿美元在台建AI工厂
...架,共7,000颗GPU,推演能力逼近每秒200万Token,运算规模达1GW级别。公司强调,这将不...
...架,共7,000颗GPU,推演能力逼近每秒200万Token,运算规模达1GW级别。公司强调,这将不...
总部设在美国的云端服务供应商GMI Cloud今天表示,在美国人工智慧(AI)大厂辉达支持下,该公司将在台湾建立一座价值5亿美元(约新台币155.8亿元)的AI数据中心。
【记者吕承哲/台北报导】大型语言模型(LLM)与混合专家模型(MoE)持续扩张,单一 GPU 已难以支撑庞大推论需求,企业必须改采多节点架构提升速度与承载量。辉达(NVIDIA)推出 Dynamo 平台,将多节点推论能力带入实际生产环境,让企业能在既有云端架构中取得基准测试等级效能,成为扩大 AI 服务的新动能。
...等CSP巨头所推动,并打造出总持有成本(TCO)、Token成本最低的平台,带动新一波AI革命浪潮。...
...等CSP巨头所推动,并打造出总持有成本(TCO)、Token成本最低的平台,带动新一波AI革命浪潮。...
...期,利用辉达GB200 NVL72平台,生产最高 Token 产生效率、最低 TCO 回应这波AI超...
【记者吕承哲/台北报导】AI 推动资料中心加速朝节能、高密度架构转型,记忆体能效成关键。美光科技(Micron)宣布其 192GB SOCAMM2已正式送样客户,扩大低功耗 DRAM 在 AI 部署中的应用。
...del Hub汇聚50多种模型、累计运算量达18亿Token数;开发超过35个AI助手工具、支援25...
...模式,也凸显辉达在AI基础设施领域的领先优势。 Token为大型语言模型(LLM)处理文本的最小运...
【记者吕承哲/台北报导】全球晶圆代工龙头台积电(2330)今(16)日举行线上法说会,台积电董事长魏哲家表示,AI 带动的订单动能比先前预期更为强劲,公司对长期市场趋势充满信心。
【记者吕承哲/台北报导】推论效能是人工智慧(AI)工厂经济效益的核心关键,输送量越高,就能以更快速度产生更多词元(token),进而提高营收、降低总拥有成本(TCO),并提升整体系统的生产力,辉达(NVIDIA)Blackwell Ultra 架构GB300 NVL72 机架系统,在GTC大会首度亮相半年后,便于 MLPerf Inference v5.1 推论基准测试中刷新纪录,相较于 GB200 NVL72,在 DeepSeek-R1 推论输送量上最高可达 1.4 倍。
【记者吕承哲/台北报导】纬创资通(3231)26日宣布,将 NVIDIA 最新的 RTX PRO 6000 Blackwell Server Edition GPU 整合至旗下先进 AI 伺服器平台,目标在企业运算市场树立次世代效能与效率的新里程碑。
...具备64个运算单元与128个第2代AI加速器,在高Token数大型语言模型、指令微调等AI任务上展现...
从黄仁勋主题演讲开头影片中不断提到「Token」,无论是在数据处理、疾病预警、还是自然资源的保护中,...
...成为竞争主战场。每次模型回应使用者提示,都需大量 Token 运算,考验算力与成本调度。Dynamo...
...stinct MI350系列提供每美元最高40%的Token运算效能提升,并维持与产业标准一致的外型...
【国际中心/综合报导】根据今天公布的财产申报单,美国总统川普过去1年从加密货币、高尔夫俱乐部和其他创投事业获得6亿余美元(约新台币177亿余元)收入,让外界一窥他庞大的资产种类和规模。
【记者赵筱文/台北报导】AI晶片大厂辉达(NVIDIA)于29日公布2026会计年度第1季财报,营收达441亿美元,年增69%、超越市场预期,净利接近190亿美元、年增26%。受此激励,辉达股价在盘后交易上涨3%。
...,未来大家会像计算工厂产能一样,计算一小时生产多少Token。 黄仁勋再度重申,NVIDIA未来不...
...,未来大家会像计算工厂产能一样,计算一小时生产多少Token。 黄仁勋再度重申,NVIDIA未来不...