亚马逊升级自研AI芯片Trainium2、AWS导入H200
中国基金网
全球科技巨擘掀起一波自研人工智能(AI)芯片风潮，亚马逊(Amazon)28日发表新一代AI芯片Trainium2.专为训练和推论AI模型而设计，运算速度达前代的四倍，试图追赶微软(Microsoft)在生成式AI领域的主导地位。
CNBC、路透社等外媒报导，11月28日，亚马逊在拉斯维加斯举办年度云端科技发表会re：Invent 2023.亮相多款全新产品，包括第二代AI加速器Trainium2.能让客户以更低成本、更高能源效率加速训练ML模型，AI新创公司Databricks与亚马逊重金投资的OpenAI竞争者Anthropic已决定采用。
亚马逊同时发表基于ARM核心的第四代自研云端运算CPU「Graviton4」，强调运算效能比前一代高出30%、核心数量增加50%、内存带宽(memory bandwidth)提升75%。
AI服务的运营成本相当高昂，比传统搜索引擎高出十倍，促使各大科技巨头转向自主开发AI芯片，减少依赖NVIDIA GPU。 今年8月，Alphabet发表第五代张量处理器(TPU)「Cloud TPU v5e」，两周前，微软也揭晓最新自研AI芯片「Maia 100」，以及首款自研云端运算CPU「Cobalt 100」。
另方面，亚马逊宣布与NVIDIA加强合作，旗下云服务AWS将托管NVIDIA DGX Cloud，并导入NVIDIA最强AI芯片H200 Tensor核心GPU，大幅强化生成式AI和高效能运算(HPC)所需的工作负载能力。
