MTK和Intel联手 投资RISC-V芯片新贵 再战英伟达?
RISC-V芯片初创公司Rivos上一次出现在头条里是他们与苹果达成了和解协议。
早在2022年5月,苹果指控Rivos窃取其商业机密以打造具有竞争力的芯片产品线。有关这个起诉,可以查看半导体行业观察之前的文章《苹果狙击RISC-V芯片初创公司》。正如该文所说,因为苹果的这个起诉,Rivos在当时面临了融资困难,甚至还经历了裁员。
但到了今年2月,有消息指出,根据加州联邦法院提交的一份联合法庭文件,苹果计划就一项指控科技初创公司 Rivos 窃取其与计算机芯片技术相关的商业机密的诉讼达成和解。
而在和解仅两个月后,Rivos终于传出了好消息,那就是他们拿到了2.5亿美金投资。与此同时,虽然没有太多的详细信息,但他们也在这次融资之后,公布了公司的一些芯片规划。
MTK和Intel参与投资
资料显示,Rivos 成立于 2021 年 5 月,组建了一支世界一流的芯片、软件和平台设计师团队。公司的长期愿景是基于 RISC-V,使用工作负载定义的硬件构建行业领先的节能、高性能、安全的服务器解决方案。特别强调一下,Rivos 这个名字来自RISC- V和Open Source的组合。
Rivos 强调,通过提供结合 RISC-V CPU 和数据并行加速器的优化芯片的完整解决方案、参考多芯片 OCP 模块化服务器和完整的解决方案,公司将支持重塑企业的大型语言模型和数据分析的强烈要求。固件到应用程序的开放软件堆栈。客户工作负载可以使用现有模型轻松部署,从而立即获得 TCO 优势。
在最新的公布中,他们镖旗在其超额认购的A-3轮融资中筹集了超过2.5亿美元。
据公告所说,Matrix Capital为本轮最大投资者管理层,此次融资吸引了包括英特尔投资、联发科、Cambium Capital、CIDC、Capital TEN 和 Hotung Venture Group 在内的新投资者参与,以及现有投资者 Walden Catalyst、Dell Technologies Capital、Koch Disruptive Technologies 和 VentureTech Alliance 的参与。
这笔资金将使该公司能够流片其首款芯片产品,并通过扩大制造业务、平台硬件、软件工程和支持功能来满足日益增长的客户需求。
“LLM的快速变化以及与数据分析堆栈的合并使得加速器易于编程和调试以及数据可以在 CPU 和加速器之间无缝移动变得至关重要。Rivos 通过我们的重新编译而非重新设计方法来满足这一需求。”Rivos 联合创始人兼首席执行官 Puneet Kumar 说道。
“Rivos 成立的使命是打造业界领先的节能、高性能芯片,”Kumar 说。“我们很高兴能够瞄准正在构建数据驱动解决方案的客户。”
“扩展数据分析和大型语言模型的应用,不仅涵盖文本、图像和视频等传统数据类型,还涵盖基因组和医学数据,为研究和治疗领域的创新带来了前所未有的机遇,”经纬资本管理公司普通合伙人 David Goel 说道。
“Rivos 团队巧妙地将突破性的全新 RISC-V 架构与创造性的加速器集成在一起,有效地将这一愿景变为现实。他们的原型芯片令人信服地展示了他们利用先进台积电 3nm 工艺节点的独特能力——这是很少有初创公司能够实现的壮举。我们热切期待进一步支持公司迈向新的成就领域,以共同的热情和对卓越的承诺来标记每一个里程碑。”David Goel 接着说。
主要是为服务器构建芯片
Rivos对该产品的具体细节守口如瓶,但透露其计划包括设计基于RISC-V架构的芯片,这是Arm、英特尔和Advanced Micro Devices制造的架构的开源替代方案。RISC-V 等指令集架构是半导体设计的构建模块,使用开源替代方案意味着 Rivos 无需向 Arm 支付许可费。
据我们所知,Rivos 押注于人工智能用户的需求,这些用户不需要 Nvidia 公司等最昂贵、最强大的芯片来运行他们的服务。该公司的目标客户是使用数据分析和生成人工智能的客户,寻求利用 ChatGPT 出现后人工智能日益普及的机会。
Rivos 联合创始人兼首席执行官 Puneet Kumar在接受采访的时候也表示,“我们可以瞄准潜在的小型安装,从成本角度来看,英伟达可能显得有些过分。” “我们可以提供一个运行良好且具有良好竞争力的解决方案。”“客户的工作负载可以轻松部署在我们更高效的硬件上,但仍使用他们现有的模型和数据库,让他们立即受益,” Kumar 补充道。
他进一步指出,Rivos 的长期目标是主要为服务器构建芯片,能够处理密集数据分析和人工智能工作负载,包括生成式人工智能工作负载。相关信息也显示,Rivos 正在设计一款服务器芯片,该芯片结合了中央处理单元和人工智能加速器组件,该组件将针对大型语言模型和数据分析进行优化。该公司从编译计算机代码以允许芯片运行程序所需的软件开始,并围绕该软件设计了处理器。
Kuma强调:“通常芯片公司会采用另一种方式:制造芯片,然后在其上构建软件。但Rivos反其道而行之,首先关注软件。”““我们的目标是那些构建数据驱动解决方案的客户,例如利用生成式人工智能和数据分析来推动决策的解决方案,”库马尔说。“有很多公司瞄准了这样的市场,Rivos支持人工智能模型和分析的严格硬件要求,这将重塑企业。”
Walden 创始管理合伙人 Lip-Bu Tan 也表示:“RISC-V 没有(大型)软件生态系统,因此我决定支持一家公司,然后构建软件定义的硬件 - 就像 CUDA 与 Nvidia 所做的一样。” “RISC-V 具有强大的长期潜力,尤其是在数据分析和生成人工智能应用方面。”Lip-Bu Tan 强调。
Rivos 的芯片具有 Kumar 所描述的“数据并行加速器”,可加速人工智能和大数据相关计算,本质上是一种专为图形处理之外的目的而设计的 GPU。如上文所说,这是一个使用台积电3nm工艺打造的芯片,这让他们在与友商竞争的时候有足够的竞争力。
如上所述,除了构建芯片之外,Rivos 还致力于开发基于开放计算项目模块化标准( Open Compute Project modular standard,)的独立数据中心硬件,该硬件将有效地充当即插即用的芯片外壳(chip housing)。库马尔说,它正在创建一个“firmware-to-app”的软件堆栈来对芯片进行编程。
在官网中,Rivos 也重申,公司正在开发一个包含芯片、平台和软件的完整解决方案,该方案:
1、结合了 RISC-V CPU 和数据并行加速器(针对大型语言模型和数据分析而优化的 GPGPU)的优化芯片。CPU 和并行计算的紧密集成在 DDR DRAM 和 HBM 之间共享统一内存,非常适合当今需要 TB 内存的模型和数据库;
2、遵循 M-DNO 指南的参考多芯片 OCP 模块化硬件系统(DC-MHS) 服务器;
3、完整的固件到应用程序开放软件堆栈。UEFI 和 Linux 基础支持标准框架(例如 PyTorch,包括 eager 模式、JAX、Spark 和 PostgreSQL)。这允许重新编译应用程序和模型,而不需要重新设计。
这使用户能够无缝部署 Rivos 产品,并立即开始受益于一流的性能(可缩短洞察时间)和电源效率(可实现市场领先的性能/瓦数、吞吐量),并降低总体拥有成本。
Rivos 同时坚信支持开放生态系统和驱动标准。其工程师通过领导RISC-V International的多项关键计划,并通过 RISC-V 软件生态系统RISE计划与开源 RISC-V 软件开发人员密切合作, 帮助增强 RISC-V 生态系统 。以安全为基础支柱,Rivos 正在将基于 RISC-V 的信任根解决方案 OpenTitan直接集成到其系统芯片中。
一个竞争激烈的市场
随着生成型人工智能热潮的持续,大型科技公司是 Rivos 的潜在客户群体之一,然而它们正在竞相开发自己的用于人工智能和大数据分析的内部芯片。
谷歌正在开发其第五代 TPU,并于最近发布了Axion,这是其首款用于运行模型的专用芯片。亚马逊拥有多个定制芯片系列。微软去年通过 Azure Maia AI 加速器和 Azure Cobalt 100 CPU加入了竞争。Meta 也在慢慢推进自己的芯片设计。
与此同时,数十家初创公司正在争夺定制数据中心芯片市场的份额,该市场今年可能达到 100 亿美元,到 2025 年将翻一番。
Groq是一家开发芯片以比传统硬件更快地运行人工智能模型的公司,最近成立了一个面向企业应用程序和用例的新业务部门;由工程杰出人物吉姆·凯勒 (Jim Keller) 领导的人工智能硬件初创公司Tenstorrent正在寻求将其芯片组推进到数据中心。韩国无晶圆厂人工智能芯片公司Rebellions已筹集数亿美元资金,以提高其数据中心芯片 Atom 的产量。中国也有多家芯片公司浮世蛋蛋
但事实证明,目前芯片领域的主导力量英伟达是很难被推翻的。
得益于人工智能训练 GPU 的需求旺盛,Nvidia在今年成为了一家价值 2 万亿美元的公司,富国银行股票研究公司估计,Nvidia 在数据中心 GPU 领域拥有 98% 的市场份额,随着 Nvidia建立了一个新部门为云计算公司和其他公司设计定制芯片,该公司的数据中心业务在 2023 年第四季度增长了 400% 以上。
鉴于竞争的激烈程度——以及英伟达的霸主地位对潜在竞争对手的资金产生的寒蝉效应——对于一些定制服务器芯片新贵来说,日子过得很艰难。
据报道,在与微软的交易失败后, Graphcore的估值被削减了 10 亿美元,几个月前,该公司表示,由于“极具挑战性”的宏观经济环境,该公司正在计划裁员。英特尔旗下的人工智能芯片公司 Habana Labs 去年裁掉了大约 10% 的员工。同样是在去年,SiFive与 RISC-V 初创公司 Rivos 一样,裁掉了 20% 的员工,并停止了其核心产品线。
在接受媒体采访的时候,Kumar 不愿谈论客户,而 Rivos 的芯片预计要到明年某个时候才能量产。但Kumar 表示,Rivos 拥有 375 名员工和数亿美元的银行存款,因此有能力扩大制造规模,并在平台和软件工程方面加倍努力。
Kumar 表示:“生成式 AI 的快速变化以及与数据分析堆栈的合并使得加速器易于编程和调试以及数据可以在 CPU 和加速器之间无缝移动变得至关重要。” “Rivos 通过我们的‘重新编译而非重新设计’(recompile-not-redesign)方法来满足这一需求。”
还有老生常谈的一点,虽然使用 RISC-V 架构,Rivos 可以潜在地降低成本并提高客户的可定制性。RISC-V 的开源特性使设计过程具有更大的灵活性,有可能带来特定人工智能任务的创新和优化。然而,这个缺点是与专为 x86 或 ARM 等更常见架构设计的现有软件和生态系统可能存在兼容性问题。此外,RISC-V 缺乏广泛的生态系统可能会在与更成熟的架构的竞争中处于劣势。
他们面对另一个挑战是芯片设计和制造的复杂性。半导体行业是资本密集型行业,开发周期长。快速的技术变革也会使现有产品迅速过时,从而给新进入者带来风险。