。正如该文所说,因为苹果的这个起诉,Rivos 在当时面临了融资困难,甚至还经历了裁员。
但到了今年 2 月,有消息指出,根据加州联邦法院提交的一份联合法庭文件,苹果计划就一项指控科技初创公司 Rivos 窃取其与计算机芯片技术相关的商业机密的诉讼达成和解。
而在和解仅两个月后,Rivos 终于传出了好消息,那就是他们拿到了 2.5 亿美金投资。与此同时,虽然没有太多的详细信息,但他们也在这次融资之后,公布了公司的一些芯片规划。
资料显示,Rivos 成立于 2021 年 5 月,组建了一支世界一流的芯片、软件和平台设计师团队。公司的长期愿景是基于 RISC-V,使用工作负载定义的硬件构建行业领先的节能、高性能、安全的服务器解决方案。特别强调一下,Rivos 这个名字来自 RISC- V 和 Open Source 的组合。
Rivos 强调,通过提供结合 RISC-V CPU 和数据并行加速器的优化芯片的完整解决方案、参考多芯片 OCP 模块化服务器和完整的解决方案,公司将支持重塑企业的大型语言模型和数据分析的强烈要求。固件到应用程序的开放软件堆栈。客户工作负载可以使用现有模型轻松部署,从而立即获得 TCO 优势。
在最新的公布中,他们镖旗在其超额认购的 A-3 轮融资中筹集了超过 2.5 亿美元。
这笔资金将使该公司能够流片其首款芯片产品,并通过扩大制造业务、平台硬件、软件工程和支持功能来满足日益增长的客户需求。
LLM 的快速变化以及与数据分析堆栈的合并使得加速器易于编程和调试以及数据可以在 CPU 和加速器之间无缝移动变得至关重要。Rivos 通过我们的重新编译而非重新设计方法来满足这一需求。Rivos 联合创始人兼首席执行官 Puneet Kumar 说道。
Rivos 成立的使命是打造业界领先的节能、高性能芯片,Kumar 说。 我们很高兴能够瞄准正在构建数据驱动解决方案的客户。
扩展数据分析和大型语言模型的应用,不仅涵盖文本、图像和视频等传统数据类型,还涵盖基因组和医学数据,为研究和治疗领域的创新带来了前所未有的机遇, 经纬资本管理公司普通合伙人 David Goel 说道。
Rivos 团队巧妙地将突破性的全新 RISC-V 架构与创造性的加速器集成在一起,有效地将这一愿景变为现实。他们的原型芯片令人信服地展示了他们利用先进台积电 3nm 工艺节点的独特能力——这是很少有初创公司能够实现的壮举。我们热切期待进一步支持公司迈向新的成就领域,以共同的热情和对卓越的承诺来标记每一个里程碑。David Goel 接着说。
Rivos 对该产品的具体细节守口如瓶,但透露其计划包括设计基于 RISC-V 架构的芯片,这是 Arm、英特尔和 Advanced Micro Devices 制造的架构的开源替代方案。RISC-V 等指令集架构是半导体设计的构建模块,使用开源替代方案意味着 Rivos 无需向 Arm 支付许可费。
据我们所知,Rivos 押注于人工智能用户的需求,这些用户不需要 Nvidia 公司等最昂贵、最强大的芯片来运行他们的服务。该公司的目标客户是使用数据分析和生成人工智能的客户,寻求利用 ChatGPT 出现后人工智能日益普及的机会。
Rivos 联合创始人兼首席执行官 Puneet Kumar 在接受采访的时候也表示, 我们可以瞄准潜在的小型安装,从成本角度来看,英伟达可能显得有些过分。 我们可以提供一个运行良好且具有良好竞争力的解决方案。 客户的工作负载可以轻松部署在我们更高效的硬件上,但仍使用他们现有的模型和数据库,让他们立即受益, Kumar 补充道。
他进一步指出,Rivos 的长期目标是主要为服务器构建芯片,能够处理密集数据分析和人工智能工作负载,包括生成式人工智能工作负载。相关信息也显示,Rivos 正在设计一款服务器芯片,该芯片结合了中央处理单元和人工智能加速器组件,该组件将针对大型语言模型和数据分析进行优化。该公司从编译计算机代码以允许芯片运行程序所需的软件开始,并围绕该软件设计了处理器。
Kuma 强调: 通常芯片公司会采用另一种方式:制造芯片,然后在其上构建软件。但 Rivos 反其道而行之,首先关注软件。 我们的目标是那些构建数据驱动解决方案的客户,例如利用生成式人工智能和数据分析来推动决策的解决方案, 库马尔说。 有很多公司瞄准了这样的市场,Rivos 支持人工智能模型和分析的严格硬件要求,这将重塑企业。
Walden 创始管理合伙人 Lip-Bu Tan 也表示:RISC-V 没有(大型)软件生态系统,因此我决定支持一家公司,然后构建软件定义的硬件 - 就像 CUDA 与 Nvidia 所做的一样。 RISC-V 具有强大的长期潜力,尤其是在数据分析和生成人工智能应用方面。Lip-Bu Tan 强调。
Rivos 的芯片具有 Kumar 所描述的 数据并行加速器 ,可加速人工智能和大数据相关计算,本质上是一种专为图形处理之外的目的而设计的 GPU。如上文所说,这是一个使用台积电 3nm 工艺打造的芯片,这让他们在与友商竞争的时候有足够的竞争力。
如上所述,除了构建芯片之外,Rivos 还致力于开发基于开放计算项目模块化标准( Open Compute Project modular standard,)的独立数据中心硬件,该硬件将有效地充当即插即用的芯片外壳(chip housing)。库马尔说,它正在创建一个 firmware-to-app 的软件堆栈来对芯片进行编程。
在官网中,Rivos 也重申,公司正在开发一个包含芯片、平台和软件的完整解决方案,该方案:
1、结合了 RISC-V CPU 和数据并行加速器(针对大型语言模型和数据分析而优化的 GPGPU)的优化芯片。CPU 和并行计算的紧密集成在 DDR DRAM 和 HBM 之间共享统一内存,非常适合当今需要 TB 内存的模型和数据库;
3、完整的固件到应用程序开放软件堆栈。UEFI 和 Linux 基础支持标准框架(例如 PyTorch,包括 eager 模式、JAX、Spark 和 PostgreSQL)。这允许重新编译应用程序和模型,而不需要重新设计。
这使用户能够无缝部署 Rivos 产品,并立即开始受益于一流的性能(可缩短洞察时间)和电源效率(可实现市场领先的性能 / 瓦数、吞吐量),并降低总体拥有成本。
Rivos 同时坚信支持开放生态系统和驱动标准。其工程师通过领导 RISC-V International 的多项关键计划,并通过 RISC-V 软件生态系统 RISE 计划与开源 RISC-V 软件开发人员密切合作, 帮助增强 RISC-V 生态系统 。以安全为基础支柱,Rivos 正在将基于 RISC-V 的信任根解决方案 OpenTitan 直接集成到其系统芯片中。
随着生成型人工智能热潮的持续,大型科技公司是 Rivos 的潜在客户群体之一,然而它们正在竞相开发自己的用于人工智能和大数据分析的内部芯片。
谷歌正在开发其第五代 TPU,并于最近发布了 Axion,这是其首款用于运行模型的专用芯片。亚马逊拥有多个定制芯片系列。微软去年通过 Azure Maia AI 加速器和 Azure Cobalt 100 CPU 加入了竞争。Meta 也在慢慢推进自己的芯片设计。
与此同时,数十家初创公司正在争夺定制数据中心芯片市场的份额,该市场今年可能达到 100 亿美元,到 2025 年将翻一番。
Groq 是一家开发芯片以比传统硬件更快地运行人工智能模型的公司,最近成立了一个面向企业应用程序和用例的新业务部门;由工程杰出人物吉姆 · 凯勒 ( Jim Keller ) 领导的人工智能硬件初创公司 Tenstorrent 正在寻求将其芯片组推进到数据中心。韩国无晶圆厂人工智能芯片公司 Rebellions 已筹集数亿美元资金,以提高其数据中心芯片 Atom 的产量。中国也有多家芯片公司浮世蛋蛋
得益于人工智能训练 GPU 的需求旺盛,Nvidia 在今年成为了一家价值 2 万亿美元的公司,富国银行股票研究公司估计,Nvidia 在数据中心 GPU 领域拥有 98% 的市场份额,随着 Nvidia 建立了一个新部门为云计算公司和其他公司设计定制芯片,该公司的数据中心业务在 2023 年第四季度增长了 400% 以上。
鉴于竞争的激烈程度——以及英伟达的霸主地位对潜在竞争对手的资金产生的寒蝉效应——对于一些定制服务器芯片新贵来说,日子过得很艰难。
据报道,在与微软的交易失败后, Graphcore 的估值被削减了 10 亿美元,几个月前,该公司表示,由于 极具挑战性 的宏观经济环境,该公司正在计划裁员。英特尔旗下的人工智能芯片公司 Habana Labs 去年裁掉了大约 10% 的员工。同样是在去年,SiFive 与 RISC-V 初创公司 Rivos 一样,裁掉了 20% 的员工,并停止了其核心产品线。
在接受媒体采访的时候,Kumar 不愿谈论客户,而 Rivos 的芯片预计要到明年某个时候才能量产。但 Kumar 表示,Rivos 拥有 375 名员工和数亿美元的银行存款,因此有能力扩大制造规模,并在平台和软件工程方面加倍努力。
Kumar 表示: 生成式 AI 的快速变化以及与数据分析堆栈的合并使得加速器易于编程和调试以及数据可以在 CPU 和加速器之间无缝移动变得至关重要。 Rivos 通过我们的‘重新编译而非重新设计’(recompile-not-redesign)方法来满足这一需求。
还有老生常谈的一点,虽然使用 RISC-V 架构,Rivos 可以潜在地降低成本并提高客户的可定制性。RISC-V 的开源特性使设计过程具有更大的灵活性,有可能带来特定人工智能任务的创新和优化。然而,这个缺点是与专为 x86 或 ARM 等更常见架构设计的现有软件和生态系统可能存在兼容性问题。此外,RISC-V 缺乏广泛的生态系统可能会在与更成熟的架构的竞争中处于劣势。
他们面对另一个挑战是芯片设计和制造的复杂性。半导体行业是资本密集型行业,开发周期长。快速的技术变革也会使现有产品迅速过时,从而给新进入者带来风险。