（原标题：英伟达投资了一家芯片“竞争敌手”）欧洲杯体育
如果您但愿不错常常碰头，宽待标星保藏哦~
Enfabrica Corp.，一家备受留意的初创公司，正在AI畛域掀翻海潮。旧年9月，该公司在B轮融资中筹集了1.25亿好意思元，并诱骗了AI巨头英伟达的投资，这算是英伟达的一个竞争敌手，因为这家初创公司研发的AI网罗芯片被业界以为有望对英伟达旗下的Mellanox搞定决策组成挑战。而就在本月，Enfabrica再次完成C轮融资，取得了包括Arm、念念科、三星等巨头的1.15亿好意思元的资金撑握。那么，是什么让Enfabrica脱颖而出，诱骗了如斯多行业巨头的握续爱重？
Enfabrica是谁？
Enfabrica这家初创公司树立于2020年，由 Sutter Hill Ventures 资助，由首席奉行官Rochan Sankar、首席开发官 Shrijeet Mukherjee以过甚他工程师创立。该公司创立之初的基本理念是数据中心的网罗结构必须转变，因为底层估计范式正在发生变化：愈加并行、加快、异构和数据移动密集。
图源：Enfabrica
直到 2023 年 3 月，该公司才开动被行业知道。Enfabrica也被The information评为是2024年最有出路的50家初创公司。
不外树立仅4年，该公司却取得了一众老本的招供：
2023年9月，Enfabrica书记融资1.25亿好意思元，B 轮融资由 Atreides Management 领投，现存投资者 Sutter Hill Ventures 参投，新撑握者包括 IAG Capital Partners、Liberty Global Ventures、Nvidia Corp.、Valor Equity Partners 和 Alumni Ventures。
2024年11月19日，该公司书记筹集了1.15亿好意思元可不雅的新现款注入，其C轮融资由 Spark Capital 领投，加入此轮融资的新投资者包括 Arm、Cisco Investments、Maverick Silicon、Samsung Catalyst Fund 和 VentureTech Alliance。旧年参与 B 轮融资的现存投资者 Atreides Management、Sutter Hill Ventures、Alumni Ventures、IAG Capital 和 Liberty Global Ventures 也参与了这次融资。
跟着OpenAI的ChatGPT等假话语模子的兴起，对生成式AI应用以及现在的AI代理产生了巨大的需求，这家初创公司应时推出了其AI网罗互连芯片——ACF-S（Accelerated Compute Fabric-Switch，加快估计结构交换机）。ACF搞定决策是重新开动发明和开发的，旨在搞定GPU网罗痛点以及内存和存储膨胀问题等加快估计的膨胀挑战。包括英伟达在内的驰名投资机构对Enfabrica的纵欲撑握，进一步确认了那时期的买卖可行性和潜在价值。
网罗一语气，需要转变了
在当代AI干事器和数据中心中，存在多种一语气时期，可能好多东谈主会有所无极，在此作纯粹科普。开阔咱们所说的PCIe、英伟达的NVLink、AMD的Fabric这些主如若用于干事器与干事器之间的纵向一语气。而网罗时期则是指用于多个干事器横向一语气，举例AI检会集群中的多节点通讯。
AI检会经由由常常的估计和通讯阶段轮流组成，其中下一阶段的估计需要恭候通讯阶段在统统GPU之间完成后材干启动。通讯阶段的尾部延伸（tail latency，即终末一条音信到达的时辰）成为通盘系统性能的要津打算，因为它决定了统统GPU是否能同步参加下一阶段。在这也曾由中，网罗的进击性愈发突显，网罗通讯需要大约传输更多的数据。若网罗性能不及，这些高成本的估计集群将无法被充分运用。而且，一语气这些估计资源的网罗必须具备极高的效果和成本效益。
在高性能估计（HPC）网罗中，Infiniband、OmniPath、Slingshot是几个横向一语气时期决策。
其中Infiniband主要由NVIDIA（通过其Mellanox子公司）主导，是HPC畛域最老到的网罗时期之一。它以极低的延伸和高带宽著称，撑握良友平直内存拜访（RDMA），凡俗应用于超等估计和AI检会。该时期成本较高，部署和珍惜复杂性较高。咫尺，Nvidia 是 InfiniBand 芯片的最大卖家。举例，英伟达的ConnectX-8 InfiniBand SuperNIC撑握高达800Gb/s的InfiniBand和以太网网罗一语气，大约运行数十万台GPU。
英伟达的ConnectX-8 InfiniBand SuperNIC
（图源：英伟达）
OmniPath是由英特尔推出的一种高性能网罗时期，旨在与Infiniband竞争，天然英特尔于2019年罢手平直开发，但Cornelis Networks袭取了该时期，连接发展。比拟Infiniband，OmniPath的硬件和部署成本更低，允洽中型HPC集群。但OmniPath的市集份额有限，生态系统不如Infiniband老到，时期更新速率较慢。
Slingshot是由Hewlett Packard Enterprise（HPE）旗下的Cray开发的高性能网罗时期。其特色在于与以太网的兼容性，允洽搀和HPC和企业责任负载的场景。不外，Slingshot尚未在市集会被大限度应用，市集接受度和应用案例还有待不雅察。
不外与HPC网罗比拟较，AI对网罗需求建议了更高的条款，已从领先的高性能估计条款转向构建可在加快估计集群之间提供一致、可靠、高带宽通讯的系统，这些集群现在有 10,000 个节点或更大，而且需要以肖似云的干事的形状提供。
为了冲破InfiniBand的独揽，以太网正逐步成为有劲竞争者。以太网虽发祥于通用网罗时期，但其凡俗的生态系统、低成本和冉冉增强的性能，使其在HPC和AI横向一语气时期中崭露头角。以太网的上风在于生态老到和成本效益，但在延伸和专发愤能上仍需奋勉。因而旧年，超等以太网定约(UEC)树立，该定约的方针是“新的期间需要新的网罗”，UEC对新网罗的界说是：性能堪比超等估计互连、像以太网同样无处不在且经济高效、与云数据中心同样可膨胀。UEC的首创成员包括AMD、Arista Networks、Broadcom、念念科系统、Atos 的 Eviden 分拆公司、惠普企业、英特尔、Meta Platforms 和微软。值得一提的是，其后英伟达也加入了这一定约。
开端：超等以太网定约(UEC)
统统这些网罗时期往往依赖于专用的网罗接口卡（NIC）和交换机。面前，AI干事器的网罗组件如NICs、PCIe交换机和Rail Switches，大齐像“烟囱式”（stovepipes）结构同样单独存在（如下图所示），互相之间短少颐养调和，网罗带宽不及，短少可靠的容错机制，难以应答AI检会和推理经由中广阔的数据流量。
图源：Enfabrica
这么的结构脾气还带来了诸多痛点：如在GPU之间传输数据时容易产生拥挤，数据在网罗中需要经过多个开发跳转，加多了延伸；网罗负载分歧不均，可能导致“入汇拥塞”（incast），即多数数据同期到达某少量时激勉的瓶颈；此外，碎屑化和低效果的网罗设想导致AI集群的总成本（TCO）权臣加多，因为存在GPU和估计资源闲置的情况，变成资源奢华与带宽运用率低，GPU间的链路如果发生故障，会导致通盘任务停滞，影响系统的可靠性和适当性。
行业变革日月牙异，现在GPU已经取代CPU成为AI数据中心的中枢处理资源，GPU和加快器估计基础设施的老本开销在环球统统顶级云提供商中占据传统估计开销的主导地位——这一切齐归功于生成式 AI 的市集后劲。但值得提神的是，咫尺部署在这些系统中的网罗芯片，包括一语气加快估计的PCIe交换机、NIC网罗接口执法器和机架顶交换机，依然是为传统x86估计架构期间设想的居品。这些开发上 I/O 带宽的滞后已经成为AI膨胀的瓶颈。
网罗芯片，也需要与时俱进了。本文咱们所描写的Enfabrica公司，他们开发的ACF-S时期有望在这一畛域占据一隅之地。
取代多种网罗芯片，
ACF-S芯片要“革互连的命”
Enfabrica的ACF-S是一种干事器结构芯片，它不使用行业尺度的PCIe交换机和具有RDMA 的以太网网罗接口卡 (NIC)，而是将CXL/PCIe交换功能和RNIC（良友网罗接口卡）功能集成到单一开发中，也即是不再需要PCIe、NIC（网罗接口执法器）或孤苦的CPU一语气DRAM，而且这种步调遗弃了对CXL高档功能的依赖。这种架构和念念路与超等以太网（UEC）白皮书所见解的统统方面齐需要加快器、NIC 和交换机结构之间的调和不约而同。
图源：Enfabrica
Enfabrica 首席奉行官 Rochan Sankar默示：“这不是CXL架构，不所以太网交换机，也不是DPU——它不错作念统统这些事情。这是一类不同的居品，不错搞定不同类别的问题。”
据了解，Enfabrica的ACF-S经受100%基于尺度的硬件和软件接口，包括原生多端口800千兆以太网网罗和高基数PCIe Gen5和CXL 2.0+接口。该结构可平直桥接和互连GPU、CPU、加快器、内存和网罗等各式开发，在这些开发之间提供可膨胀、流式、每秒多TB的数据传输。它将遗弃对专用网罗互连和传统机架顶部通讯硬件的需求，充任通用数据移动器，克服现存数据中心的I/O限制。
也即是说，ACF-S无需转变开发驱动步调之上的物理接口、左券或软件层，即可在单个硅片中收尾异构估计和内存资源之间的多TB交换和桥接，同期大幅减少咫尺 AI 集群中由机架顶部网罗交换机、RDMA-over-Ethernet NIC、Infiniband HCA、PCIe/CXL交换机和一语气 CPU的DRAM所破钞的开发数目、I/O 延伸跨越和开发功率。
通过衔尾私有的CXL内存桥接功能，Enfabrica的ACF-S成为业内首款可为任何加快器提供无头内存膨胀的数据中心硅居品，使单个GPU机架大约平直、低延伸、无争用地拜访腹地CXL DDR5 DRAM，其内存容量是GPU原生高带宽内存 (HBM) 的50倍以上。
成本亦然这家初创公司的卖点之一。这是由于从简了购买NIC和PCIe交换机的用度。据该公司称，Enfabrica的旗舰ACF交换机硅片使客户大约在疏导性能点上将大型话语模子 (LLM) 推理的GPU估计成本镌汰约50%，将深度学习保举模子 (DLRM) 推理的GPU估计成本镌汰75%。
3.2Tbps超高速，收尾50多万GPU互连
2024年11月19日，在超等估计 2024 (SC24) 大会上，Enfabrica书记其突破性的3.2太比特/秒 (Tbps) ACF SuperNIC芯片“Millennium”过甚相应的试点系统 Thames全面上市。Millennium为 GPU 干事器提供多端口 800 千兆以太网一语气，带宽和多旅途弹性是业内任何其他 GPU一语气网罗接口执法器 (NIC) 居品的四倍。Enfabrica芯片将于2025年第一季度开动批量供货。
图源：Enfabrica
Millennium具有高基数、高带宽和并发 PCIe/以太网多旅途和数据移动功能，不错私有地在每个干事器系统中纵向和横向膨胀四到八个最新一代 GPU，为 AI 集群带来前所未有的性能、限度和弹性。Millennium 还引入了软件界说的 RDMA 网罗，将传输堆栈执法权交给数据中心运营商，而不是 NIC 供应商的固件，而不会影响线速网罗性能。
凭借单个ACF-S芯片上的800、400和100千兆以太网接口以及32个网罗端口和160个PCIe通谈的高基数，初次不错使用更高效的两层网罗设想构建卓绝50万个GPU的AI集群，从而收尾集群中统统GPU的最高横向膨胀蒙眬量和最低的端到端延伸。
2层500K+ GPU集群设想（跨统统网罗层的圆善横截面带宽）（图源：Enfabrica）
Enfabrica敬佩其互联时期将成为将来GPU估计网罗的中枢。Constellation Research Inc. 副总裁兼首席分析师Andy Thurai默示，Enfabrica不错为AI网罗畛域提供一个兴味的替代决策，咫尺该畛域由 Nvidia 过甚 Mellanox 搞定决策主导。他解释说，Enfabrica 的一个显然相反是它大约在GPU和CPU之间高速移动数据。
也就说，不仅是GPU，Enfabrica还有望转变CPU的竞争力。Thurai 默示：“这不错让更多公司探索使用CPU而不是GPU来开发东谈主工智能，因为GPU咫尺供应不及。Enfabrica的私有上风在于它使用现存的接口、左券和软件堆栈，因此无需从新一语气基础设施。”
结语
跟着AI模子侦查对效果和成本效益的条款控制晋升，网罗的进击性愈发突显。据650 Group掂量，到2027年，数据中心在估计、存储和网罗芯片高性能I/O畛域的硅片开销将翻倍，卓绝200亿好意思元。这无疑是一块极具诱骗力的市集蛋糕。
英伟达等公司对Enfabrica初创公司的投资，不仅彰显了对那时期翻新的高度招供，更是着眼于将来AI生态策略布局的一步棋。要突破面前东谈主工智能畛域濒临的网罗I/O瓶颈，离不开应用东谈主工智能、GPU估计和高性能网罗畛域的巨匠之间的创造性工程设想和轮廓调和。只好遗弃孤苦竞争，形成协力，材干共同鼓舞时期进步，为行业注入新能源。
半导体宏构公众号保举
专注半导体畛域更多原创本体
暖热环球半导体产业动向与趋势
*免责声明：本文由作家原创。著述本体系作家个东谈主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或撑握，如果有任何异议，宽待联系半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第3955期本体，宽待暖热。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID：icbank
心爱咱们的本体就点“在看”共享给小伙伴哦欧洲杯体育