Nvidia可能面临越来越大的威胁，包括AMD和英特尔，以及其最大的云合作伙伴——AWS、微软Azure和谷歌云——他们正在打造自己的AI芯片以及其他自主研发的芯片。
但这家AI计算巨头还面临着一小群企业家和投资者的竞争，他们正在用新颖的设计技术支撑新的芯片解决方案，并大肆宣扬如何实现更快速、更高效的AI计算。
这些半导体初创公司包括专注于边缘市场的公司，如Hailo、SiMa.ai和Untether AI，以及为AI数据中心打造芯片的公司，如d-Matrix和Groq Tenstorrent。
但这不完全是关于竞争的。一些半导体初创公司，如Enfabrica和Lightmatter，正在研究互补的芯片技术，例如可以加快AI服务器之间的数据传输速度。
下面就让我们看看2024年最热门的这10家半导体初创公司。
Celestial AI
创始人、首席执行官：David Lazovsky
Celestial AI表示，他们的Photonic Fabric光学互连技术克服了延迟和带宽瓶颈，为AI计算的进步铺平了道路。
这家总部位于美国加利福尼亚州圣克拉拉的初创公司在今年3月宣布，已经完成C轮的“超额认购”融资中获得1.75亿美元资金，这一轮融资是由U.S. Innovative Technology Fund领投的，得到了其他几家投资方的支持，包括AMD、三星、大众集团Porsche SE。
同月，这家初创公司表示，超大规模企业——也就是全球最大的数据中心基础设施消费方——和多家半导体公司“目前正在设计Photonic Fabric光学芯片，作为技术采用的初始阶段”。
随后在10月，Celestial AI宣布已经从硅光子学先驱Rockley Photonics手中收购了知识产权，这项交易包括已经发布的和正在申请的硅光子学相关专利，据Celestial AI称，这“带来了用于光学计算互连的硅光子学领域最强大的一个知识产权组合”。
D-Matrix
联合创始人、首席执行官：Sid Sheth
D-Matrix表示，其新颖的Digital In-Memory Compute (DIMC)架构正在打破生成式AI推理工作负载的内存带宽障碍。
这家总部位于美国加利福尼亚州圣克拉拉的初创公司得到了微软、三星电子和爱立信风险投资部门的支持，在今年11月宣布推出了首款产品Corsair PCIe卡，该产品使用DIMC架构“加速了AI推理工作负载，相比GPU和其他替代方案，具有业界领先的实时性能、能源效率、以及成本节省”。
目前D-Matrix正在向客户提供这款PCIe卡的样品，将在OEM和系统集成商的支持下于明年第二季度广泛上市。支持Corsair卡的厂商包括Supermicro、GigaIO和Liqid。
Enfabrica
首席执行官：Rochan Sankar
Enfabrica表示，正在为GPU服务器提供业内最快的网络接口控制器芯片，其硅片是专为满足AI数据中心的需求而全新打造的。
这家位于美国加利福尼亚州山景城的初创公司在11月宣布，已经在C轮融资中筹集1.15亿美元，以帮助其加速计算结构SuperNIC芯片商业化，并表示，明年第一季度这款芯片在试点系统中推出时，将实现“突破性”的3.2 TB/s带宽。
ACF SuperNIC支持800、400和100千兆以太网接口，以及32个网络端口和160个PCIe 通道的高基数，这让使用两层网络设计的服务器集群能够容纳超过500000个GPU，从而实现“集群中所有GPU的最高横向扩展吞吐量和最低端到端延迟”。
Etched
联合创始人、首席执行官：Gavin Uberti
Etched表示，该公司将整个商业模式押注在所谓全球首个专门用于Transformer AI模型的芯片上。
这家总部位于美国加州旧金山的初创公司在今年6月宣布，已经从包括PayPal联合创始人Peter Thiel、Fontinalis和Skybox Data Centers在内的众多投资方那里筹集了1.2亿美元的资金。
Etched公司在一篇博客文章中声称，在基于Transformer的模型（如大型语言模型）方面，Sohu芯片将“比Nvidia下一代Blackwell B200 GPU快一个数量级且更便宜”，但无法运行任何不基于Transformer架构的模型。
Groq
创始人、首席执行官：Jonathan Ross
Groq表示，它的语言处理单元通过其云服务和本地计算集群实现了极快的AI推理性能。
这家总部位于美国加州山景城的初创公司在今年8月宣布，已经在D轮融资中获得了6.4亿美元，估值达到28亿美元，这轮融资是由BlackRock Private Equity Partners管理的基金和账户领投的，其他投资方包括思科和三星风险投资部门。
早在今年5月，Groq就宣布和美国解决方案提供商巨头Carahsoft达成分销协议，主要面向公共部门客户。随后在9月，Groq宣布和中东石油巨头阿美公司的数字和技术子公司签署了一份谅解备忘录，“在沙特阿拉伯王国建立世界上最大的推理数据中心”。
Hailo
联合创始人、首席执行官：Orr Danon
Hailo正在和Nvidia展开竞争，利用其在优化成本和功耗性能方面处于领先地位的芯片，加速边缘的生成式AI工作负载。
这家总部位于以色列特拉维夫的初创公司在今年4月宣布，作为C轮融资的延伸，已经从投资方那里获得了1.2亿美元，并推出了新的Hailo-10加速器芯片，该芯片可以为PC和汽车信息娱乐系统等设备实现“以最小功耗实现最高的生成式AI性能”。
该公司还宣布了多项合作，包括与Raspberry Pi达成协议，为Raspberry Pi AI Kit提供芯片；与Adlink Technology达成协议，将Hailo-8芯片整合到一款边缘计算平台中；以及与SolidRun达成协议，将其Hailo-15H整合到一款AI视觉应用的系统级模块解决方案中。
Lightmatter
联合创始人、首席执行官：Nick Harris
Lightmatter表示，正在利用3D堆叠光子芯片重塑AI基础设施，这些芯片可以大幅提高AI集群的带宽和性能，同时降低能耗。
这家总部位于美国加州山景城的初创公司在今年10月宣布，在D轮融资中获得了4亿美元，总估值达到44亿美元，这轮融资由T. Rowe Price Associates提供咨询的新投资者领投，谷歌风险投资部门、Fidelity Management和Research Company等投资方也参与其中。
Lightmatter表示，计划利用这笔资金为其Passage光子芯片“在合作伙伴数据中心大规模部署”做好准备，该芯片是“首个以3D形式提供I/O的光子引擎”，有望为GPU和其他类型的处理器“腾出空间”以“支持更多内存”。
SiMa.ai
创始人、首席执行官：Krishna Rangasayee
SiMa.ai希望通过强大而高效的芯片取代Nvidia在边缘生成AI领域的地位，SiMa.ai表示，这种芯片可以在一个“以软件为中心”的平台上处理多种模式。
这家位于美国加利福尼亚州圣何塞的初创公司在今年9月宣布，预计将在今年年底开始向客户推出其新的MLSoC Modalix系列芯片，该系列芯片支持卷积神经网络、Transformer、大型语言模型、大型多模式模型和其他类型的边缘生成式AI模型。SiMa.ai还表示，这些芯片的每瓦性能是其他芯片的10倍。
SiMa.ai在今年4月份宣布已经从投资方那里筹集了7000万美元的资金，其中包括戴尔风险投资部门和Cadence Design Systems执行董事长Lip-Bu Tan。
今年SiMa.ai宣布了多项合作以将其芯片商业化，包括与Lanner达成协议，将其芯片集成到边缘AI设备中；与Arrow Electronics达成欧洲、中东和非洲分销协议；以及与Cvedia和Supermicro达成协议，提供具有AI视频分析功能的边缘设备。
Tenstorrent
首席执行官：Jim Keller
Tenstorrent正在开辟一条AI计算芯片设计的新道路，其商业模式结合了销售专用处理器、授权芯片技术供他人使用、以及与其他公司合作开发计算解决方案。
这家总部位于加拿大安大略省多伦多的初创公司在11月宣布，已经和韩国AI软件公司Moreh达成战略合作伙伴关系，在AI数据中心市场挑战Nvidia。两家公司正在合作开发一种解决方案，把Tenstorrent的神经处理单元与Moreh软件结合起来，支持广泛的AI应用，包括大型语言模型推理和训练。
今年2月，Tenstorrent宣布与日本尖端半导体技术中心达成“多层次合作协议”，后者计划利用Tenstorrent的RISC-V和小芯片技术为其2纳米边缘AI加速器提供支持。Tenstorrent还将成为该芯片的联合设计合作伙伴。
除此之外，Tenstorrent今年还宣布与SingularityNET合作开发针对通用AI优化的硬件和软件架构，推出了基于Wormhole处理器的开发套件和工作站。
Untether AI
首席执行官：Chris Walker
Untether AI表示，其新芯片为运行在边缘和数据中心的应用提供了“全球速度最快、最节能的AI推理”性能。
这家总部位于加拿大多伦多的初创公司是由前英特尔高管Chris Walker领导的，在今年10月宣布推出了speedAI240 Slim AI推理加速器卡，并表示“最近被公认为在 [同行评审的] MLPerf推理基准上实现了全球最低的延迟和最高的吞吐量”。
今年8月Untether AI宣布与印度AI云、模型和服务提供商Ola-Krutrim建立“多方面合作伙伴关系”，其中包括“共同开发Untether AI的下一代数据中心解决方案，这些解决方案将用于Krutrim生成式AI模型的推理部署和微调”。
