首页 热点资讯文章正文

比GPU强100倍的芯片,挑战AI芯片霸主

热点资讯 2025年12月19日 00:36 2 cc

公众号记得加星标⭐️,第一时间看推送不会错过。

近日,Mythic 公司实现了戏剧性的转变,在由 DCVC 领投的超额认购融资轮中筹集了 1.25 亿美元,旨在解决人工智能在数据中心和边缘面临的最大问题——其永无止境、破坏性的能源消耗。该公司的架构比当今顶级 GPU 和所有竞争对手的 AI ASIC 的能效高出 100 倍。

Mythic 凭借其模拟处理单元 (APU) 开启了加速计算的新时代——这是一种与传统 AI 推理截然不同的方法,它将计算和内存融合于同一平面。通过克服传统数字架构的能耗瓶颈,Mythic 在边缘设备、自主系统和数据中心领域实现了无与伦比的每瓦性能

Mythic拥有唯一一款能效接近人脑的半导体架构,并且能够服务于人工智能市场的各个领域。其模拟人工智能芯片支持机器人、汽车和国防行业的AI模型,以及数据中心中参数超过1T的大型语言模型(LLM)。

除了大幅节能之外,Mythic的芯片还能显著降低成本和延迟,同时大幅提升吞吐量。Mythic拥有全球首款量产的模拟计算芯片,并已获得美国国防部、主要汽车OEM厂商和主要国防合作伙伴的验证,这使美国在全球人工智能领导地位的竞争中占据了巨大优势,因为最终的胜利不再取决于哪个国家能够以灾难性的经济和环境代价,最快地生产出最多的电力。

在Mythic经历了一段密集的转型期后,该公司获得了新的融资。在新领导层的带领下,Mythic彻底重建了其架构、路线图、软件和战略。这一进展说服了由深度科技风险投资公司DCVC(自2016年以来一直支持Mythic)牵头的投资财团,该财团成员包括NEA、Atreides、Future Ventures、软银韩国(SBVA)、S3 Ventures、Linse Capital、One Madison Group、Catapult、UDC等众多机构。除了这些顶尖的风险投资基金外,本田汽车和洛克希德·马丁公司也加入了投资行列,这两家公司分别位列各自行业(汽车和国防)的世界前十,它们的加入将助力Mythic在人工智能正在变革的两个至关重要的万亿美元市场中迅速发展。

Mythic APU将增强GPU性能,解决AI能源危机

对于人工智能领域的GPU而言,巨大的能耗已成为一个生死攸关的问题:预计到本十年末,美国电网十分之一的电力将用于运行由GPU驱动的人工智能工作负载的数据中心。尽管GPU推动了生成式人工智能的兴起,但它们如今却面临着“能耗墙”的困境,因为它们是1945年左右的芯片设计架构——冯·诺依曼架构的遗物。在冯·诺依曼架构中,内存和计算在物理上是分离的,从设计到构建都彼此独立。这种分离迫使现代芯片在内存和处理器之间来回传输数据,消耗的能量比实际需要多出三个数量级,导致人工智能领域90%的能源都被浪费掉了。现有的基于GPU的人工智能加速器试图通过高带宽内存(HBM)来弥补这一缺陷,但这种昂贵且效果甚微的改进无法阻止当前人工智能系统最终因“能耗墙”而崩溃。

Mythic 的计算机架构不区分处理器和内存,而是将它们视为一体,就像人脑一样。更重要的是,Mythic 的 APU 以模拟方式执行 AI 工作负载中最繁重的部分,即矩阵乘法——这与人脑的运作方式非常相似。其结果是 AI 领域前所未有的能效水平——Mythic 目前的 APU 架构每瓦特每秒可执行 120 万亿次运算 (TOPS),比当今顶级 GPU(包括内存传输)的性能高出 100 倍,同时精度也高于运行在更高精度下的冯·诺依曼架构。

Mythic公司基本上找到了一种能够模拟人脑规模的方法。该公司开发的AI不仅拥有卓越的推理能力,而且能耗极低,令人印象深刻。Mythic的APU在能耗方面是硅芯片中最接近人脑的,一次乘加运算(MAC)——也就是大型矩阵乘法——仅消耗17飞焦耳的能量,而这种运算占当今AI数学工作负载的95%。这比在现有GPU上执行相同运算的能效高出1000倍。

Mythic 由前 NVIDIA 高管 Taner Ozcelik 领导,他创立了 NVIDIA 的汽车业务,并在十多年间持续发展壮大。Mythic 计划进军四个万亿美元产业:数据中心、汽车、机器人和国防,其独特的战略是成为 AI 领域每瓦性能的绝对领导者,并实现 100% 的研发杠杆,就像 NVIDIA 在其 GPU 领域所做的那样。

奥兹切利克博士表示:“Mythic公司将凭借这一根本洞察赢得市场:能效将决定人工智能计算的未来。正如GPU凭借其每瓦性能优势成为除CPU之外的首选加速计算机一样,我们超高能效的APU也将成为除GPU之外的首选加速计算机。”

Mythic 的新一代 APU 使 AI 的扩展性远胜于 GPU,因为相关网络越复杂,APU 在能效方面的优势就越明显。APU 可以轻松扩展到 1T 参数模型,无论是 2D 还是 3D,而且无需像 GPU 那样通过 NVLINK 建立高速 APU 间连接。内部基准测试表明,在运行 1T 参数 LLM 时,Mythic APU 的每瓦每秒令牌数 (Tokens/s/W) 比 NVIDIA 的高端 GPU 高出 750 倍。

NEA合伙人Aaron Jacobson表示:“NEA很高兴能与Mythic富有远见的领导团队合作,共同致力于利用深度科技创新颠覆万亿美元市场。他们的APU平台是对人工智能基础设施的全新革新,突破了当前能源和成本的限制。这笔重要的新融资将为Taner和Mythic提供充足的资金,使其能够快速、大规模地执行项目,并彻底淘汰过时的芯片架构。”

此外,Mythic APU 的“神经元”由高度成熟的硅存储单元(迄今为止已出货 1500 亿个)构成,这些单元采用标准半导体材料制造。而且,Mythic 的芯片在美国及其盟友国家生产。这种制造策略和布局使 Mythic 相对于使用 GPU 的现有竞争对手以及新兴的模拟计算竞争对手而言,都拥有巨大的优势。下一代 Mythic APU 展现出巨大的成本优势,内部基准测试表明,与最新的 GPU 相比,其每百万代币成本最多可降低 80 倍,在 1000 亿 LLM 模型中每百万代币的成本低至 0.5 美分,在 1T 参数模型中每百万代币的成本低至 4 美分。

Future Ventures创始人兼董事总经理Steve Jurvetson是Mythic的首批投资人之一,最近重新加入董事会。他表示:“Mythic采用了一种全新的方法来构建低功耗、低成本的神经网络,这可以使任何产品更加智能。Mythic可以在单个晶体管中完成8位乘法和加法运算(人工智能计算的核心要素)!没有任何数字设计能够达到如此高的效率。计算和存储在这里合二为一,就像大脑一样。我们很高兴看到Mythic在每美元计算量和每瓦计算量方面继续超越所有数字芯片。”

边缘感知和卓越的软件开发工具包

Mythic凭借其突破性的节能架构,发明了一种名为Starlight的新型传感设备。该设备功耗低于1瓦,并集成了Mythic APU,通过模拟AI从噪声中提取信号,将图像传感器的性能提升了50倍。这带来了显著的性能提升,尤其是在对任务关键型应用至关重要的领域,例如弱光性能,其效果与顶级图像传感器相比可谓“天壤之别”。这项技术的应用前景无限广阔,涵盖国防、机器人、汽车等众多领域。Mythic是唯一一家能够将强大而超低功耗的AI引擎集成到传感器中的公司,这项创新堪称一项意义重大的救命技术。

自去年加入Mythic以来,Ozcelik博士更加专注于软件开发和SDK成熟度,以有效对抗NVIDIA根深蒂固的CUDA平台。Mythic的CAMP(内存模拟计算处理)SDK目前已支持在其第一代APU上流畅运行深度神经网络(DNN)应用程序,并原生支持ONNX、PyTorch和TensorFlow,同时还可通过NVIDIA的TensorRT在包括NVIDIA Jetson在内的多个CPU平台上运行。最近,一项德国研究报告显示,CAMP在同类内存计算处理器中成熟度最高。

凭借此轮新融资,Mythic 有望在所有关键任务型人工智能推理市场带来巨大变革,为数据中心、机器人、汽车和国防领域的逻辑层模型 (LLM) 和深度神经网络 (DNN) 带来显著的能效和成本优势。该公司已做好充分准备,引领人工智能领域两大重要浪潮:推理时间扩展和物理人工智能。Mythic 的技术路线图实力雄厚,其下一代技术有望使用户无需网络连接即可在口袋里使用 ChatGPT3+ 级别的逻辑层模型,而成本仅为现有解决方案的百分之一左右。

DCVC联合创始人兼管理合伙人马特·奥科表示:“Mythic现在完全有能力扩展全球下一代伟大的计算架构。该公司来之不易的突破将确保人工智能不会剥夺世界各地人们赖以生存的能源,并将赋予美国维护自由世界安全所需的人工智能优势。塔纳和他的团队取得了一项文明的进步。”

(来源:半导体行业观察综合)

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

END

今天是《半导体行业观察》为您分享的第4260期内容,欢迎关注。

加星标⭐️第一时间看推送,小号防走丢

比GPU强100倍的芯片,挑战AI芯片霸主

求分享

比GPU强100倍的芯片,挑战AI芯片霸主

求推荐

比GPU强100倍的芯片,挑战AI芯片霸主

发表评论

德业号 网站地图 Copyright © 2013-2024 德业号. All Rights Reserved.