
群众GPU算子性能评测榜单SOL-ExecBench近期出现一个值得行业怜惜的信号:无问芯穹在NVIDIA Research推出的这一以硬件表面性能上限为参照的榜单上,先后登顶L1基础算子、L2交融算子、Quant量化与FlashInfer-Bench推理四大赛说念;戒指2026年10月26日,其在一都235说念题中拿下88项单题第一,L1与Quant总分居首,L2与FlashInfer-Bench总分位列第二。对通讯和AI基础设施产业而言,这不是一次简短的“跑分”新闻,而是国产团队在GPU底


群众GPU算子性能评测榜单SOL-ExecBench近期出现一个值得行业怜惜的信号:无问芯穹在NVIDIA Research推出的这一以硬件表面性能上限为参照的榜单上,先后登顶L1基础算子、L2交融算子、Quant量化与FlashInfer-Bench推理四大赛说念;戒指2026年10月26日,其在一都235说念题中拿下88项单题第一,L1与Quant总分居首,L2与FlashInfer-Bench总分位列第二。对通讯和AI基础设施产业而言,这不是一次简短的“跑分”新闻,而是国产团队在GPU底层软件优化、软硬协同和Agent工程化智商上的一次聚积展示,也把“榜单首先”与“生态竞争力”之间的界限问题推到台前。
一、SOL-ExecBench不是粗鄙跑分:它把“硬件光速”算作标尺意会88项第一的含金量,先要看懂这个榜单测什么。
SOL-ExecBench由NVIDIA Research于2026年3月19日推出。SOL是Speed of Light的缩写,在这里指代基于硬件智商推导出的表面性能界限。与传统评测主要比拟“相对软件基线的加快比”不同,SOL-ExecBench引入以硬件性能上限为参照的SOL Score,并在高性能野心卡上进行本色测试。换句话说,它不单看“比默许完满快若干”,还看“离硬件表面上限还有多远”。
榜单题目来自124个确实及前沿AI模子的野心图,共索求235说念算子优化题目,障翳话语、视觉、语音、视频及多模态等领域,辩别为四大赛说念:L1基础算子检会基础野心模块的高效完满;L2交融算子检会多个野心法子的交融实行与协同优化,重心在减少访存、数据搬运和实行支拨;Quant量化算子障翳FP8、NVFP4等低精度野心期间,与大模子推感性能和资本密切关联;FlashInfer-Bench推理算子则聚焦注重力机制、夹杂巨匠网络等在线推理中的关键野心。
这意味着,榜单检会的不是一身的表面代码,而是从确实模子野心图中索求的责任负载,在新一代GPU上的性能极限。同期,这是一个抓续竞争、高频动态刷新的群众榜单。据SF Tensor于2026年9月25日公布的数据,其时已有583支团队累计提交跳跃3.1万次评测,平均约每8分钟就有一条公开提交。Databricks、Cursor、SF Tensor、Recursive、doubleAI、Geometric等团队参与其中,竞争密度可见一斑。
因此,88项单题第一首先是一个阶段性快照:它认知团队在题目障翳广度、优化搜索效能和工程化实行上具备昭彰竞争力;但榜单动态刷新,首先并非暂劳永逸。更伏击的是,刻下测试主要在高性能GPU上完成,收货径直对应的是软件层面临英伟达GPU微架构的优化智商,而弗成简短外推为全栈生态首先。
二、88项第一的期间拆解:单点效能、交融优化与低精度野心把88项第一远离看,不错看到三条不同线索的期间旅途。
第一层是单点跑分上风,聚积体当今L1基础算子。基础算子是GPU野心的“积木”,其完满效直露接影响表层算子组合的性能天花板。能在这个赛说念拿到总分第一,认知团队对线程组织、访存花式、教唆转化等底层细节有系统性累积。但单点跑分强,未便是复杂场景强;它更像是优化智商的“广度经营”。
第二层是软硬协同智商,代表赛说念是L2交融算子。无问芯穹在L2的82说念题目中拿下39项第一,接近半数。交融算子的难点不在单个Kernel写得多快,而在于多个野心法子团结后,如何量度寄存器压力、分享内存占用、同步复杂度和并行度,减少无须要的访存与数据搬运。这要求优化者意会GPU微架构、编译器行动和确实野心图结构,是典型的软硬协同问题。L2接近半数的单题第一,比单纯的基础算子跑分更能认知复杂野心链路的优化智商。
第三层是面向推理场景的低精度与关键算子智商。Quant赛说念障翳FP8、NVFP4等低精度野心,径直干系大模子推理的资本和能效;FlashInfer-Bench则聚焦注重力机制、夹杂巨匠网络等在线推理关键野心。刻下无问芯穹在Quant总分位列第一、FlashInfer-Bench总分位列第二,认知其优化智商也曾蔓延到推理链路的中枢要害,但不同赛说念之间仍有强弱互异。
复旧这些收货的,不是传统兴致上少数巨匠手工调优,而是一套围绕SOL-ExecBench构建的算子优化Agent。其实行架构继承容器化轻佻,将Agent责任区、评测区与调试区解耦:Agent在允许联网、不径直分派GPU的责任区中编写代码并提交野心央求,宿主侧资源转化器长入管理GPU,在 aligned 镜像和集成性能判辨器具的镜像中实行评测与调试,两类实行容器均禁用网络看望,扫尾回传后酿成“代码生成—评磨砺证—性能分析—战术调治”的闭环。
在智商构建上,系统通过模块化Skills接入开源社区的GPU编程学问、性能分析门径和优化器具,通过框架感知Skill匡助Agent意会实行环境和操作界限,并用分享Memory千里淀经过考据的优化战术、适用条目和施行训诫。优化战术则字据责任负载特征分层张开:野心密集型任务怜惜Tensor Core讹诈率、分块面容、数据复用和活水线重复;访存密集型任务优先减少冗余读写、优化团结访存和煦存复用;多算子链路评估交融收益,并探索程序化依赖开动、Persistent Kernel等妙技;小Shape、低延迟任务则胁制线程块数目、界限处理和同步支拨。
这套门径的期间含义在于:GPU算子优化正在从高度依赖巨匠训诫的手工历程,转向可考据、可复用、可限度化实行的自动探索历程。单点跑分是扫尾,Agent化的责任流才是可复制的智商。
三、从GPU Maxxing到Token Maxxing:算子优化为何成为效能闸门放到更大的产业布景下,算子优化的价值不单在榜单。
AI出产力的升沉链条不错概述为“进入—电/卡—Token—出产力—价值”。早期Scaling Law推动下,行业习尚通过进入更多野心资源、最大化GPU效能来晋升模子性能和Token出产,这可称为GPU Maxxing。但跟着Agent发展,Token逐渐成为任求实行的进入,而非最终寄托物。模子不错通过更长的推理、更多轮尝试和考据贬责复杂问题,但单纯加多Token进入并无须然带来任务效果晋升;要是恒久重复同样尝试、无法从实行响应中修正主义,再多Token也可能蹧跶在原地打转。
行业怜惜点因此从GPU Maxxing进一步走向Token Maxxing:既要晋升从“电”到“Token”的升沉效能,也要让更多Token确实升沉为模子智商和任务效能。算子优化刚巧位于这条链条的底部——GPU Kernel实行效直露接影响硬件性能阐明,高效的算子完满经过考据并应用于教师与推理系统后,不错缩小野心支拨,把优化收益蔓延到Token出产要害。
对通讯行业来说,这一逻辑并不远处。跟着算力网络、智算中心和边际推理诞生股东,GPU讹诈率、能效比、推理时延和单元Token资本正在成为算力行状运营的关键经营。运营商和招引商从提供连气儿走向提供“连气儿+算力+智能”行状,底层算子效能会径直影响智算行状的资本结构和SLA阐明。算子优化看似处于软件栈底部,实则是算力行状交易模子中的效能闸门。
四、评测界限:榜单首先未便是生态首先88项第一值得确定,但行业更需要看清它的界限。
其一,是硬件平台界限。刻下收货主要讲解在英伟达GPU上的软件优化智商。大略在群众主流GPU上靠拢硬件性能上限,认知团队对GPU编程模子、编译器具链和微架构有深远意会,这种智商具有跨平台移动的价值。但国产AI芯片、NPU等多元算力平台的教唆集、编译器和内存线索不同,优化训诫弗成自动平移。业界也在探索面向NPU等平台的算子评测,跨硬件平台的智商考据正在成为行业共同课题。对国产AI决策而言,在英伟达GPU上“借说念”累积智商是必要一步,但酿成多元算力适配智商才是生态竞争力的关键。
其二,是题目集界限。235说念题来自124个确实及前沿模子,也曾比合成微基准更接近确实负载;但它们仍是从野心图中索求出的算子题目,弗成弥散等同于端到端教师或推理系统的阐明。确实业务中,算子效能还要与框架转化、集群通讯、存储I/O、网络时延和容错机制协同。单题第一多,认知优化搜索障翳面广;系统级糊涂和逍遥性,则需要另外一套考据。
其三,是竞争界限。榜单高频动态刷新,583支团队、3.1万次提交的竞争强度意味着任何首先都可能被赶快追逐。88项第一是刻下快照,不是结尾。对一个仍在快速演进的评测而言,抓续参赛、抓续迭代的智商比一次名次更伏击。
其四,是评测治理界限。Agent自动优化以提高性能经营为主义时,探索可能偏离算子完满自身,转而尝试修改评测剧本、干瞻望时逻辑或讹诈环境流毒。无问芯穹继承容器轻佻、权限胁制和受控提交代口组成实行界限,这自身认知:Agent越深远底层优化,评测机构越需要完善的治理机制。榜单的实在度,既来自题目瞎想,也来自对“优化”与“绕过”的区分智商。
其五,是生态界限。单点跑分不错依靠团队突击和Agent搜索在较短时辰内晋升;可抓续生态竞争力则波及框架适配、编译器与DSL、算子库、开发者社区、芯片协同和交易落地。无问芯穹这次展示的是Agentic Infra在底层野心优化上的阶段性智商,其持久价值在于能否把优化效能反哺到教师与推理系统,并在更多硬件、更多框架、更多业务场景中复用。从“榜单第一”到“生态竞争力”,中间还隔着工程化、限度化和交易化三说念门槛。
五、对通讯产业的启示:算力效能正在成为网络智能化的底层变量对通讯行业而言,这场榜单竞赛至少提供三点启示。
第一,软硬协同不是标语,而是需要落到编译、算子、框架和硬件的鸠合瞎想。5G-A/6G网络智能化、AI原生网络运维、边际推理等场景,都要求算力在时延、能耗和资本照管下逍遥输出。算子层效能晋升,大略为表层网络智能应用开释更多可用算力。
第二,算力采购和运营需要从“看峰值跑分”转向“看确实负载效能”。榜单收货不错算作期间智商参考,但运营商和行业用户在智算中心诞生、算力网络转化中,更应怜惜确实业务负载下的糊涂、时延、能效和逍遥性。单题第一的数目,未便是端到端业务体验。
第三,国产AI决策需要酿成跨硬件平台的可移植优化体系。在英伟达GPU上讲解软件优化智商是伏击累积,但下一步更关键的是把Agent化、自动化的算子优化智商移动到多元算力平台,酿成可复用的器具链和门径论。谁能率先买通“跨芯片、跨框架、跨场景”的优化闭环,谁更有可能不才一阶段的AI基础设施竞争中占据主动。
88项第一是一个清醒信号:国产团队在GPU底层软件优化和Agent工程化上也曾具备群众竞争力。但榜单首先仅仅最先。确实的竞争,正在从单点跑分转向软硬协同,再转向可抓续的生态竞争力。对通讯产业和AI基础设施而言,接下来要看的不是某一次名次,而是这些优化智商能否进入确实系统、行状确实业务开云体育(中国)官方网站,并在多元算力生态中抓续复用。