在AI浪潮中,模型参数增长和算力堆叠一度成为竞逐焦点。不过站在当下时点 ,当生成式AI开启规模化落地,战场已经转向推理:真实场景中海量数据的瞬间调用 、百万Token的连续推理、长上下文的高效处理,在提升了算力需求的同时,也重新定义了算力基建的价值链 。
在日前的AI基础设施峰会上 ,英伟达发布了全新Rubin CPX GPU。据官方介绍,这颗芯片专为长上下文推理负载设计,是英伟达首颗专为需要一次性处理大量知识(数百万级别Tokens)并进行AI推理的模型构建的芯片。
英伟达称 ,这颗芯片可以为客户带来“前所未有的投资回报率”——每部署价值1亿美元的新芯片,将带来50亿美元收入,投资回报率约50倍 ,远超GB200 NVL72的约10倍回报率。此外,公司宣布GB300 NVL72机架级系统在最新MLPerf推理基准测试中创造了新推理基准记录 。
花旗研究指出,在ASIC竞争加剧的环境下 ,英伟达曾经一年一度的产品发布脚步开始提速,Rubin CPX在产品路线图中“插队 ”,标志着“推理时代”已经到来。
分析师进一步指出 ,Rubin CPX的发布和MLPerf新纪录都展现了英伟达在AI基建领域的持续创新能力。随着AI推理需求、特别是长语境推理需求爆发,英伟达的新品组合有望带动收入显著增长 。
值得注意的是。本周引发全球市场瞩目的甲骨文,也提到了推理市场需求的爆发。
在业绩会上,公司创始人Larry Ellison明确指出 ,AI正从根本上改变甲骨文,AI推理市场将“远大于”AI训练市场,而市场上的推理算力正在被耗尽 。
虽说甲骨文指数级别的订单爆炸性增长 ,以及随之而来对OpenAI依赖性的质疑,让其股价在飙升之后连跌两天。但摩根大通也表示,承认甲骨文在获取OCI业务方面取得了“令人印象深刻的成就” ,并认可其在AI领域的长期潜力。
▌算力基础设施进入长上下文推理新阶段
实际上拉长时间线就能发现,海内外大厂Token调用量已出现明显加速拐点,推理端算力需求快速增长 。
今年5月Google I/O大会的数据显示 ,Google的Token月均调用量从去年4月的9.7万亿增长至今年4月的480万亿,增长50倍。根据微软三季度电话会数据,Azure AI基础设施在今年一季度处理了超100万亿Token ,较去年同期增长5倍,其中3月份单月Token调用量达50万亿。国内互联网大厂来看,今年5月字节火山引擎Token日均调用量为16.4万亿(月均508T),是去年5月的137倍 。
过去一年 ,随着生成式AI进入规模化落地阶段,行业对“长上下文 ”的需求快速上升。无论是企业级知识库问答、代码生成,还是多模态长视频生成 ,均需要模型在极大输入序列下保持推理准确性与计算效率。然而,现有GPU在应对超长上下文时普遍存在内存带宽瓶颈与计算冗余,导致算力利用率不足。
东吴证券指出 ,从产业角度来看,Rubin CPX的推出不仅是英伟达产品线的升级,更意味着海外算力基础设施进入“上下文与生成分工协作”的新阶段 。随着百万Token推理与长视频生成成为AI应用的标配需求 ,硬件和软件的耦合度显著提高,算力产业链的价值量同步上升。无论是GPU 、存储、网络,还是配套的高速PCB、光模块与封装工艺 ,相关厂商都有望深度受益。
股票配资股票配资:杠杆炒股平台有哪些-阴和俊:在量子科技等领域布局建设未来产业 加强对国家重大科技任务和科技型企业的金融支持
股票杠杆是指什么:配资平台哪个软件好-“十五五”最新关注 一图梳理“4+6”战略新兴及未来产业
配资平台炒股:哪个软件买股票好-利好来袭 全球首款!宁德时代钠新电池已通过新国标认证!
实盘杠杆配资平台:股票杠杆平台软件有哪些-龙头出手!全球最大硅光芯片代工厂诞生 光通信产业范式转向信号?
正规的炒股杠杆平台:国内股票行情软件排名-“雪王”要跨界卖鲜啤?蜜雪集团拟斥3亿元拿下“鲜啤福鹿家”53%股权
炒股的杠杆平台:如何手机买股票-AI重磅!两大巨头牵手!全球掀起新一轮“AI基建”热潮
贵丰配资-配资炒股网站_网上配资平台_在线配资查询服务提示:文章来自网络,不代表本站观点。
国务院新闻办公室9日发布《关于中美经贸关系若干问题的中方立场》白皮书,澄清中美经贸关系事实,阐明中方对相关问题的政策立场...
宏观要闻市场监管总局发布《公平竞争审查条例实施办法》市场监管总局发布《公平竞争审查条例实施办法》,将于4...
淳厚现代服务业A(基金代码:011349)是淳厚基金旗下的一只股票型基金,成立于2021年8月24日。现任基金经理薛莉丽...
文丨财联社积极响应证监会一揽子“活跃举措”,券商在行动!8月21日,中信证券、国泰君安资管、招商...
记者|赵阳戈年初,证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见,市场也将注意力投向了...
记者辛圆3月25日,博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》(以下简称《报告》...
记者闫桂花 王珍中国社会科学院学部委员、中国社会科学院原副院长高培勇周日在“中国发展高层论坛2025年...
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
界面新闻记者|龙力开年两个多月,不少头部量化私募都在积极“上新”。Wind数据显示,截至3月17日,...
据央视新闻报道,在3月23日举行的中国发展高层论坛2025年年会上,中央财经委员会办公室分管日常工作的副主任、中央农村工...
3月24日,易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数,这个指数是什么?有哪些优势?投资价值如何?...
2025年3月24日下午三点A股收盘后,港股科技板块持续走强至四点十分收盘。消息面上,一方面美元相对于人民币连续3个交易...
近日,开源证券大连分公司遭大连证监局处罚,暂停其办理需要合格投资者认定相关业务六个月。该惩处力度在近年来券商分支机构中并...
2025年3月25日,倍轻松(688793.SH)公告称,公司股东宁波倍松投资有限公司(简称“宁波倍松”)拟通过大宗交易...
3月24日,海洋王照明科技股份有限公司(以下简称“海洋王”,002724.SZ)早盘一字跌停,此后股价拉涨,尾盘封涨停板...