头部云厂商加速落地自研AI芯片,成本优势是核心驱动力
谷歌今年预计出货332.6万颗TPU,亚马逊Trainium3预期出货量约147万颗。国内自研芯片同样迈入量产周期,阿里自研AI芯片截至今年5月累计出货56万片,字节SeedChip年内量产目标不低于10万颗。头部企业具备直接采购英伟达GPU的渠道,仍持续投入数年时间、数十亿美元推进自研芯片开发,核心驱动因素来自长期算力成本优化。AI计算分为训练与推理两大阶段,训练主要用于模型迭代调试,集中在特定周期开展;推理面向终端用户持续调用,具备全天候不间断运行特征。大模型商用成熟后,单日调用规模可达数亿乃至数十亿次。对于谷歌、亚马逊这类流量平台,专用芯片若能够降低单次推理成本,依托庞大调用基数,长期能够形成可观的费用节约,这也是AIASIC进入规模化部署阶段的底层逻辑。
AI通用GPU与专用ASIC底层设计思路存在显著差异
英伟达GPU核心竞争力在于通用性,可灵活适配语言模型、视频模型等各类AI任务,依托CUDA软件生态形成行业壁垒,当前绝大多数AI开发框架原生适配CUDA体系。通用能力同时带来硬件冗余成本,GPU预留大量通用计算与控制电路来适配多元化任务。ASIC即专用集成电路,设计思路与之相反,针对特定AI计算场景定向开发硬件架构,舍弃不必要通用模块,将芯片面积、功耗资源集中供给高频计算任务。大模型运行过程中矩阵运算占比极高,ASIC会针对性设计矩阵计算单元,同时优化内存架构与数据传输通路,谷歌TPU搭载的MXU单元就是面向矩阵运算的专用计算模块。两者核心区分标准清晰:GPU追求全场景通用,ASIC主动缩减通用性,针对固定计算任务优化算力与功耗。
推理场景更适配ASIC落地,严苛前提决定应用边界
模型训练阶段,网络结构、算子、精度标准、训练策略持续迭代调整,硬件架构若设计过于固化,算法迭代后极易出现运行效率下滑,GPU的灵活属性在训练环节具备不可替代价值。模型完成上线商用之后,面向海量用户持续运行固定版本模型,整体计算流程趋于稳定,当业务体量足够庞大时,具备开发专用芯片的基础条件。
海外科技企业普遍遵循该落地路径:Meta依托海量推荐、广告业务推出MTIA;亚马逊面向自有业务与AWS云客户打造Trainium;微软为Azure与Copilot开发Maia;谷歌围绕搜索、Gemini与云业务持续迭代TPU。ASIC并非全方位优于GPU,规模化落地存在明确约束条件。算力需求规模不足时,高昂研发与流片成本难以摊薄,综合成本高于外购GPU;模型持续快速迭代、计算形态频繁变动,专用芯片架构也容易快速落后。只有计算任务长期稳定、调用体量充足,ASIC长期节省的能耗与算力成本,才有可能覆盖前期巨额投入。相关测试数据显示,谷歌TPUv5e能效约为H100的3倍,TPUv5单位算力成本约为H100的70%,不同测试环境下数据仅作参考,但能够印证大厂自研芯片的降本诉求。
海外大厂迭代方向清晰,训练、推理芯片走向硬件分离
谷歌在今年4月发布第八代TPU,产品完成功能拆分,TPU8t面向训练场景,TPU8i专门服务推理场景,告别过去单套硬件兼顾多种任务的设计思路,针对两类任务的算力需求、内存配置、芯片互联方案独立优化。亚马逊Trainium3处于出货爬坡阶段,今年预期出货147万颗,下一代Trainium4计划12月推出。MetaMTIA300实现量产,现阶段承载搜索与推荐业务,后续MTIA450、500将转向生成式AI推理场景。微软今年2月发布面向推理的Maia200芯片,部署于Azure算力集群,支撑GPT-5.2、Microsoft365Copilot等应用。AIASIC已经从企业内部小规模试验项目转向规模化商用。
DIGITIMESResearch预测全球高端AIASIC出货量由2025年513万颗提升至2026年723万颗;TrendForce测算,2026年搭载AIASIC的服务器占整体AI服务器出货量比例为27.8%,2030年有望提升至39.5%。GPU依旧是算力市场主流,成熟稳定、迭代速度放缓的AI任务,将逐步由ASIC承接。
国内互联网平台同步推进自研NPU,落地逻辑与海外趋同
国内头部企业布局自研AI芯片的底层逻辑和海外厂商保持一致。字节跳动依托抖音推荐、广告业务以及豆包大模型形成海量算力需求,自研SeedChip采用NPU架构,年内量产目标不低于10万颗,远期规划35万颗,芯片优先供给内部业务,不对外售卖。平头哥真武810E已在阿里云落地多个万卡算力集群,今年5月推出真武M890,配套128卡磐久超节点,截至5月平头哥AI芯片累计出货56万片,服务多行业客户。百度昆仑芯P800落地多个万卡集群,7月发布M100芯片,主打云端大规模推理场景。腾讯7月推出紫霄2.0,计划年底将自研芯片部署规模扩充至10万卡级别。
自研芯片侧重需求定义,产业链依托多方协同完成
谷歌TPU这类自研芯片,并非企业独立完成全流程生产制造。自研厂商核心工作为需求定义,明确芯片适配模型、算力指标、内存带宽、网络带宽、功耗上限,并完成整体架构设计。芯片架构确定后,电路设计、IP模块、互联接口等细分环节一般交由专业半导体企业协同开发。芯片设计定稿后,还需要晶圆代工、先进封装环节配合,搭配HBM、PCB、光模块、电源、液冷设备,组装为完整AI服务器。ASIC规模化发展,推动AI算力芯片市场从GPU单一主导,转变为GPU与定制化芯片并行发展。但GPU不会被替代,模型创新训练需要硬件灵活性,大量中小算力需求方也难以承担自研芯片的投入。
具备自研ASIC实力的主体,集中在谷歌、亚马逊、Meta、阿里、字节等拥有持续稳定巨量算力需求的平台企业。ASIC长期市场空间最终取决于核心指标:依托芯片节约的推理成本,能否覆盖芯片研发、量产、部署产生的全部前期投入。
相关公司
寒武纪:国内原生云端 AI ASIC 设计龙头,思元系列芯片采用自研专用架构,面向大模型训练与云端推理,多款产品批量落地国内智算中心。
芯原股份:一站式 ASIC 定制设计服务商,提供 IP 授权与芯片全流程开发服务,承接多家互联网大厂自研 AI 专用芯片设计项目,深度受益云厂商 ASIC 自研浪潮。
云天励飞:自研端侧 AI ASIC 芯片,面向边缘大模型推理场景,依托自有算法场景持续迭代专用算力芯片,实现算法与硬件协同优化。
688***:内存接口芯片龙头,配套 AI ASIC 解决内存带宽瓶颈,高速互连芯片适配各类专用算力芯片,为云端 ASIC 集群提供关键配套硬件。
300***:深耕端侧 AI NPU/ASIC 研发,面向边缘与终端推理场景开发专用算力芯片,持续拓展 AIoT、本地大模型硬件落地场景。
... ...
扫码回复“8-AI ASIC”查看行业公司介绍,并可免费诊股,还可咨询实操指导服务!
作者:于晓明 执业证书编号:A0680622030012
头部云厂商加速落地自研AI芯片,成本优势是核心驱动力
谷歌今年预计出货332.6万颗TPU,亚马逊Trainium3预期出货量约147万颗。国内自研芯片同样迈入量产周期,阿里自研AI芯片截至今年5月累计出货56万片,字节SeedChip年内量产目标不低于10万颗。头部企业具备直接采购英伟达GPU的渠道,仍持续投入数年时间、数十亿美元推进自研芯片开发,核心驱动因素来自长期算力成本优化。AI计算分为训练与推理两大阶段,训练主要用于模型迭代调试,集中在特定周期开展;推理面向终端用户持续调用,具备全天候不间断运行特征。大模型商用成熟后,单日调用规模可达数亿乃至数十亿次。对于谷歌、亚马逊这类流量平台,专用芯片若能够降低单次推理成本,依托庞大调用基数,长期能够形成可观的费用节约,这也是AIASIC进入规模化部署阶段的底层逻辑。
AI通用GPU与专用ASIC底层设计思路存在显著差异
英伟达GPU核心竞争力在于通用性,可灵活适配语言模型、视频模型等各类AI任务,依托CUDA软件生态形成行业壁垒,当前绝大多数AI开发框架原生适配CUDA体系。通用能力同时带来硬件冗余成本,GPU预留大量通用计算与控制电路来适配多元化任务。ASIC即专用集成电路,设计思路与之相反,针对特定AI计算场景定向开发硬件架构,舍弃不必要通用模块,将芯片面积、功耗资源集中供给高频计算任务。大模型运行过程中矩阵运算占比极高,ASIC会针对性设计矩阵计算单元,同时优化内存架构与数据传输通路,谷歌TPU搭载的MXU单元就是面向矩阵运算的专用计算模块。两者核心区分标准清晰:GPU追求全场景通用,ASIC主动缩减通用性,针对固定计算任务优化算力与功耗。
推理场景更适配ASIC落地,严苛前提决定应用边界
模型训练阶段,网络结构、算子、精度标准、训练策略持续迭代调整,硬件架构若设计过于固化,算法迭代后极易出现运行效率下滑,GPU的灵活属性在训练环节具备不可替代价值。模型完成上线商用之后,面向海量用户持续运行固定版本模型,整体计算流程趋于稳定,当业务体量足够庞大时,具备开发专用芯片的基础条件。
海外科技企业普遍遵循该落地路径:Meta依托海量推荐、广告业务推出MTIA;亚马逊面向自有业务与AWS云客户打造Trainium;微软为Azure与Copilot开发Maia;谷歌围绕搜索、Gemini与云业务持续迭代TPU。ASIC并非全方位优于GPU,规模化落地存在明确约束条件。算力需求规模不足时,高昂研发与流片成本难以摊薄,综合成本高于外购GPU;模型持续快速迭代、计算形态频繁变动,专用芯片架构也容易快速落后。只有计算任务长期稳定、调用体量充足,ASIC长期节省的能耗与算力成本,才有可能覆盖前期巨额投入。相关测试数据显示,谷歌TPUv5e能效约为H100的3倍,TPUv5单位算力成本约为H100的70%,不同测试环境下数据仅作参考,但能够印证大厂自研芯片的降本诉求。
海外大厂迭代方向清晰,训练、推理芯片走向硬件分离
谷歌在今年4月发布第八代TPU,产品完成功能拆分,TPU8t面向训练场景,TPU8i专门服务推理场景,告别过去单套硬件兼顾多种任务的设计思路,针对两类任务的算力需求、内存配置、芯片互联方案独立优化。亚马逊Trainium3处于出货爬坡阶段,今年预期出货147万颗,下一代Trainium4计划12月推出。MetaMTIA300实现量产,现阶段承载搜索与推荐业务,后续MTIA450、500将转向生成式AI推理场景。微软今年2月发布面向推理的Maia200芯片,部署于Azure算力集群,支撑GPT-5.2、Microsoft365Copilot等应用。AIASIC已经从企业内部小规模试验项目转向规模化商用。
DIGITIMESResearch预测全球高端AIASIC出货量由2025年513万颗提升至2026年723万颗;TrendForce测算,2026年搭载AIASIC的服务器占整体AI服务器出货量比例为27.8%,2030年有望提升至39.5%。GPU依旧是算力市场主流,成熟稳定、迭代速度放缓的AI任务,将逐步由ASIC承接。
国内互联网平台同步推进自研NPU,落地逻辑与海外趋同
国内头部企业布局自研AI芯片的底层逻辑和海外厂商保持一致。字节跳动依托抖音推荐、广告业务以及豆包大模型形成海量算力需求,自研SeedChip采用NPU架构,年内量产目标不低于10万颗,远期规划35万颗,芯片优先供给内部业务,不对外售卖。平头哥真武810E已在阿里云落地多个万卡算力集群,今年5月推出真武M890,配套128卡磐久超节点,截至5月平头哥AI芯片累计出货56万片,服务多行业客户。百度昆仑芯P800落地多个万卡集群,7月发布M100芯片,主打云端大规模推理场景。腾讯7月推出紫霄2.0,计划年底将自研芯片部署规模扩充至10万卡级别。
自研芯片侧重需求定义,产业链依托多方协同完成
谷歌TPU这类自研芯片,并非企业独立完成全流程生产制造。自研厂商核心工作为需求定义,明确芯片适配模型、算力指标、内存带宽、网络带宽、功耗上限,并完成整体架构设计。芯片架构确定后,电路设计、IP模块、互联接口等细分环节一般交由专业半导体企业协同开发。芯片设计定稿后,还需要晶圆代工、先进封装环节配合,搭配HBM、PCB、光模块、电源、液冷设备,组装为完整AI服务器。ASIC规模化发展,推动AI算力芯片市场从GPU单一主导,转变为GPU与定制化芯片并行发展。但GPU不会被替代,模型创新训练需要硬件灵活性,大量中小算力需求方也难以承担自研芯片的投入。
具备自研ASIC实力的主体,集中在谷歌、亚马逊、Meta、阿里、字节等拥有持续稳定巨量算力需求的平台企业。ASIC长期市场空间最终取决于核心指标:依托芯片节约的推理成本,能否覆盖芯片研发、量产、部署产生的全部前期投入。
相关公司
寒武纪:国内原生云端 AI ASIC 设计龙头,思元系列芯片采用自研专用架构,面向大模型训练与云端推理,多款产品批量落地国内智算中心。
芯原股份:一站式 ASIC 定制设计服务商,提供 IP 授权与芯片全流程开发服务,承接多家互联网大厂自研 AI 专用芯片设计项目,深度受益云厂商 ASIC 自研浪潮。
云天励飞:自研端侧 AI ASIC 芯片,面向边缘大模型推理场景,依托自有算法场景持续迭代专用算力芯片,实现算法与硬件协同优化。
688***:内存接口芯片龙头,配套 AI ASIC 解决内存带宽瓶颈,高速互连芯片适配各类专用算力芯片,为云端 ASIC 集群提供关键配套硬件。
300***:深耕端侧 AI NPU/ASIC 研发,面向边缘与终端推理场景开发专用算力芯片,持续拓展 AIoT、本地大模型硬件落地场景。
... ...
扫码回复“8-AI ASIC”查看行业公司介绍,并可免费诊股,还可咨询实操指导服务!
作者:于晓明 执业证书编号:A0680622030012