高通最新AI白皮书:AI变革正在推动终端侧推理创新

智能Pro

1天前

近期对AI模型训练方式的颠覆变革和重新评估验证了AI格局即将向大规模推理转变的趋势,这将形成全新边缘侧推理计算的创新和升级周期。

???



重要提醒!微信推荐机制大幅调整,大家务必将我们公众号设为星标,否则很可能看不到推送了......


DeepSeek R1的推出标志着AI行业的一次重大变革。以DeepSeek R1蒸馏模型为代表的新一代终端侧推理模型性能获得了极大的提升,如今,我们已经可以在终端侧看到过去只能在云端实现的AI性能,这将开启安全、可靠的终端侧AI处理未来。

高通技术公司发布最新白皮书《AI变革正在推动终端侧推理创新》,深入阐述DeepSeek R1推出这一关键时刻背后所代表的更广泛的AI行业大潮。在训练成本下降、快速推理部署和针对边缘环境的创新推动下,AI正在经历重要变革。科技行业不再仅仅聚焦于竞相构建更大的模型,而是转向如何在边缘侧实际应用中高效地部署模型。对大型基础模型的蒸馏已催生大量更智能、更小型、更高效的模型,使各行业能够更快地规模化集成AI,特别是在终端侧加速集成。

以下为《AI变革正在推动终端侧推理创新》白皮书的内容摘要。

尖端AI推理模型DeepSeek R1一经问世,便在整个科技行业引起波澜。因其性能能够媲美甚至超越先进的同类模型,颠覆了关于AI发展的传统认知。

这一关键时刻是更广泛趋势的一部分,凸显了行业在打造高质量小语言模型和多模态推理模型方面的创新,以及这些创新正在为AI的商用应用和终端侧推理落地做好准备。这些新模型能够在终端侧运行,将加速强大边缘侧芯片的规模化扩展,并创造对此类芯片的需求。

四大趋势正在显著提高目前可在终端侧运行的AI模型的质量、性能和效率,从而推动上述变革:

  • 当前先进的AI小模型已具有卓越性能。模型蒸馏和新颖的AI网络架构等新技术能够在不影响质量的情况下简化开发流程,让新模型的表现超越一年前推出的仅能在云端运行的更大模型。

  • 模型参数规模正在快速缩小。先进的量化和剪枝技术使开发者能够在不对准确性产生实质影响的情况下,缩小模型参数规模。

  • 开发者能够在边缘侧打造更丰富的应用。高质量AI模型快速激增,意味着文本摘要、编程助手和实时翻译等特性在智能手机等终端上的普及,让AI能够支持跨边缘侧规模化部署的商用应用。

  • AI正在成为新的UI。个性化多模态AI智能体将简化交互,高效地跨越各种应用完成任务。

高通技术公司在引领并利用从AI训练向大规模推理转型,以及AI计算处理从云端向边缘侧扩展方面具有战略优势。公司在开发定制CPU、NPU、GPU和低功耗子系统领域取得了广泛的成就。通过与模型厂商展开合作,以及面向跨不同边缘终端领域的模型部署提供工具、框架和SDK,高通技术公司赋能开发者在边缘侧加速采用AI智能体和应用。

近期对AI模型训练方式的颠覆变革和重新评估验证了AI格局即将向大规模推理转变的趋势,这将形成全新边缘侧推理计算的创新和升级周期。尽管模型训练仍将在云端进行,但推理将受益于采用高通®技术的广泛终端规模,并催生更多边缘侧AI赋能处理器的需求。

高通公司总裁兼CEO安蒙(Cristiano Amon)也在高通公司2025财年第一季度的财报电话会议中分享了他对当前AI行业发展趋势的看法。

他表示,“高通先进的连接、计算和边缘AI技术以及产品组合持续保持着高度差异化,在多个行业中越发重要。高通对业务中不断增长的边缘侧AI机遇保持乐观、积极的态度,尤其是在我们迎来新一轮AI创新和规模化扩展周期之际。近期的DeepSeek R1及其他类似模型展示了AI模型的发展速度越来越快,它们变得更小、更强大、更高效,并且可以直接在终端侧运行。事实上,DeepSeek R1的蒸馏模型在发布仅几天内就能在搭载骁龙平台的智能手机和PC上运行。随着我们进入AI推理时代,我们期待模型训练仍将在云端进行,但推理将越来越多地在终端侧运行,使AI变得更便捷、可定制且高效。这将促进更多有针对性的专用模型和应用的开发和采用,并因此推动各类终端对高通平台的需求。凭借行业最强大和高效的边缘侧AI处理器,我们对推动这一转型独具优势,并将从即将到来的变革中受益。”

聚焦DeepSeek专题banner(补充标题)(1).jpg

关注设星标,两步不失联

???

聚焦DeepSeek
1、DeepSeek-R1大战豆包、Kimi,国产AI大模型第一花落谁家?
2、我把DeepSeek装进了电脑里:生成能力一般,但确实很好玩
3、DeepSeek,引爆AI手机?!!!
4、AI闯入了玄学圈!我用DeepSeek算命,结果真绝了!
5、DeepSeek太猛了!人形机器人靠它了?
6、我用Deepseek开发了款文字冒险游戏:AI创造力太牛X了
7、DeepSeek逆袭,凭什么?
8、DeepSeek,引爆AI汽车?!
9、这一波DeepSeek硬件,把我看傻了
10、一举“干翻”英伟达!DeepSeek震惊世界,国产AI忽然这么强了?
11、联想个人智能体“小天”接入DeepSeek 打造更便捷AI交互体验

12、优惠结束!DeepSeek不再是性价比之王?全球六大模型PK结果出炉

13、靠着DeepSeek,我3小时拿下鸿蒙开发者认证!

14、百度文心一言免费!体验真不如DeepSeek?我们评测了一番

15、文心一言免费!这次轮到DeepSeek颤抖了?

16、海信长虹官宣!DeepSeek风吹到电视圈,AI TV要爆发了?

17、联想moto接入DeepSeek-R1满血版!无需下载,点击即用

18、小心!App狂蹭DeepSeek热度,千万别花冤枉钱

19、太牛了!我用400块的“洋垃圾”,跑通了DeepSeek!

20、微信突然上线!AI新功能太炸裂了

21、雷军夸赞DeepSeek却不接入,小米咋回事?

22、百度搜索接入DeepSeek!打不过就加入?其实意在AI搜索

23、OpenAI服软!DeepSeek掀开源狂潮:四模型同日开源

24、当华为小艺试图挑战 DeepSeek……丨视频

25、DeepSeek爆发致“AI六小强”边缘化?活下去才是硬道理

26、罗福莉深夜发声!热衷「封神」的AI圈,不需要「天才少女」

近期对AI模型训练方式的颠覆变革和重新评估验证了AI格局即将向大规模推理转变的趋势,这将形成全新边缘侧推理计算的创新和升级周期。

???



重要提醒!微信推荐机制大幅调整,大家务必将我们公众号设为星标,否则很可能看不到推送了......


DeepSeek R1的推出标志着AI行业的一次重大变革。以DeepSeek R1蒸馏模型为代表的新一代终端侧推理模型性能获得了极大的提升,如今,我们已经可以在终端侧看到过去只能在云端实现的AI性能,这将开启安全、可靠的终端侧AI处理未来。

高通技术公司发布最新白皮书《AI变革正在推动终端侧推理创新》,深入阐述DeepSeek R1推出这一关键时刻背后所代表的更广泛的AI行业大潮。在训练成本下降、快速推理部署和针对边缘环境的创新推动下,AI正在经历重要变革。科技行业不再仅仅聚焦于竞相构建更大的模型,而是转向如何在边缘侧实际应用中高效地部署模型。对大型基础模型的蒸馏已催生大量更智能、更小型、更高效的模型,使各行业能够更快地规模化集成AI,特别是在终端侧加速集成。

以下为《AI变革正在推动终端侧推理创新》白皮书的内容摘要。

尖端AI推理模型DeepSeek R1一经问世,便在整个科技行业引起波澜。因其性能能够媲美甚至超越先进的同类模型,颠覆了关于AI发展的传统认知。

这一关键时刻是更广泛趋势的一部分,凸显了行业在打造高质量小语言模型和多模态推理模型方面的创新,以及这些创新正在为AI的商用应用和终端侧推理落地做好准备。这些新模型能够在终端侧运行,将加速强大边缘侧芯片的规模化扩展,并创造对此类芯片的需求。

四大趋势正在显著提高目前可在终端侧运行的AI模型的质量、性能和效率,从而推动上述变革:

  • 当前先进的AI小模型已具有卓越性能。模型蒸馏和新颖的AI网络架构等新技术能够在不影响质量的情况下简化开发流程,让新模型的表现超越一年前推出的仅能在云端运行的更大模型。

  • 模型参数规模正在快速缩小。先进的量化和剪枝技术使开发者能够在不对准确性产生实质影响的情况下,缩小模型参数规模。

  • 开发者能够在边缘侧打造更丰富的应用。高质量AI模型快速激增,意味着文本摘要、编程助手和实时翻译等特性在智能手机等终端上的普及,让AI能够支持跨边缘侧规模化部署的商用应用。

  • AI正在成为新的UI。个性化多模态AI智能体将简化交互,高效地跨越各种应用完成任务。

高通技术公司在引领并利用从AI训练向大规模推理转型,以及AI计算处理从云端向边缘侧扩展方面具有战略优势。公司在开发定制CPU、NPU、GPU和低功耗子系统领域取得了广泛的成就。通过与模型厂商展开合作,以及面向跨不同边缘终端领域的模型部署提供工具、框架和SDK,高通技术公司赋能开发者在边缘侧加速采用AI智能体和应用。

近期对AI模型训练方式的颠覆变革和重新评估验证了AI格局即将向大规模推理转变的趋势,这将形成全新边缘侧推理计算的创新和升级周期。尽管模型训练仍将在云端进行,但推理将受益于采用高通®技术的广泛终端规模,并催生更多边缘侧AI赋能处理器的需求。

高通公司总裁兼CEO安蒙(Cristiano Amon)也在高通公司2025财年第一季度的财报电话会议中分享了他对当前AI行业发展趋势的看法。

他表示,“高通先进的连接、计算和边缘AI技术以及产品组合持续保持着高度差异化,在多个行业中越发重要。高通对业务中不断增长的边缘侧AI机遇保持乐观、积极的态度,尤其是在我们迎来新一轮AI创新和规模化扩展周期之际。近期的DeepSeek R1及其他类似模型展示了AI模型的发展速度越来越快,它们变得更小、更强大、更高效,并且可以直接在终端侧运行。事实上,DeepSeek R1的蒸馏模型在发布仅几天内就能在搭载骁龙平台的智能手机和PC上运行。随着我们进入AI推理时代,我们期待模型训练仍将在云端进行,但推理将越来越多地在终端侧运行,使AI变得更便捷、可定制且高效。这将促进更多有针对性的专用模型和应用的开发和采用,并因此推动各类终端对高通平台的需求。凭借行业最强大和高效的边缘侧AI处理器,我们对推动这一转型独具优势,并将从即将到来的变革中受益。”

聚焦DeepSeek专题banner(补充标题)(1).jpg

关注设星标,两步不失联

???

聚焦DeepSeek
1、DeepSeek-R1大战豆包、Kimi,国产AI大模型第一花落谁家?
2、我把DeepSeek装进了电脑里:生成能力一般,但确实很好玩
3、DeepSeek,引爆AI手机?!!!
4、AI闯入了玄学圈!我用DeepSeek算命,结果真绝了!
5、DeepSeek太猛了!人形机器人靠它了?
6、我用Deepseek开发了款文字冒险游戏:AI创造力太牛X了
7、DeepSeek逆袭,凭什么?
8、DeepSeek,引爆AI汽车?!
9、这一波DeepSeek硬件,把我看傻了
10、一举“干翻”英伟达!DeepSeek震惊世界,国产AI忽然这么强了?
11、联想个人智能体“小天”接入DeepSeek 打造更便捷AI交互体验

12、优惠结束!DeepSeek不再是性价比之王?全球六大模型PK结果出炉

13、靠着DeepSeek,我3小时拿下鸿蒙开发者认证!

14、百度文心一言免费!体验真不如DeepSeek?我们评测了一番

15、文心一言免费!这次轮到DeepSeek颤抖了?

16、海信长虹官宣!DeepSeek风吹到电视圈,AI TV要爆发了?

17、联想moto接入DeepSeek-R1满血版!无需下载,点击即用

18、小心!App狂蹭DeepSeek热度,千万别花冤枉钱

19、太牛了!我用400块的“洋垃圾”,跑通了DeepSeek!

20、微信突然上线!AI新功能太炸裂了

21、雷军夸赞DeepSeek却不接入,小米咋回事?

22、百度搜索接入DeepSeek!打不过就加入?其实意在AI搜索

23、OpenAI服软!DeepSeek掀开源狂潮:四模型同日开源

24、当华为小艺试图挑战 DeepSeek……丨视频

25、DeepSeek爆发致“AI六小强”边缘化?活下去才是硬道理

26、罗福莉深夜发声!热衷「封神」的AI圈,不需要「天才少女」

展开
打开“财经头条”阅读更多精彩资讯
APP内打开