东吴证券:端侧AI革新驱动硬件内存升级 多模态交互开启智能终端新纪元

智通财经

1个月前

智通财经APP获悉,东吴证券发布研报称,端侧AI正通过模型压缩、内存创新及多模态交互界面革命加速终端智能化进程。

智通财经APP获悉,东吴证券发布研报称,端侧AI正通过模型压缩、内存创新及多模态交互界面革命加速终端智能化进程。据机构测算,预计2023-2028年端侧AI市场规模CAGR达58%,2028年突破1.9万亿元。对比各家硬件,该行认为苹果(AAPL.US)在内存/电池/散热上提升空间巨大。该行认为内存及其操作带来的能耗是当前最短板,预计成为硬件核心变革方向。大模型技术推动人机交互从“以指令为中心”向“以意图为中心”跃迁,苹果(内存创新)与谷歌(UI交互模型)等巨头引领硬件与算法协同突破。

东吴证券主要观点如下:

端侧AI革新人机交互,模型快速升级,巨头引领行业发展

AI自主化能力沿着“以指令为中心“到“以意图为中心”持续提升。LLM从各个层面改造终端,其中Agent对开放式问题必不可少,背后是大模型带来的理解复杂输入、进行规划推理/合理使用工具的能力。据头豹,端侧AI市场规模2023-2028年预计CAGR高达58%,2028年超过1.9万亿元。从具体小模型性能表现上看,参数量对模型性能影响巨大,但受限于硬件,小模型的技术创新更加积极以提升有限参数量下的性能表现,其中量化/剪枝/蒸馏是最主要的模型压缩方式,各家小模型因数据集/压缩精度/量化混合方式等差异预计带来小模型的百花齐放。Agent架构中,基础模型本身要引入新的输入类型,成为VLA模型,同时还增加了个性化和内存操作要求,均需要额外的优化。

硬件变革核心在内存,苹果发力内存创新应对内存瓶颈

相比于云端模型,硬件是端侧模型的重要制约,需要升级以补齐短板。对比各家硬件,我们认为苹果在内存/电池/散热上提升空间巨大。我们认为内存及其操作带来的能耗是当前最短板,预计成为硬件核心变革方向,如半精度的7B模型仅参数加载占用DRAM就超过14GB,同时DRAM耗能比SRAM和计算高出两个数量级。同时iOS和安卓内存利用效率差异巨大,我们认为安卓需要在OS层提供统一的AI基础模型,而iOS在模型压缩之外则需要提高硬件内存以克服硬件瓶颈。除了简单的增加内存容量外,苹果在内存结构、耗能、传输速度等方面创新密集,如与三星合作开发独立封装形式,以及推进全新的WMCM封装方式进一步提高芯片组合的灵活性和集成度。

多模态UI交互界面革命带来Agent的历史机遇

根据交互的模式,任务执行方法可分为基于API和基于用户界面(UI)的方法。API交互泛用性较弱。UI界面方式在Transformer架构下较好克服了任务和UI元素之间的隐含关系,大幅提升了GUIAgent的可行性,有望成为主流。当前苹果和谷歌均发力UI交互模型,苹果的Ferret-UI和谷歌的Screen AI模型都采用读屏AI视觉语言模型,采用统一编码方式理解屏幕信息。从谷歌UI模型看,模型参数提升对性能影响较大,同时5B模型对性能提升尚未饱和,有必要继续提升模型性能。

风险提示:底层创新不及预期,技术发展不及预期,竞争加剧风险。

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com   

智通财经APP获悉,东吴证券发布研报称,端侧AI正通过模型压缩、内存创新及多模态交互界面革命加速终端智能化进程。

智通财经APP获悉,东吴证券发布研报称,端侧AI正通过模型压缩、内存创新及多模态交互界面革命加速终端智能化进程。据机构测算,预计2023-2028年端侧AI市场规模CAGR达58%,2028年突破1.9万亿元。对比各家硬件,该行认为苹果(AAPL.US)在内存/电池/散热上提升空间巨大。该行认为内存及其操作带来的能耗是当前最短板,预计成为硬件核心变革方向。大模型技术推动人机交互从“以指令为中心”向“以意图为中心”跃迁,苹果(内存创新)与谷歌(UI交互模型)等巨头引领硬件与算法协同突破。

东吴证券主要观点如下:

端侧AI革新人机交互,模型快速升级,巨头引领行业发展

AI自主化能力沿着“以指令为中心“到“以意图为中心”持续提升。LLM从各个层面改造终端,其中Agent对开放式问题必不可少,背后是大模型带来的理解复杂输入、进行规划推理/合理使用工具的能力。据头豹,端侧AI市场规模2023-2028年预计CAGR高达58%,2028年超过1.9万亿元。从具体小模型性能表现上看,参数量对模型性能影响巨大,但受限于硬件,小模型的技术创新更加积极以提升有限参数量下的性能表现,其中量化/剪枝/蒸馏是最主要的模型压缩方式,各家小模型因数据集/压缩精度/量化混合方式等差异预计带来小模型的百花齐放。Agent架构中,基础模型本身要引入新的输入类型,成为VLA模型,同时还增加了个性化和内存操作要求,均需要额外的优化。

硬件变革核心在内存,苹果发力内存创新应对内存瓶颈

相比于云端模型,硬件是端侧模型的重要制约,需要升级以补齐短板。对比各家硬件,我们认为苹果在内存/电池/散热上提升空间巨大。我们认为内存及其操作带来的能耗是当前最短板,预计成为硬件核心变革方向,如半精度的7B模型仅参数加载占用DRAM就超过14GB,同时DRAM耗能比SRAM和计算高出两个数量级。同时iOS和安卓内存利用效率差异巨大,我们认为安卓需要在OS层提供统一的AI基础模型,而iOS在模型压缩之外则需要提高硬件内存以克服硬件瓶颈。除了简单的增加内存容量外,苹果在内存结构、耗能、传输速度等方面创新密集,如与三星合作开发独立封装形式,以及推进全新的WMCM封装方式进一步提高芯片组合的灵活性和集成度。

多模态UI交互界面革命带来Agent的历史机遇

根据交互的模式,任务执行方法可分为基于API和基于用户界面(UI)的方法。API交互泛用性较弱。UI界面方式在Transformer架构下较好克服了任务和UI元素之间的隐含关系,大幅提升了GUIAgent的可行性,有望成为主流。当前苹果和谷歌均发力UI交互模型,苹果的Ferret-UI和谷歌的Screen AI模型都采用读屏AI视觉语言模型,采用统一编码方式理解屏幕信息。从谷歌UI模型看,模型参数提升对性能影响较大,同时5B模型对性能提升尚未饱和,有必要继续提升模型性能。

风险提示:底层创新不及预期,技术发展不及预期,竞争加剧风险。

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com   

展开
打开“财经头条”阅读更多精彩资讯
APP内打开