深思考发布超小端侧多模态大模型，已在医疗、智能终端等领域落地

财经头条

提升一亿中产阶级阅读效率

打开

创业邦

1天前

深思考人工智能与深开鸿深度合作，基于深开鸿智能硬件设备，深思考人工智能发布全自研、基于开源鸿蒙操作系统的端侧多模态大模型，以及基于DeepSeek低比特量化模型的模组。

端侧AI正在点亮智能硬件的应用前景。以DeepSeek R1为代表的精简模型，在保持性能的前提下，成功将模型参数量大幅压缩，解决了以往端侧AI存储空间需求高、算力消耗大、推理延迟等部署难题。这意味着，端侧AI能低成本、低消耗地在手机、PC、摄像头、机器人等终端设备运行。

在这种趋势下，2月23日上午，深思考人工智能（iDeepWise.ai）发布了鸿蒙系统“TinyDongni”及“DeepSeek”超小端侧多模态大模型，并宣布与国产头部模组厂商广和通、深开鸿达成合作，推出适配国产算力的硬件解决方案。

深思考人工智能，是一家专注类脑人工智能与多模态大模型的高新科技公司，有着长期的技术积累。深思考人工智能在多模态深度语义理解、人机交互等技术方面具有领先优势，已将大模型深度应用于智慧医疗、智能终端等场景中。

深思考人工智能表示，此次合作标志着国产端侧AI技术在低功耗、高性能领域实现重大突破，打破“国产算力性能不足”的固有认知。“模型+硬件+生态”的三位一体方案，也为智能终端厂商提供便捷的端侧AI能力，加速赋能各行业。

推出超小端侧

多模态大模型与算力模组

AI向终端普及的前提是拥有足够轻量化的端侧大模型。传统大模型能耗大、对存储空间需求大。只有通过参数压缩实现轻量化的模型，才能降低成本，部署到终端设备中。

深思考人工智能创始人兼CEO杨志明博士认为，在降低大模型参数的同时，要保持性能稳定，避免“盆景式压缩”，导致参数减少，效果骤降。

本次发布的TinyDongni和DeepSeek系列端侧多模态大模型，都在减少参数的同时，保证了良好的应用效果。

例如，TinyDongni端侧多模态大模型采用了创新量化方法，将参数规模压缩至1.5B。在极简参数规模中，TinyDongni实现了高效运算，还能显著降低首Token延迟，支持32K超长上下文理解。此外，TinyDongni通过多芯片协同处理与内存优化技术，兼顾了低功耗与高响应速度。

而DeepSeek系列则聚焦多模态能力，1B模型通过2048隐藏层维度与32注意力头设计，强化复杂场景下的语义理解。模型聚焦高频词与专用词，内存占用降低了30%，适配智能硬件与边缘计算场景。

为便捷各行业使用，深思考人工智能还联合深开鸿、广和通，推出了两大解决方案，打造“即插即用”的端侧AI标准化产品。

深开鸿模组配置了瑞芯微RK3588 芯片和OpenHarmony系统，具有较强的影像处理能力，支持8K解码与多屏交互，将赋能工业检测、AI摄像头等高精度场景。

广和通模组配置了高通QCS8550芯片，集成了高性能图形引擎和综合算力达48TOPS的AI引擎。依托深思考人工智能的算法优化，该模组可为车载、机器人等场景提供实时AI处理能力。此外，深思考人工智能与鸿蒙系统已调通，并匹配了广和通模组。

模组方案的推出，一方面降低了AI智能硬件的技术门槛，将AI智能硬件的开发周期缩短了50%。另一方面，在国产算力硬件上跑通大模型，也证明了深思考人工智能技术的轻量化与高效能，其大模型无需依赖高算力硬件，即可处理复杂任务。

目前，端侧多模态大模型和两大算力模组可兼容OpenHarmony、Windows、Android、linux等主流操作系统，满足跨平台部署需求。

其中，鸿蒙生态终端可无缝接入深思考人工智能的AI能力。华为OpenHarmony使能部AI技术专家刘小飞表示，“OpenHarmony一直在积极探索大模型在各个领域的应用，双方合作将加速AI PC、AI手机等智能终端的全场景应用，推动端侧AI技术普及。”

TinyDongni交互的几大优势

深思考人工智能在AI领域积累深厚。核心团队来自于中科院、清华、耶鲁大学，由一线的AI科学家及业务专家组成。在多模态深度语义理解与人机交互技术方面，深思考人工智能具有突出优势。

2018年，深思考人工智能就发布了世界首个医学影像专用AI处理器，将AI技术成功应用于智慧医疗大健康领域中。2020年，深思考人工智能还开发了国内第一代生成式语言大模型，经过迭代后，该模型成为深思考人工智能的核心产品Dongni.ai。

作为深思考人工智能自主研发的类脑多模态、跨模态大模型，Dongni.ai具有多模态、可解释性、实时性、可溯源性、输出结果可控性、情感能力等优势。目前，Dongni.ai已运用于智能终端人机交互和智慧医疗两大产品线。

基于强大的AI研发能力、以及对AI落地应用的深入理解，深思考人工智能的TinyDongni端侧多模态大模型，在搜索引擎方面有以下特点。

首先是端侧多模态交互，能提供文件、图像、视频搜索。其词汇表达18.3万，覆盖了法律、医疗、教育等场景。同时TinyDongni具备深度语义理解模糊搜索能力，大幅提高搜索效率。深思考人工智能推出的“Her”模式，还能与用户进行深度的情感交流与对话，在手机、电脑、机器人等终端打造个性化陪伴体验。

其次，TinyDongni支持海外13个国家和地区搜索。在使用中，TinyDongni可根据所选国家，搜索海外当地语言信息，并提供中文及当地语言两种语言搜索结果，大幅提高工作效率。

最后，TinyDongni学习了1687万篇全球权威医学论文，深度赋能医学场景。

医学领域是深思考人工智能长期深耕的优势赛道，基于“重疾早筛”这一垂直场景，深思考人工智能完成了超10万例临床回顾性分析和验证，拥有百万级高质量数据。截至2024年，深思考人工智能仅宫颈癌筛查量就超过了3000万人份。

在深思考人工智能医学专业知识的赋能下，TinyDongni能帮助医学用户提升工作效率，还为普通用户提供专家咨询、健康报告单解读等服务。

推动AI普惠，赋能各行业

事实上，深思考人工智能端侧多模态大模型已在多个领域落地。

例如，在存储领域，利用深思考的轻量化大模型技术，可对存储设备的数据进行多模态搜索，通过自然语言来实现对存储中的信息，进行语义级别地搜索图片、视频、文件。

在医疗领域，深思考人工智能联合打造的医学显微镜，在本地离线运行，能确保数据安全。该医学显微镜还能加载可拓展AI分析模块，通过加密分析与扩展模块，提升病理检测稳定性与效率。

此外，在AI PC Suite上，提供本地文件模糊搜索、PPT自动生成及同声翻译，保障数据安全。在智能汽车中，TinyDongni融合手势、语音、图像多模态交互，实时解析车内外环境。在人形和萌宠机器人中，TinyDongni的“Her”模式，也能进行良好的人机互动。

华为OpenHarmony使能部AI技术专家刘小飞举例，2024年4月，OpenHarmony的Laval社区和深思考人工智能，合作推出了OpenHarmony专属智能问答助手“小瓦AI答”。上线至今，小瓦AI答已经服务了9000多名开发者，回答了3万多个问题。

“正是靠着深思考人工智能Dongni多模态大模型技术，Laval社区才能服务更多开发者，实时解答问题，社区和用户互动反馈的体验也更好了。”他说道。

据QYResearch预测，全球端侧AI市场规模将以超20%的年复合增长率扩张，2025年达数百亿美元。相关分析也指出，到2028年端侧推理和微调卡销售额将超过云侧训练卡，标志端侧商业模式的重大转变。

端侧AI将成为AI普惠化的重要支柱，重塑产业链格局。在端侧AI的发展浪潮中，深思考人工智能创始人兼CEO杨志明认为：“深思考鸿蒙系统TinyDongniDeepSeek超小端侧多模态大模型及硬件模组的发布，不仅是技术突破，更是端侧AI普惠化的里程碑。未来，深思考人工智能将持续优化多模态交互能力，推动AI在医疗、工业、消费等领域的深度应用。”