生成式AI火爆，带给微软、英伟达、Google、脸书、AMD等全球科技巨头一场热情四射的狂欢盛宴。 “AI教主”黄仁勋声势全球攀顶，AMD端出挑战英伟达的新品MI300系列GPU则是出师不利，且被华尔街一路看衰; 联发科则因为黄仁勋在COMPUTEX去站个台，也勉强与AI沾了个边。

但，似乎少了什么，大家都忘了高通吗？

不见旧人哭，只见新人笑。身为手机霸主的高通，并没有在这场激烈的AI肉搏赛中退场或是隐身，而是选择了一个适当的时机，另辟蹊径，向大家推广：“混合式AI”才是让生成式AI真正普及的解决方案。

生成式AI 的应用非常广泛， 包括搜索、 内容生成、 生产力、 代码编写等等，颠覆了众多技术领域。生成式AI能够在数秒之内通过大型基础模型创作内容，但很多人将生成式AI 和云端联系在一起，高通以技术打开了边缘端侧的生成式AI商机之门。

什么是混合式AI？

当今，传统计算从大型主机演变成云端和边缘端结合的模式，AI 处理也必须分布在云端和终端进行，才能实现 AI 的规模化扩展并发挥其最大潜能。

混合式AI架构的运行方式是：在云端和边缘终端（如智能手机、汽车、个人电脑、XR 头显和物联网终端）之间分配并协同处理 AI 工作负载，混合式AI架构或仅在终端侧运行 AI ，这样的做法最大优势是节省成本。

高通指出，在以终端为中心的混合式AI架构中， 云端仅用于处理终端侧无法充分运行的AI 任务 。随着强大的生成式AI模型不断缩小，以及终端侧处理能力的持续提升，混合式AI的潜力将会进一步增长。

举例来说，据估计使用基于生成式AI 的搜索， 每一次查询 ( query ) 其成本是传统搜索方法的10倍， 而这只是众多生成式AI 的应用之一。混合 AI 可支持生成式AI 利用边缘侧终端的计算能力来降低成本。

混合式AI 架构可以根据模型和查询需求的复杂度等因素，选择不同方式在云端和终端侧之间分配处理负载。例如， 如果模型大小、提示 ( prompt ) 和生成长度小于某个限定值，并且能够提供可接受的精确度，推理即可完全在终端侧进行。

如果是更复杂的任务，模型则可以跨云端和终端运行。混合式AI 还能支持模型在终端侧和云端同时运行，也就是在终端侧运行轻量版模型时，在云端并行处理完整模型的多个标记（ token ）， 并在需要时更正终端侧的处理结果。

高通指出，参数超过10亿的 AI 模型已经能够在手机上运行，且性能和精度达到与云端相似的水平。不久的将来，将看到100 亿或更高参数的模型将能够在终端上运行。

高通表示，作为终端侧AI领导者， 面向包括手机、汽车、XR头显与眼镜、PC和物联网等在内的数10亿边缘终端， 将提供硬件和软件解决方案推动混合AI 规模化扩展独具优势。

高通进一步指出，智能手机解决方案的能效与竞品对比，大约有两倍的优势，凭借一系列基础研究， 以及跨AI 应用、 模型、 硬件与软件的全栈终端侧AI 优化，持续引领终端侧 AI 解决方案发展。

混合式AI与5G联动

在最近举办的世界互联网大会尼山对话主论坛上，高通公司全球高级副总裁、技术许可业务中国区总经理钱堃引用研究数据指出，每个生成式AI网络搜索查询的成本比传统搜索高10倍，如果每天进行超过100亿次查询，每年的额外成本可能达数十亿美元。

钱堃表示，要让人工智能更广泛地走进千家万户，需要经历从“云端”到“终端”的不断推进，这其中5G承担着连接云端算力和终端应用的关键桥梁。在5G的加持下，混合AI架构使AI在云端、边缘云和终端侧协同运行，使整个系统中的计算和处理能力能够以最有效的方式重新分布，实现更强大、更便利、更高效、更优化的AI。

钱堃认为，如今具备AI功能的手机、PC和其他品类的便携终端数量已达到数十亿台，伴随着移动终端成为人们生活中的必备品，混合AI架构中终端侧的优势更加凸显，利用大规模终端侧AI处理支持生成式AI有着广阔前景，并将在未来几年稳步增长。

公开信息显示，今年2月，高通在MWC大会上演示了Stable Diffusion在智能手机上的运行情况。这款手机搭载高通第二代骁龙8 5G移动平台，通过利用高通AI软件栈执行全栈AI优化，可以在15秒内执行20步推理，生成一张512x512像素的图像，媲美云端响应速度。更为重要的是，这些为在手机上运行生成式AI所做的优化，也可以用于高通骁龙平台支持的VR头显、笔记本电脑等各种终端上，有助于推动生成式AI加速普及应用。

钱堃进一步指出，在推动生成式AI规模化扩展的同时，混合AI架构还将赋能AI深入千行百业，在汽车、物联网、XR等细分领域提供全新的增强用户体验。根据预测，到2025年，在智能手机、PC/平板电脑、扩展现实（XR）、汽车和物联网等细分市场的AI应用率，将从2018年的不到10%，增长至100%。在这一趋势的推动下，终端侧AI将成为许多关键平台的标准特性，这将为AI赋能的千行百业的发展带来机遇。

可以预见，5G连接所具有的高速率、低时延、海量连接等优势，将会让混合AI架构更好地统筹运用云端、边缘云和终端侧的AI算力，从而让更多消费者和行业用户享受到生成式AI带来的全新体验。钱堃表示，AI技术发展的普惠价值在于惠及千家万户，赋能千行百业。凭借技术创新、全球化规模和生态系统赋能，高通正在让混合AI成为现实，积极与全球合作伙伴一起把更多的AI特性带给用户，把AI扩展到更广泛的领域，带来更深入的体验。

文章来源： 问芯Voice，帅评科技