世界人工智能大会在2023年7月6日-8日于上海举办，本届大会以“智联世界 生成未来”为主题，打造“会议论坛、展览展示、评奖赛事、应用体验”四大核心内容，汇聚世界顶级科学家、企业家、政府官员、专家学者、国际组织、投资人、初创团队等，搭建世界级合作交流平台。
高通作为终端侧AI领导者，在本次大会中进行了多场主题演讲，并展示了终端侧AI在智能手机中的最新应用。参会者能够在高通的展台中亲自体验生成式AI在终端侧的高效运行，共同领略生成式AI所创造的未来体验。此外，高通AI引擎荣获2023世界人工智能大会顶级奖项：SAIL奖——卓越人工智能引领者奖，助力AI体验创新和繁荣发展。
高通技术公司首席商务官Jim Cathey在首日全体会议——产业发展论坛期间，发表主题为“5G赋能智能互联的未来”的演讲。其表示，5G对于一个更加智能的世界至关重要，不仅推动了智能的规模化扩展，还能够使在边缘侧生成的情境相关数据与云端近乎实时地共享。在智能手机领域，5G和AI的结合是现代智能手机体验的基础;除智能手机之外，连接和智能正在开启工业创新和数字化新时代。
高通AI引擎荣获大奖 云端+边缘侧混合AI助力生成式AI发展
高通在人工智能兴起之时就十分关注边缘侧AI发展，认为云端和边缘终端AI协同工作的混合AI模式，能够实现更强大、更高效的AI体验。对目前流行的生成式AI，混合AI可充分利用边缘侧终端算力来降低成本，而且在隐私和安全方面也占尽优势。
混合AI具有终端的快速响应能力，也具有云端的准确性，可自由的在云端和终端侧之间分配负载，对在阈值以下的轻量级模型，推理即可完全在终端侧进行。如果是更复杂的任务，模型则可以跨云端和终端运行，并在需要时通过云端来更正终端侧的处理结果。
随着生成式AI模型的不断缩小，再加上终端侧算力的高速提升，混合AI的潜力将会进一步增长。目前参数超过10亿的模型已经能够在手机上运行，性能与精度可以媲美云端。再加上终端侧在本地运算的方式，对用户隐私数据和安全性的优势也相当明显。
第二代骁龙8实现端侧生成式AI高效体验
目前高通已经实现了在手机端通过模型来生成图片，并且在WAIC现场进行了DEMO演示。首先是运用Stable Diffusion模型，通过给出TAG文字标签让AI模型在手机本地自动生成一张图片。Stable Diffusion是可以在本地运行的，但是需要很高的配置，尤其是显卡要求极高，否则生成一张图片就要几十分钟的时间。高通的展示中，Stable Diffusion在一台骁龙8 Gen2手机中运行，以本地化的端侧算力，20个推理步骤不到15秒时间即可生成一张图片，运行效率非常惊人。
ControlNet解决了纯文字生图大模型无法定向控制生成图片的难题，而能够在端侧实现快速生成图片，离不开强大AI算力的支持。骁龙移动平台的高通AI引擎采用异构运算，能够同时调用CPU、GPU和Hexagon处理器，以达到最大化的运算效率。第二代骁龙8移动平台在升级的高通Hexagon处理器支持下，张量加速器带来4.35倍的AI性能提升，能效方面最高有60%提升。Hexagon处理器还提供专用供电系统、支持微切片推理、INT4精度、Transformer网络加速等创新技术，可结合高通AI软件栈和AI Studio提供全栈AI能力和优化手段。
第二代骁龙8移动平台凭借超高算力助力终端侧AI有的高效运算能力，同时兼顾了低功耗运算，满足手机端对续航的需求，助力骁龙手机在终端侧率先支持Stable Diffusion、ControlNet等生成式AI用例。
(本文转自PChome)
