高通徐晧谈AI趋势:混合AI灵活分配负载,5G提供高效连接

2023-09-06,

9月5日,在2023年中国国际服务贸易交易会成果发布活动中,高通公司发布人工智能白皮书《混合AI是AI的未来》实体版。高通公司中国区研发负责人徐晧博士在发布活动现场发表演讲,详细解析AI发展现状和未来趋势,深入阐述混合AI架构的领先优势,并指出5G在混合AI中的作用。

徐晧首先介绍了AI已经被广泛应用,不过之前的AI一般用来处理指定的工作,例如智能手机上的身份识别、相片处理,5G手机的信号增强;智能家居的智能音箱对话;智能汽车的语音识别,以及L2、L3、L4级别的辅助驾驶等。近年来有新的重要的趋势,ChatGPT以前所未有的流行速度,让大家认识到生成式AI的能力,并对AI的发展产生深远影响。徐晧也指出目前生成式AI面临的一个主要困难,高昂的计算成本导致生成式AI无法满足海量用户的需求。他也给出了一个解决方法,将一部分AI转移到终端侧执行,用混合式AI架构,将终端与云端的资源、能耗以及算力进行最优分配。

徐晧解释,混合AI,是包括云端、边缘云和终端的统一架构。在混合式AI的架构下,需要大量算力的大规模的模型训练仍留在云端进行,模型推理可以分布在终端和边缘进行。只要推理任务能够在终端完成,就放到终端来执行;如果不能在终端完成,就通过5G或其他网络,将数据推送到云端进行计算,并返回结果。

也就是说,未来生成式AI主要是在终端侧运行。对于哪些负载适合放在终端侧运行,徐晧认为,10亿级参数的AI就放在终端侧执行,例如只要1亿参数就能运行的语音识别就适合在终端侧运行,10亿参数级的图像生成AI也适合放在终端侧。百亿及百亿参数以上规模的超大模型,就放在云端运行。高通在今年年初,就成功的在一台高通骁龙5G手机上运行10亿参数规模的Stable Diffusion生成式AI模型,这次服贸会的现场也有该项演示。徐晧还展示了另一项终端侧AI成果,将参数量提升50%,现场进行15亿参数的ControlNet演示。

在分享的最后,徐晧希望能与更多产业的更多合作伙伴,用5G、AI、XR等基础技术,共同推动数字经济向前发展。

来源链接:科技快报网,如有侵权,请联系我们,我们将及时处理。

,IT资讯,电商资讯,科学资讯,业界资讯,快报,高通徐晧谈AI趋势:混合AI灵活分配负载,5G提供高效连接,固定资产管理,快报,固定资产管理软件


本文内容整理收集与网络,仅供学习交流使用,不代表CRM论坛观点。如有侵权,请联系我们,我们将会及时删除处理。
云呐固定资产管理系统是专业销售和研发各种固定资产管理系统,固定资产管理软件,企业条码固定资产管理系统等软件产品,产品作用功能优势明显欢迎来选购!咨询电话:13157126221

相关阅读