(经济观察)厂商争相布局,AI大模型加速在手机落地

发布时间:2024-11-16 14:25:08 来源: sp20241116

   中新社 北京11月24日电 (记者 刘育英)中国多家手机厂商已在手机中部署AI大模型,或推出AI手机。接受采访的多位专家表示,AI大模型在手机中落地的路径更加清晰,但仍存在部分难点。

  AI大模型将成为未来手机企业竞争的重要筹码。近日,华为、vivo、OPPO、小米等厂商推出了搭载大模型的手机终端,国产头部手机厂商全部在此赛道布局。

  在上周举行的OPPO开发者大会上,其操作系统ColorOS14正式亮相。这次系统更新首次内置了安第斯大模型(AndesGPT)。据了解,该模型包含了从10亿到千亿不同参数规模的多种模型,升级后的“小布助手”将具备 AI大模型能力。

  vivo上月推出自研AI大模型矩阵,其中包括十亿、百亿、千亿三个不同参数量级的5款自研大模型,全面覆盖核心应用场景。该公司还在本月发布了首款AI大模型手机X100,这是行业首批百亿大模型在终端调通的手机。

  此外,小米集团董事长雷军宣布,小米全面拥抱AI大模型,目前手机端侧的大模型已经初步跑通。华为宣布手机系统接入盘古大模型,开启内置大模型的语音助手“小艺”的众测。荣耀表示即将推出自研70亿参数端侧AI大模型和全新云服务。

  北京博瑞恒咨询有限公司咨询总监张扬表示,现阶段手机端AI大模型应用主要集中在图像识别、语音识别、自然语音处理等领域,能够为消费者提供更准确的语言识别、更智能的信息推荐、更流畅的语音交互、更快速的响应速度等体验。

  OPPO数智工程事业部总裁刘海锋表示,在生成式AI技术加持下,手机对于用户意图理解和情境感知将更准确。

  手机部署AI大模型从技术上受算力芯片、散热、电池等技术的影响。赛迪智库未来产业研究中心人工智能研究室主任钟新龙对 中新社 记者表示,近期软硬件技术的升级,使AI大模型深度落地手机路径逐渐清晰。

  例如,10月26日刚刚发布的高通骁龙8gen3的一大卖点就是离线终端运行百亿参数量大模型。本月联发科发布的天玑8300处理器,支持百亿AI大模型,可以提供更好的游戏、影像、多媒体娱乐体验。此外,专用的AI芯片和硬件加速器可以显著提高模型运行的效率和速度。

  现实中手机厂商和软件开发者需要采取极为复杂的方式来实现AI大模型落地。钟新龙表示,端云结合是实现大模型在手机上应用的一种常见方法。计算任务分配给云端服务器,手机在本地处理一些简单算力任务,而将更复杂的任务发送到云端,这可以通过使用较小、优化的模型或硬件加速来实现。

  另外,通过模型压缩和优化,如知识蒸馏、模型剪枝、量化等手段来优化大模型,可以减小模型参数量大小和计算需求,使其能运行在算力有限的手机上。

  与AI大模型在汽车或个人电脑上落地不同,其在手机上的落地有更多挑战。张扬接受采访时说,如何在保证手机续航能力的前提下保证大模型运行效果或能力,如何保障用户数据的安全性和隐私性,这些都是挑战。

  “目前来看,手机端AI大模型的应用场景还比较有限,未来是否有足够市场需求来支撑这一技术应用推广仍需进一步观察。”张扬表示。

  vivo副总裁周围表示,手机厂商做大模型存在数据、算法和算力三方面难点,尤其是算力领域,算力大集群的建设本身就具有挑战性。vivo近几年在AI方面投入已超200亿元人民币。(完) 【编辑:钱姣姣】