2023年AI终端从大模型到智能体端侧算力助力AI规划化运用(附下载)

时间: 2024-03-12 00:17:31 |   作者: 斯诺克今晚在线直播时间

  原标题：2023年AI终端从大模型到智能体，端侧算力助力AI规划化运用(附下载)

  今日共享的是：2023年AI终端从大模型到智能体，端侧算力助力AI规划化运用（陈述出品方：国信证券）

  从大模型到智能体，Al Agant(智能体)燥发元年，点着新一轮立异周期。现在的Al东西大多都是bot(机器人),包含以ChatGPT为代表的LLM(大言语模型),都仅是一个运用程序，只要当用户输入特定内容时才会被迫反应。而Al帮手的下一程，将重视Al Agent的构建，以LLM或多模态模型为中心，具有跨运用、自动、自我晋级等特征，成为用户的万能帮手。例如联想推出Al Twin,Al Twin将建立本地常识库，猜测用户的使命和供给自主解决方案，让设备成为用户的数字延伸。而OpenAl推出的GPTs,构建了通向Agent的桥梁，未来研制将加快。咱们我们都以为，跟着Al Agent的老练，Al运用的规划化落地势在必行，有望推进新一轮的消费电子立异周期。

  Al大模型规划化扩张带来推理算力需求激增，布暑端侧算力缓解本钱压力。2023年5月，高通发布《混合Al是Al的未来》,混合Al指终端和云端协同作业，在恰当的场景和时刻下分配Al核算的作业负载，以更高效运用资源。原因首要在于生成式Al模型大多具有数十亿级参数，对核算基础设施要求极高，且Al推理的规划将远高于Al练习，推理本钱将跟着日活用户数量及其运用频率的添加而添加，而云端推理的本钱把握在云厂商手中，这将导致规划化扩展难以继续，因而布署端侧算力是生成式Al规划化扩展至关重要的一步.

  生成式Al与端侧Al先行，倒通智能设备硬件功用晋级。“安迪-比尔定理”代表着智能终端硬件和软件间螺旋式开展演进联系，一般来讲软件的更新晋级要与硬件资源所匹配。但是，生成式Al加快速度进行开展使得Al运用在软件及体系层面首先作出巨大改动和晋级。例如，微软推出Microsoft 365 Copi lot全面接入Al功用，Windows Copilot是第一个供给会集生成式Al帮忙的电脑渠道。端侧Al运用打破了软硬件迭代式演进规则，然后倒逼智能设备硬件功用晋级，为此芯片龙头抢先推出支撑生成式Al的处理器。例如，高通骁龙XElite专为生成式Al打造，支撑端侧运转超130亿参数Al模型；苹果发布新一代M3系列芯片，其间M3 Max支撑开发数十亿参数Al模型。

  各大手机终端品牌活跃投入Al Agont端侧部暑的立异周期。回忆手机开展前史，便是终端智能化晋级的前史，从功用机到智能机，再到未来的Al智能体，智能化晋级才是终端职业最中心的生长驱动要素。上一轮智能机“黄金十年”在2016年到达14.69亿部的高点，尔后手机商场再次堕入存量竞赛。4023以来，高通、联发科等头部芯片厂均针对性晋级了移动渠道的Al才能，安卓系厂商以紧随其后推出了搭载相关渠道的旗舰机型，并晋级了各自的手机帮手，活跃投入新一轮的Al Agent立异之战。

  手机新品获端侧模型加持，改造人机交互形式。小米14系列手机首发搭载高知晓龙8Gen3,其自研60亿参数大模型可以流通运转，在常识问答、文字扩写、表格生成、编写代码等生成式Al运用方面带来全新体会；小米14 Pro亦支撑终端侧Al大模型图画处理。VivoX100系列手机首发搭载联发科天玑9300,其首款大局智能辅佐运用“蓝心小V”具有更天然、快捷的人机交互方法和丰厚多维的信息表达。手机端侧模型参加有望改造人机交互方法与运用体会，然后加快手机换机周期。