劲爆优惠40%
🎉 尊享股票精析,五一轻松解锁财富密码领取限时折扣

中金:端侧AI部署是当前AI实现规模化扩展及应用落地的关键

发布时间 2024-3-5 07:49
更新时间 2024-3-5 08:05
© Reuters.  中金:端侧AI部署是当前AI实现规模化扩展及应用落地的关键

智通财经APP获悉,中金发布研究报告表示,端侧AI部署是当前AI实现规模化扩展及应用落地的关键。作为底层技术和上层应用之间的载体,该行看到AIPC在模型侧、硬件侧、软件及应用侧均存在产业升级趋势。

中金的主要观点如下:

为什么要讨论移动AI?在降本与安全的双重考量下,AI部署在逐渐从云端走向移动端。该行认为,终端和云端协同工作分流AI计算工作负载的端云混合模式或将成为主流部署方案。在此背景下,AIPC在模型侧、硬件侧、软件及应用侧均将发生变化。

在模型侧,从“暴力美学”大模型,到“删繁就简”轻量模型,轻量化移动模型发展迅速。谷歌2023年起相继发布Gemini Nano(1.8B/3.25B)、Gemma(2B/7B)等轻量化模型;Meta推出Llama 2、Mistral AI推出Mixtral 8x-7B等开源模型,引领移动模型轻量化发展趋势。此外,小米、OPPO、三星等手机厂商亦在轻量化移动模型开发及压缩方面努力。

在硬件侧,关注Arm架构、异构计算和存储升级,AIPC带动散热、电池及结构件等变化。根据Trendforce,微软计划在Windows12为AIPC设置最低门槛,需要至少40TOPS算力和16GB内存。结合端侧AI部署对算力、内存、功耗的要求,该行看到芯片端三大升级趋势:1)Arm架构以其低功耗、长续航的特点或将实现PC市场份额提升;2)异构计算或将成为主流方案;3)端侧AI运行亦对内存提出更高要求,将带动DDR5/LPDDR5渗透率提升及DRAM容量提高。此外,为了适配AIPC的计算及功耗需求,AIPC在散热、电池等环节亦或将带来升级变化。

在软件及应用侧,Wintel联盟持续发力。操作系统方面,新一代操作系统Windows11重点强调了AI的功能,并提供多项AI工具;应用方面,目前AI应用主要集中在云端,但该行看到英特尔本地运行diffusion模型的端侧应用,该行认为随着AI端侧部署的进一步落地,端侧AI应用或将持续丰富。

风险:AI算法技术及应用落地进展不及预期,AI变现模式不确定,消费电子智能终端需求低迷。

最新评论

风险批露: 交易股票、外汇、商品、期货、债券、基金等金融工具或加密货币属高风险行为,这些风险包括损失您的部分或全部投资金额,所以交易并非适合所有投资者。加密货币价格极易波动,可能受金融、监管或政治事件等外部因素的影响。保证金交易会放大金融风险。
在决定交易任何金融工具或加密货币前,您应当充分了解与金融市场交易相关的风险和成本,并谨慎考虑您的投资目标、经验水平以及风险偏好,必要时应当寻求专业意见。
Fusion Media提醒您,本网站所含数据未必实时、准确。本网站的数据和价格未必由市场或交易所提供,而可能由做市商提供,所以价格可能并不准确且可能与实际市场价格行情存在差异。即该价格仅为指示性价格,反映行情走势,不宜为交易目的使用。对于您因交易行为或依赖本网站所含信息所导致的任何损失,Fusion Media及本网站所含数据的提供商不承担责任。
未经Fusion Media及/或数据提供商书面许可,禁止使用、存储、复制、展现、修改、传播或分发本网站所含数据。提供本网站所含数据的供应商及交易所保留其所有知识产权。
本网站的广告客户可能会根据您与广告或广告主的互动情况,向Fusion Media支付费用。
本协议的英文版本系主要版本。如英文版本与中文版本存在差异,以英文版本为准。
© 2007-2024 - Fusion Media Limited | 粤ICP备17131071号 | 保留所有权利。