劲爆优惠40%
最新!💥 速看ProPicks,获取遥遥领先标普500 1,183% 的金股策略领取六折优惠

民生证券:LLaMA 3开源或推动国内算力需求与应用发展

发布时间 2024-4-22 10:43
更新时间 2024-4-22 11:05
© Reuters.  民生证券:LLaMA 3开源或推动国内算力需求与应用发展

智通财经APP获悉,民生证券发布研报称,2024或是AI应用的真正元年,LLaMA 3的发布使得开源大模型SOTA对标GPT4,具有真正强生产力的AI应用或百花齐放,AI终端重构、算力国产化多模态引领AI应用这三大新方向孕育重要机遇。

建议关注:

1.国产核心算力:寒武纪(688256.SH)、浪潮信息(000977.SZ)、海光信息(688041.SH)、超讯通信(603322.SH);华为昇腾一体机:科大讯飞(002230.SZ)、云从科技(688327.SH)、软通动力(301236.SZ)、恒为科技(603496.SH)等。

2.AI终端变革:中科创达(300496.SZ)、萤石网络(688475.SH)、漫步者(002351.SZ)等。

3.数据落地的AI应用:效率办公-金山办公(688111.SH)、AI司法-金桥信息(603918.SH)、AIGC-超讯通信(603322.SH)、教育-佳发教育(300559.SZ)、邮箱-彩讯股份(300634.SZ)、社交-掌阅科技(603533.SH)等。

民生证券主要观点如下:

LLaMA 3大模型发布,目前已经发布8B/70B版本,其中70B版本性能已经超过早期版本GPT4,未来还将进一步发布400B版本。

据Meta官网,LLaMA 3是同类产品中最好的开源模型,在真实世界场景测试集(Meta开发了一个新的高质量人类评估集,该评估集包含1800个提示,涵盖12种关键用例:征求建议、头脑风暴、分类、封闭式问题解答、编码、创意写作、提取、角色/人物角色、开放式问题解答、推理、改写和总结)回答结果人类偏好排名中成为新的SOTA。此外,据Hugging Face第三方大模型跑分测评数据,LLaMA 370B性能已经超过部分早期版本GPT4。据Meta官网,LLaMA 3400B版本正在训练中,或与多模态LLaMA 3在未来几个月内发布。

GPT4级别的开源大模型或带动AI应用进入强生产力时代。

民生证券将AI应用与大模型的关系分为三个阶段,并通过Notion的发展趋势进行映射说明:

1)大模型性能小于GPT3.5:由于模型性能较差,AI应用以工具属性为主,以Notion为例,在2022年初次引入GPT3时,Notion AI用的最多的几个场景分别是Brainstormideas(头脑风暴)、To-dolist(任务清单)以及Outline(写概要)。

2)大模型性能处于GPT3.5-4之间:此时AI已经具备相当的智能,已经具备打通底层数据、从单产品到多产品自动化流程的能力,此时Notion AI已经可以读取当天的笔记内容进行总结或者列出接下来要做的事情、对销售团队一周工作做一个总结并列出下周要做的待办事项ActionItems等。

3)大模型性能超过GPT4:此时AI已经具备较强智能,可以作为强大生产力,MS 365 Copilot展示出的打通全部工作流,让AI替代人类完成各类SaaS碎片、繁杂的操作流程,Notion CEO预计在未来的5到10年时间,Notion可能成为世界的前端基础设施,Notion负责搜索、通知和权限,用户想做的任何软件,都可以通过Notion来构建。

LLaMA 3的成功,对于训练数据、AI算力、算法开发等环节也有较多借鉴意义。

Llama3在超过15T的token上进行了预训练,训练数据集是Llama2的七倍,包含的代码数量也是Llama2的四倍,同时使用数据过滤技术保证训练数据高质量;此外,LLaMA在两个定制的24KGPU集群上进行训练,还通过自动检测、处理和维护错误技术使总体有效训练时间缩短了95%以上,是LLaMA2训练效率的三倍;算法上,LLaMA 3创新性使用监督微调(SFT)、拒绝采样、近似策略优化(PPO)和直接策略优化(DPO)等技术。

风险提示

1)政策落地不及预期:目前国产软硬件在产品性能和生态上都尚且不及国外巨头,但受益于国产化政策推动市场份额连年提升,若后续国产化支持政策落地进度不及预期,可能会导致国产软硬件推进进度变慢,影响公司业绩增长前景。

2)行业竞争加剧:目前国产软硬件尚未呈现出清晰的格局,芯片、数据库、操作系统等行业仍处于高度竞争状态,若后续行业竞争加剧,可能会影响公司的毛利率水平,进而影响相关公司的盈利能力。

最新评论

风险批露: 交易股票、外汇、商品、期货、债券、基金等金融工具或加密货币属高风险行为,这些风险包括损失您的部分或全部投资金额,所以交易并非适合所有投资者。加密货币价格极易波动,可能受金融、监管或政治事件等外部因素的影响。保证金交易会放大金融风险。
在决定交易任何金融工具或加密货币前,您应当充分了解与金融市场交易相关的风险和成本,并谨慎考虑您的投资目标、经验水平以及风险偏好,必要时应当寻求专业意见。
Fusion Media提醒您,本网站所含数据未必实时、准确。本网站的数据和价格未必由市场或交易所提供,而可能由做市商提供,所以价格可能并不准确且可能与实际市场价格行情存在差异。即该价格仅为指示性价格,反映行情走势,不宜为交易目的使用。对于您因交易行为或依赖本网站所含信息所导致的任何损失,Fusion Media及本网站所含数据的提供商不承担责任。
未经Fusion Media及/或数据提供商书面许可,禁止使用、存储、复制、展现、修改、传播或分发本网站所含数据。提供本网站所含数据的供应商及交易所保留其所有知识产权。
本网站的广告客户可能会根据您与广告或广告主的互动情况,向Fusion Media支付费用。
本协议的英文版本系主要版本。如英文版本与中文版本存在差异,以英文版本为准。
© 2007-2024 - Fusion Media Limited | 粤ICP备17131071号 | 保留所有权利。