民生证券:LLaMA 3开源或推动国内算力需求与应用发展

344 4月22日
share-image.png
严文才

智通财经APP获悉,民生证券发布研报称,2024或是AI应用的真正元年,LLaMA 3的发布使得开源大模型SOTA对标GPT4,具有真正强生产力的AI应用或百花齐放,AI终端重构、算力国产化多模态引领AI应用这三大新方向孕育重要机遇。

建议关注:

1.国产核心算力:寒武纪(688256.SH)、浪潮信息(000977.SZ)、海光信息(688041.SH)、超讯通信(603322.SH);华为昇腾一体机:科大讯飞(002230.SZ)、云从科技(688327.SH)、软通动力(301236.SZ)、恒为科技(603496.SH)等。

2.AI终端变革:中科创达(300496.SZ)、萤石网络(688475.SH)、漫步者(002351.SZ)等。

3.数据落地的AI应用:效率办公-金山办公(688111.SH)、AI司法-金桥信息(603918.SH)、AIGC-超讯通信(603322.SH)、教育-佳发教育(300559.SZ)、邮箱-彩讯股份(300634.SZ)、社交-掌阅科技(603533.SH)等。

民生证券主要观点如下:

LLaMA 3大模型发布,目前已经发布8B/70B版本,其中70B版本性能已经超过早期版本GPT4,未来还将进一步发布400B版本。

据Meta官网,LLaMA 3是同类产品中最好的开源模型,在真实世界场景测试集(Meta开发了一个新的高质量人类评估集,该评估集包含1800个提示,涵盖12种关键用例:征求建议、头脑风暴、分类、封闭式问题解答、编码、创意写作、提取、角色/人物角色、开放式问题解答、推理、改写和总结)回答结果人类偏好排名中成为新的SOTA。此外,据Hugging Face第三方大模型跑分测评数据,LLaMA 370B性能已经超过部分早期版本GPT4。据Meta官网,LLaMA 3400B版本正在训练中,或与多模态LLaMA 3在未来几个月内发布。

GPT4级别的开源大模型或带动AI应用进入强生产力时代。

民生证券将AI应用与大模型的关系分为三个阶段,并通过Notion的发展趋势进行映射说明:

1)大模型性能小于GPT3.5:由于模型性能较差,AI应用以工具属性为主,以Notion为例,在2022年初次引入GPT3时,Notion AI用的最多的几个场景分别是Brainstormideas(头脑风暴)、To-dolist(任务清单)以及Outline(写概要)。

2)大模型性能处于GPT3.5-4之间:此时AI已经具备相当的智能,已经具备打通底层数据、从单产品到多产品自动化流程的能力,此时Notion AI已经可以读取当天的笔记内容进行总结或者列出接下来要做的事情、对销售团队一周工作做一个总结并列出下周要做的待办事项ActionItems等。

3)大模型性能超过GPT4:此时AI已经具备较强智能,可以作为强大生产力,MS 365 Copilot展示出的打通全部工作流,让AI替代人类完成各类SaaS碎片、繁杂的操作流程,Notion CEO预计在未来的5到10年时间,Notion可能成为世界的前端基础设施,Notion负责搜索、通知和权限,用户想做的任何软件,都可以通过Notion来构建。

LLaMA 3的成功,对于训练数据、AI算力、算法开发等环节也有较多借鉴意义。

Llama3在超过15T的token上进行了预训练,训练数据集是Llama2的七倍,包含的代码数量也是Llama2的四倍,同时使用数据过滤技术保证训练数据高质量;此外,LLaMA在两个定制的24KGPU集群上进行训练,还通过自动检测、处理和维护错误技术使总体有效训练时间缩短了95%以上,是LLaMA2训练效率的三倍;算法上,LLaMA 3创新性使用监督微调(SFT)、拒绝采样、近似策略优化(PPO)和直接策略优化(DPO)等技术。

风险提示

1)政策落地不及预期:目前国产软硬件在产品性能和生态上都尚且不及国外巨头,但受益于国产化政策推动市场份额连年提升,若后续国产化支持政策落地进度不及预期,可能会导致国产软硬件推进进度变慢,影响公司业绩增长前景。

2)行业竞争加剧:目前国产软硬件尚未呈现出清晰的格局,芯片、数据库、操作系统等行业仍处于高度竞争状态,若后续行业竞争加剧,可能会影响公司的毛利率水平,进而影响相关公司的盈利能力。

相关阅读

民生证券:运营商招标突显国产AI算力机遇 算力建设产业链有望受益

4月19日 | 严文才

民生证券:随着氟聚合物项目持续落地 氟化工龙头企业业绩有望持续增厚

4月18日 | 严文才

民生证券:投资实物崛起的节奏与路标

4月15日 | 严文才

民生证券:经济稳步回暖 一季度行业消费修复的持续性及结构表现如何?

4月13日 | 严文才

英特尔(INTC.US)推出新一代AI芯片Gaudi 3 采用台积电5nm工艺

4月10日 | 许然