中国大模型到底什么水平? 世界观焦点
2023-07-04 19:21:42来源:ZAKER科技
文 | 白马商评
" 都快成红海了。" 当我和一个创业者聊起大模型的时候,他直接甩了这句话给我。
(资料图)
去年 11 月,OpenAI 发布基于 GPT-3.5 的 ChatGPT,瞬间引爆大模型的热潮。半年多的时间,中国出现了 " 百模大战 " 的局面,BAT 等头部互联网公司和人工智能公司基本都对外宣布了自己的大模型。
5 月初,360 掌门人周鸿祎对外称," 如果不经过两年的模仿和抄袭,上来就说自己能超越,那才叫吹牛呢。" 仅仅一个月后,周鸿祎就表示," 我原来说国内大模型跟国外差距两年,我收回这句话,今天已经接近国际水平。"
有人感慨,半年就追上 ChatGPT 了,大模型似乎也不难。那么,大模型的核心壁垒是什么?中国大模型到底什么水平?大模型在应用层面最先突围的方向是什么?
沈为(化名)是某知名 985 高校教授,多年从事机器学习研究,还曾担任过某头部券商首席分析师,我们和他聊了聊,试图揭开大模型的迷雾。
GPT 路径跑通了,所以有了 " 百模大战 "
白马商评:能不能用最通俗简单的语言解释一下大模型,大模型是什么?和以往的 AI 模型有什么区别?
沈为:所谓大模型就是指模型的参数量大,但学术界并没有一个清晰明确的定义界定到底多大参数叫 " 大 ",还在快速研究发展阶段,一般来讲大模型的参数量达到 1 亿以上。
其实深度学习的发展大致经历了三个阶段。第一个阶段是 2012-2017 年,以图像分割 yolo、图像分类 ResNet 这种特定领域的小模型为代表,参数量占内存最多也就几百 MB。
2017 年,Transformer 的问世让深度学习可以并行化计算,效率更高,意味着可以做大模型的运算,随后产生了 OpenAI GPT 和谷歌 Bert 这类自然语言大模型。这一阶段诞生的是特定任务的大模型,模型参数突破了 1 亿。
到了 2020 年前后,深度学习进入通用模型阶段,它的输入就是一句带空格的话,模型的作用就是 " 填空 ",以前是模型适配下游应用,现在是下游应用适配模型。这一阶段的模型代表包括自然语言领域的 GPT 3.5、GPT 4 以及图像领域的 Clip、DALLE、Stable Diffusion、Midjourney 等等。这一阶段模型参数可以达到百亿、千亿级别。
白马商评:你了解到最早研究大模型是哪家企业或机构?有哪些成果?
沈为:最早是高校和科研机构做相关的研究,我了解比较早的是北京智源人工智能研究院的悟道、鹏程实验室的脑海,现在产业界的研究也很同步了。学术界的研究有一些成果,但性能没有 ChatGPT 那么惊艳。
白马商评:短短几个月的时间,国内出现了 " 百模大战 " 的局面,推出大模型的公司已经数不过来了,你怎么看待这种现象?
沈为:大模型肯定是趋势,也一直有人在研究。之前很多公司可能会小范围投入,做一些浅尝辄止的研究;现在突然出现了 ChatGPT 这样一个好产品,大家看到了明确的商业方向,于是都开始加大投入。
另一方面,很多公司面临商业竞争的压力,不做大模型可能就掉队了,所以必须上马大模型项目。
白马商评:周鸿祎最近说他收回 " 国内大模型跟国外差距两年 " 这句话,他认为今天已经接近国际水平。这才过去几个月的时间,大模型好像也不难嘛。你觉得差距有多少?
沈为:差距看跟谁对标吧,我目前没有体验过 360 智脑的产品,不太好评价。但是国内有些生成式 AI 产品,我体验以后感觉跟 ChatGPT 还是有差距的,国内的大模型还需要努力。
重资本投入下,只有头部公司有机会?
白马商评:研发大模型的核心壁垒是什么?
沈为:大模型的核心壁垒包括数据、算力、算法。
从算力上看,训练 ChatGPT 这样的生成式 AI 需要至少 1 万张英伟达 A100 显卡,单张显卡的价格目前是六七万,性能更优的 V100 单价 8 万元人民币,也就是说光算力投入至少就要达到六七个亿以上,只有少数头部公司和机构能承担得起。对于商业机构而言,花几个亿买一堆显卡,还不一定能产出成果,这是必须要思考的问题。
接下来是数据和算法,算法比较好理解,比如框架开发、算法优化。数据方面,中国不缺数据,甚至互联网数据比美国还要多,但是选择哪些数据去训练、采用什么样的方式处理,这些都是核心的壁垒。
白马商评:你平时会跟企业交流吗?非营利性的研究机构和企业在研究上有什么区别?
沈为:我们会跟企业的研究部门有一些交流。跟企业交流我们会更加了解实际的业务需求,有时候我们做的学术研究会更关注技术前瞻性,对落地性要求不那么高;但企业一般更强调落地性。
白马商评:你有没有研究过国内的大模型?最看好哪家?
沈为:可能还是头部公司能跑出来吧。一是重资本的投入,只有头部公司有实力;二是几家头部公司手里的数据更丰富;三是在人工智能领域已经有了一段时间的技术积累。
白马商评:你最看好的大模型应用是什么?
沈为:从技术角度看,最先应用的应该是自然语言处理和图像领域,语音识别可能要晚一些。
大家看到比较多的用 ChatGPT 来写文案,这类内容创作的应用越来越多,其他我觉得像智能客服这种应用应该也会比较快。现在的一些智能客服很多时候理解不了用户的需求,解决不了实际问题,如果让用户区分不出到底是人还是机器人,体验就会改善很多;包括游戏中的 NPC,以前的对话是 " 写死 " 的,现在渐渐可以互动了,玩家体验也会更好。
白马商评:你原来做过头部券商的首席分析师,从投资角度看,你觉得大模型有哪些机会?
沈为:资金炒作的逻辑是从应用到算法、模型,再到算力;产业的逻辑反而是相反的,算力是有明确的增长预期的,所以英伟达最近上涨很快、很多。投资者现在也明白了,谁家的大模型能跑出来、能变现还需要验证,但是增加的资本投入大部分都投到了算力。经过反复炒作,普涨行情应该已经告一段落,后面需要逻辑验证和业绩兑现。
我原来主要看传媒互联网行业,比如前段时间比较强势的游戏板块,资本的逻辑一是应用大模型提升研发效率、降低成本;二是大模型带来更好的体验,NPC 角色更智能,最后用户的粘性提升、UP 值提升。当然,最终可能还需要业绩验证。
人类无法左右 AI,甚至无法左右自己的命运?
白马商评:我们看到包括奥特曼、马斯克都对人工智能的安全性问题提出过担忧,现在我们只知道通过大模型训练出现了智能化的结果,但训练过程像一个黑箱,其实挺可怕的。你怎么看待安全问题?
沈为:在安全方面,首先我观察到几个反常的现象。第一个是今年 3 月包括马斯克、苹果公司联合创始人史蒂夫 · 沃兹尼亚克在内的 1000 多人签署了一份公开信,呼吁暂停训练比 GPT-4 更强大的 AI 系统。
第二个是,今年 5 月谷歌首席科学家、已经 75 岁的 "AI 教父 " 杰弗里 · 辛顿辞职,他离开谷歌的直接原因是担忧人工智能的危险,甚至对自己一生从事的工作感到后悔。
第三个是近两年学术领域训练大模型新增了伦理讨论。
目前来看,我觉得大模型还是可控的,没有大的问题;但是技术发展太快了,出圈以来短短几个月的时间,GPT 就又经历了几次迭代,发展速度太快,越来越智能,会不会产生自主意识,不再听人类的 " 使唤 ",走向失控?这个问题是大家担心的。
白马商评:你觉得 AI 会不会造成大量失业?在 AI 面前,普通人怎么保住工作?
沈为:从宏观上看我不觉得 AI 会造成大量的失业,人类总会有工作的,只是说人的工作内容会发生转变。当然,从个体角度看肯定会出现结构性的失业,我们只能不断学习。
白马商评:之前很多人说机器没有感情、缺乏想象力,取代不了人类;现在既然人类大脑可以通过 AI 模拟出来,那人类的情欲、性欲是不是未来也可以模拟,荷尔蒙、多巴胺这些不过是一种生物学的奖励机制嘛。
沈为:机器没有感情是当前的假设,人工智能越来越接近人的思考模式,那是不是就会产生类似于人类的 " 感情 "?只是他们和人类生活在不同的空间维度,就像《流浪地球》里图恒宇的女儿。人工智能可能会产生自己世界类似于人类的生物学意义上奖励机制。
白马商评:如果一切都可以计算、规划、设置,是不是有点无趣?
沈为:AI 的行为并不是人类预测和规划的,而是他自我强化、自我训练的结果,《流浪地球》里 MOSS 的决策是自己做的,而不是服从人类给的指令。
白马商评:硅基文明取代碳基文明是不是确定性的方向?
沈为:这个问题超纲了。按照目前的发展趋势可能是这样的,就像《流浪地球》里真正主宰人类命运的是 MOSS,而不是人类;但现实中也有可能技术会停滞在某个阶段,跨不过去,毕竟技术发展不是线性的。
责任编辑:hnmd003
相关阅读
相关阅读
-
中国大模型到底什么水平? 世界观焦点
图片来源@视觉中国文|白马商评都快成红海了。当我和一个创业者聊起大模
-
全球焦点!扫地机器人市场回暖,科沃斯却难突破?
「核心要点」经过今年5月以及618促销期,扫地机器人市场终于迎来了销量
-
【天天速看料】佛山南海区里水镇小学转学插班报名对象2023
佛山南海区里水镇公办小学插班生将实行网上报名,2023年7月4日早上7:00
-
小孩子可以买百万医疗吗?要多少钱?_全球新要闻
可以, 给孩子买百万医疗险是可以的, 根据自身家庭情况来决定是否需要
-
脑起搏器百万医疗报销吗?报销多少?
如果使用脑起搏器所发生的医疗费用是合理且必要的,那么通常是可以进行
-
今日热闻!百万医疗险可以申请垫付吗?需要什么材料?
百万医疗险通常是在事后报销医疗费用,即投保人先自行支付医疗费用,然
-
33岁买百万医疗多少钱?划算吗?
年缴费用大约在1000元至3000元之间。 百万医疗保险的价格因保险公司、
-
百万医疗险可以报销icu吗?能报销多少?
可以, 首先,我们需要明确百万医疗险的保险范围。 百万医疗险是一种针
-
时代IPO快讯:天极科技申请获受理,苏环院首获问询,惠柏新材提交注册|环球精选
来源|时代商学院作者|雷小艳孙佳雯黄锐陈丽娜毕肖磊编辑|陈佳鑫一、受
-
世界要闻:极狐阿尔法S先行版OTA再升级,AVP功能惊喜上线
极狐阿尔法S先行版OTA再升级,AVP功能惊喜上线车位找不到?车多停车难
-
做好创新创业教育这篇大文章|世界播资讯
创新是社会进步的灵魂,创业是推动经济社会发展、改善民生的重要途径。
-
地平线与四维图新:围绕智驾系统等多领域加深合作-天天速看料
地平线与四维图新:围绕智驾系统等多领域加深合作简介:7月4日,盖世汽
-
宇通客车:6月汽车销量同比增长111.55%
宇通客车公告,6月汽车销量4726辆,同比增长111 55%。本年累计销量1513
-
汤臣倍健发布2023年H1业绩预告:净利润同比增长30%-50%-当前快讯
7月3日,汤臣倍健发布2023年半年度业绩预告。报告期内,公司预计实现归
-
方程豹汽车首款车型定名豹5,将于年内开启交付|热门
7月4日,比亚迪方程豹汽车首款车型定名“豹5”,价格将在40-60万元之间
-
马斯克硬刚 OpenAI,用户惨遭池鱼之殃
只听说过社交媒体想方设法让用户多停留的,没听说过主动给人加个上限的
-
MIUI15 来了!小米下半年最大重头戏:多款新机已在测试!|全球快报
在去年底发布的小米13系列上,除了在核心硬件上的全新升级外,我们也见
-
菜鸟京东化,顺丰怎么办?
图片来源@视觉中国文|解码Decode每年,国家邮政局都会按季度公布一份快
-
传阿里有意将优酷和土豆注入阿里影业?阿里大文娱公关回应称,不属实
36氪获悉,有市场消息传出,阿里巴巴据悉考虑视频平台优酷和土豆的战略
-
中端手机暴打旗舰!上半年重磅新机扎堆,太卷了!
随着6月份的结束,热闹了整整半年的手机市场总算是迎来了「冷静期」。
-
集度汽车缄默,百度造车到哪一步了? 环球快讯
作者:孙志富来源:猫头鹰车志(ID:owlauto)2021年,李彦宏首次明确了
-
即时:新型硅了解下?性能全面升级自带新特性 适用于量子计算机等领域
财联社7月4日讯(编辑黄君芝)近一个世纪以来,硅在电子领域一直占据着
-
合资变外资?smart 电动化转型国内市场承压
随着A00级别小车市场规模下降,行业电动化转型趋势加快等因素影响,sma
-
镓锗出口管制!概念股应声大涨,业内:半导体产业或受影响
利好消息助攻,今日锗、镓概念股开盘大涨。个股中,国内两大锗生产企业
-
“陈思诚模式”为何叫座? 焦点速递
燃次元(ID:chaintruth)原创作者|陶淘编辑|曹杨电影《消失的她》爆
-
万控智造: 公司在定期报告披露相应报告期末的股东人数 今热点
万控智造(603070)07月04日在投资者关系平台上答复了投资者关心的问题。
-
重疾险和百万医疗哪个好?区别是什么?
都好。重疾险和百万医疗都有各自的优势,取决于您的需求和偏好。重疾险
-
焦点!毕马威中国发布金融科技企业首席洞察报告
6月30日,由青岛市地方金融监督管理局、中国人民银行青岛市中心支行指
-
生孩子能用百万医疗保险么?一年要交多少保费?|每日观点
不能。百万医疗保险一般并不包括生育相关的费用。百万医疗保险主要针对
-
全球观察:顾家家居被投诉,拒绝为保修期内产品保修,官网8大承诺成一纸空话?
近日,有消费者向《消费者报道》投诉称对顾家家居的售后运营感到不满,
精彩推荐
阅读排行
精彩推送
- 环球时讯:大麦称被罚系项目批文...
- 工伤报完百万医疗可以报吗?多久...
- 元宇宙|WAIC 2023 阿里元境元...
- 众安惠医保百万医疗险保什么?可...
- 每日短讯:元宇宙 | 上海市多...
- 环球观热点:网上说的百万医疗是...
- 全球简讯:叉车龙头安徽合力业绩...
- 网传阿里或将重新整合视频资产,...
- 中国驻日大使馆:国际原子能机构...
- 全球今热点:突发!中国电子竞技...
- 微软内部信流出,雄心规划曝光,...
- 每日快播:集度汽车缄默,百度造...
- 美媒:Meta 想进入中国市场卖产...
- 700 亿游戏巨头终被立案,“莆...
- 天天日报丨坚持异质主机形态,任...
- 世界快看:车企最看好的激光雷达...
- 曾被安徽前首富“掏空”,700 ...
- 燕京啤酒的蔡徐坤隐喻 滚动
- 世界快资讯丨上汽的痛,谁懂?
- 半年排名跃升近30位 中建智地...
- 途昂锁车喇叭怎么开启视频(途昂...
- 【全球新视野】华夏喜盈门年金保...
- 世界新动态:惠添宝年金保险条款...
- 环球关注:平安年金保险富赢金生...
- 天天通讯!华东医药(000963.SZ)...
- 天天亮点!农银人寿养老年金保险...
- 平安有增额终身寿险吗?值得购买...
- 报道:菜鸟京东化,顺丰怎么办?
- 高德地图宣布王鹤棣为新代言人
- 每日快报!腾势N7,宣战BBA