全球关注:解决 AI 落地的最大障碍,OpenAI 找到办法了?
2023-06-01 09:06:37来源:ZAKER科技
OpenAI 似乎找到了解决生成式人工智能 " 一本正经胡说八道 " 的办法。
(资料图片仅供参考)
5 月 31 日,OpenAI 在其官网宣布,已经训练了一个模型,能够有助于消除生成式 AI 常见的 " 幻觉 " 和其他常见问题。
OpenAI 表示,可以训练奖励模型来检测幻觉,奖励模型又分为结果监督(根据最终结果提供反馈)或过程监督(为思维链中的每个步骤提供反馈)模型。
也就是说,过程监督奖励推理的每个正确步骤,而结果监督只是简单地奖励正确的答案。
OpenAI 表示,相比之下,过程监督有一个重要的优势——它直接训练模型以产生由人类认可的思维链:
过程监督与结果监督相比有几个一致性优势。它直接奖励遵循一致的思维链的模型,因为过程中的每一步都得到了精确的监督。
过程监督也更有可能产生可解释的推理,因为它鼓励模型遵循人类批准的过程
结果监督可能会奖励一个不一致的过程,而且通常更难审查。
OpenAI 在数学数据集上测试了这两种模型,发现过程监督方法导致了 " 显著更好的性能 "。
但需要注意的是,到目前为止,过程监督方法仅在数学领域进行了测试,并且需要更多的工作来观察它如何更普遍地执行。此外,OpenAI 没有说明这一研究需要多长时间才能应用在 ChatGPT,它仍然处于研究阶段。
虽然最初的结果是好的,但 OpenAI 确实提到,更安全的方法会产生降低的性能,称为对齐税(alignment tax)。
目前的结果显示,在处理数学问题时,过程监督不会产生对齐税,但在一般的信息上的情况尚不知晓。
生成式 AI 的 " 幻觉 "
生成式 AI 问世以来,围绕其编造虚假信息、" 产生幻觉 " 的指控从未消失,这也是目前生成式 AI 模型最大的问题之一。
今年 2 月,谷歌为应对微软资助下 ChatGPT,仓促推出了聊天机器人 Bard,结果却被发现在演示中出现了常识性错误,导致谷歌股价大跌。
导致 AI 出现幻觉的原因有多种,输入数据欺骗 AI 程序进行错误分类是其中一种。
例如,开发人员使用数据 ( 如图像、文本或其他类型 ) 来训练人工智能系统,如果数据被改变或扭曲,应用程序将以不同的方式解释输入并产生不正确的结果。
幻觉可能会出现在像 ChatGPT 这样的基于语言的大型模型中,这是由于不正确的转换器解码,导致语言模型可能会产生一个没有不合逻辑或模糊的故事或叙述。
责任编辑:hnmd003
相关阅读
-
全球关注:解决 AI 落地的最大障碍,OpenAI 找到办法了?
OpenAI似乎找到了解决生成式人工智能一本正经胡说八道的办法。5月31日,OpenAI在其官网宣布,已经训练了一
2023-06-01 -
OPPO Reno10 系列手机 6 月 1 日开售:全系标配超光影长焦,2499 元起-全球微头条
品玩6月1日讯,OPPO全新人像轻旗舰Reno10系列6月1日正式开售,本次OPPOReno10系列让长焦回归人像,全系标配
2023-06-01 -
要闻速递:苹果测试两款搭载高端芯片的 Mac 新机型,接近正式发布
钛媒体App6月1日消息,据报道,在定于北京时间6月6日至10日举行的苹果年度全球开发者大会(WWDC)开幕前,
2023-06-01
相关阅读
-
全球关注:解决 AI 落地的最大障碍,OpenAI 找到办法了?
OpenAI似乎找到了解决生成式人工智能一本正经胡说八道的办法。5月31日,OpenAI在其官网宣布,已经训练了一
-
OPPO Reno10 系列手机 6 月 1 日开售:全系标配超光影长焦,2499 元起-全球微头条
品玩6月1日讯,OPPO全新人像轻旗舰Reno10系列6月1日正式开售,本次OPPOReno10系列让长焦回归人像,全系标配
-
即将发放!6 月,你工资卡里或多两笔钱! 每日消息
6月即将到来你的工资单里或将增加这两笔收入高温津贴和五一加班费这是两笔什么钱呢?带您了解一下↓...
-
腾讯音乐、美团大众点评等“撤资” KTV 运营商 K 米重回星网锐捷怀抱|热消息
5月30日晚,星网锐捷(SZ002396,股价21 15元,市值125 4亿元)公告称,参股孙公司福建凯米网络科技有限公
-
中山路商圈也有新能源汽车充电站啦 今日开始运营
据悉,早在2021年,燃气热力公司就在东万达商圈建设了一座新能源汽车充电站,东万达商圈投运后,吸引了大批
-
焦点速讯:内蒙古自治区已争取中央林草资金过百亿
专项资金重点支持了我区东部草原沙地综合治理工程、额尔古纳河流域生态保护治理工程和西部荒漠综合治理工程
-
满是青木瓜和摩托车的越南,从“黑马”变“黑洞”?
出品|虎嗅商业消费组作者|周月明编辑|苗正卿题图|视觉中国越南经济就像踩了急刹车。5月29日,据越南统
-
曾与“蔚小理”同一起跑线,爱驰汽车为何沦落?
图片来源@视觉中国文|首席商业评论上海车展之后,新能源汽车行业正在加速洗牌。继威马、天际、恒驰、牛创陷
-
热讯:中国建设银行大动作:获准开业,注册资本 72 亿!
5月31日晚间,建设银行(SH601939,股价6 4元,市值1 6万亿元)发布公告称,近日,中国建设银行股份有限公
-
金士顿u盘无法识别怎么办?金士顿u盘写保护怎么去掉?
金士顿u盘无法识别怎么办?1、USB接口接触不良换个usb接口试试。如果是台式机,最好使用机箱后面的usb接...
-
高原女兵班与藏族孩子们畅谈梦想共庆六一
在距离拉萨市区近百公里的江热夏乡双语小学的操场上,西藏军区某旅少尉排长李倩正与该小校的小学生们畅谈梦
-
dns的服务器地址怎么设置?dns错误怎么办?
dns的服务器地址怎么设置?1、 开机后在桌面上选定图标"网上邻居", 点击鼠标右键, 在弹出的菜单上选...
-
虚拟内存有必要开吗?虚拟内存低于3g怎么改?
虚拟内存有必要开吗?虚拟内存是有必要开的。虚拟内存可以看做是物理内存的仓库,因为其本质还是硬盘,所...
-
滑动变阻器的作用是什么?滑动变阻器怎么看电阻变大变小?
滑动变阻器的作用是什么?1、保护电路。因为在多数实验中滑动变阻器都拥有一个毋容置疑的共同作用,那就...
-
我国南方地区进入主汛期 今年汛情主要有这些特点-焦点快看
今天(6月1日),我国南方地区进入主汛期。记者从水利部了解到,5月31日到6月4日,我国西南西北等地有一次强
-
电机传动是什么?电机传动比一般是多少?
电机传动是什么?电机传动是指利用电机产生的旋转力矩来驱动其他机械装置运动,实现动力传输的过程。电机...
-
把快乐骑出去!新日花仙子疯狂玩转“多巴胺”穿搭
伴随着夏日的第一股热浪来袭,是比温度更hot的——多巴胺穿搭。打翻调色盘的它,突然成为这个季节搜索量...
-
电压跟随器是什么?电压跟随器的作用
电压跟随器是什么?电压跟随器(也称为单位增益放大器、缓冲放大器和隔离放大器)是一种电压增益为 1 的...
-
5号碱性电池一般多少毫安?5号碱性电池可以托运吗?
5号碱性电池一般多少毫安?一般的5号电池是600毫安左来右。即0 6A左右。 5号电池(即AA,R6)是电池种类之...
-
蜂鸣器是干什么用的?蜂鸣器报警电路工作原理
蜂鸣器是干什么用的?蜂鸣器是一种一体化结构的电子讯响器,采用直流电压供电,广泛应用于计算机、打印机...
-
上行速率和下行速率是什么意思?下行速度500mbps是多少兆宽带?
上行速率和下行速率是什么意思?1 上行速率是什么上行速率通常用于描述向互联网发送数据的速度,比如通...
-
线材期货是指什么品种?线材期货为何没人做?
线材期货是指什么品种?线材期货是以线材作为标的物的交易品种,于2018年10月16日在我国上海期货交易所上...
-
“天才少年”稚晖君弃华为投百度?大厂自研机器人难造,投资成最后稻草 全球视讯
图片来源:Pixabay离开华为半年之后,前华为“天才少年”稚晖君发起的AI机器人创业项目“智元机器人”资...
-
原型AirPods曾开发五种颜色 以匹配iPhone 7 环球速讯
凤凰网科技讯6月1日消息,据科技媒体“MacRumors”报道,名为“Kosutami”的原型收藏家称,初代AirPods...
-
马斯克访问特斯拉上海超级工厂
据报道,特斯拉对外事务副总裁陶琳微博发布两张马斯克和员工的大合影,配文“感谢所有的支持! 收获满
-
消息称英伟达黄仁勋拟本月赴华,会见腾讯、字节等企业高管
据财联社消息,知情人士透露,英伟达CEO黄仁勋将于6月前往中国,会见腾讯、字节跳动等企业高管。黄仁勋
-
字节跳动:没有与第三方公司成立“字节跳动教育联盟”的计划
近日,有报道称,*ST豆神计划与字节跳动联合发起“字节跳动教育产业联盟”。对此,字节跳动发表声明表示...
-
做市是什么意思?做市商对股民的伤害
做市是什么意思?做市是指在新三板正常转让日内,做市商必须连续报出其做市证券的买价和卖价,若投资者的...
-
【国际快讯】马斯克私人飞机已抵达上海;传黄仁勋本月访华;纬湃科技锁定安森美碳化硅产能
【国际快讯】马斯克私人飞机已抵达上海;传黄仁勋本月访华;纬湃科技锁定安森美碳化硅产能聚焦·马斯克...
-
BBA一季度财报:钱好挣,电难转?-焦点热议
BBA一季度财报:钱好挣,电难转?5月27日,奔驰全新EQE纯电SUV在华正式上市,定价区间为48 6万-63 03万元。
精彩推荐
阅读排行
精彩推送
- 引全球化思维、携更多海外伙伴 ...
- 大众中国CEO回应比亚迪销量超大...
- 世界热点评!贾跃亭,总能光明正...
- 孙莹莹:在平凡岗位上挥洒青春激...
- 我市首家缺陷产品伤害监测点设立
- 为神舟十六号发射作保障 北奔重...
- 每日热门:护航未成年人成长|童...
- 环球热头条丨护航未成年人成长|...
- 金融ic卡是什么卡?金融ic卡和借...
- 承德露露回应“露露黄了”!承德...
- 人民币升值好还是贬值好?人民币...
- 贷款信息哪里可以查询?贷款信息...
- 要闻速递:苹果测试两款搭载高端...
- 当 KPI 遇上 OKR, 高薪产品...
- OpenAI 将用新方法来训练模型,...
- 罗永浩京东首播全场销售额突破 ...
- 马斯克深夜到访特斯拉上海超级工...
- 多地发布 2022 年平均工资,这...
- 天天热议:国内油价调价窗口 30...
- 焦点热门:网传柳州一干部与情人...
- 大降价!你爱吃的它,每斤价格已...
- 惊了!一条鱼能抵一套房 ...
- 中国加息会有什么影响?央行加息...
- 银行电汇什么意思?银行电汇需要...
- iPhone14全系跳水最高降1900!ip...
- 吉林油田新能源发电量突破1亿千...
- 小车交强险一年多少钱?小车交强...
- 年末净资产是什么意思?年末净资...
- 中签号码和配号怎么看?中签号码...
- 按揭买车需要查征信吗?按揭买车...