引用《道德经》,谈大国分歧,Sam Altman 最新演讲:AI 安全始于足下_世界焦点
2023-06-11 22:24:22来源:ZAKER科技
OpenAI 创始人 Sam Altman 的环球之旅已经进行到第四周,在此期间,他已经去到五个大洲的近 20 个国家,与学生、开发人员和国家元首会面。今天,北京时间上午 9 点 20 分,Sam 以视频连线的方式现身于中国北京举办的 2023 智源人工智能大会,发布了演讲,并接受了院士张宏江的访谈对话。
【资料图】
演讲依然围绕近期他所呼吁的 AI 安全问题的关注。Sam 指出,当下,AI 正以极快的速度发展并扩展人类想象的画布。在此过程中,潜在红利与危机是并存的。随着日益强大的 AI 系统的出现,全球合作的赌注从未如此之大。考虑到 AI 未来所带来的问题(如医疗、农业领域的应用)之严峻性,从当下开始重视、推进 AI 安全是刻不容缓的。
Sam 特别提到,大国之间分歧常有,但在重要的大事上,还是需要协调与合作,寻找共同利益点。他特别引用了老子《道德经》中的话:千里之行,始于足下。他认为,当下可以迈出的最有建设性的一步,是国际科技界间的通力合作,特别是推动建立提高 AI 安全技术进步方面的透明度和知识共享的机制。
值得注意的是,此前在周游列国时,在 AI 安全和治理方面,Sam 的主要观点是:目前 AI 系统还没有强大到威胁社会安全的地步,因此不必对正在研究的 AI 系统进行严格监管,这无疑在减缓创新。此次在中国的演讲,Sam 的演讲未曾涉及监管的讨论。但他提出,人们的确需要为迎接超出想象强大的 AI 系统进行监管和安全上的讨论。
极客公园全程观看了这场演讲,以下内容经整理编辑后发布。
精彩摘要:
当下人工智能革命影响如此之大的原因,不仅在于其影响的规模,也是其进展的速度。这同时带来红利和风险。
AI 带来的潜在红利是巨大的。但我们必须共同管理风险,才能达到用其提升生产力和生活水平的目的。
随着日益强大的 AI 系统的出现,全球合作的赌注从未如此之大。大国意见分歧在历史上常有,但在一些重要的大事上,必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。
对齐仍然是一个未解决的问题。想象一下,未来的 AGI 系统或许具有 10 万行二进制代码,人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。
GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级,主要分为扩展性和可解释性两方面。
演讲全文:
每次我访问中国,我遇到的技术人才都能使我惊奇和振奋。正如你前面提到的,我现在正处于环世界之旅的第四个星期。我已经去了在五个大洲的近 20 个国家,与学生、开发人员和国家元首会面。这次旅行对我是一种激励。我们看到了世界各地的人们都已经在使用 AI 技术,以令人难以置信的方式改变生活。我们也收到了来自用户的宝贵反馈,告诉我们如何能使这些工具变得更好。
我们还有机会与外国领导人进行有意义的对话,讨论需要建立的监管安全措施,以确保安全和可靠地部署日益强大的人工智能系统。
整个世界现在都在集中注意力,想要解决当今的人工智能问题,这也是非常正确的、值得我们努力解决的重要议题。我们还有很多工作要做,但鉴于我们已经取得的进展,我相信我们一定会达到目标。
今天,我想谈一谈未来。具体来说,我想谈谈我们看到的 AI 能力的增长速度,以及我们现在需要做什么,才能为将它们部署到世界做负责任的准备。
科学史告诉我们,技术进步遵循的是一条指数型曲线。我们在几千年来的农业革命、工业革命和计算革命中都看到了这一点。
但是,我们现在正在见证的人工智能革命影响如此之大的原因,不仅在于其影响的规模,也是其进展的速度。它正在扩展人类想象力的画布,并以极快的速度这样做。
想象一下未来十年的世界,通用人工智能系统,通常称为 AGI ,在几乎每个领域专业技能都超过了人类。这些系统产生的生产力最终可以超过我们最大公司所能产出的集体生产力。
潜在的红利是巨大的。人工智能革命可以创造我们共享的财富,而且可能大幅提高每个人的生活水平。但我们必须共同管理风险,才能达到这个目的。
我非常了解,大国之间有时可能会有它们的分歧。从古至今都是如此。但即使在最困难的时期,大国们也找到了在最重要的事情上进行合作的方法。大国之间的合作促进了关键的医疗和科学进步,如根除脊髓灰质炎和天花等疾病,全球也共同努力减弱了气候变化风险。
随着日益强大的 AI 系统的出现,全球合作的赌注从未如此之大。如果我们不小心行事、建立一个瞄向改善公共卫生成果的 AI 系统的宗旨,可能因为对齐出现问题,向人们提供没有根据的医疗建议,反而破坏了整个医疗体系。同样,一个旨在优化农业实践的 AI 系统可能会由于缺乏对影响粮食生产和环境平衡的长期可持续性的考虑,而无意中耗尽自然资源或破坏生态系统。我真心希望我们都能同意,推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。
我想在接下来的发言中重点谈谈我认为我们可以从哪里开始。
第一个领域是 AGI 治理。AGI 是一种从根本上改变我们文明的强大力量,这意味着有意义的国际合作和协调是极其必要的。如果国际间能够合作治理,那么我们每一个人都能受益。
如果我们安全和负责任地对其进行治理,AGI 系统可以为全球经济创造无与伦比的经济财富,能够解决像气候变化、健康、安全这样的共同挑战,并以无数其他方式改善社会。我非常相信这样的未来将会到来。而我们所有居住在这个星球的人,需要共同投资于 AGI 的安全措施,才能到达、享受这样的未来。要做到这一点,需要大家认真合作。AGI 是一个全球性的科技,也有着全球范围内的影响力。出现事故或者不负责任地发展,其代价会影响我们所有人。
国际合作中,我认为有两个关键领域是最重要的。
首先我们需要建立国际规范和标准,并注意过程中注重包容性。在任何国家使用 AGI 系统,都应平等而一致地遵循这样的国际标准和规范。在这些安全护栏内,我们相信人们有足够的机会做出自己的选择。
第二,我们需要国际合作,以可核查的方式建立对安全开发日益强大的 AI 系统的国际间信任。我并不妄想这是一件容易的事,需要投入大量和持续的关注。
道教之书教育我们,千里之行,始于足下。我们认为,我们可以迈出的最有建设性的一步是与国际科技界合作,特别是推动建立提高 AGI 安全技术进步方面的透明度和知识共享的机制。当研究人员发现新出现的安全问题时,他们应为了人类更大的利益分享他们的发现。我们需要认真思考如何在尊重和保护知识产权的同时,鼓励这样的规范。这可以为我们深化合作打开新的大门。
更广泛地说,我们应该在促进和引导 AI 对齐和安全研究方向进行投资。在 OpenAI ,在如何让人工智能系统成为一个更安全有用的系统的技术问题上,我们进行 AI 对齐研究。这可能指向,我们该如何训练 ChatGPT ,使其不进行暴力威胁或协助用户进行有害的活动。
但随着我们日益接近 AGI 的时代,没有对齐的 AI 系统的潜在影响力和影响规模将成倍增长。现在积极主动地解决这些挑战,能将未来出现灾难性结果的风险降到最低。
对于目前的系统,我们主要利用人类反馈进行强化学习来训练我们的模型,使其成为一个有帮助的安全助手。这只是各种训练后调整技术中的一个例子。而且我们也在努力研究新的技术,其中需要很多艰苦的工程工作。
从 GPT4 完成预培训到我们部署它,我们专门花了 8 个月的时间来进行对齐方面的工作。总的来说,我们认为我们在这方面做得很好。GPT4 比我们以前的任何模型都更加与人类对齐。
然而,对于更先进的系统,对齐仍然是一个未解决的问题,我们认为这需要新的技术方法,同时增强治理和监督。 我们想象一下,未来的 AGI 系统或许具有 10 万行二进制代码,人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。因此,我们正在致力于研究一些新的和互补的研究方向,希望能实现突破。
其中一个是可扩展监督。我们可以尝试使用 AI 系统来协助人类监督其他 AI 系统。例如,我们可以训练一个模型来帮助人类监督发现其他模型的输出中的缺陷。
第二个是可解释性。我们想尝试更好地了解这些模型内部发生了什么。我们最近发表了一篇论文,使用 GPT-4 来解释 GPT-2 中的神经元。 在另一篇论文中,我们使用 Model Internals 来检测一个模型何时在说谎。我们还有很长的路要走。我们相信,先进的机器学习技术可以进一步提高我们解释的能力。
最终,我们的目标是训练 AI 系统来帮助进行对齐研究。这种方法的好处在于,它它可以随着 AI 的发展速度而扩展。
获得 AGI 带来的非凡好处,同时降低风险,是我们这个时代的开创性挑战之一。我们看到中美两国和世界各地的研究人员有很大的潜力共同实现共同的目标,并致力于努力解决 AGI 对齐带来的突出技术挑战。
如果我们这样做,我相信我们将能够利用 AGI 来解决世界上最重要的问题,并极大地改善人类的生活质量。非常感谢。
责任编辑:hnmd003
相关阅读
相关阅读
-
引用《道德经》,谈大国分歧,Sam Altman 最新演讲:AI 安全始于足下_世界焦点
OpenAI创始人SamAltman的环球之旅已经进行到第四周,在此期间,他已经
-
广州近百名高校教师齐聚大学城共赴 AI 学习之旅
新快报讯6月9日—10日,2023人工智能师资培训昇腾AI全国行广州站暨广州
-
苹果刚刚发布的重磅新品,居然和华为「撞车」了?
不久前的WWDC23全球开发者大会上,苹果发布了传闻已久的混合现实头显—
-
焦点讯息:扎克伯格称赞马斯克:在推特的大幅裁员“值得效仿”
据财联社消息,Meta公司CEO扎克伯格本周四在Lex Fridman播客节目中
-
“京彩文化 青春绽放”文艺行活动举行
“京彩文化青春绽放”行动计划文艺行活动邀请中央民族大学、中国戏曲学
-
当前播报:北京劳动者之歌|杨晓雪:帮文物“永生”是我们的使命
第三届“北京大工匠”、北京工业职业技术学院教师杨晓雪,多年来从事文
-
微视频|加强教育强国建设 全面提高人口素质 环球今亮点
会议提出,把教育强国建设作为人口高质量发展的战略工程,全面提高人口
-
环球报道:吹了四年的屏下摄像头手机,怎么就不受待见了?
2018年,正当三星苹果还在绞尽脑汁去提升手机屏占比时,国产手机用升降
-
在未来,VR 也许是一个好风口-全球速看
本篇文章作者以最近发布的苹果VisionPro为话题,分析自己对VR未来发展
-
联想服务器连续三个季度居全球第三|环球微速讯
北京商报讯(记者陶凤王柱力)6月11日,北京商报记者获悉,全球知名市
-
华为上调 2023 年手机出货量目标至 4000 万部
北京商报讯(记者陶凤王柱力)6月11日,产业链人士透露消息称华为近期
-
“缩编”渠道扩大!有银行拟下架贵金属 App 手机银行数字化“减法”如何做? 焦点简讯
银行关停、下架手机银行App的动作仍在持续。6月11日,北京商报记者注意
-
华为上调 2023 年手机出货量目标至 4000 万部|世界时讯
北京商报讯(记者陶凤王柱力)6月11日,产业链人士透露消息称华为近期
-
全球热讯:美英领导人发表《大西洋宣言》 美英寻求建立“新型创新伙伴关系”!
美国总统拜登8日在白宫会晤英国首相苏纳克。会后,双方发表《大西洋宣
-
松发股份收购电芯龙头 全面进军储能业务
6月12日,广东松发陶瓷股份有限公司(以下简称“松发股份”)发布公告
-
天天热点!教育部印发《意见》 加强中小学地方课程和校本课程建设与管理
为完善基础教育课程体系,发挥地方课程和校本课程育人功能,近日,教育
-
总部难觅工作人员,部分门店紧闭……这个“华南最大”瑜伽品牌怎么了 播报
这里8号上午还上了课,9号开始就没上了,有人交了上万的学费,现在都退
-
国铁集团:从未授权以“国铁集团”或“中国铁路”名义销售投资理财产品|今日讯
财联社6月11日电,国铁集团发布声明,国铁集团及所属单位从未授权或利
-
6月10日起12306可以在线选火车铺位
中国青年报客户端讯(中青报•中青网记者张晓盈)记者从中国国家铁路集
-
天天热头条丨刘备身边一个不起眼的小兵,投降曹操后一飞冲天名传千古
刘备身边一个不起眼的小兵,投降曹操后一飞冲天名传千古,三国时期诸侯
-
陈根:脸部穿戴设备将嗅觉带入虚拟现实世界|快播报
文 陈根什么是VR?VirtualReality直译过来便是“虚拟现实”。那么,什
-
天天视讯!英特尔要求更高办厂补贴 德国财长说“给不起”
依照《金融时报》说法,英特尔要求从德国政府获得更多补贴的理由是能源
-
【环球新视野】苹果全新 M2 Ultra 跑分出炉 单多核 2837/21730
6月6日,苹果举行了WWDC2023开发者大会,发布了全新的M2Ultra芯片以及
-
三星 Tab S9 Ultra 通过认证,最强安卓平板将至 环球今热点
随着越来越多厂商近年来加入平板电脑市场的竞争,作为Android阵营的领
-
天天观焦点:有传言称,苹果 iPhone 15 Pro Max 价格或将上调
随着WWDC23的落幕,下一次苹果方面推出新品可能就要等到秋季新品发布会
-
世界看热讯:华为 Mate X3 迎来系统更新,开启息屏显示更自由
息屏显示作为许多用户钟爱的一项功能,如今在搭载OLED屏幕的机型上几乎
-
看热讯:iOS 17 的一项新功能,又要让广告商头疼了
隐私保护近年来无疑是苹果iOS的一大招牌,更是诸多用户选择iOS生态的关
-
苏州财政支持推进碧螺春茶产业保护发展|焦点关注
开发茶叶气象指数保险,推动茶叶种质资源保护,扶持茶产业乡土人才发展
-
富安达基金换帅:管理规模下降,业绩下滑,新任总经理能否扭转盈利困局?
富安达基金迎来重大人事调整。近日,富安达基金发布公告称,公司原总经
-
钉钉加入618大促:企业服务频道公布618活动
近日,钉钉正式开启了为期一个月的“618企业采购节”。和天猫618有
精彩推荐
阅读排行
精彩推送
- 考后心理波动期来了?几个方法帮...
- 天天观察:苹果 Vision Pro ...
- 分析师:预计苹果今年将上调 iP...
- 视障用户也能用 Vision Pro ...
- 环球微动态丨直击金交会:广发银...
- 今日聚焦!一场引领未来的全球盛...
- 全球今头条!科技周报:抖音尝试...
- 交通银行董事长任德奇:商业银行...
- 菲律宾马荣火山喷发风险上升 阿...
- 从“无中生有”实现“跨越发展”...
- 微软宣布将 GitHub Copilot ...
- 家乐福推出 AI 购物资讯机器人...
- 世界最资讯丨推特认证创作者将获...
- 小米 14 配置信息曝光,或搭载...
- 索尼 Xperia PRO-I II 效果...
- 天天信息:龙头股价下坠,巨额扩...
- 当代年轻人的“糊弄学”大赏 环...
- 安邦利丰年金保险投保规则是什么...
- 年金补充养老保险是什么意思?怎...
- 给孩子的年金保险有哪些?怎么买?
- 宝得利终身年金保险怎么样?怎么...
- 恒大北极星养老年金保险保障内容...
- 咖啡店评弹返场、多彩手工体验!...
- 空中剧院京剧杨门女将_空中剧院京剧
- 变废为宝!中国科学家实现含氯废...
- 杭州市:将着力推动人工智能产业...
- 世界快报:8岁小孩近视500度能恢...
- 保险年金有风险吗?如何投保? ...
- 分红险缴费期满退保能退多少?有...
- 养老金年金保险是什么?有什么作...