突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信-焦点滚动
2023-05-30 22:25:20来源:ZAKER科技
包括 「ChatGPT 之父」Sam Altman 在内 350 位 AI 权威都签署了这封联名公开信,并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧。
这封信只有一句声明:降低人工智能灭绝的风险,应该与其它社会规模的风险(如大流行病和核战争)一样,成为全球的优先事项。
(资料图片仅供参考)
加入公开信签名
https://www.safe.ai/statement-on-ai-risk
签署人包括三个领先的 AI 公司高管:
OpenAI 首席执行官 Sam Altman;
Google DeepMind 首席执行官 Demis Hassabis;
Anthropic 的首席执行官 Dario Amodei;
更重要的是,名单里还有 Geoffrey Hinton 和 Yoshua Bengio 两位人工智能的「教父」。
超过 350 名从事人工智能工作的高管、研究人员和工程师签署了这份由非盈利组织人工智能安全中心发布的公开信,认为人工智能具备可能导致人类灭绝的风险,应当将其视为与流行病和核战争同等的社会风险。如今人们越来越担心 ChatGPT 等人工智能模型的发展可能对社会和就业带来的潜在威胁,很多人呼吁针对 AI 行业进行更强力的监管,否则它将对社会造成不可挽回的破坏。
AI 不断狂飙,但相关的监管、审计手段却迟迟没有跟上,这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。
在上周,Sam Altman 和另外两位 OpenAI 的高管提出应该建立类似国际原子能机构这样国际组织来安全监管 AI 的发展,他呼吁国际间领先的人工智能制造商应该展开合作,并要求政府强化对尖端人工智能制造商的监管。
其实早在 3 月,就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。
该信呼吁所有的 AI 实验立即暂停研究比 GPT-4 更先进的 AI 模型,暂停时间至少 6 个月,为的就是把这些可怕的幻想扼杀在摇篮之中。
AI 的进步速度实在过于惊人,但相关的监管、审计手段却迟迟没有跟上,这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。
该联名信已经获得了包括 2018 年图灵奖得主 Yoshua Bengio、马斯克、史蒂夫 · 沃兹尼亚克、Skype 联合创始人、Pinterest 联合创始人、Stability AI CEO 等多位知名人士的签名支持,截稿前联名人数已经达到 1125 人。公开信的原文如下:
人工智能具有与人类竞争的智能,这可能给社会和人类带来深刻的风险,这已经通过大量研究 [ 1 ] 得到证实,并得到了顶级 AI 实验室的认可 [ 2 ] 。正如广泛认可的阿西洛马尔人工智能原则(Asilomar AI Principles)所指出的,先进的 AI 可能代表地球生命历史上的重大变革,因此应该以相应的关注和资源进行规划和管理。
不幸的是,即使在最近几个月, AI 实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞争,而没有人能够理解、预测或可靠地控制这些数字化思维,即使是它们的创造者也无法做到这一点。
现代 AI 系统现在已经在通用任务方面具有与人类竞争的能力 [ 3 ] ,我们必须问自己:
我们应该让机器充斥我们的信息渠道,传播宣传和谎言吗?
我们应该将所有工作都自动化,包括那些令人满足的工作吗?
我们应该发展可能最终超过、取代我们的非人类思维吗?
我们应该冒失控文明的风险吗?
这些决策不应该由非选举产生的科技领导人来负责。只有当我们确信 AI 系统的影响是积极的,风险是可控的,我们才应该开发强大的 AI 系统。这种信心必须得到充分的理由,并随着系统潜在影响的增大而增强。OpenAI 最近关于人工智能的声明指出:「在某个时候,可能需要在开始训练未来系统之前获得独立审查,对于最先进的努力,需要同意限制用于创建新模型的计算增长速度。」我们同意。现在就是那个时刻。
因此,我们呼吁所有 AI 实验室立即暂停至少 6 个月的时间,不要训练比 GPT-4 更强大的 AI 系统。这个暂停应该是公开和可验证的,并包括所有关键参与者。如果无法迅速实施这样的暂停,政府应该介入并实行一个暂禁令。
AI 实验室和独立专家应该利用这个暂停时间共同制定和实施一套共享的先进 AI 设计和开发安全协议,这些协议应该由独立的外部专家严格审核和监督。
这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的 [ 4 ] 。这并不意味着暂停 AI 发展,而只是从不断迈向更大、不可预测的黑箱模型及其突现能力的危险竞赛中退一步。
AI 研究和开发应该重点放在提高现有强大、先进系统的准确性、安全性、可解释性、透明度、鲁棒性、对齐、可信度和忠诚度。
与此同时,AI 开发者必须与政策制定者合作,大力加速 AI 治理体系的发展。这些至少应包括:
专门负责 AI 的新的、有能力的监管机构;
对高能力 AI 系统和大型计算能力池的监督和跟踪;
用于区分真实与合成内容、跟踪模型泄漏的溯源和水印系统;
健全的审计和认证生态系统;对 AI 造成的损害承担责任;
技术 AI 安全研究的充足公共资金;
应对 AI 引起的巨大经济和政治变革(特别是对民主制度的影响)的资深机构。
人类可以在 AI 的帮助下享受繁荣的未来。在成功创造出强大的 AI 系统之后,我们现在可以享受一个「AI 盛夏」,在其中我们收获回报,将这些系统明确地用于造福所有人,并让社会有机会适应。
在面临可能对社会造成灾难性影响的其他技术上,社会已经按下了暂停键 [ 5 ] 。在这里,我们也可以这样做。让我们享受一个漫长的 AI 盛夏,而不是毫无准备地冲向秋天。
责任编辑:hnmd003
相关阅读
-
突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信-焦点滚动
今天,AI领域传出一封重要的公开信。包括「ChatGPT之父」SamAltman在内350位AI权威都签署了这封联名公开信
2023-05-30 -
中端潜望长焦大佬,OPPO Reno10 Pro+ 评测|焦点精选
OPPOReno10Pro+在5月24日发布,骁龙8+、1 5K曲屏、4700mAh+100W快充,而核心卖点是堪比旗舰的6400W3倍OV64B
2023-05-30 -
突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信
今天,AI领域传出一封重要的公开信。包括「ChatGPT之父」SamAltman在内350位AI权威都签署了这封联名公开信
2023-05-30
相关阅读
-
突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信-焦点滚动
今天,AI领域传出一封重要的公开信。包括「ChatGPT之父」SamAltman在内350位AI权威都签署了这封联名公开信
-
华为儿童手表 5X 系列支持离线拉定位 , 让家长多一份安心
六一儿童节即将来临,儿童手表成为许多家长筹备节日礼物的首选。只是,在众多的儿童手表中,如何才能选到更
-
中端潜望长焦大佬,OPPO Reno10 Pro+ 评测|焦点精选
OPPOReno10Pro+在5月24日发布,骁龙8+、1 5K曲屏、4700mAh+100W快充,而核心卖点是堪比旗舰的6400W3倍OV64B
-
小牛电动发起「正向内卷」,全场景出行时代来了!
2023年5月,小牛电动正式发布了RQi、MQiL、G400和G400T四款新品。四款新品不仅各有各的特点,同时也代表着
-
特斯拉涨幅一度超过 5.8%,刷新 3 月 31 日以来盘中高位至 204.48 美元 天天微速讯
钛媒体App5月30日消息,特斯拉涨幅一度超过5 8%,刷新3月31日以来盘中高位至204 48美元。——ZAKER,个性化
-
前沿资讯!2023 年 APEC 工商领导人中国论坛将于 6 月 17 日举办
钛媒体App5月30日消息,中国贸促会、中国国际商会将于6月17日在京举办2023年APEC工商领导人中国论坛,论坛
-
苹果官方:618 将在天猫开启全球首次直播 世界观焦点
钛媒体App5月30日消息,AppleStore官方旗舰店挂出预告,将于2023年5月31日19:00点,在天猫开启Apple官旗首
-
西南证券给予力盛体育买入评级 与百度网讯强强联合 加速布局数字体育赛道 目标价格为32.16元
西南证券05月30日发布研报称,给予力盛体育(002858 SZ,最新价:25 22元)买入评级,目标价格为32 16元。
-
欧洲迎食品价格暴涨潮?牛奶上涨25%,糖价飙升54.9% 热讯
法国北部德南,当地政府已连续两年向2万多名居民发放50欧元(约合人民币380元)的消费券,希望借此提振本地
-
世界新消息丨进口车走下神坛:丰田四年销量下滑近七成,“加价神车”雷克萨斯优惠五万
进口车的日子不如从前好过了。种种数据表明,曾经以高姿态站在汽车消费市场金字塔尖的进口车市场正在逐渐被
-
今亮点!浙江富商成老赖,国内首个无人岛2785万流拍,百万买岛亏损离场
“岛主”梦并不好做。近日,浙江宁波旦门山岛的无居民海岛使用权及海域使用权在阿里司法拍卖平台公开拍...
-
2023中关村论坛|血管介入手术机器人、人工关节产品黑钻球头……这些医疗器械看点多
5月29日,2023中关村论坛国际技术交易大会新技术新产品首发推介系列活动生物医药与健康专场和高端医疗器械
-
2023中关村论坛 | 国际首个!利用视觉提示完成任意分割任务的通用视觉大模型SegGPT发布|全球资讯
5月30日,北京智源人工智能研究院在2023中关村论坛重大科技成果专场发布会上发布了通用视觉大模型SegGPT,
-
经济学家任泽平带货生发液:为背后公司实控人,供应商也为华熙生物供货|全球热推荐
时代周报记者调查发现,与“仁生泽发”相关的公司4月刚成立。天眼查显示,与“仁生泽发”关联的公司一共...
-
天天热点!2023中关村论坛 | 30微米厚度柔性可折叠玻璃在京发布,首批应用国产折叠手机下半年面世
超薄柔性可折叠玻璃是全球柔性显示技术与终端发展的焦点,可广泛应用于折叠手机、卷轴电视机、柔性医疗检测
-
2023中关村论坛|工信部副部长辛国斌:浙江、上海、北京等地成为智能制造创新策源地
辛国斌介绍,智能工厂建设水平不断提升。同时,智能制造支撑产业持续壮大。此外,重点区域转型升级步伐明显
-
梅毒能买百万医疗险吗?百万医疗险报销范围是多大?
看情况。首先我们需要明确一点,梅毒属于一种严重的传染病,投保百万医疗险时相应的健康状况是会被纳入考虑
-
贤合庄卤味火锅北京门店已全部关闭
据北京商报报道,由艺人陈赫创建的贤合庄卤味火锅北京门店已全部关闭。这也是继加盟商维权、陈赫退出股
-
环球热点评!今年前5月A股股权激励预案达301份:股权激励目标更加多元,方案合规成监管关注要点
21世纪经济报道记者杨坪深圳报道5月29日晚,又有三家A股上市公司发布了股权激励计划。锦浪科技(300763 SZ
-
揭秘新疆棉背后的硬核高科技
在2023新疆农业机械博览会上,助力新疆棉品质享誉全球的诸多高科技“神器”集中亮相。
-
大渡河畔看石棉:“红色引擎”驱动绿色发展-观热点
作为全国唯一一个以矿命名的县,石棉依矿而建、因矿而兴、以矿为名。当年,石棉人用钢钎、铁锹,叩醒了沉睡
-
突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信
今天,AI领域传出一封重要的公开信。包括「ChatGPT之父」SamAltman在内350位AI权威都签署了这封联名公开信
-
带着宝马 i7 逃离冰雹后,我找到了它的三大缺点
我特别想摸一次冰雹。作为一位广东人,我这辈子就遇到过两次冰雹,然而一次都没摸着。初见冰雹是在初中的一
-
环球观点:三星 Galaxy F54 确认 6 月 6 日海外发布,搭载自研 Exynos 1380 芯片
近日,持续跳票的三星GalaxyF54终于敲定了具体发布时间,该机将于6月6日面相海外市场发布。外观部分,三星G
-
高通高级副总裁:高通正向智能边缘计算公司过渡
品玩5月30日讯,据科创板日报报道,高通公司高级副总裁AlexKatouzian表示,高通正在从一家通信公司过渡到一
-
AI+ 采矿擦出新火花!全球最大矿企牵手微软 持续释放铜矿资源潜力_天天精选
财联社5月30日讯(编辑赵昊)当地时间周二(5月30日),全球最大矿业公司必和必拓(BHP)与科技巨头微软共
-
当前快看:南财投资日历(5月31日)
明日(5月31日)重要投资情报如下:【经济数据】07:50日本4月工业产出同比、环比初值09:30中国5月官方制造
-
中银百万医疗险保什么?怎么样?
中银百万医疗险是一款专业且全面的医疗保险产品,它可以为您和家人提供高额的医疗保障,包括住院医疗、门诊
-
人保百万医疗是真的吗?在哪里买?
是真的。人保百万医疗保险是由中国人民保险股份有限公司推出的一款医疗险产品。作为国内知名的财产和人身保
-
经济学家任泽平带货生发液:为背后公司实控人,供应商也为华熙生物供货 环球新要闻
近日,网红经济学家任泽平在微博高调带货创业项目,将目标瞄准了百亿发际线市场——生发,推出“仁生泽...
精彩推荐
阅读排行
精彩推送
- 焦点速递!终身年金险和终身寿险...
- 三里屯旗舰店即将关门,再失守一...
- 百万医疗有犹豫期吗?犹豫期有多...
- 环球观点:年金分红险是什么意思...
- 世界简讯:造梦西游3ce修改器代码...
- 当前动态:实时更新 | 马斯克访华
- 鲁抗医药(600789.SH):注射用哌...
- 联合国粮农组织专家:中老铁路释...
- 小米苹果杀疯了!京东 618 手...
- 比亚迪 + 华为,这车不到 14 万?
- “华为天才少年”转身创业人形机...
- Sam Altman 签署联名信,提醒...
- 百度副总裁李硕:已将大模型技术...
- 向量积怎么算出来(向量积怎么算)
- 中国星辰 | 神舟十六号增强使...
- 上海亿万富翁排队买房后续:云锦...
- 三年来首次访华,马斯克落地北京...
- 迪拜偏爱中国电动车:红旗加入豪...
- 热议中的昆明:房价曾在5年翻番...
- 人工智能年报观察:整体增收不增...
- 重疾险和百万医疗险的区别是什么...
- 当前聚焦:人人安康和百万医疗区...
- 当前快看:百万医疗有纸质合同吗...
- 精彩看点:百万医疗缴费期限是多...
- 世界热议:条件宽松的百万医疗有...
- 环球速递!特斯拉CEO马斯克抵达中国
- 瑞幸咖啡中喝到虫子?门店回应:...
- 当前要闻:经济学家任泽平微信群...
- 天天即时看!B站一员工侵占公司...
- 雷丁汽车所持野马汽车1.2亿元股...