科技伦理审查提速 AI“变坏”设防
2023-04-06 07:33:34来源:北京商报网
ChatGPT与GPT已走进大众的视线,我国众多的互联网大厂也正火速切入这一赛道。不可否认,GPT等人工智能应用极大提升了生产力、便利了大众的生活,但其也是一柄双刃剑,不久前甚至还出现诱导人类自杀的事件,由此产生的科技伦理问题也引发了全球的关注与担忧。
令人欣慰的是,我国已开始筹谋提前化解人工智能的科技伦理风险。日前,科技部公开征求对《科技伦理审查办法(试行)》(以下简称《办法》)的意见,其中明确提出,从事人工智能的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会,部分算法模型、自动化决策系统需要专家复核。分析认为,虽然伦理审查短期内会影响产品商业化的效率,但从长期来看,有助于人工智能行业可持续的健康发展,让我国在这一领域形成可持续的全球竞争力。
设立审查委员会
(资料图片)
科技部本次发布的《办法》提出,从事生命科学、医学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。
此外,在《办法》的附录中还提到了“需要开展专家复核的科技活动清单”,其中包括:具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发;面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。
“ChatGPT与GPT等应用越来越广,也与我们的生活越来越近,我们在科技伦理方面也遇到了前所未有的挑战。”浙江理工大学数据法治研究院副院长郭兵认为,《办法》比较大的亮点在于,进一步对更广泛的科技伦理审查问题做了规定,并引入了专家复核制度。
事实上,在ChatGPT诞生之前,我国就已经出台与人工智能伦理的相关规范和标准。2021年9月25日,国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》,旨在将伦理融入人工智能全生命周期,为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引,促进人工智能健康发展。
“目前我国科技伦理的审查,也正由传统的完全自律逐渐演变成为法定的义务。”郭兵介绍说,在2021年11月1日起施行的《个人信息保护法》中,已经明确规定了科技平台有义务设置独立的第三方机构对其个人信息的处理活动进行监督;其第五十八条则规定,提供重要互联网平台服务、用户数量巨大、业务类型复杂的个人信息处理者,应当按照国家规定建立健全个人信息保护合规制度体系,成立主要由外部成员组成的独立机构对个人信息保护情况进行监督。
“但《个人信息保护法》并未要求企业邀请何种外部人员,而科技领域、AI领域专业性较强,《办法》通过法定的专家参与机制的设计,能够更好地保障人工智能伦理审查的效果。”郭兵进一步解释说。
伦理问题浮现
人工智能应用技术会带来哪些科技伦理问题?在中国数实融合50人论坛智库专家、商务部研究院电子商务研究所副研究员洪勇看来,人工智能可能面临对自然资源的消耗、产品更新换代产生的各种垃圾等环境伦理问题,隐私泄露、歧视、失业、安全风险等个人伦理问题,以及推理能力、可解释性等技术伦理问题。
“从个人的角度来看,人工智能的应用还可能会侵犯人格尊严。比如算法所引发的歧视风险,还包括公民的隐私和个人信息泄露的风险。人工智能也可能引发劳动者权益方面的争议,引发劳动者的‘饭碗焦虑’。”郭兵说,人工智能甚至还可能危及个人的生命与健康。
正如郭兵说述,虽然ChatGPT与GPT诞生不久,但已有值得引起关注的案例。
有媒体援引比利时媒体La Libre 3月28日的报道,一名比利时妇女声称,她的丈夫在与 AI 聊天机器人Chai交谈了六周后自杀身亡,背后主要原因是Chai鼓励用户自杀。据悉,聊天机器人Chai是基于GPT-4替代方案研发的产品。
在此次事件中,Chai在法律层面将承担怎样的法律责任、又该如何追责?“在这方面目前仍备受争议。”河南泽槿律师事务所主任付建认为,人工智能技术的程序是开发人员编写的,但决策是由机器做出的,如果出现重大失误造成损害后果,责任谁来承担仍存在争议,同时,人工智能能否对自己做出的决策进行道德判断也是一个值得商讨的问题。
全球千余专家发声
也许因为身处人工智能领域的最前沿,最为了解GPT的运行逻辑以及“涌现”的概率,在Chai事件发生后的第二天,全球范围内众多专家疾速发声。
3月29日,包括马斯克、图灵奖得主约书亚·本吉奥、苹果联合创始人斯蒂夫·沃兹尼亚克在内的1000多名人工智能专家和行业高管联名签署了一份公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。
事实上,人工智能存在的伦理问题风险也引起了联合国教科文组织的注意。近日,联合国教科文组织发表声明,呼吁各国政府尽快实施该组织通过的首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。
在最新发布的声明中,联合国教科文组织对科技创新引发的伦理问题表示关切,尤其是歧视、性别不平等问题,此外还有打击虚假信息、隐私权、个人数据保护等。行业自律显然不足以避免这些伦理危害,因此,《人工智能伦理问题建议书》提供了工具,以确保人工智能的发展遵守法律,避免造成危害,并在危害发生时启动问责和补救机制。
“从社会和经济层面来看,企业一般利益至上,如果各家科技巨头通过研发的大型语言模型,利用‘算法暗箱’,谋一时之利,就有可能有损整个社会利益和国家利益,给国家安全带来风险。”郭兵补充说。
短痛与长痛的选择
“《办法》进一步明确政府、科研机构、科技企业等责任主体,建立伦理高风险科技活动的清单制度,有效避免人工智能技术被不当滥用,推动人工智能技术健康可持续发展。”中国电子商务专家服务中心副主任、知名互联网专家郭涛认为。
但不得不说,此次的《办法》实施后将对行业产生重大影响。
“对人工智能可能带来的问题提前加以防范,进行伦理审查会对行业产生重大影响。此前更强调数字技术、人工智能技术在效率上带来的变革,而忽略技术对社会、对个人产生的伦理问题。随着科技伦理越来越得到重视,将会对人工智能在医疗、教育、无人驾驶等领域的应用产生影响。”北京市社科院研究员、中国人民大学智能社会治理研究中心研究员王鹏对北京商报记者表示。
郭兵就《办法》给人工智能行业带来变化进行了具体化的解读,“随着人工智能伦理审查越来越严,会增加企业的成本,尤其引入了专家复审要求后,会影响产品或技术市场化的效率,研发出来的某个算法模型不能立马投入商业化的应用。”
但郭兵认为,另一方面,审查的严格将有利于人工智能产业的可持续发展。“如果企业研发的产品投入市场化之后产生伦理方面的巨大争议,面临巨大法律风险,被直接叫停,带来的不利影响会比人工智能伦理审查带来的影响要更大,从长期来看,加强伦理审查有利于人工智能企业的可持续健康发展。”
北京商报记者 金朝力 袁泽睿
责任编辑:hnmd003
相关阅读
相关阅读
-
科技伦理审查提速 AI“变坏”设防
不可否认,GPT等人工智能应用极大提升了生产力、便利了大众的生活,但其也是一柄双刃剑,不久前甚至还出...
-
环球速读:3月汽车类上市公司市值榜出炉
据《每日经济新闻》记者不完全统计,3月,79家汽车类上市公司(涵盖21家跨国整车企业、29家国内整车企业...
-
qq定时说说怎么发?qq定时说说在哪里修改?
qq定时说说怎么发?1、打开手机QQ应用程序,点击下方动态,选择好友动态。2、进入空间页面后,点击右上方...
-
对比理想ONE到底升级了啥?理想L8核心零部件配套供应商一览 环球滚动
对比理想ONE到底升级了啥?理想L8核心零部件配套供应商一览刚刚过去的3月,理想汽车交付量再破“2”,最...
-
和谐健康保险不正规吗?产品值得买吗?-世界播报
正规。 和谐健康保险公司是一家正规的保险公司,在我国也有着很久的历史了,他们是专门的健康保险公司...
-
友邦保险公司靠谱吗?产品怎么买?|环球通讯
靠谱。 友邦保险公司的总部在中国香港,在我国很多个省份都有业务的开展,所以他的实力是非常雄厚的。...
-
世界快消息!安联保险公司正规吗?靠谱吗?
安联保险公司是一家跟欧洲合资开的人寿保险公司,它的股东包含有德国安联保险和中国中信信托,在1999年...
-
乐享年年是哪家保险公司的?有什么优点?:全球百事通
昆仑健康保险股份有限公司。 这家保险公司在2006年1月12日的时候成立,注册资本人有20多亿,也是我国四...
-
保险的十大功能和意义是什么?要怎么购买?|环球热闻
1、可以救急防贫。 2、可以给投保人提供时间或者是金钱的保障。 3、可以帮你们承担赡养父母,抚育子女...
-
45岁怎么买保险最划算?买保险流程是什么?
保额要充足,通常情况下,治疗重疾所需花费的费用是非常多的,少则几万,多则十几、二十万,因此我们在...
-
信泰人寿排名是多少?有哪些险种?_天天热闻
根据相关数据显示,信泰人寿综合偿付能力充足率152 52%,核心偿付能力充足率是141 22%,风险评级暂未...
-
当前热议!什么保险可以报销门诊费用?可以报销门诊费用的保险多少钱?
医疗保险种类很多,但并不是所有的保险都是能报销门诊费用的,一般来说百万医疗险、门急诊医疗险、小额...
-
大黄蜂8号保障分析,买前必看!
北京人寿大黄蜂8号,28天-17周岁可投保,保障期限可选保障30年、保至70岁或保障终身;缴费期限可选趸交...
-
去邮政存钱被忽悠买了保险怎么办?银保监会投诉多久能够被解决? 全球报资讯
如果大家在买保险的时候后悔了,那大家就可以找银行的客户经理好好的沟通,跟他说清楚自己的真实目的是...
-
如何退全额保费?柜台退保好办理吗?|热讯
很多想要申请退保的朋友都特别犹豫,因为担心退保损失会太大,自己承受不起。看到别人可以全额退保自己...
-
天天微资讯!保险不想交了想退能退多少?退保损失情况分析!
很多保险消费者保险还没交多久就开始后悔,觉得自己买的保险产品不适合自己就想要退保,但是他们又很担...
-
阳光保险退保费用一般是多久到账?退保需要注意哪些?:要闻速递
阳光保险从申请退保到保费退还一般需要7-10个工作日左右,具体的到账时间要看阳光保险公司的情况。有很...
-
《华南地区餐饮、食品、饮料消费趋势报告》在深发布,广东市场规模超8000亿_全球热门
4月3日,《华南地区餐饮、食品、饮料消费趋势报告》(下称《报告》)暨助力广东优质产品推广”新闻发布...
-
刚买的保险退保怎样可以退全款?怎么退?
刚买的保险如果还没有超过15天的时间,可以直接向保险公司申请全额退保的,而且保险公司还必须退还投保...
-
液态阳光研究院及产业化示范基地项目签约仪式成功举行-新视野
4月2日上午,“液态阳光研究院及产业化示范基地落地广州南沙”签约仪式在广州市南沙区隆重举行。本次活...
-
每日视点!保险公司退保需要什么材料?交了三年退保能退多少?
保险退保是常有的事情,对保单不满意的话随时都是可以退保的,保险消费者对退保需要哪些材料、能退多少...
-
怎样办理保险退保?有什么要注意的? 全球新动态
为了获得保障,很多人会给自己以及家人购买保险,但可能因为在购买的时候没有仔细看保险的条款,导致要...
-
天天观察:保险不想继续交了怎么办?退保是只能拿回保单现金价值吗?
很多朋友在缴纳了几年的保费之后会因为保单保障内容的问题或者保费的问题产生退保的想法,不想再继续缴...
-
保单没有生效可以退吗?能退多少?
有人投保自然就有人退保,但有的朋友在投保的时候迷迷糊糊跟随大众就购买了保险,想要退保的时候发现只...
-
如何退保?如何使利益最大化? 今日热闻
退保是很多买过保险的朋友经历过的事情,但对于小白,可能了解的还不是很多,那么今天小编就向大家介绍...
-
退保险方法都有哪些?退保要做好哪些准备?:世界微速讯
最近有收到不少在保险公司买的保险不满意该怎么处理,怎样才可以申请退保的相关咨询,虽然这个话题已经...
-
天天观焦点:众安保险退保怎么弄?什么时候适合申请退保?
众安保险是国内第一家互联网保险公司,背景强大,近几年的发展很不错,旗下的百万医疗险是特别出名的,...
-
每日报道:大赚超440亿,锂矿双雄疯狂吸金!江西首富身家却缩水220亿
卖车不如卖电池,卖电池不如卖矿。2022年,新能源浪潮汹涌,锂价疯狂,上游锂矿企业成为名副其实大赢家...
-
理财保险能全额退款吗?哪些情况能全额退款?
退保理财保险产品,超过了犹豫期的情况下,因为合同违约问题一般会有退保险的损失,损失额度是跟保单的...
-
今日快讯:呼和浩特经济技术开发区:实现财政收入首季“开门红”
截至3月31日,呼和浩特经济技术开发区一般公共预算收入累计完成57093万元,比上年同期45264万元增收1182...
精彩推荐
阅读排行
精彩推送
- 今日快讯:呼和浩特经济技术开发...
- 动态:川藏联动救助突发疾病旅客
- 工伤保险赔偿标准是怎样的?工伤...
- 资讯推荐:8年烧光百亿融资?又一...
- 车险买这三个险就够了是指什么?...
- 社保首次参保怎么办理?社保最少...
- 工伤一次性伤残补助金赔偿标准是...
- 实时:怎么查车子保险是哪家公司...
- 中国石油就业援藏助力西藏籍高校...
- 世界观速讯丨西藏波密:桃花下的...
- 西藏农行首笔农村集体经济组织贷...
- 西藏自治区级农牧民转移就业基地...
- 弘运连连终身寿险怎么样?有哪些...
- 金玉满堂2.0的坑指的是什么?有...
- 美国公布电动汽车税收抵免电池要...
- 城管部门全力维护清明期间市容秩序
- 环球新资讯:观摩学方法 提升促安全
- 网上祭英烈-观察
- 石拐区举行首届集体共祭仪式
- 天天观热点:向先烈献花
- 北江纺织毛利率持续下滑,净利润...
- Rivian Q1产量环比下降7%,但仍...
- 2023年挪威电动汽车市场份额有望达90%
- 【天天时快讯】元丰电控前五大客...
- 营收创新高,理想却陷减持潮!一...
- 对标蔚来ET5!飞凡F7低价入市,...
- 视点!周鸿祎曾称结婚纪念日是31...
- 快播:周鸿祎:家里大事男人说了...
- 周鸿祎胡欢资本版图曝光 前者有...
- 360董秘:离婚是很严肃的事情,...