【环球报资讯】ChatGPT正在到处惹麻烦
2023-02-20 12:38:46来源:零壹财经
来源 | 零壹财经 作者 | Chenglin Pua
(资料图)
ChatGPT备受宠爱,但它也正在到处惹麻烦,比如不准确甚至误导性的回答、对数据安全的挑战、对教育的冲击等等。
它带来一个新时代,因为它推倒了很多东西,尤其是我们正赖以正常运行的秩序。重建规则的过程,也是麻烦不断的过程。
误导性的知识
经济学家保罗?克鲁格曼表示ChatGPT的出现将会影响知识工作者。例如问答网站 Stack Overflow 2022 年 12 月禁止使用ChatGPT来生成问题的答案,理由是 ChatGPT 的回答在事实上模棱两可。顶级科学期刊《Nature》给出ChatGPT的评价,Fluent but not factual,即通畅但未必正确。
ChatGPT基于庞大的数据集训练,进而做出回答。但没人能保证这些数据100%准确,客观,不带有偏见。
对于知识工作者,知识的准确性非常重要。ChatGPT能够“一本正经的胡说八道”,容易让人们相信ChatGPT给出的答案是正确的。然而事实未必如此,可能ChatGPT 80%是正确,20%是错误的。对中有错,错中有对最难让人理清楚了。ChatGPT可能会误导很多人,让人们相信一个不完全正确的结论。
ChatGPT生成对话文本的能力引发了人们对其创建假新闻或其他误导性内容的可能性的担忧。这有可能会造成严重后果,例如损害声誉、甚至煽动暴力。
作为一种语言模型,ChatGPT 具有生成类似于人类对话的文本的能力;但是还没有相同的能力来理解它生成的文字的上下文语境。这意味着 ChatGPT 有一定的概率会生成具有攻击性或诽谤性的内容。
在网上,已经有着许多人得到了ChatGPT种族歧视的回答。例如,当ChatGPT被要求编写一些代码以根据某人的性别和种族评估某人是否会成为一名优秀的科学家时,ChatGPT只建议白人男性。
ChatGPT之所以出现“种族主义者”问题,剑桥大学人工智能研究员 Kanta Dihal 表示,究其原因是ChatGPT根据从公开来源(包括网站和社交媒体)获取的数千亿个单词进行训练的。这些文本反映了人类作者的偏见,而ChatGPT学会了复制。这个机器人没有基本信念。
Kanta Dihal表示,虽然理论上可以过滤掉偏执的内容,但这将是非常昂贵和困难的。人们需要事先过滤所有这些数据并确保它不包含明确的种族主义内容,这是一项艰巨的任务,这使得训练该模型的成本大大增加。况且类似的偏见可以采取微妙的形式,很难从训练人工智能的数据中剔除。
多年来一直有关于人工智能种族主义的警告,但成果却是寥寥无几。最大的科技公司之一,谷歌尝试解决,但进展不大。谷歌最终在 2020 年解雇了 Timnit Gebru,他是一名专门帮助公司解决人工智能种族主义问题的工程师。
法律上的挑战
法律往往对于新的事物缺乏治理能力,它需要时间进行调整。AIGC行业的迅速崛起势必会给各国法律带来一定的挑战。
ChatGPT依托海量数据(603138)库信息存在,其中包括大量的互联网用户自行输入的信息,因此当用户输入个人数据或商业秘密等信息时,ChatGPT可能将其纳入自身的语料库而产生泄露的风险。虽然ChatGPT承诺删除所有个人身份信息,但未说明删除方式。在其不能对信息与数据来源进行事实核查的情况下,这类信息仍然具有泄露风险。
ChatGPT能够与其用户共享来自其训练数据集的个人数据。此功能意味着ChatGPT可能违反了世界上大多数国家/机构的数据保护法。
ChatGPT是个文字AIGC,实际上还有有图片、影音AIGC等。AIGC就是利用已有的数据集进行训练,基于这些数据生成更多的内容。网络上有人试验,随机生成一个肖像,发现有一定比例生成的肖像酷似名人。
AIGC基于此前的数据集训练,生成酷似名人的肖像再正常不过,但这就产生了一个问题,即这些生成的肖像会不会侵犯了该名人的肖像权呢?毕竟AIGC是用其肖像进行训练,再生成类似的图片。这就陷入了一个灰色的边缘地带。
近期Netflix利用AIGC生成了动画。在未来,AIGC应用在影音、图片等领域的比例也会越来越高,产生肖像权冲突的几率就越来越高。
ChatGPT基于大量文本数据进行训练,包括书籍、文章和其他书面材料。如果此训练数据包含受版权保护的作品,那么 ChatGPT 的输出可能会侵犯这些作品的版权。ChatGPT在生成文本时,如果使用并非公开的开源代码、使用开源代码商用未办理许可证或者未按照许可证的要求实施的,可能会导致侵权。
对于一些受著作权保护的文本、视频、代码等,如果没有经过权利主体的授权,直接获取复制到自己的数据库中,并在此基础上修改、拼凑,极可能侵害他人的著作权。
再者,利用ChatGPT生成的内容能否成为相关人士的著作权,这些都有待法律进一步完善以及诠释。
对教育的冲击
2023年1月,美国北密歇根大学的哲学教授Antony Aumann在为自己任教的一门世界宗教课程评分时,看到了一篇非常好的论文,仔细一查发现是ChatGPT生成的。该论文以简洁的段落、恰当的举例和严谨的论据,探讨了罩袍禁令的道德意义。
Antony Aumann教授也为此感到震惊,之后更是采取措施,让所有学生必须在监控下且在限制上网的浏览器中,撰写论文初稿。在随后的草稿中如有改动,学生必须解释每个改动的理由。Antony Aumann教授表示他虽然提防ChatGPT的影响,但他考虑将ChatGPT融入课程中,例如让学生评估ChatGPT的回答。
在全美范围内,许多大学教授都在对课堂进行大规模的调整应对ChatGPT对教学活动造成的巨大冲击。很多教授重新设计课程,更多地采用口试、小组合作和手写文章作为评估方式,而不是简单利用电脑撰写文章/论文。
如今在学校里,老师们需要仔细辨别学生是否利用了ChatGPT写作业。在纽约和西雅图的公立学校系统,学校的网络和设备上已经全面禁止了ChatGPT,但“道高一尺魔高一丈”,只要学生有心仍然有办法使用ChatGPT。
随着时间推移,使用ChatGPT的人势必也越来越多。如今的学生懂得利用网络技术查找资料,但未来如果发展成利用ChatGPT来完成作业,是否会导致学生的思考、动手能力下降呢?显然是会的。
搜索引擎的使用,我们需要逐个阅读原文,整理过滤成自己的思想。但ChatGPT直接帮助我们整理过滤,少了中间最重要的思考步骤,可能会导致学生平均能力的下降。
教育界正在开展ChatGPT反击战,但教育界不可能抵制ChatGPT,而是要考虑如何在AIGC时代创造新的教育模式。
责任编辑:hnmd003
相关阅读
-
环球简讯:苹果线下人工智能峰会本质为团建 并未发布变革性产品技术
【TechWeb】2月20日消息,据外媒报道,苹果2月份在总部园区举办了线下的人工智能峰会。但最新消息显示,...
2023-02-20 -
代理咨询公司呼吁苹果股东投票支持库克及其他高管薪酬计划 速看料
新浪科技讯北京时间2月20日早间消息,据报道,代理咨询公司InstitutionalShareholderServices(ISS)敦...
2023-02-20 -
全球简讯:本质是团建活动?苹果举办线下人工智能峰会:未公布任何变革性产品技术
新浪科技讯北京时间2月20日早间消息,据报道,苹果2月份在总部园区举办了线下的人工智能峰会。最新消息...
2023-02-20
相关阅读
-
【环球报资讯】ChatGPT正在到处惹麻烦
ChatGPT备受宠爱,但它也正在到处惹麻烦,比如不准确甚至误导性的回答、对数据安全的挑战、对教育的冲击...
-
转型产业互联网,新氧踏上新征途-全球球精选
在本届盛典上,新氧集团董事长兼CEO金星正式对外发布新氧科技发展战略从医美电商平台向产业互联网平台转...
-
桃李面包变“刀片面包”?官微否认后秒删,涉事上市公司回应:事件仍在调查-当前简讯
图片来源:桃李面包官方微博面包里吃出蟑螂、铁丝等已见怪不怪,但吃出刀片还是让人心惊肉跳。这一次,...
-
奔驰将在德国启动直销模式
奔驰将在德国启动直销模式康林松表示,直接向消费者出售汽车,可以帮助车企节省成本,并打消客户的顾虑。
-
【天天速看料】A00级也降价!思皓花仙子全系最高优惠3000元,限时优惠仅剩一周
A00级也降价!思皓花仙子全系最高优惠3000元,限时优惠仅剩一周2月20日,思皓新能源紧急官宣,距离旗下...
-
全球实时:600万医疗保险一年交多少钱?保额越高越好吗?
可能是几百也有可能是几千,具体的金额需要看保险公司的规定。一般来说,保额越高所需要的保费也会越高...
-
少儿平安福交满20年怎么拿钱?有必要拿钱吗?
少儿平安福交满20年只能通过退保或者保单贷款的方式拿钱。 少儿平安福是平安保险推出的一款消费型重疾...
-
百万医疗保险一年要交多少保费?有哪些产品推荐?
市面上有非常多的百万医疗险产品,每款产品的价格都是不一样的,并且不同人群投保同一款产品,需要的保...
-
【天天速看料】股票发行实施注册制 ,防止“劣币驱逐良币”
2月17日,中国证监会发布实施全面实行股票发行注册制相关制度规则,标志着注册制的制度安排基本定型。一...
-
全球速递!友邦高端医疗险一年多少钱?值得买吗?
一年大概需要几千元至几万不等。 友邦高端医疗险有很多,每一款的价格会有所不同,而且不同年龄的消费...
-
天天快报!啪啪打脸!瓜子二手车不再对个人收车,要让“中间商赚差价”
瓜子二手车(下称“瓜子”)以直卖C2C模式为大众熟知。“没有中间商赚差价”的广告语耳熟能详,这是瓜子...
-
老人医疗保险多少钱一年?买什么好?
1、住院医疗险:一般一年的保费几百元左右。 2、百万医疗险:投保百万医疗险的年金对保费价格会有很大...
-
环球简讯:苹果线下人工智能峰会本质为团建 并未发布变革性产品技术
【TechWeb】2月20日消息,据外媒报道,苹果2月份在总部园区举办了线下的人工智能峰会。但最新消息显示,...
-
巨人网络确认接入百度文心一言 继续加大游戏+AI布局 当前短讯
【TechWeb】2月20日消息,巨人网络确认将接入百度人工智能新产品“文心一言”,成为首批生态合作伙伴,...
-
嘀嗒出行重启赴港IPO-报道
嘀嗒出行重启赴港IPO2月20日,盖世汽车获悉,嘀嗒出行于今日向港交所主板递交上市申请,中金、海通国际...
-
或将2025年亮相 全新雷克萨斯IS假想图曝光
或将2025年亮相全新雷克萨斯IS假想图曝光近日,车质网从相关渠道获取了全新雷克萨斯IS的最新消息和假想...
-
诸多挑战下,梅赛德斯-奔驰集团2022年营收和利润实现双增长|当前热议
诸多挑战下,梅赛德斯-奔驰集团2022年营收和利润实现双增长盖世汽车讯在充满挑战的2022年,梅赛德斯-奔...
-
奇瑞啃“苹果”?|每日速递
奇瑞啃“苹果”?3月底的某天,苹果公司CEO蒂姆·库克带着美好的心情,开始中断三年之久的第16次访问中...
-
环球观焦点:2023,合资车企背水一战
2023,合资车企背水一战中国汽车工业的发展史,看似是一段依托于外资力量而成长、因市场改革而不断与国...
-
微信走步数如何查看?微信走步数在哪里赚钱?
微信走步数如何查看?1、首先打开【微信】软件,点击右下角【我】,然后选择最底部的【设置】,点击【通...
-
微信红包封面怎么弄自己制作?微信红包封面怎么送人?
微信红包封面怎么弄自己制作?先说结论:按操作可以自己获得两个红包封面以及19次赠送机会。1,打开微信...
-
米游社实名认证怎么修改?米游社怎么删除设备登录?
米游社实名认证怎么修改?原神玩家们首先进入到米游社网站,输入我们的手机号和验证码,如果是账号玩家,...
-
抖音火山版充值记录怎么删除?抖音火山版和抖音有什么区别?
抖音火山版充值记录怎么删除?抖音火山版作为抖音的极速流畅的版本,不仅功能不多,玩起来的话也是更省心...
-
苹果15折叠屏手机什么时间上市价格多少?折叠屏手机值得买吗?
苹果15折叠屏手机什么时间上市价格多少?苹果15折叠屏手机价格多少?价格方面,分析师认为,苹果首款折叠...
-
微信亲属卡赠送了还能收回吗?微信被赠亲属卡怎么解绑?
微信亲属卡赠送了还能收回吗?不可以,微信亲属卡送别人了是不能收回来了。根据中华人民共和国民法典规定,...
-
支付宝亲属卡怎么开通?支付宝亲属卡在哪里取消?
支付宝亲属卡怎么开通?打开支付宝,在搜索框中输入亲情卡搜索后,点击进入进入亲情卡界面后,点击下方的...
-
微信积分怎么获得?微信积分在哪里兑换?
微信积分怎么获得?微信积分的活动方法为:用户需要参加收款有礼活动,同时要使用官方邮寄的微信收款码去...
-
微信个性签名在哪里?微信个性签名怎么显示在主页上?
微信个性签名在哪里?1、点击打开微信,然后点击右下角的我图标,进入个人中心。2、然后直接点击自己的头...
-
微信拉黑别人对方知道吗?微信拉黑别人聊天记录还有吗?
微信拉黑别人对方知道吗?1、微信把对方拉入黑名单对方不知道,将对方加入黑名单后在对方的通讯录好友列...
-
微信延时到账进帐单吗?微信延时到账怎么撤回资金?
微信延时到账进帐单吗?1、微信转账给对方,对方没有收款会在一天后就可以自动退款,没有延时的,除非是...
精彩推荐
阅读排行
精彩推送
- 亲属卡在哪里扣钱?微信亲属卡最...
- 收付款小助手在哪里?收付款小助...
- 微粒贷可以申请开通吗?微粒贷怎...
- 微信没有声音怎么设置?微信声音...
- 如何开通分付?微信分付怎么提现...
- 苹果手机怎么把微信支付帐单打出...
- 华为手机文件传输助手怎么用?华...
- 全球快资讯丨国寿鑫禧宝年金保险...
- 为什么警察说网贷不用还?网贷不...
- 苹果电脑截图怎么截?苹果电脑截...
- 分期乐能提前还款吗?分期乐怎么...
- 信用卡可以停息挂账吗?停息挂账...
- 信用卡自己能办停息挂账吗?有什...
- 代理咨询公司呼吁苹果股东投票支...
- 全球简讯:本质是团建活动?苹果...
- 焦点报道:美国科技初创企业陷入...
- 聊天时间过长机器人会“生气”?
- 后"国补"时代各显神通,一汽丰田b...
- 【热闻】宝马5系拿下1月销冠,新...
- 今热点:贾健旭出任上汽大众总经理
- 年内亮相 斯柯达全新柯迪亚克测...
- 如何安装WIN7系统?win7系统c盘...
- iphone免密支付什么意思?iphone...
- 微信分付额度怎么开通?微信分付...
- 什么是货币型基金?货币型基金和...
- 白银td交易时间是什么时候?白银...
- 创业板上市是什么意思?最新创业...
- 定向降准政策是什么意思?定向降...
- 股民亏的钱到哪里去了?国家队炒...
- 银行优先股是什么意思?银行优先...