疯狂污染互联网,人类比 AI 擅长多了
2023-06-23 18:28:20来源:ZAKER科技
一位网友在提问 New Bing 时,答案出现了事实性错误,他点开参考链接时发现,作为引用源的知乎回答,居然也是 AI 生成的。
回看这个知乎账号,遣词造句尽显 AI 风味,答题速度迅雷不及掩耳,目前已经被禁言了。
(相关资料图)
但硬要较真,AI 污染互联网,不全是 AI 的锅。
AI 造假,神乎其技
生成式 AI 有概率输出错误信息,这是刻进 DNA 的顽疾,联网能够缓解部分症状,因为可以参考多个信息源,但没想到这么快,我们因此陷入了新的混沌,正如古早的计算机格言:
garbage in, garbage out(垃圾进,垃圾出)。
AI 正在悄悄创作越来越多的「假冒伪劣」,说不定你在冲浪的时候就遇到过。
国内外已经发生了好几起 AI 假新闻事件。
今年 4 月,多达 21 个账号同时发布了一条骇人听闻的消息:甘肃一火车撞上修路工人,致 9 人死亡。网警初步判断信息不实,锁定了深圳某自媒体公司,经过取证后发现,犯罪嫌疑人在全网搜索近几年社会热点新闻,并通过 ChatGPT 修改编辑,再将内容多次上传。
国外知名科技媒体 CNET,也在年初被曝光用 AI 偷偷生成文章,其中 77 篇存在不少错误。
新闻可信度评级机构 NewsGuard 甚至发现,涉及 7 种语言的 49 个新闻网站,内容大部分或完全由 AI 生成。它们「师出同门」但各有千秋,有的杜撰虚假信息,有的重写其他媒体报道,其中产量高的每天发出数百篇文章。
最有趣的来了,NewsGuard 是通过搜索「As an AI language model」等 AI 常用短语发现这些网站的。连 AI 的口头禅都不删去,脏活也做得太过粗糙。若在社交媒体和点评网站查找类似内容,你也会发现无脑复制 AI 的账号已经大行其道。
亚马逊一款吸尘器的虚假评价不遮不掩:「作为一个 AI 语言模型,我没有亲自使用过这个产品,但根据它的功能和用户评论,我可以自信地给它打 5 星。」AI 骗人这么诚实,背后原因令人暖心。
不只文本,图片和视频的深度造假也越发炉火纯青。穿着羽绒服的教皇,被视作第一个真正大规模的 AI 虚假信息案例,当时在 Twitter 的浏览量达到 2600 多万次。「AI 生成图片」的说明,后来才补充在图片下方。
更多的模仿随之而来。特朗普下乡再就业,在街头拉黄包车;异形体验生活,上了一天的班然后深夜买醉 …… 更有甚者,用 AI 生成「新闻图片」,对不存在的历史言之凿凿。TikTok 上的「汤姆 · 克鲁斯」,以假乱真的程度,本人看了也得犯迷糊。
风险与你不一定隔着屏幕,也可能已经蛰伏身边。今年 4 月,技术专栏作家 Joanna Stern 做了一项实验,录制 30 分钟的视频和 2 个小时的音频,然后用 AI 克隆了自己,它甚至骗过了银行和她的家人。
AI 让我们对那些曾经不容置疑的事物,也抱有基本的警惕心。当你连接到互联网,你和 AI 都会消费 AI 生成的内容,这个时刻已经到来。
AI 污染不仅影响现在,也可能带偏未来
以上这些是 AI 污染互联网的现状,往后的发展可能更让人不安。
让人类中招的同时,回旋镖也将打在 AI 身上。
一项英国和加拿大的研究发现,当人类越来越多地通过 AI 生成内容,它们会大量进入在线数据库,被用来训练未来的 AI,如果一代又一代地延续下去,最终将导致「模型崩溃」。
具体来说,随着时间的推移,AI 生成的错误会复合,造成从中学习的下一代 AI 更加错误地感知现实,并迅速忘记大部分原始数据,无法区分事实和虚构。研究人员打了一个生动的比喻:就像用塑料垃圾散布海洋、用二氧化碳攻占大气,我们即将用废话填满互联网。
作为结果,通过抓取互联网数据训练新模型,将变得更加困难。
雪上加霜的是,内容平台们打算筑起城墙,让免费的、高质量的公开数据有了门槛。
前段时间,「美国贴吧」Reddit 计划对 API 进行收费,原因是他们的内容正在被白嫖给 AI 训练,ChatGPT 和 Google Bard 之前都爬过 Reddit 的数据。Reddit CEO 表示,Reddit 的语料库非常有价值,他们不想把这些内容免费提供给巨头。
Reddit 的 API 收费,对 OpenAI、Google 等家底深厚的玩家影响不大,但 AI 初创公司获取数据更难了。那些长期依附 Reddit 的第三方应用,更是在这次变革中被牵连,带头宣布倒下。
在商言商, Reddit 可能是在自救,之前盈利主要靠广告投放,AI 反而挖掘了 Reddit 数据的商业价值,其他 UGC 内容平台说不定也在打算盘,这对很多 AI 初创公司来说不是好事。公开数据还不是唯一的挑战,不少 AI 初创公司想在金融、医疗等领域构建垂直的 AI 模型,然而获取专有的训练数据集并不容易。
拥有这些数据的企业们,更愿意和大型科技公司建立合作关系,因为巨头的可信度更高,处理数据的方式更好,更能保障数据安全。高质量数据是 AI 模型的护城河,获取数据却或多或少地成了一场利益的博弈,将互联网划分为孤岛,或者干脆排资论辈上演军备竞赛。
一方面,互联网的内容本就参差不齐,另一方面,互联网又趋向封闭。未来各家的 AI 要如何接收优质内容训练和微调,成了一个悬而不决的问题。
至少在互联网数据这块,AI 还真可能「自给自足」。剑桥大学教授 Ross Anderson 指出,目前,大多数在线文本都由人类编写,但它们已经被用来训练 GPT-3.5 和 GPT-4,未来,越来越多的文本将由大语言模型编写。那么,如何避免 AI 生成内容质量下降,一代不如一代?英国和加拿大团队提出了两种方法。
一是保留原始数据集的副本,并避免它被 AI 生成的数据污染,然后可以基于这些数据,定期重新训练或者从头刷新模型。二是将新的、干净的、人类生成的数据集,重新引入到模型训练中。然而,前提是存在某种可行的方式,区分 AI 和人类生成的内容。
ChatGPT 的数据源截至 2021 年 9 月,在那之前的互联网可能是最后一片净土。
从此以后我们踏进了暗流涌动的世界,困境摆在眼前,应对措施悬在空中。
被用来制造垃圾的 AI,本该提高互联网的下限
不过,互联网被污染的锅,不该全由 AI 来担。
事实上,AI 本该用来提高互联网内容的下限,在 ChatGPT 前身 GPT-3 的时代,已经有人将它作为写作工具了。
AI 从新鲜的玩具变成提升生产力的工具是必然的趋势,因为它学习了海量知识,擅长写出有板有眼的文章和代码,如果再由人力审核和编辑,其实已经比不少「内容农场」的质量要高。
「内容农场」指的是那些快速生产内容、从而赚取流量和广告费的网站。这类网站通常找不到作者,掺杂大量广告,抢占搜索页面的前排,内容多半缺乏原创且无法保证真实性,很可能是盗取或拼凑他人文章,有来源不明、质量低劣、翻译不准等问题。
现在,AI 却被拿来制造新的内容农场,这是人类出于利益的选择。除了各种假新闻和假图片,电子书网站、科幻杂志投稿等,也被 AI 批量生产的垃圾充斥。
软件工程师 Chris Cowell 花了一年多的时间,编写了一本技术指南。结果在这本书发行前,亚马逊已经出现了相同主题的、由 AI 生成的电子书。他担心的不是销量,而是这种低质量、低价格、省时省力的 AI 写作,会让同样打算编写小众书籍的人类产生「寒蝉效应」,降低写作热情,不愿意再发出声音。
AI 初创公司 Hugging Face 的首席伦理科学家 Margaret Mitchell 警告,随着 AI 生成的内容越来越多,我们可能读到大量不符事实的内容,但又无法追溯真相。
这就像是一个 AI 主导的「后真相世界」。「后真相」指的是,客观事实在塑造公众舆论方面的影响力,反而低于诉诸情感和个人信仰的内容。它被《牛津词典》评为 2016 年年度词汇,至今依然适用。
前段时间,知名外媒一项针对 9.3 万多名成年人的调查发现,用 TikTok 看新闻的年轻人越来越多了。至于内容有多可信,那就得打个问号。
最近,TikTok 流传着泰坦尼克号从未沉没的说法,有理有据也就罢了,却只见张口就来的阴谋论。有人用魔法打败魔法,制作辟谣视频,关注度并不低,但没有谣言出圈。一位研究泰坦尼克号 60 年的专家感叹:「看到这么多垃圾出现,让人有点泄气。」
更让他担心的是,这类内容的受众里有很多青少年,他们使用 TikTok 的时间越长,就越相信自己所看到的,然后算法推荐更多相关内容,应接不暇地激发快感,将他们彻底包围。
更多类似的趋势在上演。
断章取义、支离破碎的片段式消息流转于社交媒体,但严肃内容又可能被评论「太长不看」。
制作粗糙的短视频,促使新的「黄色新闻」兴起。或是家长里短的摆拍,或是没有营养的奇闻逸事,让人想骂一句「没有新闻可以不发」。5 分钟的小帅小美式电影解说,则是适合下饭的「电子榨菜」,空镜和转场什么的不重要,将人物标签化,选取最猎奇或悬疑的情节讲解就好。
所以,在 ChatGPT 之前,互联网已经内容降级,它不止关乎具体内容,更关乎用户的媒介使用习惯,如果 AI 被用来加速这个过程,然后再被这些数据训练,那么人类将更加无法抵挡污染。严肃和通俗内容都有受众,也都值得生产,问题的核心并不在这里。尼尔 · 波兹曼在电视时代就提出警告,媒介社会面临的最大问题,不是电视为人们提供娱乐性的内容,而是所有的内容都以娱乐的形式表现出来。
相比印刷媒介的严肃与有序,电视等大众媒介瞬间传递信息,如果沉溺于技术营造的视觉快感,受众可能会渐渐失去独立思考的能力。互联网时代不外如是。
对视觉化、简短化、情绪化内容的生产和消费倾向,为 AI 污染互联网塑造了肥沃土壤,甚至让人们对虚假信息的抵抗能力降低。
所以,AI 污染互联网不全是 AI 的锅,它可以用来完成更好的事,也可以让现状持续。先是人类选择想要怎样的世界,然后 AI 负责放大它。
责任编辑:hnmd003
相关阅读
相关阅读
-
疯狂污染互联网,人类比 AI 擅长多了
人们最担心的事情还是发生了。一位网友在提问NewBing时,答案出现了事
-
今日热门!加拿大要求科技巨头为新闻付费:Meta 回击,终止当地新闻服务
IT之家6月23日消息,据《华盛顿邮报》报道,加拿大议会通过法案,要求
-
中国开源,迈入“新生代” 热门
提到中国开源,大家会想到什么?追随者,而不是创造者国外一开源,国內
-
比你人还高的 iPhone 见过没?有人做出来了!|全球信息
网上有一句话叫做大千世界,无奇不有,意思是指在这个世界,只有想不到
-
「小白」2023 酷派 / 金立 / 乐视手机体验:百元主力军?
——ZAKER,个性化推荐热门新闻,本地权威媒体资讯
-
多地银行宣布:下调!
作者丨李览青赵月于兴子编辑丨周炎炎图源丨视觉中国时隔九个月,贷款市
-
用围墙圈美景 景区当心作茧自缚!
最近,一位旅游博主爆料,称驾车沿着214国道,来到了云南梅里雪山国家
-
信息:滴滴:端午首日下载滴滴App注册用户超40万
2023年端午小长假,出行热度持续高涨。6月21日出行晚高峰时段,滴滴
-
微视频|家国情长
端午节,烙下的是文化印记,凝聚的是前行力量。
-
焦点讯息:对不起了知乎,这次我也想喷喷匿名用户们
知乎又被炮轰了。亿欧网创始人黄渊普写了篇《写给知乎创始人周源的
-
全球快讯:互联网围剿知乎脉脉匿名区
亿欧黄渊普炮轰知乎创始人周源朋友圈已经刷屏,尽管表达显得情绪化
-
包钢·2023 包头马拉松激情开跑|焦点消息
【赛前】倾力护航平安随行6月23日7时30分,包钢·2023包头马拉松在奥体
-
今日要闻!英国6月制造业PMI为46.2,前值47.1
每经AI快讯,6月23日,英国6月制造业PMI为46 2,预期46 8,前值47 1;6
-
【世界独家】交通部门增加增强服务举措 确保旅客出行畅通
端午假期正是公众出行高峰,在一些热门旅游方向,铁路部门通过增开列车
-
泰坦尼克号导演卡梅隆:潜艇事故与百年前船难相似,警告被忽视
。IT之家6月23日消息,美国海岸防卫队今天宣布发现潜艇泰坦号残骸,5名
-
23Q1 日本手机市场报告:iPhone 占比 53.8%,80% 机型为 64GB/128GB-今日聚焦
IT之家6月23日消息,根据IDC公布的最新报告,苹果iPhone占据日本手机市
-
每日热文:微软发布 Win11 Build 226x1.1906 更新:系统托盘可隐藏时间和日期
IT之家6月23日消息,微软今天面向Beta版WindowsInsider项目成员,发布
-
倍思推出迷你旅行插线板:体型小巧易收纳、斜出线设计,49 元-环球百事通
IT之家6月23日消息,倍思日前推出了一款迷你旅行插线板,主要适用场景
-
特斯拉市值一夜大涨 441 亿美元、与美国各大车企纷纷接入其充电标准有关-每日热讯
近日美国股市集体下跌,三大指数均呈现跌势,其中道琼斯工业指数下跌了
-
混动还是原生的好!捷途大圣i-DM 内外兼修,一举拉高户外派对天花板 每日快报
炎炎夏日,龙虾与啤酒更配哦!6月22日,以“国风神画之夜”为主题的202
-
世界看热讯:无线感知大牛熊杰加盟 MSRA:麻省大学前副教授,深耕领域十年,为 AI 提供「第四种数据」
微软亚洲研究院(MSRA)再次招揽来一名顶尖大将:曾任麻省大学副教授的
-
美国律师因引用 ChatGPT 虚假案例受到处罚
财联社6月23日讯(编辑牛占林)像ChatGPT这样的生成式人工智能可以极大
-
宁德时代:支持员工买房安家,拟为员工提供无息借款,期限不超十年
财联社6月23日讯,宁德时代6月21日晚间发布公告表示,为更好地吸引与保
-
今日热搜:国际航班“选座费”引热议,遇到这些情况可维权
近日,有多位消费者向总台央广中国之声反映,他们在国际航班在线值机选
-
《泰坦尼克号》电影导演卡梅隆:潜艇事故与百年前船难相似,警告被忽视
IT之家6月23日消息,美国海岸警卫队今天宣布发现潜艇泰坦号残骸,5名乘
-
泰坦号沉船使一款游戏销量暴涨 玩家:6美元体验惨案
泰坦号沉船事件致一款名为《铁肺》的封闭潜水艇恐怖冒险游戏销量飙升,
-
弘章投资合伙人赵熠:在海外,有可能再造一个娃哈哈 世界关注
图片来源:图虫创意在创投圈,曾流传着这样一个耳熟能详的论断——所有
-
【世界新要闻】忙直播的罗永浩,还做不做AR了?
罗永浩的6个亿债务,终于还完了。“交个朋友直播优选”抖音号6月19
-
全年GMV目标只完成1.5%,抖音外卖能「吃饱」吗? 环球微头条
近日,抖音外卖业务被传出全年GMV目标从年初的1000亿元下调到了50亿
-
换帅,阿里会不会方向搞反了?
自打人们认识到组织需要单独研究之后,一直有一个癌症一样的问题伴
精彩推荐
阅读排行
精彩推送
- 天天亮点!多地端午假期首日旅游...
- 焦点热讯:18-200的镜头的用法与...
- iPhone 新专利获批:音量键等采...
- 5G 和麒麟芯片或回归 + 预装...
- 端午假期首日 全国铁路发送旅客...
- Win11 最近一个月卡爆了!CPU ...
- 马斯克约架扎克伯格进行笼斗,扎...
- 西藏日喀则将建系列望远镜 服务...
- 世界播报:为户外劳动者撑起“遮...
- “女孩子学舞蹈,将来有什么用?...
- 好运签|高考查分在即 祝你一举...
- 微软誓要收购动视暴雪 索尼急了...
- 视焦点讯!索尼芯片主管表示,今...
- 当前报道:消息称中国视涯技术采...
- iPhone 新专利获批:音量键等采...
- 绿精灵的养殖方法_绿精灵的养殖...
- 国人购买 iPhone 代价统计曝光...
- 港股开盘:恒生指数开盘跌 0.43...
- 世界速讯:加拿大通过立法强制 ...
- 环球观点:主播打造全球最大“ ...
- 焦点简讯:FF 首款车型第二阶段...
- 花钱买气受,就去百果园-环球新动态
- 西藏藏医药大学举行2023年毕业典...
- 北约秘书长称将帮乌克兰实现“军...
- 世界快播:福特将在美国本土抵抗...
- 我们的节日·端午|粽叶飘香话端午
- 深入调研揪“病根”强化意识护安...
- “三同”模式 让各族群众其乐融...
- 今日热议:激情马拉松 畅玩不夜城
- 我市中小学美术教师 民间美术作...