创造力还是幻想病?面对 AI 幻觉策划人别慌
2023-07-03 11:13:17来源:ZAKER科技
近期,小爱同学通过检索搜索引擎信息生成的答案,抓取了猜想的答案,引发了众多关注。人工智能有意无意地胡编乱造,被业界称之为的 AI 幻觉。作为营销策划人,该如何应对这种状况?
在这个爆料常常被翻转的年代,辟谣已经将怪不怪,但是小米价格事件的翻转还是引发众多关注。近日,一张关于小米汽车车型价格的截图在网上流传,流出图显示,小米车型售价 14.99 万元起,最高续航达到 800 公里。不过没多久,小米公关负责人就在微博发文辟谣。原来这是小爱同学通过检索搜索引擎信息生成的答案,实际上,此信息是 2022 年 5 月自媒体报道的猜想信息,有人提问小爱时,小爱同学抓取了这个猜想的信息而已。小爱同学作为小米旗下的人工智能助手,其给的答案引发关注也不意外。确实,小爱同学辨别不了信息的真假,是无意为之。不过,这个事件让小僧想到了人工智能有意为之的胡编乱造现象,这就是被业界称之为的 AI 幻觉。
(相关资料图)
AI 也会幻觉?人工智能时代引发生产力解放的狂欢,但在这背后,过度依赖人工智能的危机似乎已经显现!
一、什么是 AI 幻觉?
你有没有遇到过 AI 工具一本正经胡说八道的情况?
在人工智能领域,AI" 幻觉 "(hallucinations)通常被定义为 " 生成的内容与提供的源内容无意义或不可信 "。也就是当模型出现 " 幻觉 " 时,其输出的内容、数据可能存在一定的欺骗性,而其所使用的训练数据并不能证明输出结果的合理性。
简单来说就是,AI 有时候会生成一些子虚乌有的人或者事,并且保持一贯的自信,这些虚假的信息具有很强的误导性和欺骗性。
就连 OpenAI 的首席执行官也在 Twitter 上公开表示,"ChatGPT 确实知道很多东西,但危险的是,它在相当大的一部分时间里是自信而错误的。"
不过,幻觉这个词总给人一种 AI 具有生命力和思考能力的暗示,正因为如此,随着这一现象被越来越多的人关注,这个标签的争议也越来越大。小僧以为,AI" 幻觉 " 事实上是一种信息的虚构,这种信息的虚构是基于 AI 模型造成的,而不是 AI 的主观思考能力或创造能力。
不管称呼如何,人工智能这种自我欺骗胡编乱造的现象已经不是个例,在 AIGC 浪潮之下,AI 工具张口就来似乎成为了新时代的新常态。
二、AI 张口就来的病
AI 这种出现错误或者偏差,导致生成不准确、错误甚至荒诞结果的现象,可能发生在多个层面上,如文本的胡编乱造、事实的错误捏造、无用代码的生成,甚至给你一个编造的参考文献等等。
《华盛顿邮报》就报道了一位法律教授发现 ChatGPT 将他列入了一份对某人进行过性骚扰的法律学者名单。还有报道称 ChatGPT 捏造一位澳大利亚市长被判定犯有贿赂罪并被判处监禁!是不是很可怕?随着 AIGC 的兴起,如果这种 AI 幻觉不得到有效解决,我们可能被各种捏造的信息裹挟。
三、AI 为什么会产生这种幻觉?
正如小僧上文所述,理解大型语言模型(LLMs)的本质可以帮我们找到答案。大型语言模型的设计,是基于语言的 " 统计概率 ",这意味着 AI 完全没有 " 现实世界的经验 ",无法有基于事实真假的判断。所以 AI 不知道什么是正确的,什么是不正确的,只能保持与提示词在统计学上的一致性。
OpenAI 的研究人员在报告中写道:" 即使是最先进的人工智能模型也很容易产生谎言,它们在不确定的时刻往往表现出捏造事实的倾向。而这些幻觉在需要多步骤推理的领域尤其严重,因为一个逻辑错误就足以破坏一个更大的解决方案。"
不过,从另一个角度来看,这种幻觉恰恰又是 AI 创造力的表现。因为正是这种创造性回应的能力使 AI 成为产生新想法或解开思考瓶颈的强大工具,你将其用于脑暴思考、激发灵感时会很有用,但当用作事实参考时就需要谨慎了。
作为营销人员,在使用这类工具时,还是要保持谨慎乐观的态度。因为我们从事的大量工作是创造性或者说是创意性的,AI 幻觉可以带来更多灵感和启发,但是还有很多工作是基于客观事实的,这就需要进行交叉核实或验证,而不是完全听之任之。
由此可见,对于 AI 工具,在效率层面确实是解放了生产力,但在内容真实性层面,我们在使用时,还是需要有基本的识别能力和判断能力。说到底,工具永远是为人所用,而不是完全替代人,是不是感觉到自己的职业稳了?
以上希望能给你启发。
专栏作家
小僧鲲鲲,微信公众号:营销禅修院,人人都是产品经理专栏作家。让营销没有难渡的劫,分享营销知识、策划干货和文案技巧。
本文原创发布于人人都是产品经理。未经许可,禁止转载。
题图来自 unsplash,基于 CC0 协议。
责任编辑:hnmd003
相关阅读
-
头条焦点:三星 Galaxy Z Fold 5 现身 Geekbench 数据库,预计 7 月底发布
此前,三星已确定将于7月底在首尔举行GalaxyUnpacked活动,多方消息确
2023-07-03
相关阅读
-
创造力还是幻想病?面对 AI 幻觉策划人别慌
近期,小爱同学通过检索搜索引擎信息生成的答案,抓取了猜想的答案,引
-
华为智慧搜索更好用了!上线智慧搜图,用人话就能找出“我的”图片|天天观察
搜索引擎的求变信号,比以往任何时候都要强烈。先是谷歌推出AIsnapshot
-
头条焦点:三星 Galaxy Z Fold 5 现身 Geekbench 数据库,预计 7 月底发布
此前,三星已确定将于7月底在首尔举行GalaxyUnpacked活动,多方消息确
-
AI 大战 10 位华西医院医生|每日快看
经济观察网记者瞿依贤您好,麻烦您告诉我您的年龄及性别,以及哪里不舒
-
最新快讯!王兴救兄弟,美团赢麻了
2023年过去一半了,你都完成了哪些目标?对于科技互联网圈上半年的顶流
-
环球即时看!GPT 上车只为人车交互?车企还在憋大招
图片来源@视觉中国文|元宇宙日爆ChatGPT改造汽车的序幕已经拉开,奔驰
-
资讯:消息称部分晶圆代工厂成熟制程已变相降价
据报道,IC设计业者透露,晶圆代工厂已有部分愿意以量换价,协商以特别
-
大厂高管卖房创业:杀入海外语音办公赛道,7 年成亚马逊头部品牌|全球球精选
本文来源:时代周报作者:李馨婷编者按:隐形冠军的概念由赫尔曼西蒙教
-
美国非法扩张域外管辖权严重扰乱国际秩序 焦点速递
一段时间以来,美国大打“规则牌”,突破国际法限制,挖空心思炮制种种
-
呼和浩特武川县突发山洪致1人遇难2人失联
记者从呼和浩特市武川县应急管理局获悉,7月2日中午,呼和浩特市武川县
-
日本核污水排海对韩国影响日益扩大 日韩关系或再蒙阴影
据日本《西日本新闻》2日报道,韩国各地近期反对日本核污水排海呼声强
-
新调整的“三有野生动物名录”公布 新增700多种野生动物 世界信息
记者近日从国家林业和草原局获悉:新调整的《有重要生态、科学、社会价
-
尸检时间应在死后多少小时内?尸检费用大体多少钱?
尸检时间应在死后多少小时内?应当在患者死亡后24小时内完成。死亡病例讨论制度:一 死亡病例,一般情况...
-
定罪免处是什么意思?定罪免处会开除公职吗?
定罪免处是什么意思?定罪免处是指构成犯罪,但免于处罚。刑法规定:对于犯罪情节轻微不需要判处刑罚的,...
-
民间配资是什么?民间配资是否违法?
民间配资是什么?民间配资是合法的民间借贷,由个人或公司与个人直接借贷或公司间借贷。在配资合作模式中...
-
动车组驶上青藏线——青藏铁路西格段动车组投入运营首日见闻
动车组驶上青藏线——青藏铁路西格段动车组投入运营首日见闻,西格,动车
-
焦点快看:今年完成水运建设投资同比增长30.3%
据央视新闻报导,在今天上午的国新办新闻发布会上,交通运输部副部长付
-
股票中什么叫趋势线?股票趋势线怎么看?
股票中什么叫趋势线?趋势线从历史最低点或某个波段的最低点开始画起,依次连接重要的次低点,这条线就是...
-
股改对员工有什么好处?公司上市前必须股改吗?
股改对员工有什么好处?上市前的股改是员工参股的机会,对员工来说是非常好的福利。当然对员工是比较有好...
-
山姆泡面桶已被炒至1999元一桶!山姆超市中国有几家?
山姆泡面桶已被炒至1999元一桶!7月3日消息,一桶泡面遭到疯狂热炒,持续加价到1999元,这场面你见过没?...
-
个人买国债怎么买?10万国债一年多少利息?
个人买国债怎么买?个人可以买国债,但前提条件是需要开通购买国债的账户。电子式国债开通账户后用户可以...
-
全球今日报丨海关查获450个内存条,男子试图走私入境被查
近期,拱北海关闸口海关查获一起旅客试图携带450个内存条走私入境的案
-
reits基金怎么购买?reits基金稳赚吗?
reits基金怎么购买?个人想购买REITS基金有两种交易方式,一是场外交易。如果使用场外基金账户认购,需要...
-
孔子的教育理念偏向经验主义_孔子的教育理念_今日观点
1、孔子的教育理念主要体现在以下几个方面:一、有教无类。2、即人人都
-
动力煤期货是哪个交易所?动力煤期货为什么没交易了?
动力煤期货是哪个交易所?动力煤期货是在郑州商品交易所上市,以动力煤作为标的物的期货品种,交易代码--...
-
世界新消息丨人保金色前程教育年金保险保障什么?可靠吗?
人保金色前程教育年金保险旨在为孩子的教育提供全方位的保障。首先,该
-
年年盈年金保险怎么样?优缺点是什么?
年年盈年金保险是一种特殊的年金保险产品,其主要特点是每年给付一定金
-
最新资讯:尊享岁月养老年金保险是什么?值得购买吗?
尊享岁月养老年金保险是一种专为养老需求而设计的保险产品。通过投保该
-
阳光人寿鸿福齐天年金保险怎么样?值得买吗?
光人寿鸿福齐天年金保险是一款长期积累和分散风险的保险及投资工具,旨
-
农银人寿年金保险可靠吗?有哪些产品?|精彩看点
农银人寿年金保险的可靠性可以从以下几个方面来考虑:专业管理:农银人
精彩推荐
阅读排行
精彩推送
- 退市是什么意思?退市后股民手中...
- 当前短讯!天眼查联合华为云发布...
- 个人贷款怎么办理?个人贷款10万...
- 46.6万辆!特斯拉二季度交付量超...
- 股改是什么意思?股改后多久可以...
- 人寿车险怎么样好不好?人寿车险...
- 国债逆回购是什么意思?国债逆回...
- 沙金是什么?沙金戴久了伤身体吗?
- 成交量怎么看?成交量绿柱红柱分...
- 当前热讯:科华数据不超14.9亿可...
- 期货门槛需要多少资金?期货5000...
- 全球实时:中物联:6月中国物流...
- 当前关注:这些高校向公众开放校...
- 中证报:资本市场不断释出开放信...
- 腾盛博药授出182.2万份购股权及5...
- 博瑞策生物完成超亿元Pre-A轮融...
- 2023年第三季度贵州省煤矿安全监...
- 环球关注:为扼杀不花钱扒数据的...
- 谷歌 Pixel 8 系列手机曝光:...
- 华硕展示特别版 RTX 4060 Ti...
- 美团收购光年之外,未来何去何从?
- 每日快讯!Apple Car 预计将于 2026 年上市
- 每日时讯!瑞典:人们心目中的“...
- 美股牛市未完!资深策略师:忘掉...
- 这一次收益率曲线倒挂不是灾难?...
- 突然爆雷,股价跌停!A 股 200...
- 为什么几千一晚的民宿突然消失了...
- 股票佣金怎么算?万2.5佣金交易1...
- 林芝市人民医院睡眠医学中心挂牌...
- 西藏下半年全国英语等级考试7月4...