国家网信办出手 生成式人工智能立规矩
2023-04-11 20:44:08来源:北京商报网
数据违规收集,隐私保护缺位,信息难辨真假……ChatGPT的爆火,也让AIGC(人工智能生成内容)陷入了流量与争议齐飞的境地,对监管的呼吁日渐高涨。4月11日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(以下简称“意见征求稿”)公开征求意见,内容的真实性、训练数据的安全性等备受关注的话题皆在其中。随着AIGC领域首份政府文件的面世,产业也有望理顺发展逻辑,告别野蛮生长。
(资料图)
防止生成虚假信息
“凌驾”于海量信息之上,结合超强的理解和生成能力,ChatGPT以高度“仿真”的回答惊艳了全世界。但在ChatGPT能力升级的过程中,生成的内容开始变得真伪莫测,治理难度随之升级,这也成了目前以ChatGPT为代表的AIGC最为诟病的一点。
对此,征求意见稿明确提出,利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。根据征求意见稿,生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
数据安全是AIGC领域的另一个顽疾。河南泽槿律师事务所主任付建提到,人工智能掌握大量数据和信息,但并不能保证数据的绝对安全性,一旦出现安全漏洞,再加上技术不成熟,导致公共利益缺乏有效保障。由于人工智能技术的程序是开发人员编写的,但决策是由机器做出的,如果出现重大失误造成损害后果,责任谁来承担仍存在争议。
为此,在用于AIGC预训练、优化训练的数据方面,征求意见稿也做出了明确的规范,例如不含有侵犯知识产权的内容,数据包含个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形,能够保证数据的真实性、准确性、客观性、多样性等。
在引起热议的隐私保护方面,征求意见稿表示,提供者在提供服务过程中,对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息,不得根据用户输入信息和使用情况进行画像,不得向他人提供用户输入信息。
顺畅的反馈机制是AIGC良性发展的关键一环。征求意见稿指出,提供者应当建立用户投诉接收处理机制,及时处置个人关于更正、删除、屏蔽其个人信息的请求;发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。
而对于运行中发现、用户举报的不符合本办法要求的生成内容,除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止再次生成。
北京卓纬律师事务所合伙人、律师孙志峰认为,征求意见稿明确了网络安全法、数据安全法、个人信息保护法以及《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等相关互联网规则在AIGC领域的适用,有利于执法尺度的统一,提升服务商和用户对执法预期的判断。
“同时征求意见稿也明确了提供者有义务根据有关部门要求,提供包括训练数据基本情况描述、人工标注规则及相关信息,以及基础算法和技术体系等,保障用户知情权,便于日常监管,在一定程度上可以缓解当前用户基于算法等技术革新的担忧。”孙志峰称。
从野蛮生长到规范发展
征求意见稿出炉在一个关键的时期:近段时间以来,无论国外还是国内,AIGC都陷入了巨大的负面舆论旋涡。3月末,意大利个人数据保护局宣布禁止使用ChatGPT,此后,德国、加大拿、法国、爱尔兰等也相继释放出类似信号。
在这之前,1000多位学界业界人士联名呼吁叫停AI大模型研究的新闻更是刷屏网络,其中对于AI系统的担忧主要集中在两方面,包括AI可能失控,给人类文明带来风险,以及AI可能被恶意使用,造成错误信息传播或被用来犯罪。
于国内而言,虚假消息的传播也已经开始扰乱人们的视听。不久前,一封出自ChatGPT之手的“杭州取消限行”的消息一度盛传。此外,AI绘画也始终面临着版权的争议。
瑞莱智慧联合创始人萧子豪对北京商报记者分析称,一方面,ChatGPT大模型成为全球化趋势,另一方面新技术之下治理挑战日益严重,以ChatGPT为代表的大模型传播能力和技术能力呈现高度的渗透性和扩展性,传统网络治理模式失效,在安全风险存在未知与不确定性的情况下,探索新治理路径成为全球性议题。
“新技术的发展,监管一定是落后于发展的。”萧子豪表示,相比于传统互联网技术,对于AIGC的监管已经较早地被关注和提上议程。针对具体的安全问题,需要我们在发展技术的同时,对于AIGC应用边界加以管控,采取必要的控制。
在这之前,萧子豪就曾建议政策层面建立起对ChatGPT等AI生成内容的管理法规,对利用AI生成和传播不实不良内容进行规避,同时加强治理工具的开发,通过研发技术手段来识别AI生成内容,这不管对于内容检测还是作品确权,都是重要前提。
商务部研究院电商所副研究员洪勇评价称,征求意见稿为AIGC产业提供了一套明确的法规框架,有助于规范整个产业的健康发展,提升行业标准。例如征求意见稿强调了对个人信息和隐私的保护,规定了对于涉及个人信息的处理和保护的要求,有助于提升用户对AIGC产业的信任。
北京商报记者 杨月涵
责任编辑:hnmd003
相关阅读
-
成功“摘U”!沪硅产业;归母净利润同比增122.45%,300mm半导体硅片或成营收“压舱石”
沪硅产业披露2022年年度报告。沪硅产业于2020年4月20日在上海证券交易所科创板发行上市,成为国内“半导...
2023-04-11 -
ChatGPT太火 美国政府准备动手了:就ChatGPT等AI工具监管措施公开征求意见:观速讯
美国总统拜登。凤凰网科技讯北京时间4月11日消息,由于人们越来越担心ChatGPT等人工智能工具可能被用于...
2023-04-11 -
很有创意!马斯克比尔盖茨贫民窟AI画引热议 网友:毫无违和感_独家焦点
快科技4月11日消息,相信不少人都看过印度电影《贫民窟的百万富翁》,那么假如。马斯克、比尔·盖茨、特...
2023-04-11
相关阅读
-
国家网信办出手 生成式人工智能立规矩
数据违规收集,隐私保护缺位,信息难辨真假……ChatGPT的爆火,也让AIGC(人工智能生成内容)陷入了流量...
-
成功“摘U”!沪硅产业;归母净利润同比增122.45%,300mm半导体硅片或成营收“压舱石”
沪硅产业披露2022年年度报告。沪硅产业于2020年4月20日在上海证券交易所科创板发行上市,成为国内“半导...
-
每日精选:包头首届二手车拍卖会即将开启
4月11日,记者从市商务局了解到,2023年包头市“约惠鹿城”首届二手车拍卖会将于4月15日上午10点在盛世...
-
“琼”尽好物看消博|春暖花开,新消费激发新活力!
广西新能源汽车、云南自主研发新花卉、东道主海南的环保消费新风尚……
-
快资讯丨消博会:共享中国机遇 共创美好未来
在世界经济寒潮下,通过举行第三届消博会,中国向世界表明始终敞开怀抱,共享机遇、共创未来的决心。
-
今日辟谣(2023年4月11日) 全球资讯
众所周知,痛风、高尿酸血症与嘌呤摄入过多有关。很多人都知道动物内脏、海产品等嘌呤含量均较高,而对...
-
飞书将推出 AI 助手 My AI 暂无明确上线时间
品玩4月11日讯,据飞书官方消息,飞书将会推出AI助手MyAI。据悉,MyAI将包括自动汇总会议纪要、创建报告...
-
今日播报!深耕 17 年,亚马逊云科技如何引领 Serverless 持续进化?
随着云计算的发展,Serverless已经成为一个技术趋势、一个理念,乃至一个云的发展方向。依托于Serverles...
-
实时:流畅快速:Win11 跑安卓 APK 更方便了!
快科技4月11日讯,Windows11上已经支持运行安卓应用,包括从亚马逊应用商店下载以及借助ADB工具旁加载AP...
-
魅族 20PRO 再次开售依然抢不到?员工 : 交付逐渐在改善
4月3日,魅族20、魅族20PRO正式迎来开售,魅族20PRO一度秒没;4月7日魅族20RRO进行了第二轮开售,备货情...
-
当前最新:母婴市场的生意越来越难做!被寄予厚望的贝贝熊,爱婴室盘得怎么样?
《关于优化生育政策促进人口长期均衡发展的决定》自2021年推出以来,“一对夫妻可以生育三个子女”的政...
-
盘点周杰伦商业版图:腾讯阿里快手等争抢版权,年平均收入超过5亿元
华语乐坛“顶流”周杰伦再上热搜。4月10日, 周杰伦起诉网易不正当竞争 相关话题冲上微博热搜第一。浙...
-
天天观速讯丨张杰谢娜夫妇“跳单”事件新进展:反诉中介侵权,该公司已申请破产
被指买豪宅“跳单”后,张杰夫妇将房产中介公司告上法庭。4月4日,张杰、谢娜“跳单”一事,被法院认为...
-
无证生产新冠抗原检测试剂,一企业被处罚!
日前,福建省药监局公告一则无证生产新冠抗原检测试剂的行政处罚。根据案源线索,厦门药品稽查办公室于2...
-
太平洋鑫红利两全保险怎么样?投保条款是什么?-天天报道
中规中矩。从投保年龄来看,太平洋鑫红利两全保险是支持出生30天-70周岁的人群购买的,可见投保年龄非常...
-
安享幸福晚年,尽在恒安标准恒享康鑫年金保险!
恒安标准恒享康鑫年金保险,出生满30天-65周岁的人群可投保,可选一次性缴费或者按年缴费,按年缴费又分...
-
微头条丨保险公司哪家口碑最好?如何判断保险公司是否靠谱?
保险公司的口碑主要取决于公司的服务质量、产品种类、理赔效率以及客户满意度等因素,在市场中,中国平...
-
当前头条:鹿城,在新时代的光束里伟岸绽放
高度是这样筑成的——当春风吻遍大地阳光给所有的楼宇和道路穿上了优雅的工装霓虹灯置换了动人的眼神十...
-
苹果 iPhone 15 全系列屏幕均使用三星 M12 材料集,明年机型或采用 M14:环球看热讯
苹果将会在今年秋天带来新一代iPhone15系列手机,除了提供新功能及一些前瞻性的变化外,最大的不同可能...
-
比亚迪是怎么帮你坐在云上的?:世界热资讯
辇的读音和碾一样,这个字从秦朝之后特指皇帝所乘坐的车。读音和含义搞清楚,我们可以开始讲这些统称云...
-
一加 Ace2 原神定制礼盒 4.17 发 全新红色素皮版打几分?:每日消息
声音|小白在今年2月初的一加Ace2发布会上,一加宣布与原神达成三年战略合作,一亿研发投入成立一加原神...
-
美团短视斩大众点评,面对抖音内容冲击或终尝恶果_世界聚焦
「核心要点」随着短视频内容的兴起,抖音的美食短视频所带来的流量和曝光率不容忽视。目前,抖音已正式...
-
当前速看:公积金账户有10万块钱可以贷多少?贷款的利率是多少?
看具体情况。虽然一般情况下都是用公积金账户的余额来确定公积金可以贷款的金额,不同的地区对于公积金...
-
金佑人生分红险交满后能取吗?交满后怎么办?
不能。金佑人生属于分红险的重疾险产品,这类型的产品是不具有返还功能的,因此就算我们缴纳满了也是无...
-
长城人寿嘉峪关养老年金保险怎么样?优点是什么?_速读
该保险整体表现不错。长城人寿嘉峪关养老年金保险是长城人寿保险公司的养老保险,保险公司是正规公司,...
-
国寿福庆典版值得购买吗?怎么买?
国寿福庆典版是一款综合型保险产品,具有多种保障、灵活选择、高额返还等特点,客户可以根据自己的需求...
-
自游家夭折?工厂有车辆已落灰,多地被曝撤店,前员工:团队心血落空-每日焦点
沉寂多时的造车新势力自游家又传出新消息。日前,有消息称,自游家官网无法登录,官方APP已停止服务。时...
-
少儿保险保终身有必要吗?怎么买?:微动态
如果经济条件允许的话是很有必要购买少儿保险保终身的。 因为对于小孩子来说,由于抵抗力比较弱,一般患...
-
京东零售开启采销单元组织变革:取消事业群 精简汇报层级_天天快播
凤凰网科技讯4月11日消息,据接近京东人士透露,京东零售启动采销单元组织变革,取消事业群这一层级,将...
-
【世界报资讯】拒不履行执行和解协议 武汉长江被列为失信被执行人
武汉长江足球俱乐部有限公司被武汉市黄陂区人民法院列为失信被执行人。案件审理流程显示,该案不久前已...
精彩推荐
阅读排行
精彩推送
- 全面注册制首秀登场,A股迎来历...
- 万达电影:大股东万达投资已累计...
- 第108届糖酒会即将在成都开幕
- 淡出大众视野!屈臣氏一年关店30...
- 游戏的最佳选择“帧”实力,iGam...
- iPhone 15 将在更多国家推 eS...
- 全球报道:大模型时代,商汤怎么做?
- 京东零售启动采销单元组织调整:...
- 全球即时:两市成交额再破万亿!...
- 世界速读:短久期二永债不香了?...
- 天天即时看!100万定期寿险一年...
- 平安金玉满堂两全保险万能型的优...
- 万能账户的钱可以全部领出来吗?...
- 车险要提前一个月续保吗?提前买...
- 国寿鑫尊宝终身寿险万能型庆典版...
- 全球新消息丨狂揽1290亿!隆基绿...
- 估值暴跌的创新药活过来了?华盖...
- 长城蓝山 DHT-PHEV订单突破1万...
- 消息称车主投诉蔚来ET5行驶中疑...
- 看点:香港3月底官方外汇储备资...
- 英特集团拟收购百善医疗51%股权:...
- 天津:“投资热土”聚集效应初显...
- 全国二级公立医院运营能力如何?...
- 焦点滚动:时政微视频丨瞰广东
- 舒适好音质,韶音首款分体式不入...
- 热消息:2023智能变电站行业发展...
- 当前视点!2023年3月份居民消费...
- 世界关注:中国支付清算协会倡议...
- 世界黄金协会:3月黄金ETF迎十个...
- 新华保险是正规公司吗?有什么注...