1500亿赛道恐成作恶温床！虚假信息、版权纷争……AIGC谁来监管？

开创未来还是致命诱惑？

作者｜窗纱小鹿

来源｜天天财经116

(资料图片仅供参考)

AIGC，全称“AI Generated Content”，又称生成式AI，意为人工智能生成内容，包括文本、图像、音乐、视频、代码等。

自从ChatGPT走红后，生成式AI技术的发展和应用，引发了新一轮AI技术热潮和军备竞赛。谷歌、亚马逊等巨头纷纷推出了面向用户的生成式AI工具，国内的多家科技公司也加快了对AIGC的布局。

一些国家已经将生成式AI纳入国家战略的考量。据读卖新闻消息，日本政府已经决定建立一个新的“战略委员会”，以审议和制定与人工智能有关的国家战略。日本首相岸田文雄此前在会议上表示：“生成式AI有望提高劳动生产效率，应对劳动力短缺等问题。”

根据美国Western Securities（西部证券）的分析，预计到2025年，AIGC市场空间将达到40.352亿美元，到2030年市场将达到217.558亿美元。这意味着整个市场在未来几年可能迎来爆炸式增长。

但是，随着生成式AI技术的应用范围越来越广，这些由AI生成的内容正面临越来越多的争议，其中主要涉及虚假信息和版权保护两方面，为这项技术的发展敲响了警钟。

AI成为作恶工具

4月15日，德国杂志Die Aktuelle刊登了一篇由AI生成的对F1传奇车手舒马赫的“采访”内容。在该期杂志的封面上，醒目的写着“迈克尔·舒马赫：第一次采访!”的标题，并附上了这位前F1世界冠军的照片。下方一个较小的标题是“这听起来很真实”。

现年54岁的舒马赫在2013年滑雪时遭遇了事故，这给他的健康带来了严重的长期影响。自事故发生以来，他从未公开露面。

这篇文章发表之后，立刻引起了舒马赫家人的愤怒，据外媒报道，舒马赫家族已经计划对这家杂志采取法律行动。

目前，出版该杂志的Funke媒体集团已经宣布解雇该杂志的主编，并向舒马赫及其家人进行了公开道歉。对于此次事件，Funke集团的总经理表示：“这篇具有误导性的文章本不应该出现，这不符合我们的新闻标准。”

实际上，利用AI生成虚假有害信息的例子已经屡见不鲜。

此前，一位男网红在社交平台上表示，自己的脸被迪丽热巴的粉丝抓伤，起因是其利用AI换脸技术，将迪丽热巴在电视剧中接吻镜头的男主角替换为自己。

事件发酵之后，不少法律从业者指出，该男网红的行为是典型的侵权行为。一方面，男网红未经男演员授权，使用了对方的身体形象，侵犯了男演员的肖像权；另一方面，他的这种行为侵犯了女演员的名誉权和人格权。

明星在遭遇此类事件时，尚有粉丝的维护和社会舆论的关注，可如果被换脸的是一个普通人，往往更是难以澄清真相。

近日，广州一女子在地铁上的照片被AI“一键脱衣”，并在网络上广泛传播。虽然事情在最后得到了澄清，但此种图片大量传播，对受害人所造成的伤害显而易见。

利用AI技术生成色情信息和虚假信息已经形成了一条黑产业。在一些社交媒体平台上，搜索“AI换脸”等关键词，就会发现不少人都在用这些技术接单，只需要提供几张照片，商家就可以按照需求定制照片和视频，价格在几十元到几百元不等。

对于AI换脸的受害者来说，往往难以找到幕后的始作俑者，维权的难度和成本极高。况且，即使维权成功，已经被传播的照片和视频也无法收回，这些照片和视频后续还会对受害者造成持续的伤害。

如何防范有人利用AI技术作恶，已成为一个亟待解决的问题。

AI生成的内容，版权归谁？

AI生成的内容，如何界定其版权归属，这是近期围绕着生成式AI技术的另一个争议焦点。

去年，数字艺术家克里斯·卡什塔诺娃(Kris Kashtanova)使用人工智能绘画工具Midjourney创作了一本长达18页的漫画故事《黎明的查莉娅》(Zarya of the Dawn)，引发了一场关于人工智能创作作品的版权争论。

《黎明的查莉娅》（部分） 图源：美国版权局

针对《黎明的查莉娅》的版权认定问题，美国版权局今年2月指出，由艺术家本人撰写和编排的文字部分受版权保护，但使用Midjourney制作的图像不享有版权。

美国版权局在案件中表示，“用户利用Midjourney这一AI绘图工具生成的漫画内容不构成版权作品，因为在图像生成过程中没有自然人的创造投入，而是由Midjourney自动随机形成”。

在3月16日的指南中，美国版权局再次明确了上述立场：“根据对生成式人工智能技术的理解，用户对于输出的内容不具有创作性贡献和控制，应当拒绝版权注册申请”。

这份指南特别指出，版权只能保护人类创作的作品，宪法和版权法中使用的术语“作者”排除了非人类。

版权申请人则对此有不同的意见，申请人曾反驳道，“和画笔以及其他绘图软件无异，Midjourney在漫画生成过程中仅仅是被用来完成用户内心希望呈现图像的工具。”

除了AI生成作品的版权争议，AI在训练阶段使用的数据也存在版权上的问题。

去年11月，程序员Matthew Butterick联合三位律师正式对微软旗下的AI生成代码辅助工具Copilot提起诉讼，原因是Butterick认为Copilot违反了开源许可协议，在模型训练阶段，使用了Github社区中的开源代码作为训练数据，但抹去了代码的归属信息。这是美国第一起关于生成式AI的集体诉讼。

来源：Matthew Butterick博客

随着生成式AI技术井喷式的发展，可以预见，基于现有的法律边界，由AIGC引发的争议和诉讼将会越来越多。

各国加强对AIGC的监管

ChatGPT等生成式AI的争议也引起各国重视，很多国家开启了对相关风险的调查和监管。

3月31日，意大利数据保护局（Garante）以涉嫌违反数据收集规则为由，对ChatGPT的开放公司OpenAI展开调查，并宣布暂时禁止使用ChatGPT，且限制OpenAI处理意大利用户数据。

在意大利宣布调查后的几天里，法国、德国和爱尔兰的数据监管机构已联系意大利数据保护局，要求提供有关其调查结果的更多信息；包括中国、美国、法国、意大利、西班牙和加拿大在内的多国政府已宣布或考虑对生成式AI进行调查监管。

4月11日，中国下发了《生成式人工智能服务管理办法（征求意见稿）》的通知，并向社会公开征求意见。

同一天，美国商务部就相关的问责措施正式公开征求意见，包括具有潜在风险的新型人工智能模型在发布前是否应该进行核准认证程序。这被视作美国迈出对人工智能领域实行潜在监管的第一步。

4月12日，意大利数据保护局围绕数据安全问题向OpenAI提出了一系列要求，要求其公开ChatGPT的数据处理逻辑、对用户年龄进行筛查、明确数据主体拥有的权利等。

4月13日，法国国家信息自由委员会决定对ChatGPT提出5项指控，并展开调查。同日，西班牙数据保护局也发表声明，称该机构已经正式对ChatGPT可能的违反法律行为展开初步调查程序。

在立法层面，欧盟再一次走在了最前面。4月27日，欧盟达成了一项新的立法草案，该草案规定生成性人工智能工具的开发商必须披露其在构建系统时所使用的任何受版权保护的材料。该协议可能为世界上第一部综合性人工智能法律《人工智能法》铺平道路。

虽然多国都已经开始对生成式AI进行监管，但上述做法都只是在尚未形成统一标准的背景下所做的探索。生成式AI为内容生产的方式带来了史无前例的改变，如何更好地应对这种变化，仍然需要在实践中不断尝试和优化。

编辑 | 唐吉诃德

排版 | 唐吉诃德