““AI换脸”视频不能随便玩了！国内首个监管规定2020年元旦起施行”

加强监管处罚，率先提出“辟谣机制”

淘宝网的截图

进入自己的“脸”，可以把很多明星变成你的“演技”。 还记得前几天WeChat的力矩刷的“ai换脸”吗？ 这种技术令人感兴趣地体验，也引起了对隐私、版权、安全等的担忧。 最近，监管部门“插手了”。 国家互联网新闻办公室等3个部门联合发布的《网络音视频新闻服务管理规定》将于年1月1日起实施。 “ai换脸”的现状是什么？ 国内首次监管“ai换脸”的规定会产生什么影响？ 记者去采访了。

出台新的规则

规定了首次提出“谣言消除机制”

最近，国家互联网新闻办公室、文化与旅游部、国家广播电视总局联合印制了《网络音视频新闻服务管理规定》(简称:《规定》)。

记者在《规定》中多次提到基于“深度学习”、“虚拟现实”等新技术新应用的音视频。 《规定》规定，网络音视频新闻服务提供者和网络音视频新闻服务采用者利用基于深度学习、虚拟现实等的新技术新应用制作、传播、传播非真实音视频新闻时，必须以显著的方式进行识别，并予以深入

《规定》首次提出了“辟谣机制”——网络音视频新闻服务提供者应当建立健全辟谣机制，网络音视频新闻服务采用者基于深度学习、虚拟现实等的虚假图像、音视频 发现必须及时采取相应的辟谣措施，将相关情况报网信、文化和旅游、广播电视等部门备案。

《规定》还确定了监管和处罚机制——违反规定的，由网络通信、文化和旅游、广播电视等部门按照相关法律法规的规定解决。 违反治安管理行为的，依法给予治安管理处罚。 构成犯罪的，依法追究刑事责任。

探访现状

在网上还可以购买ai的“变脸”制作

年末，deepfake的换脸技术问世后，采用ai技术的“伪”视频也在增加。 而且，随着技术的进步，这样的视频越来越难以辨别真伪，引起了人们的担忧。

总体来说，通过大数据和机器学习，ai解开新闻，可以完美地生成他人的声音和形象新闻。

今年8月，一款叫做“zao”的app刷屏WeChat的力矩。 只要在手机上安装这个app，就可以用视频模板“变脸”。 当时扬子晚报记者下载了app，允许采用照片。 体验的感觉就像视频中自己的脸是明星和自己脸之间的“中间人”。 送给朋友的时候，说“和本人的相似度是60%-80%”。

但是，在“zao”中很流行，隐私泄露的“大坑”也被掩盖，无法注销的顾客合同条件引起了争论。

实际上，“zao”之前也曾风靡一时的“ai换脸术”。 最火的是“如何让杨幂拥有朱茵的演技？ ”。 ——今年年初，《ai换颜》制作的94版《射雕英雄传》很流行，黄蓉扮演者朱茵的脸被杨幂代替，五感不同，但换颜后的表情、动作自然流畅。

12月3日，扬子晚报记者在b站搜索“换脸术”，但仍有相当多的视频。 既有直接由“zao”生成的，也有换脸动画专用的闰p主加入的。

另外，记者还可以从淘宝网搜索“ai换脸”，找到大量机器合成的音视频。 十几块钱商家提供这样的定制服务。 也可以自己使用手机应用程序“变脸”。 ps的“换脸”店，只要拿起照片就可以换背景，和明星拍照，或者把人物的“头”“嫁接”到明星身上，不仅是正面，侧面也可以变成正面的脸。 淘宝卖家表示，可以定制ai视频变脸，打造“超大作”、形象包装、“收集”明星祝福等。 一分钟之内录像要60元。

对未来的影响

将有助于领域的健康和秩序的迅速发展

新规则实施后，未来领域的趋势如何？ 分析认为，“ai换脸”不是人工智能的“裸奔”，监管规定的出台有助于规范领域的健康快速发展。 那么，新增会对一般人产生什么样的影响呢？ 预计今后创作者在采用换脸技术方面会更加慎重，有必要警惕其中面临的风险。 对于想利用变脸技术盈利的人来说，这也很有魄力，特别是色情视频等黑产工人。

对网络音视频新闻服务的采用者来说，应当依法采用网络音视频新闻服务，自身权利受到侵害的，一定要举报投诉，依法保护自身权利。