Library 
About us 
Expertise

 Home               ​

Commonweal 
Professionals
Publications  
Contact us
Recruitment
Consturction 

律通资讯

​LVTONG NEWS

律通观点:“AI换脸”技术应用的法律边界
来源: | 作者:pmo5f9afa | 发布时间: 2023-07-05 | 432 次浏览 | 分享到:

北京市律通律师事务所郑中臣律师受邀来到《法治日报》社进行关于“AI换脸”技术应用的法律边界内容讨论的采访。

以下是采访内容转载:法治参考


本刊记者 白楚玄

 

上传一张人脸照片,经过实时人工智能算法,瞬间就可以将其面部变成你想要的样子……随着AI技术的普及,“AI换脸”“AI合成照片”“AI渲染视频”等技术被广泛应用于多个领域。在增添趣味性的同时,也引发了不小争议。对此,有网友愤愤表示:“‘AI换脸’,这不是明目张胆地行骗吗?”“这年头还有什么是真实的?”“‘AI换脸’是否合法合规?”诸如此类问题也引起社会广泛讨论。

 

AI换脸”技术被滥用

 

近年来,随着人工智能的快速发展,AI换脸”技术门槛逐渐降低,普通人也能方便地制作换脸视频。

 

所谓AI换脸”,是指通过面部识别和人工智能深度合成,将一张脸替换成另一张脸的技术,生成的照片或视频中人物面部表情自然且效果逼真。

 

目前,在一些电商平台,AI换脸”已形成了一定规模的产业。本刊记者检索发现,网上有很多“AI换脸”的工具或教程,这些教程通过视频、文章等形式传播,并提供换脸软件的下载渠道。这些软件有的需要付费,有的则通过点赞、关注、评论就能获取。

 

记者向一家提供“虚拟人、数字人建模定制”的网店进行了咨询,商家表示:“虚拟明星面容由你定制。”其产品中适合直播聊天的“实时版”现成模型,费用为2000/套。

 

中国政法大学知识产权研究中心研究员郑中臣表示,AI换脸”在科技领域叫AIGC,伴随着深度合成技术的开放开源,相关产品和服务逐渐增多,AIGC发明之初是用于视频剪辑及模拟智能学习领域,但现在越来越被滥用且不受控制。

 

20233月,一名特效师利用AI合成技术,制造出自己和迪丽热巴“热吻”的特效合成画面,引起迪丽热巴粉丝们的强烈不满。更有甚者,利用“AI换脸”技术“造黄谣”,引发大众的关注和担忧。20234月,博主“caro赖赖”发文称,有人盗用她的“脸”制作不雅视频。此前,一女子乘坐地铁的照片被AI“一键脱衣”后在网络上传播,造成不良社会影响。

 

暗藏侵权法律风险

 

事实上,AI换脸”技术的滥用,在现实生活中已引发多起侵权纠纷。

 

上海市金山区人民法院和浙江杭州互联网法院都曾审理过因AI换脸”App利用深度合成算法侵害他人肖像权的案件,均判决App开发者赔礼道歉并赔偿损失。

 

部分AI换脸”行为,也已涉嫌刑事犯罪。近日,内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。骗子通过“AI换脸”和拟声技术佯装好友,对受害人实施诈骗,受害人10分钟内被骗子骗走430万元。

 

20229月,河北保定网警破获一起制作、贩卖、传播淫秽物品牟利案。犯罪嫌疑人在网上以每10分钟300元的价格,售卖利用“AI换脸”技术制作“明星”淫秽视频。

 

中华全国律师协会知识产权委员会主任、高文律师事务所合伙人王正志认为,AI换脸”会给公民人身及财产安全造成潜在危害。利用“AI换脸”技术制作不雅视频的行为,违反了治安管理处罚法、网络安全法等,情节严重的,还可能构成帮助信息网络犯罪活动罪等刑事犯罪。此外,在民事领域,“AI换脸”可能构成对他人肖像权和名誉权的侵犯。

 

在中国传媒大学人类命运共同体研究院副院长王四新看来,AI换脸”会对当前社会建立的认证系统构成冲击,给从事民事活动的主体带来了不确定性,增加了认证和鉴别的交易成本。

 

加强行业部门监管

 

目前,我国刑法、民法典、网络安全法以及国家有关部门出台的多部法律法规及政策规定,对生物识别、生成合成类内容等提出了不同程度的规制要求。

 

20231月施行的《互联网信息服务深度合成管理规定》进一步明确了深度合成数据和技术管理规范,对深度合成内容的用途、标记、使用范围以及滥用处罚作出具体规定,并对作为深度合成服务提供者的平台方进行审核、评估、监管等都提出了明确要求。

 

“《互联网信息服务深度合成管理规定》等划定了底线,将深度合成技术带来的法律风险基本堵住了。”中国政法大学传播法研究中心副主任朱巍告诉记者。

 

目前,也有专业人士认为,对于AI换脸”等深度合成服务与应用方面的规范还需进一步细化和明确。

 

郑中臣表示,需要法律和技术“双管齐下”。一方面,需对“AI换脸”技术的开发者以及相应的科技公司建立严格的备案手续和安全评估等级;另一方面,建议网络服务平台对使用上传视频服务的用户信息进行审核,识别其中是否有人工合成的要素,并进行显著标识避免混淆。

 

对此,王四新建议,AI换脸”等深度合成服务提供商要主动承担起提示和标识义务,履行自身的法律责任。如相关视频发布时应当在显著位置标注“人脸合成视频”,以尽到提示和标识义务。

 

“立法是一个层面,还需要行业和监管部门从源头来解决问题。”王四新认为,行业和监管部门应当加快技术升级,研发相应的“换脸”检测技术,加快建立人工智能算法的安全评估制度,解决相关技术滥用问题;AI发布者应对相关产品用于大众传播领域可能存在的风险进行明确,并制定相应的使用规则、限制等,以增加用户个人的判断能力,从技术层面、应用端、使用端解决问题。

 

                                                                 编辑:白楚玄



​科

×