女子“裸照”被疯传、男子“热吻”女明星......AI不该用在这上面_换脸_合成_猥亵

女子“裸照”被疯传、男子“热吻”女明星......AI不该用在这上面

3月28日,#女子地铁照被AI一键脱衣传播#冲上热搜。

据报道:近日,广东广州,一女子在地铁上的照片被AI一键脱衣,造谣图在网络广泛传播引发关注。

事实上,照片的女主角是小红书的一名博主,而所谓的“裸照”则是她去年7月在平台分享的一张照片。原图中她衣着正常,完全没有任何不妥之处,但却被有心之人用AI软件一键脱衣,故意全网散播。

目前博主已在评论区回复各位网友,称会进行相关的维权处理。

AI换脸最近事件频发

有图就有真相?

说到AI换脸,最近出的事还真不少:

特朗普被捕?

展开全文

在美国前总统特朗普“预告”可能于21日被捕后,近日,几张特朗普在纽约街头遭警察围捕的图片在美国社交网络上疯传。虽然外媒很快辟谣称,这些照片只是由人工智能(AI)生成的图像,并非真实照片。但由于图片太过以假乱真,不但骗到了不少美国网民,也开始被一些有心之人利用。

热吻女明星?

近日,一网红特效合成师利用电脑后期制作,合成与某知名女星亲吻的影片,在网上广泛传播开来,引起了网友热议。

特效师洪某,在网上经常发布视频,把一些热门剧里的男主角用“特效合成”后换成自己的脸,把相关剧情再演一遍。抖音粉丝100多万,微博粉丝10多万。

3月25日,洪某发布视频,称自己的脸被某女星的粉丝抓伤,“破相”了。“女星粉丝,几个20多岁左右的小孩,找到我发过的定位,来我工作室门口,然后就变这样了。”

这些照片是怎么来的?

早在2019年,国外程序员就开发出了DeepNude这款使用AI技术“脱衣”的应用,通过使用类似deepfakes的深度学习技术,DeepNude使用女性裸照训练之后可将图像中女性身上的衣服替换掉,创造出几可乱真的合成裸照,也就是大家所说的“一键脱衣”。

后因广泛的舆论争议,开发团队选择将该项目关闭。但在现在,这些软件似乎有“死灰复燃”的迹象,在搜索网站搜索“AI脱衣软件”,依然能搜索到众多“替代品”。

随着AI技术的不断升级,这些图像正变得越来越以假乱真,用户只需提供一个简单的文字提示,这些工具就能迅速生成以假乱真的图像,背景中往往还包含大量令人信服的细节。

就像在2019年曾一夜爆火的换脸软件“ZAO”,就让换脸变得超级简单:普通手机用户只需上传一张照片,就可以“换脸”成为短视频主角。

对此,美国《福布斯》杂志网站称,AI生成图像现在已开始出现“危险信号”。

过去,AI在生成人手方面特别困难。有时候,图像上会出现缺失的、扭曲的四肢,以及多余的手指和牙齿,让人感到诡异甚至恐怖。但那已经是过去式了,大部分情况下,更新版本的Midjourney已能够生成正常的手部。

“假照片”泛滥,会发生什么?

过去说“无图无真相”,但现在,有图也不一定有真相。

随着越来越多AI合成的假照片和视频“淹没”社交媒体,真实和虚假间的界限将会变得更加模糊。

有博主发视频称,在现今AI强大的算法下,时间、地点都对得上的情况下,伪造谣言对普通人来说百口莫辩。而唾手可得的脱衣软件则更让造谣者有机可乘。

AI换脸换装,或涉嫌刑事犯罪

一些“AI换脸”的App使用明星的图片制作换脸视频进行推广,其趣味性背后暗藏不少法律风险和侵权纠纷。

明星刘昊然就曾在2021年8月26日发博打假,控诉网上流传的某淫秽视频为AI换脸技术伪造,并向警方报案。

有网友表示,如果将普通人的视频随意换脸,恐怕将对当事人造成很大的困扰,甚至有网友直接发问:“这种行为算隔空猥亵吗?”。

据法治日报报道,中国政法大学传播法研究中心副主任朱巍表示,猥亵是一个法律上的用语,“隔空猥亵”最早是媒体针对未成年人权利保护提出来的名词。例如,以互联网为媒介,诱骗、胁迫未成年人进行“裸聊”或发送“裸照”“裸体视频”等方式进行猥亵,检察机关将该行为认定为“隔空猥亵”。

目前,在司法实践中,暂未遇到过利用PS、特效等合成技术制作的影片被判定为“隔空猥亵”的情况。但是,以上例子中特效师洪某的行为涉嫌构成寻衅滋事罪。

朱巍称,在明星与视频合成者互不相识的情况下,用“特效”手段把剧里的男主角换成特效师,这毫无疑问构成对当事人肖像权、名誉权、隐私权的侵害。

网友评论

另外,在《中华人民共和国网络安全法》第二十七条的规定当中特别强调,明知他人实施危害网络安全活动的,不能够为他提供技术支持,如果情节严重,还会构成帮助信息网络犯罪活动罪等刑事犯罪。

今年1月10日开始施行的《互联网信息服务深度合成管理规定》中也提出,要对深度合成技术应用提出规范。

(大众网·海报新闻编辑 巩小龙 综合自上海网络辟谣、中国青年报、法治日报等)

特别声明

本文仅代表作者观点,不代表本站立场,本站仅提供信息存储服务。

分享:

扫一扫在手机阅读、分享本文