境外色情网站上有大量换脸视频 有女演员的视频被看数百万次
据《连线》杂志报道,在成百上千的色情视频中,女明星、音乐家等女性名人被换脸为女主角。而且,这些视频被不断上传至境外最大的色情网站,有的甚至被观看了2300万次,至今仍未被删除。
根据Deepfake检测公司Sensity的数据显示,由于色情影片在今年变得越发受欢迎,每月最多有1000个换脸视频被上传至色情网站。
例如,女演员艾玛·沃特森(Emma Watson)的30秒换脸视频,出现在了境外最大的三个色情网站上,已经有超过2300万次的播放量。还有多位女明星的换脸视频被观看了数百万次,或是被换脸成为数十个色情影片的女主角,比如泰勒·斯威夫特、娜塔莉·波特曼、比利·艾利什等。
当好莱坞女星克里斯汀·贝尔(Kristen Bell)第一次目睹自己被换脸成色情影片的女主角时,她感到了震惊。她认为这是不可想象的事情,尽管视频的说明中写道,“这实际上并不是她本人”。
这类换脸视频往往会嵌入广告,网站以此获得收益。上述三个境外色情网站,每个网站的浏览量甚至高于维基百科、亚马逊和Reddit,排名第一和第三的网站都出自一家捷克公司。
最近几年,互联网上的换脸视频数量呈指数级增长。据Sensity去年发布的一份报告显示,2019年7年,互联网上有14678个换脸视频,其中,96%是色情视频,而且视频中的主角大多是女性。到今年六月份,互联网上的换脸数量已经攀升至49081。
然而,在互联网的隐秘处,可能有更多的换脸视频并不能被检测到。一些视频仅仅是因为在标题中写明了“fake” 或者 “deepfake”而被检测出。
Sensity的首席执行官兼首席科学家Giorgio Patrini说,除非有强制性的措施,去命令这些网站筛查并删除未获许可的换脸视频,否则他绝对不相信这些网站会采取任何行动。人们仍然可以随心所欲地在这些网站上,上传未经授权的换脸视频,并吸引数百万的人来观看,“这些网站管理者的态度是,他们并不认为这是一个问题。”
对此,上述其中一个色情网站的副总裁Alex Hawkins回应称,该公司没有专门针对Deepfake的具体政策,但会像“对待其他未经许可的内容一样”审查这类视频。Hawkins说,视频的审核过程涉及多个不同的步骤,如果未经许可使用他人影像,视频将会被删除。他们十分了解公众有关Deepfake的担忧,所以这类视频很容易就会被删除。
另一个值得注意的问题是,随着Deepfake的发展,越来越多的人能较为轻松地掌握这项技术。据媒体报道,一名安全研究人员使用开源代码软件和不到100美元制作了汤姆·汉克斯(Tom Hanks)的换脸视频和合成音频。
“不幸的是,从创作者的角度来看,有太多的驱动力去发展这项技术,因而它得以进步如此之快,” Patrini说,他认为这项技术将很快被应用于普通大众,并且更多的是针对私人的。当任何人都能轻易地使用这项技术时,立法者们应该意识到这个问题的严重性。
编译/综合:南都记者 潘颖欣