细思极恐！超百部“明星、网红换脸”色情视频仅售几十元，揭秘幕后→
7月3日，一名拥有670余万粉丝的网红女主播陈岚发布视频称，她遭遇了恶意Ps和AI换脸，照片被人做成了色情照片和视频，并在网上公开出售。
陈岚说，她本想搜集相关证据，找出根源，又不想太声张，但随着评论区越来越多人“造谣”，她打算报警。
近日，记者调查发现，不少账号在社交平台出售明星、网红换脸的色情照片和视频， 超百部视频售价仅几十元。
卖家出售换脸的色情素材主要分为两种模式， 一种是利用明星的公开照片“去衣”；另一种是把明星的脸换到色情图片和视频中。
在多个电商平台，不少商家在线出售AI绘图软件，并号称此类软件可以提供“去衣”功能，该软件售价仅十几元。
实际上，“AI换脸”不仅能制作色情照片和视频，可能还被人用来诈骗。6月25日，全国人大常委会法制工作委员会举行记者会，发言人臧铁伟表示，利用“AI换脸”技术实施诈骗是一种新型的电信网络诈骗，需要广大群众提高识骗防骗意识，也需要有关部门依法加强治理和执法，追究相关人员法律责任。
换脸的色情视频
被公开叫卖
除女主播陈岚外，拥有400多万粉丝的网红女主播杜悦也遇到类似情况。
据杜悦介绍，半年前，很多粉丝在她短视频的评论区留言，说他们都看过杜悦的“色情视频”。
“当时没多想，我认为清者自清，毕竟这个‘谣言’总会过去。”杜悦说，直到有天她的一位朋友转来一段色情视频，女主角正是自己的模样，她才意识到遭遇了恶意“换脸”。
杜悦说，为证明自己清白，她开始搜集相关证据，想找到根源。“最后我发现有人在境外社交平台上冒用身份注册了账号，然后‘搬运’到国内视频平台上发布，等到账号有一定粉丝后，就开始售卖换脸后的色情视频。”
杜悦提供的一张价格表显示，里面涉及数百名网红，还按照粉丝量级做了区分， 从50万粉丝以下到1000万粉丝以上，对应的换脸色情视频售价在30元到50元不等。
此外，表格中还有众多女明星。该表格的发布者称， “200元可以进群，进群后私人定制，永久半价。”
记者调查发现，在一些社交平台上，很多账号宣称自己可出售网红和明星的换
脸色情素材，通过这种方式引流到QQ上进行交易。
按照杜悦提供的线索，记者添加了一名卖家的QQ好友，对方直接发来一张截图，图片上贴有几十位女明星色情图片。
该卖家称，自己拥有80多位明星、一万五千余张图片。如果全部购买，仅售价60元，还赠送23部视频，此后还能享受一次免费更新。卖家还称，如果购买单个明星的换脸图片，则根据照片的数量收费，5元钱能购买300张照片。
来百度APP畅享高清图片
有卖家称60元可购买多位明星的换脸色情素材（记者截图）
此外，还有卖家表示，根据买家需求，他可以专门制作指定某位明星和网红的色情素材。
支付60元后，一名卖家发来数十个压缩包，均以明星姓名命名。记者发现，该卖家出售的变脸色情素材主要分为两种模式，一种是利用明星的公开照片“去衣”，另一种则是将这些明星的脸换到色情图片和视频中。
北京蓝鹏律师事务所主任张起淮曾代理多起“AI换脸”相关案件。在他看来， “AI换脸”本应是帮助广告、电影、艺术等方面进行适当修复，这本是一项很好的技术，但现在很多人开始利用这一技术进行非法牟利。
张起淮表示， 利用他人的肖像进行换脸，涉嫌侵犯当事人的肖像权、名誉权、荣誉权和人格权。如果将当事人的脸制作成色情视频并出售，这种情况下可能构成刑事犯罪。
“AI绘图软件”
仅需16.66元
月销量超200
近日，记者在多个电商平台上搜索“AI换脸”关键词，均已无法显示。但是，记者搜索“智能合成、明星”“真人脸部模型训练”“去衣AI”等关键词，仍旧可以搜到在售商品。
一款“AI绘图软件”的产品页明确标注，“该软件可实现真人转卡通功能、换头和换衣功能”。这款软件售价仅需16.66元，月销量达到200以上。
“可以真实‘去衣’？”有人在该店铺评论区提出疑问，多人回复称可以。此外，有人还询问是否能生产色情图片，有人回复称，“只要购买软件进入买家交流群即可，什么功能都有。”
在某AI绘图软件的问答区，有人回复称该软件确有“去衣”功能。（记者截图）
记者进入“买家交流群”后，仅两天时间，群成员便从40人迅速增长至150人，大多成员在群内交流该软件如何使用，还不时分享自己的“作品”。
有成员在群里询问，是否有人愿意接单，制作“定制图”。 “这玩意不是犯法吗？”有人在群里反问，对方则表示“富贵险中求”。
除了出售绘图软件，还有商家提供“真人模型代训练”，这是利用真人的照片或视频生产，训练结束后，便可以直接利用该模型生成对应的照片和视频，达到换脸效果。
一名提供代训练服务的商家告诉记者，只需提供20至30张照片，尽量以脸部特写为主，2个多小时便可完成训练。然后，买家将数据导入某软件内，便可以生成想要的素材。
该商家向记者发来一张效果图，这是利用国内一名模特真实照片生产的效果图，经过换脸后，脸部和国内某明星相似度极高。
上述商家表示，在模型训练完成后，买家可以根据自己诉求生成各种照片，包括“去衣”素材，但云端禁止“去衣”操作，需要自己在电脑上操作才行。
揭秘“AI换脸”骗局
商家售卖“作案工具”的背后，还有人利用“AI换脸”技术进行诈骗。
张起淮告诉记者，他曾经代理过多起发生在缅北的跨国敲诈勒索案。这个案件中的犯罪嫌疑人便是利用“AI换脸”技术，伪装成女性，诱导受害人与其“裸聊”。随后便以双方的视频录屏内容为证据，对受害人进行敲诈勒索。
近日，中国银河证券发布公告称： 利用“AI合成技术”的诈骗手段或将逐步影响至证券行业。
公告显示，某知名经济学家称，自己被人利用“AI换脸”等技术，通过视频、语音等方式联系投资者，骗取投资者信任，开展荐股活动。
此前，多地警方通报有关“AI换脸”的诈骗案件。5月20日，包头市警方发布了一则使用AI换脸的电信诈骗案例。当事人郭先生此前突然接到好友的微信视频，好友告诉郭先生，他有个朋友在外地投标需要430万元保证金，想借用郭先生的公司账户过账。郭先生觉得自己和好友开过视频，确认了是本人，便没有多想，直接向对应账户转账过去了。十分钟之内，因为一段视频通话，郭先生便被骗走了430万元。
2022年2月，陈先生报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。
立法机关正建立健全
相关法律制度
随着人工智能的发展，“AI换脸”技术门槛逐渐降低，应用场景越来越多，在满足人们猎奇、美颜、社交等需求的同时，为了牟利，一些不法分子突破道德底线和法治红线。
为遏制“AI换脸”乱象，2022年11月25日，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》第十七条要求，深度合成服务提供者提供智能对话、合成人声、人脸生成、人脸替换等深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
张起淮表示，现在很多犯罪分子开始使用“AI换脸”技术进行犯罪，由于立法总是滞后于社会现象，此类案件的司法实践中大家很难掌握法律标准，所以尽快完善相关立法非常有必要。
张起淮称，针对“AI换脸”技术要加强技术上的监管和鉴别，加强对相关技术的普及。如果遭遇了类似情况的侵权，要在可能的情况下，及时报案或起诉，不能因为怕麻烦，纵容此类现象发生。
臧铁伟表示，当前，中央宣传部、公安部正在全国开展“全民反诈在行动”集中宣传月活动，将进一步贯彻落实反电信网络诈骗法，不断提升群众防骗意识，切实营造全社会反诈浓厚氛围。立法机关也在加强对人工智能等领域法律问题的研究，不断建立健全相关法律制度。
中国政法大学传播法研究中心副主任朱巍表示， 对AI技术的监管重点，
首先， 内容的生产者要为结果负责。
其次， 在使用AI技术的过程中需要告知用户。
如果有人遭遇他人的恶意换脸行为，即使尚未找到这个恶意换脸的人，但提供了换脸这项技术的平台也需要担责， 因为平台本身也有监管用户使用何种素材的责任和义务。
（文中陈岚、杜悦均为化名）
相关推荐
-
人人视频走到了“十字路口”
人人视频走到了“十字路口”，用户，下架，字幕组，规定，人人，周为民，十字路口，视频，孙忠怀，内容，八卦爆料，梁良，人人，周为民，孙忠怀，刘彬，人人视频大改进行时除了对低俗化短视频内容展开的猛烈抨击外，孙忠怀还提到了切条搬运的短视频内容，并暗指部分平台在未经审批的情况下播出HBO新剧《东城梦魇》。该言论很快引发连锁反应，6月5日《东城梦魇》被人人视频下架，与之一同“消失”的，还有App内的“快看”栏目。紧接着，人人视频被苹果App store下架，但整改至此仍未结...
-
郭德纲晒年轻时的照片，眼神深邃头发浓密翘
郭德纲晒年轻时的照片，眼神深邃头发浓密翘着二郎腿十分有范，父亲节，成功，郭德纲，二郎腿，头发，相声，眼神，明星，照片，麒麟，八卦爆料，郭德纲，德云社，相声，郭麒麟，庆余年，1月19日是父亲节，众多明星都发文为自己的父亲庆祝节日，送上最真挚的祝福，其中有杨紫，张继科，蒋欣等明星都说出了对父亲想说的话，在这一天请把自己心里话说给父亲听，也祝愿天下所有的父亲平安喜乐。在这一天相声演员郭德纲罕见地晒出了一张年轻时的照片，还配了三个大笑的表情，一下子引起了网友的热议，没想...
-
抱走吧！大明星｜刘昊然称拍《燃冬》是次新体
抱走吧！大明星｜刘昊然称拍《燃冬》是次新体验 笑称和魏大勋录综艺是熟人局，状态，角色，聊天，录制，亮马桥，好友，搜狐娱乐专稿（胡图图/文 玄反影/图）这不是我们常见的“少年”刘昊然。《燃冬》里，浩丰（刘昊然饰）沉默、忧郁、内敛，在延边期间多次挂断心理诊所的电话。刘昊然说，这算是自己一次全新的拍摄体验，“更重视情绪更自由，然后也是一种更松弛的表现状态。”影片里，浩丰有很多场情绪外放的戏份。在拍摄这些戏份时，刘昊然也会将自己的情绪压力融入其中。和电影里的浩丰不同，刘...
-
“谢飞机”长大了，被网友一眼认出，明星的孩
“谢飞机”长大了，被网友一眼认出，明星的孩子都有“好基因”？，身材，网友，营养，曹桐睿，儿子，孩子，谢腾飞，身高，明星，飞机，八卦爆料，张亮，曹桐睿，孩子，谢广坤，谢飞机，一部《乡村爱情》，让“谢飞机”火遍大江南北，就算大家对其人不算了解，但一定看过这个孩子的表情包。一、表情包男孩长大了，从“孙子”升级成“儿子”2014年，谢飞机第一次出现在《乡村爱情7》里，他在剧里的名字本叫王欢，被谢广坤收养了之后改名为谢腾飞。广坤大叔为了让孩子记住名字，想了个办法：“腾飞是...
-
周杰伦罕见晒儿子的照片，面向太阳背影超酷
周杰伦罕见晒儿子的照片，面向太阳背影超酷，与爸爸杰伦太像了，什么，罗密欧，太阳，周杰伦，女儿，画面，哥哥，背影，儿子，照片，八卦爆料，罗密欧，周杰伦，昆凌，杰伦，照片，5月17日，周杰伦在自己的社交平台上晒出了一组儿子的照片，从照片中可以看到，儿子正在晒太阳，周杰伦从背后拍了几张照片，但是光看背影就觉得超级帅。周杰伦的儿子罗密欧今年四岁了，从当时的画面中可以看到，他穿着蓝色的衬衫搭配牛仔裤，留着帅气的发型，坐在阳台上晒着太阳，眼睛跳望着远方，若有所思的样子十分帅...
-
拜托！这是什么神仙公司，喜欢的明星它都有？
拜托！这是什么神仙公司，喜欢的明星它都有？，机会，发现，董事长，公司，香港，上市公司，今天的时尚圈好像杀疯了，释出多位明星封面大片：(资料图)#刘亦菲意式宫廷大片##赵露思复古油画大片#杨颖《METAL》中文版两周年纪念刊双封面：然而，橘发现，今天《芭莎男士》上午官宣的8月新刊，有点不一样！封面人物，竟然是他？橘火速开扒，原来他叫谢如栋，是一家名为遥望科技的上市公司董事长。在同刊另一张海报上，就很多熟悉的面孔出现了：瑜大公子、黄奕、吴雅婷、李昊、郭少芸、李宣卓、...
-
明星的家曝光：刘亦菲家有40几只猫狗，鹿晗：难
明星的家曝光：刘亦菲家有40几只猫狗，鹿晗：难怪记者进不去！，猫狗，网友，华晨宇，关晓彤，刘亦菲，吴亦凡，鹿晗，明星，北京，电视，八卦爆料，华晨宇，关晓彤，刘亦菲，吴亦凡，鹿晗，黄圣依的婆婆在电视上说了一句：我孙子喜欢游乐园，我就在家里给他建一个游乐园。可能老人家不懂现在网友的脑回路，所以说了一些东西不太忌讳网友。说着无意，听者有心，网友们就开始想着到底明星得有多有钱才能在家里弄一个游乐园，那明星真的这么有钱，他们的家又会是什么样的呢？带着这个疑问，今天小编来给...
-
日本核污水引发众怒！明星大咖集体失声，四位
日本核污水引发众怒！明星大咖集体失声，四位明星发声抵制核污水，日元，照片，发帖，日本，污染，声音，8月24日下午1点左右，日方正式开始将福岛核电站核污水排入大海。此消息一出，迅速引爆热搜，引起各界人士密切关注。(资料图)除了网友对日本政府的口头批评之外，国内娱乐圈中的不少明星艺人也利用自己的名人来声讨他的自私行为。其中，对于核污水争议最大的声音就是偶像任豪。他发文称：“我们坚决反对将核污水排入大海。”这篇博文发出后，很快就受到了很多网友的嘲讽和质疑，因为他之前的...
-
00后五大美女明星，颜值和实力并存，爱了爱了
00后五大美女明星，颜值和实力并存，爱了爱了！，内地，电影，实力，个人，中国，少女，美女，张子，明星，代表作，八卦爆料，蒋依依，欧阳娜娜，邓恩熙，张子枫，代表作，一、张子枫，2001年5月27日出生，中国内地女演员，就读于北京电影学院。5岁时，因拍摄策划而正式出道。2009年，年仅8岁的张子枫凭灾难情感片《唐山大地震》的“小方登”一角崭露头角，并获得第31届大众电影百花奖最佳新人奖，成为当时该奖项史上最年轻的获得者。 代表作：《唐山大地震》、《唐人街探案》、《快...
-
几十年以来，只有这三位男明星演的古装剧最
几十年以来，只有这三位男明星演的古装剧最经典最传神，楚留香，郑少秋，演技，展昭，形象，焦恩俊，何家劲，举手投足，经典，古装，观点评论，演古装片和演现代片完全不一样，现代片你演技好不好都可以蒙混过关，但是演古装片就不行了。其实，演古装是一个要求很高的事，因为要涉及到两个层面。一个是形态。即天生丽质，穿上古装不但要毫无违和感，更要透出那个年代的气息。一个是演技。即神态，古代不同于现代，举手投足都要有规矩，古代不但要控制的思想还要控制自己的手脚。两个层面融合一起，才能...
-
王源长残了？看完这些照片直呼：小可爱又回来
王源长残了？看完这些照片直呼：小可爱又回来了！，路线，小时候，王源长，审美，截图，易烊，王俊凯，棱角，男孩，照片，易烊千玺，青云志，王俊凯，王源，棱角，王俊凯帅气可爱，易烊千玺沉稳内敛，王源俏皮机灵。小时候的王源，棱角柔和，整体线条很舒服。即使不是站在C位，风头也没被中间的王俊凯抢去。而当时的易烊千玺更是最为不起眼的一个。一度被忽视而陷入自卑。而如今，随着三人慢慢长大。王俊凯还是当年那个虎牙少年，脸上的婴儿肥尚未褪去。梨涡男孩易烊千玺却已经脱胎换骨，无论颜值还是...
-
任嘉伦的这些照片，早就超越了陆大人！
任嘉伦的这些照片，早就超越了陆大人！，中山装，任国超，黑色，风景，超越了，西装，大人，气质，照片，锦衣，八卦爆料，任国超，陆大人，任嘉伦，锦衣之下，现代装，都说任嘉伦都三重分身，分别——任国超，任嘉伦，陆大人。三个人设各有不同，一任千面，十分精彩。但由于话痨和国超体质作祟，任嘉伦的现代装远不及古装扮相。一起来看下吧——长相清俊秀气，五官也很小巧精致。不说话的任嘉伦似乎总有种陆大人的光晕在身。路人高清抓拍图，像不像是陆大人穿越而来~人潮汹涌，你是回眸间最美的风景~...
-
鹿晗18岁，邓超27岁，李诞47岁，身体年龄暴露了
鹿晗18岁，邓超27岁，李诞47岁，身体年龄暴露了明星的生活状态，邓超，生活，状态，体检，性格，身体，年龄，明星，李诞，时候，八卦爆料，邓超，身体，鹿晗，年龄，南昌，综艺节目《哈哈哈哈哈》真会玩，竟然公开五哈组成员的体检状况。一向喜欢保护自己隐私的明星们这下彻底曝光了。一直自诩一米八的邓超，体检的真实身高只有一米七八。鹿晗安慰他说年纪大了身高会缩，听了这话邓超是该高兴还是该悲伤呢？不过整个体检完成后，邓超成了节目组最高兴的人。因为42岁的邓超基础身体年龄只有27...
-
黄渤的49岁生日，仅3位明星祝福，让我看到了
黄渤的49岁生日，仅3位明星祝福，让我看到了娱乐圈的世态炎凉，选择，姜子牙，流量，路演，下滑，场新，8月26日，是影帝黄渤的49岁生日，往年还会有不少艺人给黄渤庆生送祝福，但是今年却只有张艺兴送了祝福。(相关资料图)这也让“张艺兴连续7年祝黄渤生日快乐”登上热搜，引起了网友们的热议与关注。据悉，张艺兴发文送上生日祝福，亲切地叫黄渤哥哥。接着他感谢了当年黄渤在其导演处女作《一出好戏》中，坚定地选择信任他。此外，张艺兴表示从片场新人到青年演员，都少不了黄渤的指点，因...
-
睡粉事件后续：照片曝光，谭咏麟微博暴露真相
睡粉事件后续：照片曝光，谭咏麟微博暴露真相？，事件，事情，谭咏麟，后续，网友，伤害，微博，背影，照片，女朋友，八卦爆料，谭咏麟，网友，睡粉，湖南卫视，粉丝，近日，谭咏麟“睡粉”事件闹得沸沸扬扬，事情的开端，是23日晚上，一个网名为“悲伤牛肉面_”的网友突然在社交平台控诉，称自己的女朋友和谭咏麟睡了。打开网易新闻 查看更多图片该名网友情绪很激动，一直在大说谭咏麟，表示其与自己女友有关系，甚至还艾特了谭咏麟本人和湖南卫视的微博，似乎想将事情闹大。随后，谭咏麟经纪公司...
-
早已领证？祸害了5个女明星的杨洋，这一次被
早已领证？祸害了5个女明星的杨洋，这一次被扒的“底裤”都不剩，李一桐，网友，乔欣，平台，恋情，女明星，社交，王楚然，时候，杨洋，李一桐，王楚然，刘大锤，宋茜，杨洋，曾经的“奶油小生”杨洋被实锤已经恋爱，或许已经领证同居，消息一出杨洋和当事人王楚然迅速占领热榜第一，其实这个大瓜已经酝酿许久了。狗仔刘大锤在某直播平台上开直播，抵上自己的名誉说要曝一个大瓜，如今的顶流男星都在名单之中，这引起了不少网友们的猜疑，甚至还总结了一张清晰的模板来给看直播的网友分析，但是在直播...