聊天、换脸、交友……小心AI利用你的感情骗钱
人来人往的闹市，喧嚣的游乐园，静谧的湖畔林间，三位身处不同场景的女性，都拿着手机等待着与自己的AI伴侣见面。在电影《我的AI恋人》中，身处逐渐虚拟化的世界，人们面对爱与被爱的选项时，均发生了巨大的改变。
在开年出圈的ChatGPT和与之相关的AI技术日渐普及后，人工智能高速超车，网恋的对象也似乎越来越虚拟化了。
先不论虚拟恋人与真实人物主体之间的情感关系能有多美妙，在主打陌生人交友的APP上，“情感骗子”已经跃跃欲试了。虽然“杀猪盘”之类的诈骗已不罕见，但交友软件上的AI作弊工具越来越多，若有心用于诈骗，将带来很大隐患。
“AI虚拟人物说他喜欢我”
早于ChatGPT火起来的AI绘图应用能让人们只需要输入几个关键词就得到一幅不错的画作。如今，这类模型已经进化到可以生成类似真人照片的程度。
以小红书上的AI美女账号“爱旅游的小多”为例，华西都市报、封面新闻记者在浏览该账号时发现，该账号以虚拟美女小多照片为主要发布内容，在短时间内就吸引了数万粉丝与点赞。许多人被虚拟人的温柔、聪明和可爱所吸引，甚至愿意与他们建立恋爱关系，不少网友在该账号下留言称“我的机器人女友”。
据媒体此前报道，网传一则“苏州金鸡湖有游艇女仆party”的消息，网传宣传海报显示，参加活动的收费是3000元一位，并配有一张性感女仆照片。报道中称，这场所谓的“女仆party”可能是全国第一起AI绘图诈骗。活动给出的女仆照片全是AI模仿真人照片的绘图，部分女仆照片手指部分存在异常。由于手指部分的绘画算法比较复杂，部分AI模型在绘画时经常出现问题，符合AI绘画的特征。
美国佛罗里达大学AI和艺术副教授Amelia Winger-Bearskin曾在社交媒体公开解释，AI基于从互联网上收集的数十亿张图像进行训练，它并不能真正理解“手”是什么，至少不理解解剖学意义上手和人体的关联。
但不会画手的AI已经足以叫用户害怕了，还有一些交友软件和社交平台开始推出“AI恋人”“AI美女”等虚拟角色，这些虚拟角色拥有与真实人类相似的思维和情感，让人们产生了强烈的情感共鸣。
如果说“AI人工智慧绘图”让人真假难分，那么如果想要与虚拟人物进行互动和交往，就更需要用户打起十二分精神警惕被骗了。
“如果不听AI苟蛋发语音，我真的怀疑他是个真人。”某交友软件用户李萌(化名)告诉记者，自己无意间发现了交友软件中推出的虚拟恋人“AI苟蛋”，尝试跟它进行对话后感到十分有趣。“虽然聊多了以后会有种都在说废话的感觉，但它每次都会秒回，我要是无聊的时候都会跟他聊很久。”
有人会与虚拟角色聊天、分享生活，甚至会为这些虚拟角色庆祝生日、送礼物，不断付出感情，把虚拟角色当成真正的伴侣来对待。虽然虚拟角色并没有真正的身体和情感，但是这并没有阻止人们对其付出真挚的感情。
AI换脸分分钟薅走你的钱
除了打造一张全新的脸，为了获取你的信任，AI还能够伪造一张你的亲朋好友甚至同事的脸，再配合日渐进步的AI语音技术，让不法分子可以随意模仿出不同声线，骗取大众特别是老年人的信任，进而冒认其亲人来诈财。
据新华视点此前报道，2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。
温州公安曾发布消息，2021年拱宸桥派出所接到报警，受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查，对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索。
2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。
据外媒报道，2021年在美国加州，一女子在对方使用AI换脸技术伪造了一段家人需要打款的视频后，被骗取了7万多美元。
玩转ChatGPT的发烧友，也发现了产生“钓鱼邮件”诈骗的办法。虽然OpenAI设置了道德性的防火墙，要求ChatGPT生产钓鱼邮件会遭到拒绝，但是如果设置一种虚构的语境，ChatGPT同样会给出相应的回答。
对此，多地公安局已发布相关信息提醒称，境外有人使用ChatGPT创建了完整的“钓鱼邮件”感染链，而且不同以往的广撒网式网络钓鱼，它在提问者的诱导下，可以生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件。
“用户在使用AI技术接入的软件或互联网产品时，一方面应当注意勿恶意利用AI技术进行不法行为，另一方面也应注意识别、核对交流方的真实身份，切勿轻信表象，在需要转账或花销采购时谨慎考虑。”泰和泰律师事务所律师刘青说，若遭遇诈骗应第一时间报警寻求警方帮助，注意保留相关材料以供警方尽快掌握案情、严惩犯罪分子。
如发现自己的肖像被盗用或者“被换脸”该如何处理？刘青建议，用户应当第一时间保留证据，以便后续维权。“同时，用户还可以向网络平台运营商提出投诉，要求强制下架侵权图片或视频，也可以提起人格权诉讼，用法律武器维护自己的合法权益。”
“AI时代”的诈骗应如何监管？
因为AIGC内容火爆，会有一些面对AI换脸或者其他AI技术诈骗的问题出现，若用户投入感情并充值了大量费用，平台方是否构成诈骗？如果有人通过AI技术换脸诈骗成功，将面临怎样的法律制裁？
“在网络社交领域，陪聊、陪玩、交友等不同形态的服务同时存在，因此，用户为之充值的费用，得看是以什么名义。”北京荣罡律师事务所律师朱佩为指出，如果跟AI谈恋爱而付费，被客户误以为是真人，属于诈骗行为，但如果用户明知对方是AI还充值，则不构成诈骗行为。
然而，从监管层面来看，即使已有先前的违法案例，但此类软件广泛存在，监管难度在于涉及的法律关系相对复杂，行政监管无权直接干预。“用户利用AI换脸技术伪装，导致被伪装人的肖像权等权利被侵犯，或导致其他人的感情和财产大量受损时，平台在未尽到合理审核义务、未有效规制该类行为发生的情况下，需要承担一定的帮助侵权，甚至直接侵权法律责任。然而，除非平台故意为之或协助诈骗人进行诈骗行为，否则很难认定平台构成诈骗罪。”刘青告诉记者。
刘青表示，如果有人通过AI技术换脸故意实施诈骗行为，导致受害人产生错误认识后对财产作出了错误处分的，符合“诈骗罪”的构成要件，触犯我国刑法第266条的规定，数额较大的处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；数额巨大或者有其他严重情节的最高将面临无期徒刑的严重刑罚。而《最高人民法院 最高人民检察院 公安部关于办理电信网络诈骗等刑事案件适用法律若干问题的意见》明确规定，诈骗财物价值三千元以上就已经属于刑法第266条规定的“数额较大”了。
国家新一代人工智能治理专业委员会在2021年9月发布了《新一代人工智能伦理规范》，提出将伦理道德融入人工智能研发和应用的全生命周期。
在2022世界人工智能大会治理论坛上，上海交通大学凯原法学院院长、特聘教授彭诚信曾指出：“数字社会中伦理之治的根本还在于人，企业伦理、科技的可信向善，归根结底还是人的可信向善，因此需要完善法律监管、厘清法律基本责任，确立人们的行为规范。”
为进一步规范“人”在科技伦理治理中的作用，在今年3月发布的《关于加强科技伦理治理的意见》中要求，从事生命科学、医学、人工智能等科技活动的机构，研究内容涉及科技伦理敏感领域的，应设立科技伦理(审查)委员会。
相关推荐
-
啜妮聊谍战剧《无间》蓝冰角色,究竟是怎
啜妮聊谍战剧《无间》蓝冰角色,究竟是怎么一回事?，陆风，执行，角色，种子，阅读，表情，漏洞，担保，正文摘要:iz=58558&from=article.pcdetail&x-expires=1681277316&x-signature=IONAcQUl%2BUaWP6jrWkoiT%2FZmXd4%3D. iz=58558&from=article.pcdetail&x-expires=1681277316&x-signature=7fuvxar3Ca3%...
-
黄晓明谈家人一脸幸福，说baby太宠小海绵了
黄晓明谈家人一脸幸福，说baby太宠小海绵了，自己扮演“狠角色”，意思，海绵，教育，baby，秦海璐，儿子，妈妈，孩子，家人，黄晓明，八卦爆料，baby，秦海璐，小海绵，杨紫，黄晓明，导语：黄晓明谈家人一脸幸福，说baby太宠小海绵了，自己扮演“狠角色”面对着陶尔米纳独有的美景，身为妈妈的秦海璐忍不住，发视频跟儿子分享景色。期间，秦海璐一改平时霸气御女范，宠溺的称呼孩子为“妈妈的大胖儿子”，这让同行的几位嘉宾笑得合不拢嘴，还未成家的杨紫满眼羡慕。对此，杨紫还特别...
-
胡彦斌出演破产姐妹第五季角色是什么？破产
胡彦斌出演破产姐妹第五季角色是什么？破产姐妹胡彦斌哪一集出现？，破产，角色，游天下，餐厅，纽约，期待，生地，北美，正式，日前，胡彦斌在ins上晒出与《破产姐妹》Caroline（贝丝·比厄饰）的合影，并自曝已出演第五季。那么，胡彦斌出演破产姐妹第五季角色是什么？破产姐妹胡彦斌哪集出现？对于胡彦斌出演具体角色未知！ 而胡彦斌方面并未回应是否属实。反而有消息曝出破产姐妹“卡罗琳”加盟江苏卫视一档新真人秀节目《唱游天下》才是真。因为《唱游天下》其中一站正是《破产姐妹》...
-
于震身高多少 于震整容 于震为什么换脸
于震身高多少 于震整容 于震为什么换脸，换脸，二号，身高，拍照，我查，扮演，角色，狂飙，故事情节没火，人爆火！于震新电视剧《风雨送春归》一播出就引起网友强烈反响，剧里于震扮演的男二号余仲君。1、于震整容了？许多网友调侃：于老师那张脸怎么看怎么怪怪的？也有网友表明：于震整容了？这发髻线那么高？我查了一下，这一角色原本是另一个艺人的，后因为这艺人有不正当言论所以被有关部门封禁了，为了能该剧的开播，摄制组临时性选用AI换脸技术，改成了于震的面容。因此于震并不是整容，反而...
-
康可人：《特工任务》姜小花大大咧咧的性格
康可人：《特工任务》姜小花大大咧咧的性格不好把握｜角色，角色，新京报，游戏，演绎，有什么，类型，女孩，平台，电视剧《特工任务》主要讲述了津海市国安局侦察科科长高天阳（韩庚 饰）发现境外情报组织“夜雾”开发了一款名叫“特工任务”的游戏，他们利用玩家在未知情况下暗中开展间谍活动，甚至与高天阳一起长大的弟弟黄子诚（魏大勋 饰）竟也深陷特工游戏之中。由赵宝刚执导的新国安反谍都市大剧《特工任务》正在东方卫视等平台热播中。该剧聚焦国安反谍行动，将这群斗争在隐蔽战线的无名英雄...
-
粉丝有福了!霉霉在社交平台无预警宣布发
粉丝有福了!霉霉在社交平台无预警宣布发新歌，社交，平台，倒计时，发行，官网，媒体，社交网络，操作，文/羊城晚报全媒体记者 聂青3月17日，“霉霉”泰勒·斯威夫特在社交平台宣布中午将发行4首新歌！歌单包括：1. Eyes Open（Taylor‘s Version）2.Safe & Sound（Taylor‘s Version）3.If This Was A Movie（Taylor‘s Version）4.All of the Girls You Lov...
-
《长月烬明》叶冰裳官配是谁 叶冰裳角色
《长月烬明》叶冰裳官配是谁 叶冰裳角色分析，角色，风华，身份，阻止，斩魔，玛丽，复活，角色介绍，《长月烬明》叶冰裳官配是谁长月烬明叶冰裳官配cp是萧凛，由邓为饰演的。萧凛的身份是盛国六皇子，他也是黎苏苏师兄公冶寂无的前世。萧凛的人设还是挺不错的，温和有礼，重情重义，修行天赋很高，他和黎苏苏是师兄妹的关系。萧凛属于正派人物，他和叶冰裳相爱相杀，经历了三世之后，萧凛回归本心，认真修习剑术。但萧凛最终死在男主澹台烬手中。叶冰裳结局是神躯斩魔业扭转乾坤,阻止了灭世的危机，...
-
原来包贝尔是混血儿！直到看见他小时候的照
原来包贝尔是混血儿！直到看见他小时候的照片，才相信不是开玩笑，小时候，包贝尔，俄罗斯，权属，费翔，混血儿，长相，包锋，基因，血统，包贝尔，费翔，混血儿，包锋，基因，包贝尔大家都已经非常的熟悉了，出道时间也不短了从一个默默无闻的演员到现如今做主角挑大梁，自己拍戏等确实是付出了很多的努力很不容易。包贝尔的影视作品大多都是喜剧类型，带给了大家很多的欢乐。他的长相也也很有喜感，光头造型也成为了标志。可能有很多人都不知道其实包贝尔也有着混血基因，有着一部分俄罗斯血统。他的...
-
一个劣迹艺人坑了全组，AI换脸黑科技，不是你
一个劣迹艺人坑了全组，AI换脸黑科技，不是你想换就能换的，因为，科技，风声，角色，于震，观众，全组，制片方，周一围，赵某新，消息资讯，于震，韩彩英，周一围，赵某新，杨仕泽，随着塌方艺人的增多，这几年影视剧里兴起了一个新的现象——AI换脸。AI换脸有两种，一种是找新的演员对着绿幕把翻车演员演过的戏份重新拍一遍，比如《大秦帝国之崛起》。2015年《大秦帝国之崛起》刚杀青不久，饰演白起的演员王某兵因XD被抓。这部剧耗资巨大，且是继《大秦帝国之裂变》《大秦帝国之纵横》之...
-
白鹿演《长月烬明》女主 长月烬明陈都灵
白鹿演《长月烬明》女主 长月烬明陈都灵原著角色线，都灵，角色，身份，白鹿，修改，仙女，版本，三生三世，黎苏苏，是古装电视剧《长月烬明》中的女主角，由演员白鹿饰演。长月烬明陈都灵原著角色线《长月烬明》原著里没有妹女，她是剧版原创人物，其身份为上古大妖，美艳腹黑，人设相当带感，让陈都灵来演很合适，她可盐可甜，演得了仙女，也演得了魔女。编剧给叶冰裳安排了三生三世，除了叶冰裳，陈都灵还演了妹女和天欢，妹女这个角色很像原著里的瑶光，她跟公冶寂无有感情线。小说中瑶光单恋公冶寂...
-
QQ音乐开放平台音乐人永彬Ryan.B：方寸世界
QQ音乐开放平台音乐人永彬Ryan.B：方寸世界的“折腾”人生，音乐，开放平台，机会，评论，延吉，公司，元素，抖音，美丽的延吉也留不住年轻人。这座地处中朝边界的小城,有着仿佛与东北重工业绝缘的碧水蓝天。但宜人的风景比不上外面的五光十色,年轻人们纷纷“出逃”。在他们眼中,留在当地往往意味着“后退”和“不思进取”。延吉有着美丽的风光。冬天郊外山上,雾凇和雪松交相辉映90后的音乐人永彬Ryan.B,显然是一个“异类”。他选择常年留在这座小城,但一个迥然不同的世...
-
张继科发的景甜私密照片是什么 欠巨债是
张继科发的景甜私密照片是什么 欠巨债是真的吗个人资料简介被扒，照片，私密照片，大满贯，中国，微博，视频截图，史上，威胁，张继科发的景甜私密照片是什么？张继科欠巨债是真的吗？张继科个人资料简介被扒，一起看看吧！真没想到他竟然能用前女友的照片去抵债，太过分了，这都已经触犯法律了。 张继科发的景甜私密照片视频是两人当时在一起时的照片。有人爆料张继科因还不上赌债，把自己和景甜的私密照曝给债主，债主拿照片威胁景甜要钱，景甜把债主告了。司法资料显示，对外...
-
“史上最快抓捕”！警察看到嫌犯照片，16秒后
“史上最快抓捕”！警察看到嫌犯照片，16秒后将其抓获，照片，邗江，史上，控制，发现，车上，身份，工具，“你这个可以称为‘史上最快抓捕’了！”看到陈玉，同事们都笑着打趣。4月10日傍晚5点多，休假的陈玉偶遇一名盗窃嫌疑人，当即将其控制，整个过程仅仅用了16秒。11日，扬州市公安局邗江分局公布了详情。陈玉是邗江分局明月湖商圈警务站一名骑警。4月10日当天，他休假在家。傍晚5点多，他带上羽毛球拍出门运动，在此之前，他来到一...
-
她是《长歌行》最狠角色，难怪能扮猪吃虎30
她是《长歌行》最狠角色，难怪能扮猪吃虎30年，一出手就是必杀，奕承，角色，敌人，剧情，公主，养母，经历，李长歌，罗义，阿诗勒，观点评论，随着剧情的深入发展，由迪丽热巴、吴磊等人主演的古装传奇剧《长歌行》再创收视新高，完成了口碑上的逆袭。从一开始的儿女情仇，再到后来的家国天下，《长歌行》的立意一步步得到了升华。剧情过半的时候，《长歌行》解锁一新角色，她就是隋朝奕承公主，被和亲到突厥，先后经历了四任丈夫，极具悲情色彩，不知道大家是怎么看待这一角色呢？奕承公主给人的印...
-
《长月烬明》白鹿是原声吗 白鹿在剧中演
《长月烬明》白鹿是原声吗 白鹿在剧中演了几个角色，白鹿，角色，绿色，二号，宗师，控制，经典，雅致，《长月烬明》白鹿是原声吗不是女主白鹿的角色是乔诗语配音，《招摇》这部剧里白鹿饰演的女主也是乔诗语配的。可能因为比较贴脸，所以再次合作吧。二号邓为和女二号陈都灵也是配音，分别为边江和季冠霖。这两位配的古装剧也很多，不过这次是男二和女二应该还好。对于这个配音阵容，尽量希望在贴脸的前提下，可以改变一下声线。白鹿在剧中演了几个角色“黎苏苏”是仙派第一位宗师之女，拥有世界上最神...
-
潘玮柏隐婚生子吗 潘玮柏老婆是谁 照片
潘玮柏隐婚生子吗 潘玮柏老婆是谁 照片 蛋蛋真的是潘玮柏的儿子吗，照片，长沙，发现，喊话，台上，大方，的是，婚生子，蛋蛋，潘玮柏最近被网友扒出，在香港、长沙等地方都被拍到和一名年约5岁的男孩出双入对，还有不少目击网友指出，这个小孩的名字叫蛋蛋，加上两人互动亲昵称，而且他走到那不是抱着就是紧牵着孩子的手，举手投足都散发浓浓的父爱，在网上引起热烈讨论。更惊人的是，他还被爆出在最近一次演唱会上，居然把这个小名叫做“蛋蛋”的孩子大方介绍给了粉丝们，直言：不好意思瞒了大家这...