本帖最后由 慢慢的风 于 2023-5-23 12:52 编辑

今年年初，AI生成的多张图片引起了全世界的惊叹，它把并不存在的事，甚至根本不存在的人画得像真实世界里发生过一样。



这组川普受到刑事指控后“被逮捕”的图，就是AI作画的“成名作”之一。

图片被发到网上时，很多人都信以为真，直到有人辟谣才恍然大悟。

此后，不断涌出的AI作图，让穿白色巴黎世家羽绒服的教宗，现实中根本不存在的海啸灾难救援，马斯克亲吻美女机器人等假图片层出不穷。

各国的无数种AI程序正在飞速开发，使用AI作图的门槛也越来越低，人们开始担忧AI会让民众更难判断新闻的真假。

然而，除此之外，还有更令人担忧的问题，已经发生在我们身边。



近期有网友爆料，在国内的视频网站上出现了大量涉嫌儿童色情的AI作图内容。

一些博主训练AI，把女童的脸放在各种有挑逗意味的动作上，让幼童向镜头掀裙子、穿“下衣失踪装”。



还有一些视频里，小女孩穿着女仆装被成年人掀裙子，另一些视频的标题则直接写着“湿身萝莉”，“萝莉洗澡”等令人不适的内容。



这些图片中的小女孩看上去都是不满10岁的女童，甚至有的图片主角的面部特征还是婴幼儿的状态。



正常人看这样的照片都会觉得有问题，但这些视频却在视频网站相当受欢迎，上传者大有人在，而且点击上万的就有不少。



有人用真实的中学校服做软色情图片

点进这些视频的评论区和弹幕，到底是哪些人在制作和消费这些图片不言而喻。

一些人明知道视频的内容涉及儿童色情，明知道这是恋童癖行为，却一边求图包，一边开着“坐牢”、“死刑”的玩笑，完全没把自己的剥削行为当回事。





还有的视频上传者毫不顾忌地讲自己的作图心得，甚至有些人用这些小女孩的脸，做出有裸露和性元素的图片，在评论区分享给“粉丝”们。



竟然还有人为他们的恋童行为找理由，说这是他们对“纯真”的向往，真是令人作呕。



有些人还辩驳说，反正是AI画出来的，都是假的，又没有真人受到伤害，不需要对这样的行为上纲上线。然而事实并非如此。

众所周知AI学习作画的过程需要用户上传几张甚至几十张人物图片或照片，AI会通过这些图片中人物长相的共同特征，做出人物模型。



也就是说，这些被他们当作性幻想对象的小女孩，是有几个真人原型，甚至很可能就是根据现实中的某一个小女孩的照片捏造的。想想看，有人会希望自己幼小的女儿的脸被安在软色情图片里，成为恋童癖的意淫对象吗？

就算是套上了高科技的外壳，传播儿童色情制品也仍然是最恶劣的性犯罪之一。



目前这些视频已被删除，大部分相关账号被查封

今年，国内外许多媒体都发现，由于AI技术在管理尚且混乱的状况下飞速发展，已经导致更多的儿童和女性成为了新型犯罪的受害者。

最开始引起关注的是源源不断被P进色情图片和成人影片内的女明星们。



与上文制作儿童软色情图片的同一个AI模型分享网站上，有一个明星专栏，里面基本全是各国女明星的AI作图。

从日韩偶像到欧美当红演员，再到中国的女星网红的脸都被做成了可以随意使用的模型。



虽然该网站声明不允许分享者发布色情图片，然而在各种女星模型的评论区里，能轻易找到各种令人不适的照片。制作者通过AI制作了女明星身着暴露服装，摆出性感姿势的照片。

要知道这些能够发出来的照片只是冰山一角，他们可以利用AI生成更恶劣，更露骨的图片甚至视频。我们难以想象这些照片的用处是什么，可以确定的是，它们很多足以以假乱真。






如果图片流传到了社交网站上，一定会有很多人相信这些照片是真实的，从而给女性带来更大的麻烦，导致她们被谩骂和骚扰。

事实上这类内容在许多社交网站上已经有很多了，无论是制作平台还是传播平台，都对这种行为视而不见，甚至在评论区还有很多人点名要某某女星的AI换脸图。

而制作平台和传播平台的纵容，就是在传播一种错误的价值观，告诉人们“侵犯女性和儿童是轻而易举且没有成本的”。



《纽约时报》调查发现，欧美著名的AI绘图程序Midjourney中（即开头提到的川普被捕图生成程序），也含有大量女明星的换头成人图像，尽管Midjourney自称这个程序是“家庭友好型”，并声称它“13岁以下用户仅需家长指导即可观看”。

但这几年来，被它P进裸照、成人影片的女明星数不胜数，受害者包括“大表姐” 詹妮弗·劳伦斯、金·卡戴珊、艾玛·沃森和斯嘉丽·约翰逊等。

许多活跃于短视频和直播网站上的未成年，或刚刚成年的博主也屡屡遭到侵犯。



今年2月，直播平台Twitch的知名女主播QTCinderella等多名女性博主的脸被人恶意使用AI换脸P成了裸照。这些图片还被制作者煞有介事地发到了色情网站上，给这些女孩“造黄谣”。



许多女博主是在这名博主的道歉视频中才知道自己被换头的

这些博主靠出卖身体赚钱的谣言一下就传遍了全网，也传到了受害者的耳朵里。

28岁的QTCinderella发现网站上的所有人都在讨论她的裸体，讨论她在成人视频中的表现，尽管那些都是AI做出来的，这还是让她吓坏了。



她为此泪流满面，恳求大家不要在传播这些图片：

“我想尖叫，停下吧！求大家停下好吗，不要再传播这些图片了，不要再给这件事热度了，求你们了。

在不愿意的情况下被人看到'裸体'不是我作为主播应该承受的事！那些拿我的照片做文章的'记者们'，我可真是谢谢你们这群傻x败类了！”



另一位未成年受害博主说：“我发现我被造谣了我永远都不会允许自己做的事，这太可怕了，简直像是被人强奸了一样。”

然而她们的发声却被很多看客骂“矫情”，“事儿多”，到现在仍然有部分换脸视频没有被删除。



影视明星中，斯嘉丽 ·约翰逊更是深受其害。她太常成为换头视频的受害者，数次动用各种法律手段阻止这种行为都没有什么成效。她还是会经常发现自己的脸被嫁接到各种糟糕的图片视频里。

斯嘉丽说自己对此非常失望，已经放弃通过法律再为自己维权。她说：“互联网是个吞噬我的巨大黑洞。”



要知道斯嘉丽是一名净资产达到1.65亿美元的一线巨星，是好莱坞身价最高的演员之一。

她有比普通人更好的法律资源，更强大的号召力和人脉，然而斯嘉丽仍因为不断涌出的换头视频而崩溃，拿它们毫无办法。



之前被爆出的专门换头裸照的AI

而当这些剥削发生在普通女性，甚至没有行为能力的儿童身上时，只会更加猖狂和难以控制。

Midjourney上已经出现了将女友、网红P进露骨图像中造黄谣、进行色情报复等行为。还有一些人盗用了儿童的照片，将他们做成儿童色情制品卖给恋童癖。



儿童受害者既有未成年童星，也有普通的孩子，后者的照片多是从孩子父母的社交账号上偷来的。所以专家也建议在AI作图规范化之前，慎重网上晒娃，以防被不法之徒盯上。

前不久一名西班牙人因使用AI制造换脸色情制品被捕，在他的家中甚至发现了女婴遭到性侵、虐待的恐怖视频。

令调查此案的警探们仅仅是阅览这些资料都需要接受心理辅导，更不要提被换脸的孩子的父母们如果知道此事，会有怎样的感受。



一些科技公司已经承诺，他们会训练AI更谨慎地作图，不要触碰一些红线，并且会在社交媒体上开发自动删除儿童色情相关图片的程序，但目前为止真正采取措施的公司还是少数。

同时，针对AI换头侵权的法律保障也不完善。2019年，美国纽约州民主党人Yvette Clarke 提出对换头视频的制作者进行追责的法案，这项法案石沉大海，至今仍没有音信。

而包括美国在内的一些国家，甚至没有将虚拟的儿童色情制品列入违法范围。也就是说，如果AI生成了未成年人的裸露图像，受害者甚至难以找到合适的法案为自己维权。

最后，专家提出了一些鉴别AI换脸图片和视频的方法，提高对换脸图像的鉴别能力，不去大肆传播这些内容加重对受害者的剥削，也是我们力所能及可以做到的。下面是一些换脸视频和图片常有的漏洞：

1、手部和眼球运动不自然的视频和图片可能是假的。AI现在还不太能完全复制人类的眼球运动轨迹，也不太会画人手；

2、人物表情和五官奇怪甚至有点扭曲的图片；

3、人物姿势别扭，身体比例看上去不协调；

4、头发看上去很假，过于光滑没有碎发；

5、牙齿的轮廓模糊，牙齿过于整齐；

6. 图像颜色奇怪，阴影位置奇怪，人像边缘模糊或错位。

AI绘画的进步的确给人类带来了很多惊喜和可能性，但技术进步不该成为剥削的工具，新的发展和科技也不能成为随意践踏他人，尤其是社会弱势群体的权利和尊严的理由。

希望没有下限的换头图片和视频早日得到治理，从网络上消失...