已经2024年了，很难想象在澳洲还会发生这种恶心的事：
近日，一所澳洲知名学校的50名学生的裸照，竟然在网络上疯传！
家长和学生简直气炸了！
而警方调查后，只是抓了一名14岁的男孩，据称他与发布这些照片有关，但不久后又把他放了。
14岁的男孩，怎么获得的这些照片？
原来，
这些照片都是用AI技术辅助合成的。
这一事件，也再次引发了人们对AI技术滥用的担忧……
澳洲50名学生“裸照”全网疯传
据报道，近日，大约50名9-12年级女学生的“裸照”在Instagram等平台上全网疯传。
据报道，这些学生都来自墨尔本的著名私校巴克斯马什文法学校（Bacchus Marsh Grammar）。
该学校的代理校长Kevin Richardson表示，在得知此事后，学校已经报警。
警方调查后，将一名涉嫌“在网上流传这些裸照”的男性青少年逮捕，不过不久后又将其释放。
经调查，
这些照片都是使用
AI技术辅助合成的。
利用AI技术，不法分子结合了从社交媒体帐户中收集的这些女孩的照片，从而生成“裸照”。
据信，其中一些来自学校舞会的照片，也被合成成露骨的内容。
一位女儿就读于该学校的母亲表示，她的女儿在看到社交媒体上分享的“裸照”后“狂吐不止”。
这位母亲说，周六晚上11点30分左右，她16岁的女儿在社交媒体上看到这些内容后，感到“恶心”并深感不安。
“这真是令人难以置信的生动，”她表示，“这非常令人痛苦……她非常沮丧，甚至呕吐了……这令人恶心。”
她说，她的女儿本周没有上学。
“我们一直在尽力让她知道，希望这种情况不会再次发生，但你如何才能让他们放下心来？”
另一位家长表示，她觉得在社交媒体上发布孩子的任何照片都不安全，她的孩子已经上四年级了。
“我尽量不发布与学校相关的照片，因为我不知道谁可以翻录这些照片，甚至可能对它们进行变形，”这位母亲说。
“我希望学校能够开展一些教育和宣传活动，以便孩子们能够意识到如何应对社交媒体犯罪。”
维州州长Jacinta Allan也紧急发声，她表示，维州绝不允许这种可耻的和厌恶女性的行为，人们应该尊重女性。
2022年，维州政府已经制定了与“性犯罪”相关的法律，以应对日益严重的AI深度伪造色情内容问题。
法律规定，创造违反相关标准的“露骨图像”是一种犯罪行为，而发布或威胁发布“露骨图像”也是一种犯罪行为。
但目前看来，
这种犯罪行为还是有增多的趋势。
据报道，就在几天前，墨尔本另一名15岁的男性学生就因为使用AI制作合成女教师的露骨图片而被学校开除。
有分析指出，AI技术等新科技显然助长了这些男孩的“不良行为”。
AI“深伪”犯罪流行
令人防不胜防
现如今，随着AI技术的发展，换个声音、换个脸、生成“裸照”的确都是轻而易举。
有人突然接到“父亲”的电话，称自己生病了，需要孩子快点汇款，后来才知道是不法分子伪造了声音，进行诈骗活动；
即便要求视频通话，也有不法分子利用AI将相貌也模仿得有模有样，简直令人防不胜防。
此前，中国香港就爆出一桩巨额诈骗案，据称，诈骗分子冒充某公司的首席财务官，要求员工“进行机密交易”，还邀请多人进行视频会议。
由于多人均在视频中显示出“真实样貌”，员工深信不疑，就此上当受骗，前后转账15次，合计损失2亿港元。
随着AI技术的不断发展，“深伪技术”也越来越逼真，人们辨别真伪的难度也会越来越大。
对此，也有网友戏称，现在认人都要“对暗号”了，不然根本不知道屏幕的另一边是不是冒充的。
AI“复活”明星
家属直呼快停止
AI技术的发展造成的颠覆性影响已经渗透到了人们生活中的方方面面。
近来，也有人用这一技术“复活”已经逝去的人。
知名音乐人包小柏成功运用AI技术“复活”了已离世两年的女儿，以解自己思念之苦。
“数字世界”里的女儿，不仅会唱歌跳舞，还能跟家人对话。
但并不是所有的亲人都愿意接受用AI在“数字世界”中制作的亲人，
特别是在未经过家人同意的情况下。
有博主用AI制作了逝去的乔任梁的影像，引发了巨大争议。
后来，乔任梁父亲针对这一情况发声，他已经看到网上传播开来的影像，感到难以接受，非常不舒服，希望对方尽快下架。
“他们未征求我们同意，是我侄女刷到视频发给我的，这是在揭伤疤。”
除了乔任梁之外，被AI技术制作出新影像的名人还有Coco李玟、高以翔等。
李玟的母亲也委托律师发表声明，要求于声明发布之日起7日内下架、删除含有侵权内容的相关图片、视频及文章。
发布者账号利用这些逝世名人的影像，吸引了大量观众前去询问如何“复活”自己的亲人。
视频在网络引发侵权争议后，一些账号就陆续下架了AI“复活”视频。
不过，AI的技术发展是如此之快，这样的事情有一次就会有第二次，就会有第三次……
或许不久的将来，人们真的可以让AI创造出来的形象和人交流，甚至拥有意识。
但到那时，我们也将面对更加严重的法律和道德危机。
结语
澳洲50名女学生的“裸照”在全网疯传，其背后就是AI技术对不法行为的推波助澜。
随着AI技术的发展，AI换脸、AI换声、AI作弊……各种行为层出不穷，也引起人们的担忧。
在时代的滚滚潮流之下，人们还能驾驭得住AI这头猛兽吗？
综合来源：Herald Sun、ABC、微博、南方都市报等
