上周，美国加州贝弗利山的一所中学，有学生利用人工智能（AI）技术伪造同学的裸照并在网络上散布。这起事件被认为是一种新型校园霸凌行为，引发当地教育官员的强烈谴责。目前，贝弗利山联合学区的官员正在对此事进行深入调查，并承诺将对涉事学生采取严厉的纪律处分，包括但不限于开除学籍。
▲贝弗利维斯塔中学
中学生被曝利用AI伪造同学裸照
学区官员与警方展开调查
这起事件发生在贝弗利维斯塔中学，这所学校大约有750名6至8年级的学生。上周三，贝弗利山联合学区官员在致家长的一封电子邮件中表示，“贝弗利维斯塔中学收到学生的报告，称有学生利用人工智能技术，将同学的面孔拼接在裸体图像上，并进行传播。”
据一名八年级学生透露，老师们收到照片后，开始一对一与受害者谈话。学生伊芙琳·克鲁格说：“女孩子们被一个个叫出去。我们总是担心，下一个会不会是我？我会不会被叫进去？当然，这些照片是AI生成的，有的看起来不真实，但其中有一些看起来很真实。”
“这非常可怕，大家无法安心上学，”该校一名不愿透露姓名的学生说，“他们害怕看到那些裸照，害怕自己的照片被恶意利用。”
该校一位学生的母亲称，许多女孩成为这些深度伪造色情图片的目标。“我能想象这对受害者是怎样的毁灭性打击。”贝弗利维斯塔中学八年级学生的母亲杰基·克鲁格说，“这让人感到非常恐惧和可怕。虽然我的女儿这次没有受害，但她仍然感到恐惧。所有人都害怕霸凌有一天会发生在自己身上。”克鲁格希望肇事学生能受到应有的惩罚，并呼吁提供AI技术的公司承担相应责任。
学区官员表示对此类行为感到愤怒，并强调将根据《加利福尼亚教育法典》对涉事学生实施最严厉的纪律处分。任何被发现制作、传播或持有此类AI生成图像的学生都将面临严重后果，包括但不限于开除学籍。此外，学区官员还与贝弗利山警察局密切合作，共同展开调查。
贝弗利山警察安德鲁·迈尔斯证实，警方已接到报警，并正在对此事进行非刑事调查。由于涉及未成年人，他无法提供更多信息。
深度伪造色情内容泛滥
专家呼吁加强网络安全与道德教育
报道称，这起事件只是美国全国范围内日益增多的类似案例的冰山一角。网络安全专家皮特·尼科莱蒂称，“此类事件每天都在上演，频率高达数十次。我们只需浏览各地的新闻报道，便可见其普遍性。”随着人工智能技术的广泛普及和简化应用，越来越多的学生开始利用这些工具实施霸凌行为。
今年1月，美国华盛顿特区，一位来自新泽西州的十几岁受害者勇敢地站在联邦议员面前，详细叙述了自己所遭受的“深度伪造”色情制品侵害的经历。受害者强烈呼吁制定一项联邦法律，将所有深度伪造色情行为明确界定为犯罪，以保护更多潜在的受害者。截至目前，美国尚未填补这一法律空白。
报道揭示了一个令人不安的趋势：AI和其他新兴科技正在全球范围内演变成校园霸凌的新工具手段。在美国、加拿大、西班牙和巴西等地，已经出现了一系列与深伪技术（Deepfake）紧密相关的网络霸凌事件，凸显出低成本、易上手的深度伪造工具正在被滥用。据美国媒体报道，在2023年的前9个月里，35个深度伪造色情内容网站竟然上传了高达11.3万个相关视频。
为了应对这一问题，网络安全专家皮特·尼科莱蒂建议学生们尽量减少在社交媒体上公开个人照片和数字足迹；同时，家长们也需要与孩子们进行深入的沟通，让他们了解利用AI技术制作不当照片可能带来的严重后果。
