近日,张欣怡及其团队宣布,将利用多年研发的AI大模型DeepFakeDefenders成果来对抗Deepfake技术。这一消息迅速引起了广泛关注,并在国内外社交媒体上引发了热烈讨论。该AI大模型在世界级的外滩大会AI攻防挑战赛中荣获季军,其能力不容小觑。它能够通过模拟人类视觉,对图像和视频的细节特征进行深度分析,从而精准识别Deepfake技术制造的伪造内容。
Deepfake技术引发的全球性问题日益严重。最近,韩国女性在中文社交平台上发起了一场“自救运动”,揭露了Deepfake技术在韩国的滥用情况。据《华尔街日报》报道,韩国是Deepfake犯罪的重灾区,大量韩国女性的形象被非法用于成人内容,严重侵犯了她们的隐私和名誉。
更令人担忧的是,Deepfake犯罪正呈现出低龄化趋势。一些青少年因缺乏法律意识,无意中成为了施害者或受害者。此外,Deepfake技术也被用于诈骗,如伪造名人言论误导未成年人,或伪造家人照片进行诈骗。
面对这一挑战,全球科研工作者正在积极研发反制措施。张欣怡和她的团队的开源行为,是全球反Deepfake行动的一个重要里程碑。他们的努力不仅提高了公众对这一问题的认识,也为其他科研人员提供了宝贵的参考。