因为开源的AI换脸软件人人取之可用，全民换脸的恶搞狂欢接踵而至，带来的“蝴蝶效应”令人始料未及。在美国，Reddit、Twitter、Pornhub等网站先后沦陷，中国的B站、贴吧也被报道过换脸视频充斥，澳大利亚、印度等国也有公民饱受AI换脸的困扰。
正如美国演员乔丹·皮尔所说，公众需要可信的新闻来源，要对互联网更加警惕，信息时代将决定我们是生存，还是成为某种糟糕的反乌托邦。一些社交媒体疯狂的世界，人们难以分辨新闻的真假。随着换脸技术被用于跨越伦理道德、法律规则、网络安全红线的个人娱乐、商业行为、学术研究等方向，AI换脸引发了学界的密集谴责和公众的持续讨论，并对可能造成的威胁表示担忧和批评，呼吁政府加强监管，避免该项技术的滥用。况且，AI换脸技术日益精进暗含隐忧：英伟达“AI假脸王”StyleGAN攻破几乎所有人脸识别系；Samsung 开发的演算法只需一张相片即可制作合成影片……因此，政府出手加以限制势在必行。
澳大利亚首都堪培拉、新南威尔士州、维多利亚州、南澳大利亚州、西澳大利亚州等地区颁发法律，将未经他人同意的情况下，制作、传播虚假图像视为犯罪，可判处监禁或罚款。其中，堪培拉、新南威尔士州和南澳大利亚州明确定义了具有“亲密性”和“侵入性”的图像类型，包括已被改变或操纵的图像。
美国国防研究计划局(DARPA)设立“媒体鉴证”项目，以开发能识别深度伪造视频的工具。据悉，该项目初旨在实现现有鉴证工具的自动化，之后将重点转向人工智能生成的虚假视频。研究人员已在GAN操纵的图像和视频中发现了微妙的线索，从而使其能够检测到变化的存在。纽约议会出于保护个人隐私权和宣传权，提交了编号为A08155的法案，明确提出禁止用AI技术制作虚假视频，在法律边缘徘徊的Deepfakes首当其冲。
我国全国人大常委会审议的民法典人格权编草案里也新增规定，任何组织或者个人不得以利用信息技术手段伪造的方式侵害他人的肖像权，明确指出未经肖像权人同意，使用PS和AI换脸不仅侵害自然人的人格权益，还可能造成恶劣的社会影响，甚至危害国家安全和社会公共利益。
