近期，韩国发生多起利用深度伪造技术（deepfake）制作并传播* 影像的案件，去年的时候俄罗斯进攻乌克兰后的第三周，乌克兰官网发布了一段乌克兰总统泽连斯基的* 。在* 中，泽连斯基穿着他标志性的绿色T恤，神情略显僵硬地呼吁乌克兰* 放下* ，向俄罗斯投降。这一* 迅速引发了公众的强烈反应，但很快人们发现，这其实是一个经过篡改的假* 。
事实上，这段* 是黑客利用深度伪造技术制造的虚假内容。深度伪造技术，也称为Deepfake，最早出现在一个名为“Reddit”的社交平台上。在这个平台的一个社区中，用户分享和传播了大量女明星的虚假** 。这个社区不仅仅是分享这些虚假* ，还提供了AI换脸软件，能够自动将* 中的人脸替换成另一个人。尽管Reddit后来关闭了这个社区，但这项技术已经广为人知，并逐渐被应用于* 人物和演员的* 中。
那么，什么是深度伪造技术呢？
Deepfake一词由“深度机器学*”（Deep Machine Learning）和“假照片”（Fake Photo）两个词组合而成。它通过人工智能技术中的深度学*模型，将图片或* 叠加到原始内容上。借助神经网络技术，经过对大量数据的学*，将人的声音、面部表情及身体动作合成为非常逼真的虚假内容。深度伪造技术最常见的应用是AI换脸，此外还包括语音模拟、人脸合成和* 生成等技术。
2018年，美国导演兼演员乔丹·皮尔（Jordan Peele）发布了一段* ，在这段* 中，奥巴* 形象和口吻被用来发表一句“* 是一个笨蛋”的言论。这类* 的制作需要大量的奥巴马* 或照片数据，这些数据被输入到神经网络的软件* 中，* 会在仿造的形象与奥巴* 真实形象之间建立统计关联。如果你想让仿造的奥巴马说出他从未说过的话，软件需要学*特定单词与奥巴马嘴型之间的关联。同样的，如果需要进行换脸* 作，软件还需学*脸部与身体之间的关联。
深度伪造技术的基础是生成式对抗网络（Generative Adversarial Networks，简称GANS）。这种AI技术的核心思想是通过两个神经网络的相互对抗来进行学*和改进。其中一个神经网络称为生成器，用于生成与真实数据相似的虚假数据；另一个神经网络称为判别器，用于区分真实数据和虚假数据。
以生成虚假* 或照片为例，生成器就像一个造假者，负责生成假的图像；判别器则像一个侦探，判断图像的真实性。造假者生成一张图像交给侦探，侦探会指出图像中的不真实之处，并反馈给造假者。经过不断的反馈和调整，生成器最终能够生成真假难辨的图像。
训练这个模型需要大量高质量的* 和照片数据，这就是为什么Deepfake的虚假内容多集中在政客和演员身上。因为网络上存在大量他们的影像数据，数据越丰富，生成效果就越逼真。
随着技术的进步，现在的伪造* 或图片已经很难通过肉眼识别真假。Deepfake在娱乐和电影行业得到了广泛应用，比如在《流浪地球2》中，吴京和* 角色的年轻形象就是通过这种技术实现的。你甚至可以看到从未存在过的电影片段，比如汤姆·克鲁斯扮演的钢铁侠。
然而，这项技术也带来了巨大的威胁，因为你很难确定你在网上看到的内容是否是真实的。所谓“眼见未必为实”！前面提到的泽连斯基* 就是一个典型案例；据称，超过90%的Deepfake技术被应用于*片，大量女性因此成为受害者。这项技术被用于* ，更是令人不安。
那么，有没有办法检测到伪造的* 或图片呢？
如果是质量非常高的Deepfake* 或图片，基本靠肉眼是难以分辨的，需要结合其他信息来综合判断。尽管在某些伪造* 中，如果放慢帧数，可以看到一些异常的镜头衔接，但随着技术的提升，这些异常将会越来越少，甚至消失。
最终，公众在获取信息时仍需确认信息来源的可信度，同时互联网平台应设立监管和监控机制，防止虚假信息的传播。
未来你遇到Deepfake的机会只会越来越多。因此，朋友们，当你们愉快地将自己的照片上传到公共网络时，是不是应该再三斟酌呢？
