如何应对AI伪造的影响
那么如何证明视频的真实性,保证AI合成工具的安全使用呢?我采访过的一些专家建议,提高认识将是重要的第一步。教育人们了解人工智能算法的能力将是防止 FakeApp 等应用程序的不当使用产生广泛影响的一个很好的措施——至少在短期内是这样。
法律措施也很重要。目前,没有严格的保护措施来保护人们免受深度伪造或伪造录音的侵害。对这种做法进行严厉处罚将增加创建和发布(或托管)虚假材料的成本,并将起到威慑该技术的不良使用的作用。
但这些措施只有在人类能够区分假媒体和真媒体的情况下才会有效。一旦技术成熟,几乎不可能证明特定的视频或音频记录是由人工智能算法创建的。同时,也有人可能会利用围绕人工智能伪造的疑虑和不确定性,声称描绘他们的真实视频是人工智能的作品。这种说法也很难被揭穿。
处理人工智能伪造的技术
我们还需要技术措施来支持我们针对深度伪造和其他形式的基于人工智能的伪造的道德和法律保障。具有讽刺意味的是,检测 AI 篡改媒体的最佳方法是使用人工智能。就像深度学习算法可以学习在视频中将一个人的脸缝合到另一个人的身体上一样,它们可以被训练来检测表明人工智能被用来操纵照片、视频或声音文件的迹象。
然而,在某些时候,伪造可能变得如此真实,以至于即使人工智能也无法检测到它。因此,我们需要制定措施来注册和验证真实媒体和文件的真实性。
Lawfare建议一项服务将跟踪人们的行?动和活动,以建立一个证据目录,该目录可用于验证所发布的关于这些人的材料的真实性。因此,例如,如果有人发布了一段视频,显示您在某个时间在某个地点,做了一些可疑的事情,您将能够让该第三方服务验证并通过比较来证明或拒绝该声明视频的位置与您录制的数据相对应。
但是,正如同一篇博文指出的那样,记录如此多的数据可能会带来更大的安全和隐私风险,尤其是如果这些数据全部由一家公司收集和存储的话。它可能导致大规模信息盗窃,例如去年的Equifax 数据泄露事件,或者它可能再次陷入Facebook 的剑桥分析丑闻。它仍然可以被坏人利用,要么掩盖他们的罪行,要么提供不利于他人的证据。
一个可能的解决办法是使用区块链。区块链是一种分布式账本,使您无需集中式服务器即可在线存储信息。在区块链上,每条记录都在多台计算机上复制,并与一对公共和私人加密密钥绑定。私钥的持有者将是数据的真正所有者,而不是存储它的计算机。此外,区块链能够抵御集中式数据存储容易受到的一系列安全威胁。分布式账本还不能很好地存储大量数据,但它们非常适合存储哈希和数字签名。
例如,人们可以使用区块链进行数字签名并确认与他们相关的视频或音频文件的真实性。向该视频添加数字签名的人越多,它就越有可能被视为真实文档。这不是一个完美的解决方案。它将需要采取更多措施来衡量和考虑对文件投票的人的资格。
目前,很清楚的是,人工智能伪造可能很快就会成为一个严重的威胁。我们必须推测一种适当的、多管齐下的方法,以确保我们防止恶意使用人工智能,同时允许创新继续进行。在那之前,IRL 是您唯一可以真正信任的空间。