今天给大家推送的是2023年5月加拿大安全情报局组织的一次有关深度伪造和虚假信息的研讨班的相关内容。

概述

这篇论文名为"Évolution de la désinformation: Un avenir ‘hypertruqué’“，内容基于加拿大安全情报局（SCRS）在2023年5月24日举行的一次研讨会。研讨会聚焦于由人工智能进展带来的"hypertrucages”（深度伪造技术）在虚假信息（désinformation）活动中所扮演的角色和构成的复杂威胁。研讨会采用Chatham House规则进行，与会者及其观点不对外公开。报告旨在刺激讨论，不代表任何参与机构的官方立场。

报告涵盖了以下主题：

1. 虚假信息对加拿大未来的真实威胁；

   虚假信息对加拿大未来的威胁包括扭曲的真相和破坏的信任，以及对国家安全构成的严重和迫在眉睫的威胁。虚假信息技术在公共操作中不断成熟，涉及国家行为者、罪犯或秘密组织。现有的威胁将加剧和强化，包括针对政府和军事人员的定向、钓鱼和心理欺诈等。

2. 人类对虚假信息和深度伪造技术的反应；

   人类对虚假信息和高度伪造技术的反应包括由于其逼真性，人们可能会继续传播它们，不一定是因为相信它们是真的，而是为了巩固自己的身份和社会地位。虽然伪造内容很少直接改变人们的观点，但它们可能通过播种混乱和不确定性导致激进化。人类会自然且流畅地处理视觉数据，因此很容易相信他们所看到的，特别是详细的图像可能会增加人们对其真实性的心理上的接近感。具体信息（包括虚假信息）会让接收者产生一种错觉，认为所描述的事件比实际更近、更可能发生，从而加剧了对威胁的感知，并且增加了将这种威胁消息传播出去的可能性。

3. 真实个人如何使用这种伪造技术；

   真实个人使用伪造技术的方式非常多样，包括在艺术、娱乐、广告、教育中的运用。最常见的情形之一是在互联网上，截至2019年10月数据显示96%的"超级伪造"内容是色情的。这些技术被广泛地利用来在社交媒体上散布虚假信息，尤其是在政治辩论中，它们具有扰乱、造成不信任和社会不稳定的潜在功能。此外，还有把个人面孔合成到色情视频中去制作非自愿性内容，侵犯隐私权和名誉。同时，"超级伪造"因为制作和访问的便利性，会对社会层面产生消极影响，如网络欺凌、骚扰，甚至可能导致社会动荡。

4. 人工智能的商业化及其在工业和商业世界中的应用；

• 产生了能够将人工智能应用于数据创新的可能性。

• 加强了信息生态系统的整体健康，甚至在面临由AI产生的大量内容时也是如此。

• 导致了“超级伪造”技术的出现，它是一种由AI合成的内容，展现了人们没有实际说过或做过的事情。

• 影响了数字信任，广泛传播通过AI生成的内容对信任有深远的影响。

• 在2023年初，俄罗斯入侵乌克兰期间，“超级伪造”的视频内容试图误导并可能产生毁灭性的影响，说明了AI内容生成的潜在危害。

• 根据美国联邦贸易委员会（FTC）的数据，使用“超级伪造”进行的身份冒用诈骗在六个月内获利超过2300万加拿大元。

  5.深度伪造技术对国家安全的影响；

• 对真理和信任的破坏，构成对国家安全的严重和近在咫尺的威胁。

• 可能被国家行为者、罪犯或秘密组织用于提升公众操

 6.在深度伪造时代获取情报方法；

• 内容认证：这是一种有希望的方法，不是试图检测由AI生成的内容，而是通过在互联网的基础设施中嵌入加密标记，直接对内容进行认证。

• 社会规范和讨论：应建立这样一种氛围，让人们对所见内容保持怀疑，并鼓励他们质疑来自同伴的信息。数字教育，特别是针对思想领袖和影响力者的，有助于提高对风险的意识和增强对媒体的信任。

• 整体考虑：深度伪造技术将继续快速进化以更加有效和成本效益的方式产生逼真内容，必须全面考虑这些技术，以优化它们的好处，同时减轻与国家和个人安全相关的风险，而不损害隐私权或公众对媒体和信息来源的信任。

  7.面对深度伪造的内容和视听生成人工智能，开发以人权为本的强有力干预手段；

  8.面临视听生成人工智能的新挑战，为民主找到新的方向。

背景

2023年5月24日，加拿大安全情报服务（SCRS）的研究联络和各方协作部（LRCI）以及信息源分析和利用部（AXSI）举办了一次工作坊。工作坊邀请了8位来自开源研究中心的著名专家和在国内外拥有丰富经验的安全专业人士，探讨了在虚假信息活动中，所谓的“超级伪造”技术（hypertrucage）所代表的一系列复杂威胁。工作坊按照查塔姆宫规则（Chatham House Rule）进行，不披露参与者的名字和单位，专家们的发言构成了本文的主要内容。这里发表的观点属于独立专家，并不代表SCRS的立场。

方法

研究方法为“专家研讨会”。加拿大安全情报服务（SCRS）举办了一次遵循查塔姆宫规则的工作坊，邀请了八位来自开放来源研究中心的杰出专家和具有国内外经验的安全专业人士。论文所呈现的研究部分基于这些专家的工作和展示，他们对于“超级伪造”技术在虚假信息传播中所扮演角色的研究成果和专业观察构成了报告的主体部分。专家们在会上的发言集成了本文的主要内容，但发言所表达的观点仅代表各自专家个人，并不代表SCRS的立场。

结论

• 技术进步：必须开发用于检测伪造内容的技术，以揭露数字骗局和恶意意图。

• 法律框架：需要强化以使创建和传播伪造内容非法化，并保护名誉较弱者。

• 公众教育：需培养公民的批判性思维和媒介素养，以辨别真伪。

• 国际合作：跨国合作至关重要，通过分享知识、资源和专业知识形成国际联盟对抗伪造内容。

• 技术公司责任：应强化技术公司对于迅速删除其平台上的伪造内容的担当。

• 持续警惕：民主政府及其盟友需要保持团结和警觉，切实履行他们保护民主、外交和经济安全的承诺。