FBI近日警告称，恶意行为者制作深度虚假内容来实施性勒索攻击的趋势正在上升。
性勒索是网络勒索形式的其中一种，这些恶意行为者通过公开泄露窃取或胁迫获得的露点图像和视频，来威胁他们的目标，通常是要求这些受害者支付封口费。
在许多性勒索案件中，那些泄露的内容其实并非真实影像，威胁行为者只是假装自己有访问权限，以达到最终勒索赎金的目的。
FBI警告说，性勒索者现在正在收集他们勒索目标的公开图像，比如发布在社交媒体平台上的无害图片和视频。然后将这些图像输入深度伪造内容创建工具，将其转化为人工智能生成的露骨色情内容。
虽然制作的图像或视频都不是真实的，但它们看起来非常真实，威胁行为者只要将这些材料发送给勒索目标的家人，同事等，极可能给受害者带来巨大的个人和声誉伤害。
截至2023年4月，FBI发现性勒索受害者报告使用虚假图像或视频的情况有所增加，而这些图像或视频均是基于他们在社交媒体网站或网页上发布的内容创建的，或者是在视频聊天中捕获的。
根据最近的受害者报告，恶意行为者通常要求：
1.付款(如金钱、礼品卡)，并威胁如果未收到资金，将图像或视频分享给家人或社交媒体朋友；
2.受害者发送真实的性主题图片或视频；
FBI表示，有一些勒索者会跳过勒索部分，直接将制作好的视频发布到色情网站，在受害者不知情或未经其同意的情况下，将受害者暴露在大量观众面前。
在某些情况下，性勒索者还会利用这些公开上传的内容来增加受害者的压力，要求其支付从网站上删除发布的图像/视频的费用。
FBI报告称，不幸的是这种媒体操纵活动也影响到了未成年人。
如何保护自己
强大的人工智能内容创建工具正在高速迭代，提供便利的同时也为所有互联网用户创造了一个充满敌意的环境，尤其是那些敏感类别的用户。
比如，通过GitHub有多个免费的内容创建工具项目，它可以从目标面部的单个图像创建逼真的视频，不需要额外的训练或数据集。
这些工具中有许多都内置了防止滥用的保护措施，但那些在地下论坛和暗网市场上出售的工具却没有。
暗网上提供的色情创作工具（来源：卡巴斯基）
FBI建议父母监控孩子的在线活动，并告诉他们在线分享个人信息的风险。此外，家长最好隔一段时间就在网上搜索一次，以确定他们的孩子在网上的曝光量，并在必要时采取行动删除内容。
在网上发布图片或视频的成年人应该限制在一个小的私人朋友圈内观看，以减少曝光。同时，孩子的脸应该尽量模糊处理。
最后，如果你在色情网站上发现了与你相关的AI虚假合成内容，请向有关部门报告，并联系托管平台，要求删除违规媒体。
英国最近以《在线安全法案》(Online Safety Bill)修正案的形式引入了一项法律，将未经同意分享深度造假的行为正式列为一种犯罪行为。