在抖音和快手等短视频平台有不少利用 AI 技术换脸或者直接生成的虚拟人物，其中大部分只是出于技术娱乐性质，也有少部分拿来冒充真人用来恶意营销。

例如此前就出现过 AI 换脸冒充俄罗斯人然后在短视频平台博取大量关注然后带货卖俄罗斯特产的账号，有些则是生成俊男美女虚假形象骗取关注甚至进行诈骗。

昨天抖音发布公告宣布严厉打击利用 AI 生成虚拟人物消费爱国心理、博取关注等行为，对于违规使用 AI 生成虚拟人物的行为，平台会对违规视频进行下架、对违规账号进行取消投稿权限和营利权限、抹除账号粉丝、封禁账号等处置。

典型违规行为包括：

1、生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

2、生成俊男美女虚假形象，骗取互动，交友导流。直接称用户为 “你”“娘”“妈妈”“老公” 等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。

3、生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。

值得注意的是抖音在公告中还提到该平台已经掌握部分黑产团伙不当使用 AI 生成虚拟人物用于犯罪的线索，对此抖音将报警打击这类行为。