随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

根据公告，此次抖音将重点治理利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容：

一是生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

二是生成俊男美女虚假形象，骗取互动，交友导流。直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。

三是生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。

值得注意的是，除了封号等常规处罚手段，抖音此次在公告中特别提到了“平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。”这种严厉的措辞在抖音过往的公告中并不常见，显示抖音此次治理的力度或将相当大。

推荐阅读：

京东支付外卡新模式助力境外消费者畅快买货

京东发布六大策略 助力家电家居品牌商家实现高增长 

韩媒指责阿里速卖通、Temu：含色情和暴力有害内容