近日，抖音安全中心发布了关于《关于不当利用 AI 生成虚拟人物的治理公告》，其中例举了违规使用 AI 生成虚拟人物的行为及处罚后果。

在抖音应用生成式人工智能技术时，须遵循以下规范：

1.发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。

2.发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

3.虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

4.禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。

5.禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。

针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。