抖音：严厉打击利用 AI 骗取老年人互动，下架违规视频、处置违规账号

GoodNav 10 月 27 日报道，抖音官方于 10 月 25 日发布了《抖音严厉打击利用 AI 骗取老年人互动的治理公告》。

抖音官方表示，他们鼓励创作有价值的内容，包括借助 AI 技术进行创作，但所有创作内容必须遵循平台的规定。平台将对利用生成式人工智能创作和发布违反科学常识、虚假信息、谣言传播的内容进行彻底打击。

近期，平台发现某些账号错误地利用 AI 技术生成小和尚、军人、AI 女性等虚构形象，但未在内容中进行 AI 标识提示，并利用特定的语言诱使老年人点赞、关注、发布评论，甚至进行导流以获利，平台对此进行了严厉的处理。

以下是一些典型的违规行为：

• 生成小和尚形象，说出“我发现你身边有块绊脚石，我打算给你搬走”“如果觉得小和尚说得对，送给小和尚一朵小红花吧”等言辞，利用迷信和心灵鸡汤等内容，欺骗老年人的互动。

• 生成军人形象，以“娘，别滑走，孩子想和您谈谈心”“亲爱的母亲，我正在执行任务，给我一点鼓励”“告诉你一个小秘密，点一下我头像下面的小加号”等语气，利用军人的正面形象和老年人对子女的思念心理，诱使老年人产生互动。

• 生成 AI 女性形象，通过“大叔，感谢你又来看妹妹了，如果再送我一朵花我会感动一整天”“听说你很厉害，很多美女都喜欢你”“我会做饭、做家务、能聊天，你愿意把我带回家吗”等情感话术进行诱导，骗取老年人互动。

抖音官方表示，以上内容严重违反了平台的规则。对使用 AI 生成虚拟形象发布违规内容的行为，平台将下架违规视频，对违规账号禁用投稿和营利权限、封禁账号等，并利用模型和技术识别能力进行长期系统的监测和处理。