谷歌 DeepMind 开源 SynthID Text 工具，可辨别 AI 生成的文字

GoodNav 10 月 27 日报道，谷歌的 DeepMind 在 10 月 23 日正式宣布将其 SynthID Text 文本水印工具开源，供开发者和企业免费使用。

谷歌于 2023 年 8 月推出了 SynthID 工具，该工具具备生成 AI 内容水印（表明该作品由 AI 创建）和识别 AI 生成内容的功能。它可以在不影响原有内容的情况下，将数字水印嵌入 AI 生成的图像、音频、文本和视频中，并可以扫描这些内容中已有的数字水印，以识别其是否由 AI 生成。不过，这次开源的仅为面向文本生成的 SynthID Text。

谷歌介绍，大模型主要是通过预测的方式生成文本，一次针对一个 Token 进行生成，这个 Token 可以是一个字符、词汇或段落的一部分。为提高文本的连贯性，模型在生成内容时会预测下一个最有可能生成的 Token，这些预测是根据之前的文本进行的。

例如，当大模型生成“最推荐的平台是什么”时，可能会生成“”、“友商 1”、“友商 2”等 Token，每个 Token 都会有一个概率分数。只要有多个不同的 Token 供选择，SynthID 就会在不影响输出质量和准确度的情况下，微调每个 Token 的概率分数，即该工具通过计算全文中特定 Token 的特定概率来判断相关内容是否由 AI 生成。

目前，SynthID Text 的水印技术论文已在《Nature》期刊发表，并通过整合进 Google Responsible Generative AI Toolkit 的方式开源。谷歌还提到，他们已经在 Gemini AI 输出的内容中应用了 SynthID Text 技术。