OpenAI o3 / o4-mini 模型 AI 生成文本含特殊符号,推测为隐形水印
GoodNav 4 月 22 日报道,AI 初创公司 Rumi 发现 OpenAI 在其 o3 和 o4-mini 模型中,包含了窄不换行空格(Narrow No-Break Space, NNBSP, U+202F)等特殊 Unicode 字符。
值得注意的是,这些字符在普通视图中看起来与标准空格没有区别,但在 SoSciSurvey 或 Sublime Text 等专业工具中,可以检测到其独特编码。
Rumi 表示,OpenAI 先前的模型如 GPT-4o 中并没有这些设置,这些选项可以通过简单的“查找替换”来清除,这可能是 OpenAI 故意设置的水印。
Rumi 强调,这种字符的检测方法误报率非常低,但也存在明显的被绕过的缺陷。另一种可能的解释是,这些字符符合排版规范,用于防止货币符号与金额或姓名缩写之间的换行,可能是模型在训练数据中学习到的习惯。
OpenAI 此前曾尝试多种水印方案,例如在 2024 年初为 DALL・E 3 图像添加 C2PA 元数据,以及在 2025 年 4 月对 GPT-4o 模型进行可见的“ImageGen”标签测试。
在行业中,谷歌的 SynthID、微软的元数据嵌入和 Meta 的强制标签等措施也表明了对内容追溯的关注,但研究显示许多水印技术仍然容易受到攻击。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...