ChatGPT 新图像生成器可轻松生成逼真的假收据，OpenAI 回应

GoodNav 在 4 月 1 日报道，上个月 ChatGPT 的 4o 模型推出了一款新的原生图像生成器，该工具在生成图像文本方面表现十分出色。然而，这一技术的进步也带来了新的挑战。人们已开始使用该技术生成虚假的餐厅收据，这可能为诈骗行为提供了新的工具。

社交媒体用户兼风险投资家德迪・达斯在 X 平台上分享了一张他声称是用 4o 生成的旧金山某真实牛排餐厅的假收据图。随后，其他用户也成功复现了类似效果，有些人甚至在收据上添加了食物或饮料的污渍，以增强其真实感。有报道称，来自法国的一个真实案例中，LinkedIn 用户分享了一张当地餐饮连锁店的皱缩 AI 生成收据。

TechCrunch 也对 4o 进行了实验，并成功生成了一张旧金山苹果蜂餐厅的假收据。不过，他们的尝试显露出一些明显的缺陷，比如总金额使用了逗号而非句号，且数字合计错误，但诈骗者可以通过图像编辑软件或调整提示词迅速进行修改。

显而易见，轻松生成假收据为诈骗行为创造了巨大的机会。我们可以想象，这项技术可能被不法分子用于虚构费用的“报销”。

OpenAI 发言人泰亚・克里斯琴森表示，所有生成的图像都包含有标识其为 ChatGPT 生成的元数据。克里斯琴森还说明，一旦用户违反使用政策，OpenAI 将采取相应措施，并已在不断从实际使用与反馈中进行学习。

当被询问 ChatGPT 为何允许用户生成假收据，以及此举是否违背 OpenAI 禁止欺诈的使用政策时，克里斯琴森回应称，OpenAI 的“目标是尽可能给予用户更大的创作自由”，而假 AI 收据在非欺诈场景下同样可以被使用，比如“教育人们金融知识”，以及创作原创艺术作品或产品广告。