Anthropic CEO 阿莫代伊：未来 AI 或有自我决定权，可拒绝“不爽”的任务

GoodNav 3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 的首席执行官达里奥・阿莫代伊（Dario Amodei）在周一发表了一个引人注目的看法，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，使其能够在面对令人不快的任务时选择退出。

阿莫代伊在采访中提到：“这是又一个让我显得疯狂的话题。我认为我们至少应该思考一个问题：如果我们正在构建这些系统，它们可以像人类一样执行各种任务，并且展现出许多人类的认知能力。如果它叫声和走路都像鸭子，那也许它就是鸭子。”

阿莫代伊的这番话是对数据科学家卡门・多明格斯（Carmem Domingues）提问的回应，后者询问为何 Anthropic 在 2024 年底雇佣了 AI 福利研究员凯尔・费什（Kyle Fish），以研究未来的 AI 模型是否可能拥有感知能力，以及它们是否应该在未来获得道德上的关注和保护。

报道指出，费什目前正在研究 AI 是否能够具备感知能力，以及这一争议话题是否值得进行道德保护。

阿莫代伊解释说：“我们在考虑的一种可能做法是，当我们将模型部署到实际环境中时，给它们设定一个按钮，上面写着‘我放弃这项工作’，让模型自己可以按下这个按钮。”

他表示，这只是一个非常简单的偏好框架，假设模型真的具有自主意识，并且非常不喜欢这项工作，那么它便可以按下这个按钮。“如果你发现模型频繁按下这个按钮，面对一些非常不愉快的事情，也许你应该关注一下——这并不意味着你完全相信，但至少值得关注。”