Loading...

谷歌前 CEO 施密特:若 AI 开始自我改进,我们应“认真考虑”暂停它

GoodNav 在 12 月 23 日报道,AGI(注:通用人工智能)的关注度持续攀升。OpenAI 的首席执行官阿尔特曼认为,AGI 会在现有硬件的支持下比预期更早落地;而前谷歌首席执行官埃里克・施密特则警告,一旦 AI 开始自我改进,我们需要认真考虑是否暂停其进一步演进。

施密特在本月 17 日接受美国 ABC 新闻采访时提到:“最终,您可能会指示计算机,‘掌握一切,做到一切。’当系统能够自我优化时,我们必须认真思索是否要切断电源。这将非常艰难,保持平衡将极具挑战性。”

谷歌前 CEO 施密特:若 AI 开始自我改进,我们应“认真考虑”暂停它

施密特预测,AI 将逐步从特定任务助手发展为具备独立决策能力的复杂系统。当 AI 达到这样的水平时,人类应当介入并考虑关闭系统,他指出,人类还需要确保 AI 无法反制关闭系统的措施。“从理论上说,我们最好有一个人可以‘掌控电源’,正如那句比喻所说。”

马斯克在 10 月表示,AI“最有可能带来伟大的成就”,但也存在 10% 到 20% 的可能性走向恶劣的方向。他强调,AI“走向糟糕状态”的风险并非为零。

尽管如此,施密特也对 AI 的积极潜力持乐观态度。他表示:“重要的是,这种强大的智能意味着每个人都将拥有一个如同博学者般的助手,随时掌握在口袋中。除了作为笔记和写作助手,每个人还有像爱因斯坦和达芬奇一样的智者为自己提供建议。这将惠及全球每一个人。”

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...