对话《人类简史》作者尤瓦尔：我们需要防止人工智能失控，确保其符合人类价值观

“2024 ESG 全球领导者大会”于 10 月 16 日至 18 日在上海召开。新浪财经欧洲站的站长郝倩与著名历史学家、哲学家、《人类简史》和《智人之上》的作者尤瓦尔·赫拉利进行了一场深度对话。

尤瓦尔指出，人工智能（AI）的发展对于人类来说是一项重大的挑战。然而，他同样承认，人工智能的潜在益处也不容忽视。当被问及在可持续发展的社会中，人工智能应承担何种角色时，尤瓦尔表示：只要我们能够防止人工智能失控，确保其符合人类的价值观，那么人工智能可能成为人类历史上最伟大的发明。

“因为届时，它的强大能力将为人类社会带来益处，而不是造成危害。”尤瓦尔举了一些例子，例如在医疗领域，目前医生的数量无法满足需求，而人工智能医生可以提供显著的帮助。

此外，尤瓦尔提到，每年因车祸死亡的人数超过 100 万，而大部分事故都是由于人为失误引起的，比如酒驾或疲劳驾驶。如果由人工智能控制的自动驾驶普及开来，那么每年就能挽救 100 万人的生命，尽管人工智能可能也会导致事故，但总体数量将会大幅减少。

同样，在应对气候变化方面，人工智能可以帮助人类寻找新的能源和更可持续的经济管理方法。

“但最大的问题在于，如何在享受这些好处的同时，防范技术所带来的巨大风险，”尤瓦尔再次强调。

谈到人工智能的监管时，尤瓦尔指出，“监管至关重要，许多国家的政府对此都表现出浓厚的兴趣。”

他表示，由于人工智能是一项新兴技术，政府部门目前尚不清楚如何进行有效监管，但一些规章是显而易见的，比如需要禁止人工智能假冒人类。“我们欢迎人工智能以医生或教师的身份与我们在社交媒体上互动，但绝不应假装是人类。”他解释道，“当你与某人交谈时，必须清楚交谈对象是人类还是人工智能。某个帖子在社交媒体上受到了高度关注，很多用户点击了它。你可能会想，大家对这个话题感兴趣，我也想看看人们在谈论什么，因此也开始点击它。然而，最初发布此内容的可能并非人类，而是机器人。”

“因此你需要知道，这并非人类而是机器人，然后再做出决策，”他强调，禁止人工智能假冒人类是非常重要的规定。“就像各国政府禁止伪造货币，以维护人们对货币的信任，我们同样需要禁止伪造人类，从而维护人们对人类的信任。”

此外，同样重要的是，人工智能公司必须对其算法的行为负责。“例如，如果某公司的汽车存在设计缺陷，导致事故发生并造成伤亡，那么显然这属于公司的责任，相关管理人员可能面临监禁或需要支付巨额罚款，因为他们负有责任。如果你生产的药物存在副作用，导致人们生病，那么你的公司也必须承担相应责任。”尤瓦尔继续说道，人工智能算法也应如此。如果一家公司研发了功能强大的算法，而该算法对社会、人类心理或其他方面产生了有害的副作用，该公司就必须承担责任，确保对造成的损害负责。

尤瓦尔警示，人工智能是不断学习和变化的，目前的人工智能仍处于起步阶段，我们无法完全预测未来可能面临的所有问题和威胁。因此，我们不仅需要监管，还需要一个值得信赖的机构，它应当对人工智能的发展有深入了解，并能迅速做出反应。

“可以将规章视为我们的牙齿，但在拥有牙齿之前，首先需要用眼睛看到要咬的东西，”尤瓦尔提到，然而目前关于人工智能的大部分知识仅掌握在少数国家的几家公司的手中，而全球大多数人，包括很多政府，实际上对发生的事情了解甚少。

他强调，应建立一个类似于天文台的全球人工智能发展观察站。这个观察站能够向我们提供关于实际情况的反馈，尖端技术的现状，潜在危险和机遇。

尤瓦尔还表示，达成一项全球性的人工智能协议是相当困难的，因为很难确保各国是否履行责任。然而，如果建立了全球人工智能观察站，可以仅仅进行观察而无需监管，向人们通报各国的实际情况，那么每个政府都可以承诺提供一定的资金来支持这个机构。这样的观察站需要大量资金来聘请顶尖人才，引进先进技术，需要庞大的预算，而每个政府都可以为其提供资金，并且可以轻易地核查其他政府的履行情况。

最后，在被问及可持续社会的关键要素时，尤瓦尔表示，关键在于更好地理解人类。在他看来，社会发展的最终目标不是创造人工智能或其他东西，而是让人类过上美好和幸福的生活。

“我们真正需要明白的是，人们生活中的痛苦根源是什么，以及人类幸福的来源是什么。”他说，虽然将大量资源、精力和时间投入技术和人工智能的发展是重要的，但我们同样不能忽视对人类及其发展的理解。

“如果我们在开发人工智能方面每花费一美元或一分钟，能够同样在理解和提升人类及其思维方面花费一美元或一分钟，我相信一切都会向好的方向发展，”他总结道。