Loading...

谷歌:只要有人工监督,客户即可在“高风险”领域使用其 AI 作出决策

GoodNav 12 月 18 日报道,谷歌近日通过更新其使用政策强调,只要有人工干预,客户便可在“高风险”领域(如医疗保健)中使用其生成式人工智能工具进行“自动决策”。

谷歌:只要有人工监督,客户即可在“高风险”领域使用其 AI 作出决策

根据该公司周二发布的《生成式 AI 禁止使用政策》更新版本,客户在特定条件下可以使用谷歌的生成式 AI 来做出可能对个人权利造成重大不利影响的“自动化决策”,例如涉及就业、住房、保险和社会福利等领域的决策。这些决策在某种程度上有人类监督的情况下被允许。

谷歌:只要有人工监督,客户即可在“高风险”领域使用其 AI 作出决策

需要注意的是,在人工智能领域,自动化决策指的是 AI 系统根据事实或推测的数据做出的决策。例如,人工智能可能会依据申请者的资料决定是否批准贷款,或对求职者进行筛选。

谷歌之前的条款草案表明,涉及生成式 AI 的高风险自动化决策应完全禁止。但谷歌向外媒 TechCrunch 透露,其生成式 AI“实际上从未禁止过”高风险领域的自动化决策,只要有人工干预。

谷歌发言人在接受采访时指出:“人工监督的要求一直存在,适用于所有高风险领域。”他补充说:“我们只是对条款进行了重新分类,并更清晰地列出了一些具体示例,目的是让用户更加明了。”

对于涉及个人的自动化决策,监管机构对 AI 潜在的偏见表示担忧。例如,研究显示,用于信用和抵押贷款申请审批的 AI 系统可能会加剧历史上存在的歧视问题。

报导指出,由于自动决策系统可能影响个人,监管机构对此类人工智能系统潜在偏见的问题表示关注。研究表明,用于信用和抵押贷款审批的人工智能系统可能加剧历史上的歧视现象。

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...
本站已运行: 869天0小时35分37秒