耗资十亿日元开发，日本儿童虐待检测 AI 系统项目宣告失败

GoodNav 3 月 4 日消息，近年来，随着人工智能（AI）技术的迅猛发展，日本一些公司和政府部门开始积极探索这一领域，试图借助技术提升工作效率和解决人力不足等问题。然而，该国一个旨在保护儿童免受虐待的人工智能系统项目因技术缺陷而最终失败。

据《读卖新闻》报道，日本儿童与家庭机构（Children & Families Agency）曾投入约 10 亿日元（约合 4850.6 万元人民币），建立一个基于人工智能的系统，以检测儿童虐待行为。该系统并不打算取代人类专家，而是辅助负责临时监护的专家，来判断这些儿童是否适合回归父母身边。系统通过分析 5000 起已确认的儿童虐待案例进行训练，依据 91 个数据点（如儿童的伤痕、父母的态度等）对新案例进行评分，以评估虐待的可能性。

然而，这一系统在实际测试中效果不佳。在对 100 起已确认为存在虐待风险的案例进行分析时，系统仅正确标记了 38 起，其余 62 起都被判定为“风险极低”。例如，有一个孩子声称母亲多次将其头撞击地面，导致其“几乎半死”，但系统却给出了仅为 2 到 3 分的极低评分（满分为 100 分）。专家指出，系统过于依赖物理证据，而忽视了口头证词的价值，此外，5000 个案例的数据量也远远不足以有效训练系统。该机构还承认，系统在数据采集方面存在缺陷，例如无法准确记录儿童的体重下降或伤痕等重要信息。

鉴于上述问题，儿童与家庭机构最终选择放弃该项目。

目前，日本正面临着人口老龄化和劳动力短缺的双重挑战；儿童保护机构也受到了维权组织的批评，认为日本在处理儿童虐待问题时过于妥协，导致儿童处于危险之中。随着大型语言模型（LLM）等生成式 AI 技术的普及，许多公司在其软件系统中添加了“AI”功能。然而，儿童与家庭机构的案例表明，缺乏高质量、高容量的数据仍然是机器学习和 AI 应用中的一个普遍瓶颈。