Arm 宣布将 AI 推理性能优化软件库 Kleidi 扩展到车用市场

GoodNav 3 月 12 日报道，Arm 今天宣布将其 AI 推理性能优化软件库 Kleidi 扩展至汽车市场。通过使用 Arm Kleidi，合作伙伴能够充分发挥下一代特定应用 AI 模型在汽车中的优势，并加快部署速度。

据悉，Arm Kleidi 将于 2024 年推出，开发人员无需额外进行工作，即可利用其为运行在 Arm CPU 上的 AI 推理工作负载提供的软件性能优化。此前，这一软件库已在移动设备、云服务和数据中心等重要领域得到了应用。

Arm 宣称，结合与 Corellium 共同开发的虚拟平台，亚马逊 AWS 为 SDV（软件定义汽车）打造了新概念验证的 AI 聊天机器人，使得司机可以直接与汽车进行互动，询问问题或查看仪表板警报，而无需查阅汽车用户手册。

借助集成 KleidiAI 的最新版本 Llama.cpp 进行开发，AWS 成功显著提升了聊天机器人的性能：响应时间缩短至 1~3 秒，性能提升达到 10 倍。同时，Kleidi 软件库为开发人员节省了 6 周的底层软件优化时间。

Arm 车用事业部产品与解决方案副总裁 Suraj Gajendra 表示：

在汽车行业，AI 通常被视为自动驾驶汽车的核心 —— 这一前景听起来非常吸引人，不过距离其大规模应用仍有数年时间。

然而，实际上，许多新车型中的应用和功能，例如自适应巡航控制、个性化车载娱乐系统以及驾驶与乘客监控系统，均已运用了 AI 技术，这些特定应用的模型和工作负载也已在 Arm 平台上高效运作。

这一切都要归功于 Arm 运算平台出色的灵活性、性能、效率和可扩展性，使其成为汽车行业开发者的首选平台。