Arm 宣布将 AI 推理性能优化软件库 Kleidi 扩展到车用市场

3 月 12 日消息，Arm 今日宣布将其 AI 推理性能优化软件库 Kleidi 扩展到车用市场，透过 Arm Kleidi，合作伙伴将可充分发掘下一代特定应用 AI 模型在汽车中的优势，并加快其部署速度。

获悉，Arm Kleidi 于 2024 年推出，开发人员无需进行任何额外工作，就能利用其为 Arm CPU 上运行的 AI 推理工作负载提供软件性能优化。此前该软件库已被移动设备、云服务和数据中心等关键领域应用。

Arm 宣称，通过其与 Corellium 联合开发的虚拟平台，亚马逊 AWS 为 SDV 软件定义汽车打造了新的概念验证 AI 聊天机器人，可让司机直接与汽车进行互动，提出问题或询问仪表板警报，而无需翻阅汽车用户手册。

由于使用了集成 KleidiAI 的最新版 Llama.cpp 来进行开发，AWS 实现了聊天机器人性能的显著提升：响应时间缩短至 1~3 秒，性能提升达 10 倍。同时 Kleidi 软件库为开发人员节省了 6 周的底层软件优化时间。

Arm 车用事业部产品与解决方案副总裁 Suraj Gajendra 表示：

在汽车产业中，AI 通常被称为自动驾驶汽车的核心 —— 听起来颇具未来感，距离其大规模量产上路还有数年时间。

然而，实际的情况是，当下新车型中的很多应用和功能，从自适应巡航控制、个性化车载信息娱乐系统到驾驶和乘客监控系统，都已使用 AI 技术，并且这些特定应用的模型和工作负载已在 Arm 平台上高效地运行。

这归功于 Arm 运算平台卓越的灵活性、性能、效率和可扩展性，使其成为整个汽车行业中开发人员的首选平台。

该内容转自IT之家