Arm公司近期宣布了一項重大進展,將其專為AI推理性能優化的軟件庫Kleidi擴展至車用市場。這一舉措意味著,借助Arm Kleidi,汽車行業合作伙伴將能夠充分挖掘并利用下一代特定應用AI模型的優勢,同時顯著加快這些模型在車輛中的部署速度。
據了解,Arm Kleidi自2024年面世以來,已在移動設備、云服務及數據中心等領域展現出強大的應用價值。該軟件庫無需開發人員額外操作,即可自動為在Arm CPU上運行的AI推理工作負載提供顯著的性能優化。此次擴展至車用市場,標志著Arm在推動AI技術在汽車行業應用方面的又一重要里程碑。
Arm還與Corellium攜手合作,共同開發了一個虛擬平臺。基于該平臺,亞馬遜AWS成功打造了一款針對SDV(軟件定義汽車)的概念驗證AI聊天機器人。這款聊天機器人能夠讓駕駛員直接與車輛進行互動交流,無論是提出問題還是詢問儀表板警報,都無需再翻閱繁瑣的汽車用戶手冊。
AWS在開發過程中采用了集成KleidiAI的最新版Llama.cpp,從而實現了聊天機器人性能的顯著提升。據Arm介紹,該聊天機器人的響應時間已縮短至1至3秒,性能提升幅度高達10倍。同時,Kleidi軟件庫還為開發人員節省了長達6周的底層軟件優化時間,極大地提高了開發效率。
Arm車用事業部產品與解決方案副總裁Suraj Gajendra指出,盡管在公眾眼中,AI往往被視為自動駕駛汽車的核心技術,聽起來頗具未來感,似乎距離大規模量產上路還有數年之遙。然而,在當前的汽車市場中,AI技術其實已經廣泛應用于各種新車型之中。
從自適應巡航控制、個性化車載信息娛樂系統到駕駛和乘客監控系統,這些功能和應用都已經采用了AI技術,并且這些特定應用的模型和工作負載在Arm平臺上展現出了卓越的運行效率。這主要得益于Arm運算平臺所具備的靈活性、性能、效率和可擴展性,使得其成為整個汽車行業中開發人員的首選平臺。