賽輪思（Cerence）近日宣布，其與英偉達(dá)的合作將進(jìn)一步深化，旨在提升其CaLLM系列語言模型的能力，這一系列包括云端部署的賽輪思汽車大語言模型（CaLLM）以及嵌入式小語言模型CaLLM Edge。

此次攜手合作，CaLLM系列語言模型將借助NVIDIA AI Enterprise這一端到端的云原生軟件平臺獲得技術(shù)支持，而CaLLM Edge的某些功能則將通過NVIDIA DRIVE AGX Orin來強化。

具體而言，賽輪思的人工智能部門——Cerence AI，將通過NVIDIA AI Enterprise軟件平臺，包括NVIDIA TensorRT-LLM和NVIDIA NeMo框架，來加速CaLLM系列模型的開發(fā)與部署。NVIDIA NeMo是一個全面的框架，專為構(gòu)建、定制和將生成式AI應(yīng)用推向生產(chǎn)環(huán)境而設(shè)計。

借助這些先進(jìn)技術(shù)，Cerence AI已經(jīng)對其CaLLM系列模型進(jìn)行了優(yōu)化和定制，旨在：

在NVIDIA的加速計算和SoC平臺上，提供更為迅速的車載助手性能。

開發(fā)汽車專用的NVIDIA NeMo Guardrails實現(xiàn)方案，確保Cerence驅(qū)動的系統(tǒng)能夠精準(zhǔn)捕捉并應(yīng)對車載交互的微妙變化。

通過NVIDIA DRIVE AGX Orin，在CaLLM Edge上實施和優(yōu)化代理架構(gòu)，推動下一代車載用戶體驗的實現(xiàn)。