IT之家 1 月 3 日消息,赛轮思(Cerence)今日宣布扩大与英伟达的合作,以提升其 CaLLM 系列语言模型的功能,包括基于云的赛轮思汽车大语言模型(CaLLM)和 CaLLM Edge 嵌入式小语言模型。

通过此次合作,CaLLM 由端到端云原生软件平台 NVIDIA AI Enterprise 提供支持,CaLLM Edge 的某些方面则由 NVIDIA DRIVE AGX Orin 提供支持。


具体而言,Cerence AI 通过利用 NVIDIA AI Enterprise 软件平台(包括 NVIDIA TensorRT-LLM 和 NVIDIA NeMo)加速 CaLLM 的开发和部署(IT之家注:NVIDIA NeMo 是一个用于构建、定制和将生成式 AI 应用程序部署到生产环境的端到端框架)。

因此,Cerence AI 优化并定制了其 CaLLM 系列模型,以:

  • 在 NVIDIA加速计算和 SoC 上提供更快的车载助手性能

  • 开发汽车优化的 NVIDIA NeMo Guardrails 实现,帮助确保 Cerence 驱动的系统能够驾驭车载交互的细微之处

  • 通过 NVIDIA DRIVE AGX Orin 在 CaLLM Edge 上实施和优化代理架构,帮助推进下一代车载用户体验

ad1 webp
ad2 webp
ad1 webp
ad2 webp