自動車業界向けのAI技術を提供するCerence Inc.（以下、セレンス）は、新たな組込み型小規模言語モデル（以下、SLM）「CaLLM Edge」を発表した。
「CaLLM Edge」は、同社のAIアシスタントプラットフォームに組込まれ、セレンスの既存ソリューションのポートフォリオで利用できるSLMだ。
マイクロソフトとの協業により開発および最適化されており、セレンスの自動車メーカの顧客に直接提供されるほか、Microsoft Azure AIモデルカタログでも入手可能だ。
セレンスの自動車データセットを活用し、マイクロソフトのSLMであるPhi-3ファミリーを微調整した結果生まれたもので、自動車の様々なユースケースに対応した専門性の高いAIを提供する。
このモデルは、38億のパラメータ、4kのコンテキストサイズ、4ビットの量子化を有しており、自動車のヘッドユニットに組込むことが想定されている。
また、温度、窓、ドア、座席位置などに関する暗示的/明示的な自動車制御コマンド、地図上の特定の場所（POI）の検索、ナビゲーションや会話形式のインタラクションといった中核機能を備えている。
例えば、「ハリウッド映画で最も人気のある作品は何？」という質問の後に「そのあらすじを教えて」と続く質問に応対可能だ。
さらに「CaLLM Edge」は、主要な自動車プラットフォームと互換性を持っており、組込み型専用（接続がなくても単独で機能）と、ハイブリッド型またはクラウド優先型（接続が切れた場合はバックアップとして機能）の両方で利用可能だ。
これにより、クラウドに接続していない場合でもユーザは生成AIによる主要機能や情報に常時アクセスでき、データは車内にとどまるため、プライバシーも守られる。
セレンスの製品技術エグゼクティブ・バイスプレジデント、ニールス・シャンツ氏は「CaLLM Edgeは、ユーザーがどこにいても、クラウドベースのシステムに求められている、応答性の高い充実したユーザーエクスペリエンスを実現する。マイクロソフトとの協業により、専門分野に特化した当社の知識の深さや、組込み型ソリューションにおける強みを、マイクロソフトの言語モデル能力と融合できることを誇りに思う」と述べている。
同様に、マイクロソフトのビジネス＆インダストリーソリューション部門コーポレートバイスプレジデント、サティシュ・トーマス氏も「セレンスとの協業により、Azure AIモデルカタログでCaLLM Edgeを提供することで、自動車業界がAzure AI StudioとMicrosoft Copilot StudioでAIソリューションを構築できるようになることを嬉しく思う」とコメントしている。
