On-Device-KI
On-Device-KI bedeutet, dass ein Modell für künstliche Intelligenz oder maschinelles Lernen die Inferenz auf Computerhardware im Fahrzeug ausführt, anstatt jede Eingabe an einen entfernten Cloud-Dienst zu senden.
Was lokal geschieht
Das Modell kann auf einem Universalprozessor oder auf Hardware laufen, die für Grafik, Signalverarbeitung oder neuronale Netze optimiert ist. Im Fahrzeug kann lokale Inferenz für Spracherkennung, Aktivierungswort-Erkennung, Innenraumerfassung, Personalisierung oder Vorhersagen eingesetzt werden, die eine schnelle Reaktion erfordern.
Die Ausführung im Fahrzeug kann die Netzwerklatenz verringern, eine Funktion auch ohne Mobilfunkempfang verfügbar halten und die Datenmenge begrenzen, die das Fahrzeug verlassen muss. Sie hat zugleich Grenzen: Rechenleistung, Arbeitsspeicher, Energie und Kühlkapazität des Fahrzeugs sind endlich, und das installierte Modell sowie seine Laufzeitumgebung benötigen weiterhin sichere Aktualisierungen.
Was die Bezeichnung nicht garantiert
On-Device-KI bedeutet weder, dass eine Funktion vollständig offline arbeitet, noch dass keine Daten übertragen werden. Ein Hybridsystem kann einen Verarbeitungsschritt lokal ausführen und einen anderen an die Cloud senden. Kontoprüfungen, Live-Informationen, Modellaktualisierungen oder anspruchsvollere Anfragen können weiterhin eine Verbindung erfordern.
Der Begriff beschreibt, wo die Inferenz stattfindet, nicht wo das Modell trainiert wurde und auch nicht, ob seine Antworten richtig sind. Käufer benötigen die Funktionsbeschreibung und die Datenschutzeinstellungen, um den tatsächlichen Datenweg zu verstehen.
Mehr zum Zusammenspiel von Fahrzeughardware, Softwareplattformen, Cloud-Diensten und KI enthält Infotainment Software Platforms and AI.