AI działająca w urządzeniu
AI działająca w urządzeniu oznacza, że model sztucznej inteligencji lub uczenia maszynowego wykonuje wnioskowanie na sprzęcie komputerowym wewnątrz pojazdu, zamiast wysyłać każde dane wejściowe do zdalnej usługi chmurowej.
Co odbywa się lokalnie
Model może działać na procesorze ogólnego przeznaczenia albo na sprzęcie zoptymalizowanym pod kątem grafiki, przetwarzania sygnałów lub obciążeń sieci neuronowych. W pojeździe lokalne wnioskowanie może służyć do rozpoznawania mowy, wykrywania słowa aktywującego, monitorowania kabiny, personalizacji lub przewidywań wymagających szybkiej reakcji.
Wykonywanie obliczeń w urządzeniu może zmniejszyć opóźnienie sieciowe, utrzymać dostępność funkcji bez zasięgu komórkowego i ograniczyć ilość danych opuszczających samochód. Ma też ograniczenia: pojazd dysponuje skończoną mocą obliczeniową, pamięcią, energią i wydajnością chłodzenia, a zainstalowany model oraz środowisko wykonawcze nadal wymagają bezpiecznych aktualizacji.
Czego nazwa nie gwarantuje
AI działająca w urządzeniu nie oznacza, że funkcja jest całkowicie offline ani że żadne dane nie są przesyłane. System hybrydowy może przetwarzać jeden etap lokalnie, a inny wysyłać do chmury. Kontrola konta, aktualne informacje, aktualizacje modelu lub bardziej wymagające żądania mogą nadal wymagać łączności.
Termin opisuje miejsce wykonywania wnioskowania, a nie miejsce trenowania modelu ani dokładność jego odpowiedzi. Aby zrozumieć rzeczywistą drogę danych, nabywcy potrzebują opisu funkcji i ustawień prywatności.
Szerszą relację między sprzętem pojazdu, platformami oprogramowania, usługami chmurowymi i AI opisuje Infotainment Software Platforms and AI.