Tera Operations per Second (TOPS)
Tera Operations per Second (TOPS) ist eine Spitzenleistungsangabe von einer Billion arithmetischer Operationen pro Sekunde unter festgelegten Bedingungen.
Was als Operation zählt
TOPS wird häufig für neuronale Beschleuniger in Fahrzeugrechnern verwendet. Die Angabe beschreibt, wie viele Operationen mit geringer numerischer Genauigkeit die Hardware theoretisch ausgeben kann. Der Wert hängt jedoch von der Zählweise ab. Eine Multiply-Accumulate-Berechnung kann als zwei Operationen zählen, und Ergebnisse für INT8, INT4, FP8 oder andere Datentypen sind nicht gleichwertig.
Manche Angaben setzen zudem strukturierte Sparsität voraus, bei der bekannte Nullwerte das Überspringen von Rechenschritten ermöglichen. Eine dichte und eine sparse TOPS-Angabe beschreiben deshalb unterschiedliche Bedingungen. Datentyp, Sparsitätsregel, Takt und Systemkonfiguration müssen zusammen mit der Spitzenzahl genannt werden.
Bedeutung im Elektroauto
ADAS-Rechner nutzen Beschleuniger für Aufgaben wie Objekterkennung, Fahrspurinterpretation, Freiraumschätzung, Insassenerkennung und die Kombination mehrerer Wahrnehmungsmodelle. Eine höhere Spitzenleistung kann Raum für größere Modelle oder mehr gleichzeitige Aufgaben schaffen, aber nur, wenn die übrige Plattform Daten liefert und die Software effizient ausführt. ADAS processor
Die im Fahrzeug nutzbare Leistung hängt außerdem von Speicherbandbreite, Sensordatenraten, Latenz, Ablaufplanung, Softwareoptimierung, thermischen Grenzen und Leistungsaufnahme ab. Sicherheitsmechanismen, Redundanz und Rückfallfunktionen können Ressourcen verbrauchen, ohne die beworbene Funktionsliste zu erweitern.
Warum TOPS-Werte schwer vergleichbar sind
Zwei Prozessoren mit derselben TOPS-Angabe können für dasselbe Modell unterschiedliche Inferenzzeiten erzielen. Einer benötigt möglicherweise mehr Zeit für Datentransfers, unterstützt eine andere numerische Genauigkeit oder erreicht einen geringeren Anteil seines theoretischen Maximums. Umgekehrt kann ein Prozessor mit weniger TOPS ein bestimmtes optimiertes Netz schneller oder energieeffizienter ausführen.
TOPS ist daher ein Indikator für Rechenkapazität und kein Maß für Fahrintelligenz, Funktionsqualität oder Fahrzeugsicherheit. Ein aussagekräftiger Vergleich erfordert dieselbe Arbeitslast, Genauigkeit, Zielgüte, Latenzmessung und Leistungsgrenze. Den größeren Sensor- und Rechenkontext erläutert Sensors for automated driving.