Dabei ist das TiRex Modell kleiner als die Wettbewerbsmodelle mit nur 35 Millionen Parametern und somit sehr speichereffizient. Es ist anderen Methoden nicht nur in der Vorhersagequalität überlegen, sondern auch noch viel schneller als diese.

„Wir sprechen hier nicht mehr über kleine Verbesserungen, sondern über eine deutliche Qualitätssteigerung durch TiRex im Vergleich zu anderen Modellen und das im Kurz- als auch im Langzeitbereich”, erklärt Hochreiter, Chief Scientist von NXAI und Lehrstuhlinhaber an der JKU Linz.

Zeitreihen und deren Analyse bestimmen den industriellen Alltag auf der ganzen Welt- auch in der Robotik. „Viele Menschen schauen auf Large Language Models wie ChatGPT, aber die großen Potenziale in der Industrie liegen woanders; beispielsweise in schnellen und speichereffizienten Zeitreihenmodellen - im Auto, in der Maschine, am Förderband, beim Schweißen oder in der Robotik. Überall dort fallen Zeitreihendaten an, die genutzt werden können und mit denen Geld verdient werden kann oder aus denen digitale Produkte entwickelt werden können. Vortrainierte Zeitreihenmodelle werden heute millionenfach heruntergeladen und schon wirtschaftlich genutzt”, erklärt Albert Ortig, CEO von NXAI.

Das NXAI-Modell TiRex setzt dabei auf In-Context-Learning. „Diese Lernmethode erlaubt Zero-Shot-Vorhersagen – das heißt, Vorhersagen für neue Zeitreihen erfordern kein zusätzliches Training. Dadurch lässt sich das Modell auch von Nicht-Experten als Prognosewerkzeug einsetzen und kann einfach in existierende Workflows integriert werden. Außerdem zeigen sich insbesondere bei begrenzter Datenverfügbarkeit Verbesserungen der Vorhersagequalität.”, erklärt Andreas Auer, Researcher NXAI.

Dadurch können beispielsweise Maschinenbauern ihren Kunden TiRex-Modelle als digitale Produkte zur Optimierung anbieten, die dann dank In-Context-Learning ohne neues Training beim Kunden laufen und auf die Daten des Kunden automatisch optimiert werden. „Entscheidend ist, wie gut das Modell auf neue Zeitreihen generalisiert – TiRex tut das hervorragend”, ergänzt Hochreiter.

Ausschlaggebend dafür ist die Fähigkeit des Modells, den Systemzustand laufend zu überwachen, zu analysieren und zu aktualisieren. Dieses sog. „State Tracking” des Systemzustands können transformer-basierte Ansätze nicht. Das bedeutet: TiRex kann versteckte oder latente Zustände eines Prozesses über die Zeit hinweg approximieren, was die Vorhersagen verbessert – beispielsweise was macht der Roboterarm? Die Modell-Architektur hat aber laut NXAI noch einen weiteren Vorteil, denn sie kann an Hardware angepasst werden und ermöglicht damit Embedded KI-Anwendungen.

Erste Robotiker testen das Modell und den xLSTM schon. Wir erwarten die ersten Use Cases.