MLOps für AI auf eingebetteten Systemen
Intelligenz für die Kleinen
Der Einsatz künstlicher Intelligenz nimmt auch auf eingebetteten Systemen zu. Mit MLOps als Entwicklungsprozess setzen Datenanalysten, Entwickler und Admins Projekte gemeinsam um.
Künstliche Intelligenz wird zunehmend am Rand des Netzwerks gebraucht, auf Edge-Computern und Mikrocontrollern. Typische Anwendungsfälle dieser Edge AI sind die Hinderniserkennung beim autonomen Fahren, Gestenerkennung in der Heimautomatisierung oder Sprachverarbeitung beim Erstellen ärztlicher Befunde. Gerade beim Erkennen von Hindernissen durch autonome Fahrzeuge zeigt sich einer der Gründe: Bei der Verarbeitung auf einem entfernten Server wäre die Reaktionszeit viel zu lang. Wer Daten dort verarbeitet, wo sie entstehen, geht außerdem Sicherheitsrisiken aus dem Weg.
Embedded Devices im IoT-Netz oder andere Endgeräte wenden also neuronale Netze zur Entscheidungsfindung an (Inferenz), während das zeitaufwendige und rechenintensive Training der Modelle auf leistungsfähigen Servern stattfindet. Dank Technologien wie TinyML ist der Transfer fertiger Modelle auf eingebettete Systeme meist einfach.