TwinCAT Machine Learning Creator: Automatisiertes KI-Training für industrielle Anwendungen
Künstliche Intelligenz (KI) ist eine äußerst generalistische und zugleich erfolgreiche Technologie zur Automatisierung von Prozessen. Sie ist in der Lage, die Grenzen des bislang Realisierbaren – der auf klassischen Algorithmen basierenden Automatisierung – zu verschieben. Mit ihren Vorteilen wird sich die KI aber erst dann in industriellen Anwendungen durchsetzen, wenn die entsprechenden KI-Modelle in der Praxis einfach und ohne spezielles KI-Know-how eingesetzt werden können. Genau aus diesem Grund hat Beckhoff die Software TwinCAT Machine Learning Creator entwickelt.
In der klassischen Algorithmen-basierten Automatisierung werden recht starre Konstrukte verwendet – quasi ein Regelwerk. Wenn eine Situation A eintritt, dann reagiere mit B, um ein gewünschtes Ergebnis C zu erhalten. Es wird also der Weg von einer definierten Situation zu einem gewünschten Ergebnis erdacht und implementiert. Hingegen wird bei KI-basierten Methoden anhand von Beispielen der Weg von der Situation zum Ergebnis automatisiert erlernt, es muss also nicht von Menschen explizit erdacht und in einen Algorithmus überführt werden.
Im industriellen Umfeld existiert eine Vielzahl potenzieller KI-Anwendungen, aktuell insbesondere die KI-basierte visuelle Inspektion. Dazu gehören u. a. die End-of-Line-Kontrolle eines produzierten Produkts, die Sortierung von (häufig natürlichen) Produkten in Qualitäts- oder andere Merkmalsklassen sowie die optische Prozessbeobachtung und -klassifikation. Konkrete Beispiele für dieses breite Applikationsfeld sind:
- die Endkontrolle eines produzierten metallischen Körpers hinsichtlich seiner Form und/oder Oberflächenbeschaffenheit,
- die Sortierung von natürlichen Produkten wie z. B. Früchte, Holzoberflächen oder Wolle in verschiedene Qualitätsklassen,
- die Sortierung von Abfällen für das Recycling,
- die Beobachtung einer Prozesszone z. B. beim Laserschweißen sowie
- visuelle Lokalisierungsaufgaben, um ein gesuchtes Objekt beispielsweise greifen zu können.
KI-basierte Methoden zur Bewältigung der genannten Aufgaben verfügen über eine herausragende Eigenschaft: Der gelernte Algorithmus zeigt sich – insofern er gut trainiert wurde – sehr robust gegenüber einer Varianz der Eingangsdaten. Das bedeutet, dass eine gut trainierte KI, natürlich mit Grenzen, auch mit unbekannten Situationen zurechtkommt. Fehler in produzierten Produkten, eine Anomalie in einem Laserschweißprozess, immer etwas anders aussehende Holzoberflächen – der Algorithmus muss mit diesen unbekannten Situationen umgehen können.
Vor dem Hintergrund des immensen Potenzials ist die heutige Herausforderung von Industriebetrieben der Mangel an Fachkräften, die nach industriellen Maßstäben KI-Modelle erstellen können. Obwohl inzwischen Data-Science- und Machine-Learning-Studiengänge an den Hochschulen und Universitäten zur Normalität geworden sind, übersteigt der Bedarf an KI-Experten bei Weitem deren Verfügbarkeit auf dem aktuellen Arbeitsmarkt. Hinzu kommt, dass KI-Experten nur zusammen mit einem Automatisierungs- oder Prozessexperten erfolgreich Herausforderungen der Automatisierung lösen können. Hier setzt Beckhoff an: Der TwinCAT Machine Learning Creator automatisiert die komplexen KI-Trainingsprozesse und befähigt dadurch direkt den Automatisierungs- oder Prozessexperten, KI-Modelle zu erstellen. Dadurch wird das Potenzial dieser Technologie direkt und für jeden einsetzbar.
Das Beckhoff KI-Ökosystem
Beckhoff bietet ein komplettes Ökosystem für industrielle KI-Anwendungen, und zwar mit Fokus auf der Ausführung von KI-Modellen direkt auf der Industriesteuerung (in der SPS). Über den Feldbus EtherCAT und die entsprechenden EtherCAT-Netzwerkteilnehmer können diverse Sensoren an die Steuerung angeschlossen werden. Darüber hinaus steht ein umfangreiches systemintegriertes Sortiment an Vision-Hardware bereit: industrielle, robuste Kameras, industrietaugliche Objektive sowie Beleuchtungen. Die sensorischen Informationen werden zu einer PC-basierten Steuerung übertragen und können dort direkt, auch mit KI, verarbeitet werden. Dazu stehen SPS-integrierte Ausführungsmodule für trainierte KI-Modelle zur Verfügung (TwinCAT Machine Learning Server, TwinCAT Vision Neural Networks, TwinCAT Neural Network Inference Engine), die sowohl auf die Rechenressourcen der CPU als auch der einer optional vorhandenen NVIDIA-GPU zurückgreifen können. Die KI-Ausführungsmodule laden trainierte KI-Modelle, die im offenen Standard „ONNX“ abgespeichert wurden. Dadurch hat der Nutzer die Freiheit, in beliebigen Trainingsumgebungen KI-Modelle zu trainieren und dann in der TwinCAT-Steuerung auszuführen. Mit dem Ultra-Kompakt-Industrie-PC C6043 bietet Beckhoff eine skalierbare Hardware mit bereits integrierter Embedded-GPU von NVIDIA nach industriellen Standards an. Dementsprechend ist das gesamte Beckhoff Ökosystem optimal ausgerichtet auf die Integration von KI-Modellen in die Steuerungsebene der Maschine.
Steuerungsintegrierte KI-Modelle bieten den Vorteil, dass deren Ergebnisse direkt in der Steuerung zur Ausführung von Aktionen genutzt werden können. Wird beispielsweise ein Bauteil ausgeschleust, in Folgeprozessen speziell behandelt oder nochmals durch den gerade durchlaufenen Prozess geführt, lässt sich die Information in der Maschinensteuerung berechnen und so auch unverzüglich nutzen. Außerdem entfallen kostenintensive weitere Hardware-Geräte mit aufwendigen Interfaces zur Steuerung, eigenen Wartungs- und Update-Plänen sowie separaten IT-Security-Richtlinien.
Automatisiertes Erstellen von KI-Modellen
Entsprechend der Philosophie der offenen Steuerungstechnik hat Beckhoff die bereits vorhandenen SPS-integrierten Ausführungsmodule für KI-Modelle unabhängig von der verwendeten KI-Trainingsumgebung gestaltet. Dies wurde erreicht durch die Unterstützung des ONNX-Standards. Eine ONNX-Datei beschreibt ein trainiertes KI-Modell als Abfolge von Operatoren mit anhängigen Parametern. Diese Beschreibungsdateien können mit TwinCAT 3 Functions, wie z. B. TwinCAT Machine Learning Server, geladen und dann aus der SPS heraus ausgeführt werden. Die einschlägigen KI-Frameworks wie PyTorch oder Scikit-learn, die in der Regel zum Trainieren von KI-Modellen eingesetzt werden, haben als Zielgruppe allerdings spezielle KI-Experten, die in der Programmierumgebung Python Trainingsdaten aufbereiten, KI-Modellstrukturen anlegen und dann KI-Modelle trainieren.
Mit dem TwinCAT Machine Learning Creator bietet Beckhoff nun einen deutlich einfacheren Zugang: Der Ansatz ist eine webbasierte Oberfläche, welche durch die Schritte Daten-Upload, Modell-Training sowie Modell-Analyse und -Download führt. Zielgruppen sind insbesondere Automatisierungs- und Prozessexperten ohne einen spezifischen Data-Science-Hintergrund. Zielstellung ist die Standardisierung des Trainingsprozesses von KI-Modellen.
Der Daten-Upload
Das Konzept des maschinellen Lernens bedeutet „Lernen anhand von Beispielen“. Zentral ist daher ein sauberer repräsentativer Datensatz, anhand dessen die Aufgabe erlernt werden kann. Dazu ist in der Regel ein annotierter Datensatz notwendig – im Bereich der Bildklassifikation bedeutet das, dass eine gewisse Menge an Beispielbildern durch einen Menschen bereits klassifiziert wurde. Jedes Bild hat also ein sogenanntes Label, was das gewünschte Ergebnis darstellt. Die Beziehung zwischen Bild und Label wird durch ein Label-File, im einfachsten Fall eine Tabelle mit Dateinamen und Label, hergestellt.
Der Datenupload ist offen gestaltet. Es werden unterschiedliche Bild-Datenformate sowie Label-File-Formate unterstützt. Dadurch sind Nutzer frei in der Wahl eines Labeling-Werkzeugs (falls eines verwendet werden soll). Um eine Durchgängigkeit von Daten aus der TwinCAT-Steuerung zum TwinCAT Machine Learning Creator herzustellen, wird aktuell daran gearbeitet, den TwinCAT Analytics Data Scout als Labeling-Werkzeug einzusetzen.
Das KI-Modell-Training
Die Konfiguration einer KI-Trainingssession ist schlank gehalten: Es wird ein Modellname angelegt und ein Datensatz (oder mehrere Datensätze) dem Trainingsprozess hinzugefügt. Alle weiteren Konfigurationen sind optional und ermöglichen bei Bedarf eine Präzisierung des KI-Modell-Laufzeitverhaltens auf der TwinCAT-Steuerung. Werden eine Beckhoff Hardwareplattform und die TwinCAT-Software spezifiziert, auf der das zu erstellende KI-Modell ausgeführt werden soll, können Nutzer eine maximal akzeptable Ausführungszeit für das KI-Modell angeben. Diese Informationen werden beim Erstellungsprozess der KI-Modelle berücksichtigt. Wird keine maximale Ausführungszeit angegeben, wird ausschließlich nach dem Gesichtspunkt der KI-Modell-Performance (Generalisierungsfähigkeit) optimiert.
Die Modell-Analyse
KI-Modelle, insbesondere die mit dem TwinCAT Machine Learning Creator erstellten tiefen neuronalen Netze (Deep-Learning-Modelle), verfügen über sehr gute Generalisierungseigenschaften. Das bedeutet, dass die erwartbare Performance der Modelle sehr gut ist. Jedoch sind neuronale Netze „Black-Boxes“, deren Wirkungsweise nicht direkt, sondern nur über spezielle Analysemethoden transparent gemacht werden kann. Man spricht bei diesen Methoden auch von „Explainable AI“.
Die Analysemethoden für ein trainiertes KI-Modell sind vielfältig. Die Software trennt automatisch den hochgeladenen Datensatz in Trainingsdaten, die zum Modell-Training genutzt werden, sowie in Testdaten, die der Modell-Analyse dienen. Die Testdaten sind dem KI-Modell unbekannte Fälle, bei denen das Ergebnis über die Labels bekannt ist. So können statistische Werte berechnet und dargestellt werden, wie oft ein Modell richtig liegt und wie oft nicht. Eine sogenannte Confusion-Matrix gibt beispielsweise detailreich Aufschluss darüber, wie „wahre Labels“ und „vorhergesagte Labels“ verteilt liegen. Darüber hinaus lassen sich Konfidenzen für jede Modellausführung berechnen und diese statistisch darstellen. Ebenso ist es möglich, für jede Modellausführung eine Attention-Map zu erzeugen, die über das Eingangsbild gelegt aufzeigt, welche Bildregionen maßgeblich zur Klassifikation herangezogen wurden.
Die „Explainable AI“-Methoden dienen dazu, die Akzeptanz des KI-Modells zu erhöhen. Denn nur wer genauere Einblicke dazu erhält, wie sich das trainierte Modell verhält, ist am Ende auch bereit, die Modelle einzusetzen.
Der Modell-Download
Ist ein KI-Modell trainiert und soll nun in die Maschinensteuerung integriert werden, kann es als ONNX-Datei von der Plattform heruntergeladen werden. Das bedeutet, dass das KI-Modell nicht an die Ausführung in TwinCAT gebunden ist und beliebig oft auch auf beliebigen Plattformen deployed werden kann. Darüber hinaus lässt sich der vollständige SPS-Code für TwinCAT im PLCopen-XML-Format von der Plattform herunterladen. Darin enthalten ist dann der vollständige Prozessablauf von der Bildaufnahme über die Bildvorverarbeitung bis hin zur KI-Modellausführung und zum Postprocessing. Der Übergang vom Trainings-Tool in die TwinCAT-SPS ist entsprechend nahtlos gestaltet.
Ein weiterer Vorteil des Exports einer ONNX-Datei aus der Trainingsplattform ist die mögliche Einbindung von KI-Experten. Sie können den TwinCAT Machine Learning Creator nutzen, um schnell und standardisiert an ein erstes KI-Modell zu gelangen. Das Ergebnis im ONNX-Format lässt sich dann in individuelle Experten-Tools einlesen, um damit weiterzuarbeiten – beispielsweise für zusätzliche Analysen oder eine weitergehende Verfeinerung des Modells.
Eigenschaften und Vorteile
Der TwinCAT Machine Learning Creator bietet folgende Eigenschaften:
- einfache Modell-Erstellung über No-Code-Plattform in TwinCAT
- latenzoptimierte KI-Modelle für Echtzeitanwendungen
- Implementierung von offenen Standards, Schnittstellen und Best Practices
- Bereitstellung von trainierten Modellen im offenen ONNX-Standardformat
- Transparenz bei Entwicklung, Test und Validierung von KI-Modellen
- Inhouse-Standardisierung und -Weiterentwicklung von KI-Modellen
- ideal für KI-gestützte Qualitätssicherung bei der Bildverarbeitung
Die automatisierte Modell-Erstellung ergibt nachfolgende Anwendungsvorteile:
- Erschließung des KI-Potenzials für alle Unternehmen
- größerer Wettbewerbsvorteil durch KI auch für kleinere Unternehmen
- Unterstützung mit Blick auf den zunehmenden Fachkräftemangel
- Minimierung von Arbeitsbelastung und Fehlerrisiko bei KI-Experten
- Verbleiben anwendungsspezifischer Daten im Unternehmen und damit deren Schutz
- schnellere Projektentwicklung und Amortisation