„Unternehmen und insbesondere ihre Mitarbeitenden müssen KI-Systeme als wertvollen Partner erkennen, um ihre Prozesse und Produkte zu optimieren und sich wettbewerbsfähig aufzustellen. Nur wenn es uns gelingt, die Arbeit der KI-Systeme transparent und nachvollziehbar zu machen, können wir die Vertrauenswürdigkeit der Technologie stärken und eine große Hürde beim KI-Einsatz beseitigen“, erklärt Maximilian Bause, Gruppenleiter Trusted Machine Intelligence am Fraunhofer IEM.

KI nachvollziehen: Qualitätssicherung beim Setzen von Spreizmuttern

Mit seinem im it’s OWL Projekt ExplAIn entwickelten Demonstrator präsentiert das Fraunhofer IEM eine innovative Qualitätsüberwachung in der Fertigung für das roboterbasierte Setzen von Spreizmuttern – eine essenzielle Technologie in der Automobil- und Zulieferindustrie. Bislang wird der Setzvorgang meist manuell überprüft, was zeitaufwendig und fehleranfällig ist. Zudem sind Unternehmen stark vom Expertenwissen einzelner Mitarbeitender abhängig.

Die neue Lösung nutzt Sensoren, die den Setzprozess erfassen. Eine hybride Algorithmik mit maschinellen Lernverfahren wertet die Daten automatisch aus und überprüft die Prozessqualität. Die Ergebnisse werden in einem Dashboard visualisiert – und dort für die Mitarbeitenden transparent und nachvollziehbar aufbereitet: Neben der Klassifikationsrate zeigt das Dashboard eine quantitative Einschätzung der Prognosezuverlässigkeit. Kritische Messbereiche und Charakteristiken in den Messverläufen, die maßgeblich für die Entscheidung der KI sind, werden farblich hervorgehoben. So werden Entscheidungen nachvollziehbar gemacht.

KI regelkonform einsetzen – Wettbewerbsvorteile sichern

„In unserem Beispiel hat der Mensch vollen Einblick in die Prozesse hinter der KI und in ihre Arbeitsergebnisse, ganz nach dem Prinzip: Vertrauen ist gut, Kontrolle ist besser. Er hat Zugriff auf alle Informationen und hält die Zügel in der Hand, um die beste Entscheidung zu treffen und den Fertigungsprozess effizienter zu gestalten. Die Verantwortung bleibt somit eindeutig beim Menschen“, erläutert Maximilian Bause.

Mit vertrauenswürdig gestalteten KI-Anwendungen können Unternehmen ihre Produktionsprozesse effizienter und fehlerresistenter gestalten – und sich gleichzeitig auf künftige Regularien vorbereiten. Am 2. August 2026 treten die Vorschriften der europäischen KI-Verordnung vollständig in Kraft. Einige Bestandteile hingegen sind bereits jetzt verpflichtend oder werden es in diesem Jahr. Zudem ist in diesem Zusammenhang eine neue KI-Haftungsrichtlinie in Planung, die klare Regelungen für Schäden durch KI-Systeme vorsieht. Unternehmen, die KI frühzeitig sicher und regelkonform integrieren, sichern sich nicht nur einen Wettbewerbsvorteil, sondern gestalten aktiv die Zukunft der intelligenten Produktion.