Erklärbare künstliche Intelligenz

Spätestens seit ChatGPT nimmt die Nutzung von künstlicher Intelligenz (KI) in unserem Arbeitsalltag immer weiter zu. Sie in aller Fülle zu durchschauen, erfordert allerdings tiefgreifendes Hintergrundwissen, für dessen Aneignung im auslastenden Berufsleben oft keine Zeit übrigbleibt. Wie kann dieses weitreichende Themenfeld also leichter verständlich gemacht werden?

Erklärbare Künstliche Intelligenz, im Englischen „Explainable Artificial Intelligence“ (XAI), setzt hier an und beschäftigt sich mit der Methode, maschinell erzeugte Ergebnisse für Menschen erklärbar und nachvollziehbar zu machen. Sie wird genutzt, um KI-Modelle, ihre Ausrichtungen sowie ihre erwarteten Auswirkungen zu beschreiben und zu erklären. Dabei steht die transparente, genaue und faire Arbeitsweise von Algorithmen im Vordergrund. Im Gegensatz zur konventionell genutzten künstlichen Intelligenz, die oftmals mit unerläuterten Ergebnissen einhergeht, bietet die erklärbare künstliche Intelligenz einen Einblick hinter das Geschehen. Sie schlüsselt auf, wie bestimmte Algorithmen arbeiten und wie sie zu ihrem Ergebnis kommen.

In KI-Anwendungen werden meist moderne Deep-Learning-Methoden auf der Grundlage neuronaler Netzwerkarchitekturen (DNNs) verwendet, die wegen ihrer verschachtelten und komplexen Strukturen für viele als undurchsichtige „Black Box“ wahrgenommen werden. Darüber hinaus fehlt es vielen DNN-basierten Ansätzen an Transparenz, da sie nicht in der Lage sind zu erklären, wie ihre Algorithmen zu bestimmten Vorhersagen gekommen sind. Die automatisierte Entscheidungsfindung auf der Grundlage solcher KI-Modelle wirft daher zahlreiche rechtliche und ethische Bedenken auf.

KI für KMU

Für Unternehmer:innen ist es besonders vorteilhaft, die entscheidungsfindenden Prozesse der künstlichen Intelligenz zu verstehen, um ihre Nutzung optimieren und im besten Fall eingreifen zu können. So können beispielsweise fehlerhafte Vorgänge bei der Produktherstellung schneller ausfindig gemacht und verändert werden, um am Ende die besten Ergebnisse zu erzielen.

Nun stellt sich die Frage: Wie können sich wenig erfahrene klein- und mittelständische Unternehmer:innen praxisbezogene XAI-Anwendungen vorstellen? Und wie gehen diese Anwendungen vor, um ihre Ergebnisse auszuwerten?

Wir beantworten dies anhand zweier Webanwendungen. Sie zeigen, wie Netzwerksondierung, Aufmerksamkeitsmechanismen, Modellsurrogation und störungsbasierte interpretierbare Methoden wie Grad-CAM, Grad-CAM++ und Layer-wise relevance propagation (LRP) verwendet werden können, um zu erklären, wie DNN-Modelle ihre Vorhersagen treffen und den Weg zu XAI ebnen.





Kleidungs­klassifizierung

Dieser Demonstrator zeigt, wie mit Hilfe von künstlicher Intelligenz verschiedene Kleidungsstücke auf Bildern erkannt und klassifiziert werden.

Ausprobieren
Anomalie­erkennung

Hier werden Gegenstände in industriellen Prozessen mit Hilfe von künstlicher Intelligenz auf Fehler bzw. Anomalien analysiert und ausgewertet.

Ausprobieren