Herr Huber, Sie wollen die Künstliche Intelligenz robust, transparent und erklärbar machen. Was ist das Problem?
Es gibt bislang mehrere Unzulänglichkeiten smarter Systeme – vor allem im Bereich des Maschinellen Lernens. In diesem wichtigen Teilgebiet der Künstlichen Intelligenz, der KI, werden große Datenmengen verwendet, um automatisiert Entscheidungen zu treffen. Man füttert einen Algorithmus mit Daten, auf denen er eigenständig ein Modell aufbaut. Das Modell lässt sich dann auch mit anderen, neuen Daten nutzen. Der Nachteil: Die meisten so entstandenen Modelle sind eine „Black Box“: Selbst die Experten, die den Algorithmus entwickelt haben, wissen am Ende nicht, wie die Ergebnisse zustande kommen. Das gilt beim Maschinellen Lernen besonders im Bereich der künstlichen Neuronalen Netze. Die bestehen teils aus Hunderten Schichten mit Milliarden Parametern. Das ist sogar für Fachleute schlichtweg nicht mehr nachvollziehbar.
Wäre das denn nötig?
Bei manchen Anwendungen ist das kein Problem. Zum Beispiel, wenn Künstliche Intelligenz dazu dient, Musik oder Videos zu empfehlen oder fremdsprachliche Texte zu übersetzen. Wenn das Ergebnis stimmt, ist für die Nutzer alles in Ordnung. Doch es gibt auch Anwendungsbereiche, wo es nicht so einfach ist, etwa beim Thema Diskriminierung. So hat ein großer amerikanischer Online-Händler ein Tool entwickelt, um den Auswahlprozess von Bewerbern um einen Arbeitsplatz zu unterstützen und ungeeignete Bewerber automatisiert auszusortieren. Doch da hat sich herausgestellt: Der Algorithmus diskriminiert Frauen und Minderheiten. Der Grund: Man hat den Algorithmus mit eigenen Daten trainiert – und da bei dem Unternehmen bisher vor allem Männer arbeiten, gibt es von denen auch besonders viele Datensätze. Das hat letztlich dazu geführt, dass der Algorithmus männliche Bewerber bevorzugt hat. Ein anderes Problemfeld sind rechtliche Fragen.
Spielt das eine Rolle?
Ja, zum Beispiel dort, wo die europäische Datenschutzgrundverordnung greift. Da kann und darf man sich als Betreiber eines KI-Systems nicht so einfach aus der Affäre ziehen. So verlangen die Artikel 12 und 13 dieser Verordnung: Wenn personenbezogene Daten verarbeitet werden, haben die Betroffenen ein Recht auf eine leicht verständliche und nachvollziehbare Erklärung, wie automatisch erzeugte Ergebnisse aus der Verwendung ihrer Daten zustande kommen.
Was bedeutet das im konkreten Fall?
Wir forschen gerade in einem Projekt zusammen mit einer Firma aus dem Finanzbereich, die sich mit „Credit Scoring“ beschäftigt: der Beurteilung der Kreditwürdigkeit von Antragstellern auf ein Darlehen. Dort spürt man deutlich den Konflikt zwischen Leistungsfähigkeit und Transparenz. Das Unternehmen setzt derzeit recht einfache Algorithmen ein, die gut nachvollziehbar sind – um den Kunden erklären zu können, warum sie gut oder schlecht bewertet werden. Dabei gäbe es einen Algorithmus, mit dem sich ein Scoring mit höherer Trefferquote hinbekommen ließe. Doch der kann nicht genutzt werden, weil er intransparent ist.
