Zufall oder Zusammenhang?

Am Institut für Empirische Inferenz des Max-Planck-Instituts für Intelligente Systeme in Tübingen, einem Hotspot für kausales maschinelles Lernen, hat Zhijing Jin den Sprachmodellen nun genauer auf den Zahn gefühlt. „Menschen sind nicht auf ihr Gedächtnis angewiesen, um kausale Zusammenhänge zu erkennen“, sagt die Forscherin. Um die Maschinen zu testen, haben Jin und ihre Kolleginnen die Problemstellungen deshalb in abstrakten Symbolen formuliert, die für die Modelle neu waren. Aus Worten wie „verfärbtes Laub“, „Schnupfen“ und „Temperatur“ wurden also mathematische Variablen wie A, B und C. Und eine typische Frage lautete etwa: Lässt sich ein kausaler Zusammenhang zwischen A und B ableiten, wenn sowohl A als auch B mit C korrelieren?

„Indem wir den Modellen die reine Mathematik vorsetzten, konnten wir überprüfen, ob sie die Zusammenhänge wirklich verstanden haben“, erklärt Jin. Wenig überraschend versagten die 17 getesteten Sprachmodelle fast auf der ganzen Linie. Am schlechtesten schnitten die Open-Source-Varianten ab, gefolgt von kommerziellen Produkten wie GPT-4. Modelle, die schon ein gewisses Spezialtraining in logischem Denken durchlaufen hatten, lieferten etwas bessere Ergebnisse.

Das Ziel: KI mit Körpererfahrung

Ein solches Spezialtraining – im Fachausdruck Finetuning genannt – war auch in Jins Experimenten der Schlüssel zum Erfolg. Denn um den Modellen die den Fragen zugrundeliegende Mathematik beizubringen, hat das Forscherteam sie nachträglich noch mit über 200.000 symbolisch formulierten Fragen und den dazu passenden Antworten trainiert. So ließen sich die Ergebnisse deutlich verbessern. „Zwar ist auch das letztlich wieder nur eine Form von Auswendiglernen“, betont Jin. „Da es aber nur eine beschränkte Zahl solcher logischen Schlussfolgerungen gibt, ist es wohl nur eine Frage der Zeit, bis die Sprachmodelle das meistern werden.“ Allerdings: Um die gelernten Regeln zu verstehen und damit auf menschlichem Niveau Ursachen von Wirkungen unterscheiden zu können, werden Textdaten allein wohl nicht reichen. „Eine Möglichkeit, um dorthin zu kommen, könnte das sogenannte Embodiment sein“, meint Jin. „Denn nur, wer mit einem Körper mit der Welt in Kontakt treten und eigene Erfahrungen machen kann, ist auch in der Lage, ein Gefühl für Bedeutung der Variablen zu erlangen.“

Bis dahin ist es noch ein langer Weg. Doch auch mit Sprachmodellen, die nur über rudimentäres kausales Verständnis verfügen, ließe sich etwa in den Sozialwissenschaften einiges anfangen. So will Jin, die für 2025 zur Assistenzprofessorin an die University of Toronto in Kanada berufen wurde, die Modelle künftig dafür einsetzen, Stimmungsbilder auf sozialen Medien automatisch zu erfassen und deren Ursachen und Auswirkungen zu ergründen. „Das ist Gegenstand aktueller Forschung“, sagt sie. „Die Sprachmodelle könnten etwa Meinungen von Social-Media-Nutzern über Migration erfassen, zwischen positiven und negativen Haltungen unterscheiden und gleich auch noch versuchen, die Gründe für diese Einstellungen zu ermitteln.“

Doch kausale Zusammenhänge schlummern nicht nur in Textdaten. Auch Wirtschaftsdaten können interessante Informationen über Ursachen und Wirkungen enthalten, etwa wenn es um die Frage nach dem Effekt einer Werbeaktion auf den Umsatz eines Unternehmens geht. Auch da sind herkömmliche Modelle auf das bloße Erkennen von Korrelationen beschränkt. Sie können zwar aus Kundendaten wie Wohnort, Alter, Geschlecht und dem bisherigen Kaufverhalten darauf trainiert werden, das künftige Kaufverhalten von Kunden vorherzusagen. Und wenn die Kundendaten etwa auch den Erhalt eines Rabattangebots beinhalten, stellen sie mit Leichtigkeit eine etwa bestehende Korrelation mit einem darauffolgenden erhöhten Konsum fest.

Der Wirkung von Rabatten auf der Spur

„Ob der Rabatt aber tatsächlich die Ursache für den höheren Konsum war, bleibt offen“, sagt Martin Huber, Professor für Angewandte Ökonometrie und Politikevaluation an der Universität Freiburg. „Schließlich könnten in der Vergangenheit beispielsweise nur besonders guten Kunden Rabatte angeboten worden sein, die von vornherein viel kaufen.“ Der Rabatt wäre dann in Wirklichkeit selbst eine Wirkung des hohen Konsums und nicht die Ursache dafür. Huber setzt deshalb auf kausales maschinelles Lernen, um aus passiv gesammelten Daten nachträglich kausale Effekte von Eingriffen beim Marketing wie Rabatten zu messen.

Bestünde die Möglichkeit, ein Experiment zu machen, wäre die Sache einfach. Man müsste bloß die Kunden per Zufallsentscheid in zwei Gruppen aufteilen, von denen eine den Rabatt erhält, während die andere leer ausgeht. Damit wäre der Unterschied im danach beobachteten Kaufverhalten als Effekt der Rabattaktion identifiziert. „Solche Experimente sind aber sowohl zeitaufwendig als auch teuer“, sagt Huber. „Deshalb versuchen wir, mithilfe von maschinellem Lernen aus bereits existierenden Daten solche Experimente zu simulieren.“

Entscheidend dabei ist, zwei Gruppen von Kunden zu bilden, die sich zwar durch den Erhalt oder Nichterhalt eines Rabatts unterscheiden, in Bezug auf andere relevante Variablen aber vergleichbar sind. „Welche Variablen das sind, können zwei einfache Machine-Learning-Schritte klären“, sagt Huber. Dafür müssen im analysierten Datensatz aber auch alle relevanten Variablen vorhanden ein, die gleichzeitig den Erhalt des Rabatts und das Kaufverhalten beeinflussen. So könne der erste Schritt eine starke Korrelation zwischen früherem und aktuellem Kaufverhalten feststellen – und der zweite eine starke Korrelation zwischen früherem Kaufverhalten und Angebot eines Rabatts. „Damit wäre das frühere Kaufverhalten als eine der Variablen identifiziert, die im simulierten Experiment vergleichbar sein müssen“, sagt Huber.

Letztlich ist es bei dieser Art des kausalen maschinellen Lernens also der Mensch, der sich ein geeignetes Konzept überlegen muss, um aus den von der Künstlichen Intelligenz aufgedeckten Korrelationen ursächliche Zusammenhänge abzuleiten. „Bisher sind es hauptsächlich Big-Tech-Unternehmen wie Amazon oder Google, die solche Kausalanalysen erstellen“, berichtet Huber. Deren Forschungsabteilungen seien in der Regel größer als die volkswirtschaftlichen Abteilungen an Universitäten und würden inzwischen sogar wissenschaftliche Papiere zu den von ihnen verwendeten Methoden veröffentlichen. „Das ist eine spannende Entwicklung und wird wohl dazu führen, dass bald auch kleinere Unternehmen diese Techniken einsetzen“, meint der Wissenschaftler.

Wie wirksam ist ein Medikament?

Ähnliche Methoden, um aus bereits vorhandenen Daten kausale Effekte abzuleiten, werden auch bereits in der Medizin getestet, etwa wenn es um die Frage nach der Wirksamkeit bestimmter Medikamente geht. Denn auch hier kann aus einer bloßen Korrelation zwischen Medikamenteneinnahme und Gesundung nicht automatisch ein kausaler Zusammenhang abgeleitet werden. „Bei Diabetes könnte etwa eine dritte Variable wie die finanzielle Situation eines Patienten sowohl Ursache für den Erhalt des Medikaments als auch für einen generell gesünderen Lebensstil sein“, erläutert Stefan Feuerriegel, der an der Universität München das Institut für AI in Management leitet. Mit einem internationalen Team hat er kürzlich das Potenzial von kausalem maschinellem Lernen in der Medizin ausgelotet. „Der Goldstandard in der Medizin ist und bleibt zwar die randomisierte klinische Studie mit Placebogruppe“, sagt der Forscher. „Allerdings hoffen wir, mit kausalem maschinellem Lernen einfacher und schneller Hypothesen darüber erstellen zu können, wann welches Medikament am besten hilft.“ Zudem sei es aus ethischen Gründen auch gar nicht immer möglich, Patienten lediglich Placebos zu verabreichen, um randomisierte Studien durchzuführen.

Der Medizinforschung kommt dabei zugute, dass aufgrund der fortschreitenden Digitalisierung immer mehr Patientendaten gesammelt und aufbereitet werden, mit denen die Forscher ihre Maschine-Learning-Modelle füttern können. „In Deutschland gibt es inzwischen viele Initiativen, bei denen sich Universitätskliniken zusammentun, um Analysen über größere Datenmengen laufen lassen zu können“, berichtet Feuerriegel: „natürlich unter Einhaltung hoher ethischer Standards.“

Je größer die Datenmengen, desto besser können die künstlichen neuronalen Netze ihre Stärken bei der Mustererkennung ausspielen und desto mehr Details fördern sie auch zutage. Herkömmliche klinische Studien ermitteln meist nur den aggregierten kausalen Effekt über die gesamte untersuchte Patientenkohorte. Mit maschinellem Lernen lassen sich, sofern die Daten umfangreich genug sind, auch unterschiedliche Wirksamkeiten in kleineren Untergruppen aufschlüsseln. „So können wir auch sehr individualisierte kausale Effekte ermitteln, etwa ob in einer bestimmten Altersgruppe oder bei einem bestimmten Körpergewicht Medikament A besser wirkt als Medikament B“, sagt Feuerriegel. „Das könnte es künftig ermöglichen, noch viel persönlichere Behandlungsempfehlungen zu geben als heute.“

Bis die Maschinen selbst über genug Weltwissen verfügen, um auf menschlichem Niveau Ursachen von Wirkungen zu unterscheiden, wird es wohl noch eine Weile dauern. Doch die Forschungsergebnisse aus Medizin, Ökonometrie und Computerlinguistik zeigen, wie sich den statistischen Datenauswertungsmaschinen, die wir oft als „Künstliche Intelligenz“ bezeichnen, schon jetzt auf die Sprünge helfen lässt, um ihnen Aussagen über Zusammenhänge von Ursache und Wirkung zu entlocken.