Der auf künstlicher Intelligenz basierende Chatbot ChatGPT, der im November 2022 veröffentlicht wurde, ist zu beeindruckenden Leistungen in der Lage: Er kann ähnlich wie ein Mensch kommunizieren, komplizierte Examensaufgaben lösen, Gedichte verfassen und Computercodes entwerfen. Allerdings haben mehrere Tests gezeigt, dass sich der Bot in einigen Fällen Antworten und Quellen frei ausdenkt, fragwürdige Ratschläge erteilt und in manchen Fällen sogar Falschinformationen verbreitet. Doch wie verhält sich ChatGPT, wenn es um ethische Entscheidungen geht? Vertritt die künstliche Intelligenz eine klare Position? Und inwieweit lassen sich Nutzer von moralischen Ratschlägen des Bots beeinflussen?
Moralische Fragen an die KI
Mit dieser Frage hat sich ein Team um Sebastian Krügel von der Technischen Hochschule Ingolstadt beschäftigt. „Um ChatGPT moralische Ratschläge zu entlocken, haben wir zunächst gefragt, ob es richtig ist, eine Person zu opfern, um fünf zu retten“, berichten die Forscher. Alle Experimente fanden im Dezember 2022 statt, rund zwei Wochen nach der Veröffentlichung von ChatGPT. Die Antworten des Bots waren über mehrere Versuche hinweg uneinheitlich. Mal argumentierte ChatGPT, jedes Leben sei wertvoll und daher sei es niemals akzeptabel, eine Person zum Wohle fünf anderer Menschen zu opfern. In anderen Fällen schrieb der Chatbot, manchmal sei es notwendig, harte Entscheidungen zu treffen und es sei wichtig, so viele Leben wie möglich zu retten, auch wenn das bedeutet, ein Leben dafür zu opfern.
„Die widersprüchlichen Antworten zeigen, dass ChatGPT keine feste moralische Haltung hat“, folgern die Autoren. „Dieser Mangel hindert es jedoch nicht daran, moralische Ratschläge zu erteilen.“ Doch würden sich Nutzer von diesen moralischen Ratschlägen beeinflussen lassen? Um das herauszufinden, präsentierte das Team 767 US-amerikanischen Probanden eines von zwei moralischen Dilemmas: In beiden Fällen rast ein Zug auf eine Gruppe von fünf Menschen zu. Im ersten Fall hätte der Proband die Möglichkeit, eine Weiche umzulegen, sodass der Zug auf ein anderes Gleis fährt, auf dem nur eine Person steht, die dadurch zu Tode käme. Im zweiten Fall ließe sich der Zug stoppen, indem man eine sehr dicke Person von einer Brücke vor den Zug stößt und so die fünf anderen Menschen rettet. Zusätzlich legten die Forscher den Probanden Argumente von ChatGPT vor, die sich entweder für oder gegen das Opfern der Einzelperson aussprachen.
