Agenten unter uns

Große US-Konzerne überboten sich sofort mit lukrativen Angeboten an den Entwickler. Und künftig wird Steinberger bei OpenAI – der KI-Firma, die ChatGPT ins Leben rief – die Entwicklung der nächsten Generation persönlicher Agenten vorantreiben. Seine größte Herausforderung wird es dabei wohl sein, diese Agenten sicherer zu machen als OpenClaw. „Denn in Unternehmen ist es heute viel zu riskant, OpenClaw einzusetzen“, betont Kintz. Viele Firmen, einschließlich der Facebook-Mutter Meta, verbieten ihren Mitarbeitern strikt die Nutzung. Der Grund ist nicht nur, dass OpenClaw Zugriff auf sensibelste Daten hat, die er Fremden ungewollt zugänglich machen könnte. Mehr noch: Der Superagent kann sich neue Fähigkeiten selbst beibringen oder von außen durch manipulierte Eingaben dazu veranlasst werden, schädliche Aktionen durchzuführen – bis hin zum Diebstahl von Schlüsseln und digitalem Geld oder dem Löschen wichtiger Dateien.

Kontrolle und Transparenz sind nötig

„Damit man Agenten vertrauen kann, braucht es auf jeden Fall vielfältige Kontrollmechanismen“, sagt Kintz. „Was darf die Künstliche Intelligenz selbsttätig tun, wer muss wann zustimmen und welche Regeln gelten, bevor sie eine E-Mail rausschickt oder etwas kauft?“, benennt der Fraunhofer-Forscher die zentralen Fragen. „So ließe sich festlegen: Alles unter zehn Euro pro Aktion und 100 Euro am Tag darf der Agent selbst entscheiden.“ Und natürlich muss transparent sein, auf welchem System die KI und das verknüpfte Sprachmodell laufen – „nur auf eigenen Rechnern oder zumindest auf deutschen oder europäischen Servern nach hiesigem Recht?“

Wenn solche Fragen zufriedenstellend gelöst sind, können KI-Agenten sehr hilfreich sein. Das Fraunhofer-Team untersucht in seiner Studie eine große Bandbreite an Einsatzfeldern: von der Vertriebsunterstützung und Sortimentsplanung bis zur Robotersteuerung und sogar der ärztlichen Notfallversorgung. Am Anfang steht eine Einschätzung des „Agentic Level“, also der Leistungsfähigkeit des Agenten. Je größer dieser Wert ist, desto mächtiger ist der Agent – aber desto komplexer und risikoreicher ist auch das System und desto höher sind die Sicherheitsanforderungen.

Beim Agentic Level spielt nicht nur eine Rolle, wie frei und autonom der KI-Agent in seinen Aktionen und Entscheidungen ist, sondern auch, wie gut er mit anderen Agenten und mit Menschen kommuniziert. Kann er zum Beispiel bei einer Reisebuchung eigenständig ein Reisebüro kontaktieren oder sogar dort anrufen, um offene Fragen zu klären? Kann er selbst wählen, auf welchem Weg er das vorgegebene Ziel erreicht? Und was darf er tun, wenn sich die Situation ändert? Darf er zum Beispiel bei einem Streik der Fluglotsen seinen Auftraggeber auf die Bahn oder einen Mietwagen umbuchen und Meetings verschieben?

Auch die Lernfähigkeit des Agenten ist ein Kriterium: Wie sehr passt er sich an die Vorlieben des Nutzers an, kann er sein eigenes KI-Modell nachtrainieren und vielleicht sogar selbst Updates und Änderungen veranlassen? Und schließlich, was vor allem bei Robotern wichtig ist: Wie irreversibel dürfen die Aktionen des KI-Agenten sein? Einen Teller in die Spülmaschine einzuräumen, ist kein Problem, aber wenn ein OP-Roboter das Skalpell ansetzt, ist das nicht mehr rückgängig zu machen.

„Die von uns untersuchten Agenten haben ein Agentic Level zwischen 36 und 70 Prozent, während OpenClaw wohl noch deutlich höhere Werte erreichen würde“, sagt Maximilien Kintz. Er empfiehlt Unternehmen, erst einmal mit moderaten Niveaus zu beginnen, in geschützten Umgebungen und gut überwacht – „der Agent sollte sich schnell wieder einfangen lassen, wenn etwas schiefgeht“, erläutert der Fraunhofer-Forscher.

Ein prüfender Blick durch den Menschen

So könnte ein firmeninterner Agent zunächst Mails sortieren, verschiedene Datenbanken durchstöbern oder beim automatisierten Testen von Software helfen. Etwas komplizierter ist das Beantworten von Kundenanfragen per E-Mail, Chat oder Webformular, wobei die Künstliche Intelligenz auf interne Wissensquellen wie Datenblätter, Richtlinien oder von Menschen formulierte Antworten zurückgreift. Auch das Erstellen von Angeboten könnten künftig Agenten übernehmen. Allerdings: „Dass Inhalte und Preise stimmen, sollten dann Menschen noch überprüfen, schon allein aus rechtlichen Gründen“, stellt KI-Experte Kintz klar.

In Firmen können auch mehrere KI-Agenten in einem Multiagentensystem sinnvoll zusammenwirken. So kann ein Agent ständig Marktdaten analysieren, um Trends zu erkennen, etwa ob in der Mode wieder Retro-Modelle angesagt sind, weite oder enge Hosen, Lederjacken, Wüstenfarben oder Blumenmuster, und wie wichtig den Kunden dabei Nachhaltigkeitsaspekte sind. Ein anderer Agent kann Angebote einholen und Lieferanten bewerten, ein dritter Agent würde Prognosen darüber erstellen, welche Preise sich wohl am Markt durchsetzen lassen, und ein vierter könnte sich schließlich um die Beschaffung und Logistik kümmern.

Gelingt es, die richtigen Produkte zur richtigen Zeit mit den passenden Preisen für die beste Zielgruppe zur Verfügung zu stellen, hätte ein solches Multiagentensystem für Unternehmen einen enormen Mehrwert. Entscheidend ist dabei allerdings, wie die KI-Agenten die nötigen Daten bekommen, die bislang oft auf der langjährigen Erfahrung und Intuition von Fachleuten beruhen – und wo und wann sie Freigaben von Menschen einholen müssen. Dank der Einbindung fortgeschrittener Sprachmodelle ist die Kommunikation mit den Agenten allerdings denkbar einfach. Programmierkenntnisse braucht niemand, denn mit den Agenten lässt sich in natürlicher Sprache diskutieren.

Unterstützung bei medizinischen Notfällen

Dass KI-Agenten ihre Empfehlungen im Dialog erklären können, ist auch ein wichtiges Kriterium für einen Anwendungsfall, den Fraunhofer-Forscher in realitätsnahen Simulationen durchgespielt haben: die medizinische Notfallversorgung. Ärzte müssen oft unter extremem Zeitdruck Entscheidungen treffen. Ein helfender KI-Agent könnte in Eigenregie alle verfügbaren Daten aus medizinischen Aufzeichnungen und Messungen, inklusive Äußerungen aus Gesprächen des Fachpersonals, sichten und zusammenfassen. So ließe sich schnell ein guter Überblick über den Status des Patienten gewinnen. Mit diesen Infos könnte der Agent dann vorschlagen, was für eine sichere Diagnose als Nächstes getan werden sollte, und schließlich Behandlungen nach den klinischen Leitlinien empfehlen. Wenn er das transparent und gut nachvollziehbar tut, könnte ein solcher Agent dem medizinischen Fachpersonal viel Stress ersparen.

In Forschungslabors können KI-Agenten ebenfalls wertvolle Beiträge liefern. So gibt es in der Werkstoffwissenschaft oft Millionen möglicher Kombinationen, um bessere Legierungen oder Katalysatoren herzustellen – etwa für neuartige Wasserstoff-Turbinen oder leistungsstärkere Batterien. KI-Systeme, die mehr Fachliteratur „verdaut“ haben, als je ein Mensch lesen kann, können helfen, den gigantischen Suchraum einzugrenzen und die sprichwörtliche Nadel im Heuhaufen zu finden. Zugleich können sie unkonventionelle Lösungen oder Synthesewege empfehlen, die Forscher noch nicht eingeschlagen haben. Beispiele gibt es bereits für leitfähige Polymere, neuartige Kristallstrukturen und bessere Elektrolyte. Wichtig dabei ist, dass die KI über eine Wissensbasis aus Physik und Chemie verfügt, um unsinnige Vorschläge auszuschließen.

Digitaler Forschergeist

An der Stanford University in Kalifornien haben Forscher um den Bioinformatiker James Zou im Jahr 2025 sogar ein virtuelles Labor entwickelt. Wie in einem Team menschlicher Wissenschaftler arbeiten hier KI-Agenten an neuen medizinischen Entdeckungen. In der Fachzeitschrift Nature berichtet Zou, dass das Team von einem digitalen Projektleiter koordiniert wird, genauer: einem KI-Agenten mit integriertem KI-Sprachmodell. Je nach Thema, das im Fokus steht, greift dieser Projektleiter auf weitere virtuelle Agenten zurück, beispielsweise einen Immunologen, einen Virenforscher und einen Experten für Proteinstrukturen. Diese KI-Agenten kennen in erster Linie die Fachliteratur zu ihrem Spezialgebiet und diskutieren in Treffen mit dem Projektleiter Lösungen für die gestellte Aufgabe.

Hinzu kommt noch ein KI-Agent, dem die Rolle eines Skeptikers zufällt. Er soll die Arbeit der virtuellen Forschergruppe, ihre Hypothesen und die vorgeschlagenen Experimente kritisch hinterfragen sowie logische Fehler und falsche Annahmen aufspüren. Ein erster Erfolg seines virtuellen Labors, berichtet Zou, war das Design neuer Antikörper gegen Coronaviren. Menschliche Beobachter konnten zwar in die Diskussionen eingreifen, die die KI-Agenten untereinander führten, taten das aber nur in etwa einem Prozent der Fälle.

„Die Meetings der KI-Agenten waren wesentlich effizienter als meine eigenen“, sagt James Zou augenzwinkernd. „In der Zeit, in der ich ein einziges Treffen abhalte, haben die Agenten bereits Hunderte wissenschaftlicher Diskussionen absolviert.“ Trotzdem sei das virtuelle Labor natürlich kein Ersatz für menschliche Forscher – aber es könne helfen, neue Ideen zu entwickeln und bessere Fragen zu stellen.

Unterstützung für das Militär

Viel diskutiert wird in letzter Zeit zudem der Einsatz von Künstlicher Intelligenz bei militärischen Konflikten. Für eine schnelle Datenauswertung ist KI heute unverzichtbar: ob bei Satellitenbildern, Videoaufnahmen, Internetkommunikation oder abgehörten Telefonaten. Dank der Sprachmodelle können die Militäranalysten mit ihrer KI einfach chatten: „Zeig mir in diesem Gebiet alle Abschussrampen für ballistische Raketen“ oder „Wann gab es verdächtige Lkw-Bewegungen in dieser Bergregion?“, könnten solche Abfragen sein. Kritischer wird es, wenn die KI für Drohnenpiloten Ziele identifiziert, Flugrouten auswählt oder gar die Drohnen ohne menschliche Überwachung ins Ziel führt. Dann sind auch solche Agenten nicht mehr weit entfernt, die eigenständig Schwärme von Drohnen koordinieren, gegnerische Maßnahmen zur Verteidigung erkennen und ihnen auf intelligente Weise ausweichen.

Das US-Unternehmen Anthropic zumindest hat bei Verhandlungen mit dem Pentagon Anfang 2026 daran festgehalten, dass seine KI-Systeme weder für eine Massenüberwachung im Inland noch für die Steuerung vollständig autonomer Waffen eingesetzt werden dürfen. Anthropic folgt damit der weit überwiegenden Zahl von Ländern der Vereinten Nationen, die ein striktes Verbot von autonomen Waffensystemen erreichen wollen. Gegen den Widerstand der USA, Chinas und Russlands war zwar eine Verhandlungsrunde im März 2026 in Genf wieder einmal erfolglos geblieben – doch in den meisten Staaten herrscht die Überzeugung: Eine Lizenz zum Töten, wie sie der fiktive 007-Agent James Bond besaß, dürfen KI-Agenten niemals erhalten. ■

Der KI-Boom bringt immer leistungsstärkere KI-Modelle hervor, immer mehr Menschen nutzen die Technologie. Einem neuen Bericht zufolge…