Menna El-Assady von der ETH Zürich arbeitet an Ansätzen, die ein wechselseitiges Verständnis von KI und Menschen fördern. Das ermöglicht eine bessere Interaktion.
Wenn Menschen heute KI für ihre Arbeitsaufgaben nutzen: Verstehen sie, was sie da tun?
Menna El-Assady: Daran hapert es tatsächlich mitunter. Derzeit vertrauen viele Menschen darauf, dass die von der KI gegebenen Antworten richtig sind – ohne zu wissen, wie diese Antworten überhaupt zustande kommen. Deshalb müssen wir ein Verständnis dafür entwickeln, welche Daten und welche Grundannahmen in einem Modell stecken. Erst dann können wir die Antworten, die wir erhalten, richtig interpretieren. Das Forschungsgebiet, das sich damit befasst, den Anwendenden die Mechanismen der KI-Modelle zu erklären, heißt Explainable Artificial Intelligence (XAI). Wir versuchen also, die Arbeitsweise von KI zu verstehen und daraus eine Art Bedienungsanleitung für den Umgang mit KI zu entwickeln.
Prof. Dr. Mennatallah El-Assady ist Inhaberin der von der Dieter Schwarz Stiftung geförderten Stiftungsprofessur am Departement Informatik der ETH Zürich. Dort leitet sie das Interactive Visualization and Intelligence Augmentation Lab (IVIA Lab), das von der Dieter Schwarz Stiftung gefördert wird. Die gebürtige Ägypterin arbeitet an der Schnittstelle von Datenanalyse, Visualisierung, Computerlinguistik und Explainable Artificial Intelligence und forscht an der co-adaptiven Entwicklung von Mensch und KI.
Wie hilft diese Bedienungsanleitung?
El-Assady: Es geht in erster Linie darum, dass wir KI für Aufgaben nutzen, für die sie tatsächlich geeignet ist. Ihre Stärke liegt im Auswerten von immensen Datenmengen. So kann ich KI als Filter nutzen, der Informationen aufbereitet und gewichtet. Bevor ich also mein Gehirn mit Informationen zu einem bestimmten Thema überflute und damit vielleicht überfordere, lasse ich die KI diese Informationen sortieren. Allerdings: Für fundierte Entscheidungen dürfen wir das kritische Denken nicht vernachlässigen. Wichtig ist, dass wir uns eine gesunde Skepsis gegenüber KI-Aussagen bewahren. Das setzt voraus, dass wir etwas von dem Gebiet verstehen, zu dem wir die KI befragen.
Je überzeugender die Ergebnisse, desto häufiger wird KI genutzt. Wie erreichen Sie, dass diese Ergebnisse zu den jeweiligen Arbeitsaufgaben passen?
El-Assady: Das ist tatsächlich herausfordernd, weil Menschen in unterschiedlichen Berufen auch unterschiedliche Anforderungen an künstliche Intelligenz stellen. Aktuell entwickeln wir KI-Agenten, die darauf trainiert werden, bei bestimmten Arbeitsaufgaben zu helfen, etwa bei der Erfassung, Strukturierung und Zusammenfassung von Analysen. Ganz wichtig: Die KI macht dann Vorschläge – keine Vorgaben.
Weil die KI bislang nicht wirklich versteht, wie Menschen Informationen verarbeiten?
El-Assady: Richtig, das wollen wir damit abbilden. Manche Sprachmodelle etwa verstehen nicht, wie Menschen Entscheidungen treffen. Sie haben auch keine Ahnung von Logik. Egal, ob ich danach frage, wo Bern liegt oder wo Bern nicht liegt, die wahrscheinlichste Antwort lautet: „In der Schweiz.“ In diesem Nichtverstehen steckt eine riesige Aufgabe, die uns die nächsten Jahre beschäftigen wird. Wir können aber mittlerweile aufdecken, wenn Modelle logisch inkonsistente Antworten geben. Diese sinnvoll an die Nutzenden zu kommunizieren ist dann die Aufgabe der Systeme, die wir entwickeln.
Wäre es nicht besser, wenn KI der Logik von Menschen folgen könnte?
El-Assady: Es geht um eine Art gegenseitiges Lernen. In einem nächsten Schritt wollen wir KI-Modellen beibringen, wie Menschen entscheiden würden. Dabei lernen sie durch menschliches Feedback, ob sie Aufgaben und Fragen richtig verstanden und umgesetzt haben. Andererseits arbeiten wir im Austausch mit Expertinnen und Experten verschiedener Disziplinen heraus, wie man idealerweise bestimmte Fragestellungen für die KI formuliert, um zu validen Ergebnissen zu kommen. Wir arbeiten daran, Unternehmen – oder auch einzelnen Menschen – zu ermöglichen, dass sie KI-Modelle auf ihre Bedürfnisse adaptieren. Zentral ist dabei die Frage, was von der KI erwartet wird: umfassende Antworten oder eher Vorschläge und Anregungen.
Wann liefert KI umfassende Antworten, wann Vorschläge?
El-Assady: Wir unterscheiden in unseren sogenannten Guidance-Modellen zwischen Orienting, Directing und Prescribing. Beim Orienting offeriert die KI verschiedene Optionen, ohne zu sagen, was richtig oder was falsch ist. Beim Directing gibt es Rankings, je nach Wahrscheinlichkeit, während die KI beim Prescribing genau eine Antwort liefert.
Sie rücken den Menschen in den Mittelpunkt. Was können nächste Schritte für ein besseres Miteinander sein?
El-Assady: Wir haben beispielsweise einen Prototyp gebaut, mit dem wir erkunden, wie wir die Interaktion und das Vertrauen verbessern können. Ein zentrales Element ist die interaktive Erklärbarkeit: Wer auf einen vom System generierten Vorschlag klickt, erfährt, wie die KI zu dieser Antwort gekommen ist. Ein zweiter wichtiger Aspekt ist der Umgang mit Unsicherheit: Wir versuchen herauszufinden, was passiert, wenn die KI nicht genügend Informationen für eine schlüssige Antwort findet. Anstatt zu spekulieren, spielt die KI die Frage an die Fragestellenden zurück. Technisch ist das alles möglich.
Freiheit und Eigenverantwortung, Unternehmergeist und Weltoffenheit: Die Werte der Schweiz sind das Fundament der ETH Zürich. Die Wurzeln der technisch-naturwissenschaftlichen Hochschule reichen zurück ins Jahr 1855, als die Gründenden der modernen Schweiz diesen Ort der Innovation und des Wissens geschaffen haben. Studierende finden an der ETH Zürich ein Umfeld, das eigenständiges Denken fördert, Forschende ein Klima, das zu Spitzenleistungen inspiriert. Ab 2026 werden die ersten ETH-Professuren auf dem Bildungscampus Heilbronn ihre Tätigkeit aufnehmen, um Lösungen zu den Herausforderungen rund um die digitale Transformation zu erarbeiten und die nächste Generation von kritischen und kreativen Köpfen auszubilden.
Gefördert durch die Dieter Schwarz Stiftung, baut die ETH Zürich auf dem Bildungscampus in Heilbronn schrittweise 15 Professuren auf, die sich der „verantwortungsvollen digitalen Transformation“ widmen. Die Forschungsschwerpunkte liegen dabei auf den Feldern Data Science, künstliche Intelligenz (KI) und Cybersicherheit. Dank einer Laufzeit von 30 Jahren ermöglicht die Fördervereinbarung eine langfristig angelegte Zusammenarbeit sowie Kontinuität in der wissenschaftlichen Arbeit.
Solche Modelle sollten insbesondere für Unternehmen spannend sein. Nehmen Sie da ein entsprechendes Interesse wahr?
El-Assady: Das wünsche ich mir, denn die Interaktion wird zunehmen. In Zukunft werden sich Arbeitsteams – ob in Führungspositionen, der Produktion oder in kreativen Berufen – zunehmend auf Interaktionen mit KI-basierten Systemen verlassen.
WoMent bringt Heilbronner Studentinnen mit Expertinnen aus Wirtschaft und Wissenschaft zusammen. Sarah Bell und Anika Widmann erzählen, was sie voneinander gelernt haben.
Mehr lesen
Forschende am MOLIT Institut für personalisierte Medizin entwickeln Methoden, mit denen sich medizinische Daten analysieren und individualisierte Krebstherapien verbessern lassen.
Mehr lesen
Innovationen in Deutschland sind der Motor unseres Wohlstands, getrieben von exzellenter Forschung, kreativen Start-ups und jeder Menge Unternehmergeist. Was den Wirtschaftsstandort Deutschland stark macht, wie er international mithalten kann – und welche Rolle die Region Heilbronn dabei spielt.
Mehr lesen