News
31.7.2025
Mensch–KI-Kooperation braucht Fachwissen
Wie arbeiten Menschen effektiv mit künstlicher Intelligenz zusammen – und welche Rolle spielt dabei die eigene Expertise? Dieser Frage ging Dr. Fritz Becker in seiner Dissertation nach, die er Anfang Juli mit der Verteidigung erfolgreich abgeschlossen hat.
Im Zentrum seiner Arbeit steht ein Prozess-Modell, das beschreibt, wie menschliche Beobachtende die Kompetenz eines KI-Systems einschätzen: Sie tun dies, indem sie versuchen, dessen Entscheidungen mental zu simulieren. In drei empirischen Studien wurde untersucht, (1) unter welchen Bedingungen Menschen das Verhalten eines Agenten vorhersagen können, (2) wie genau Personen mit unterschiedlichem Erfahrungsstand die Expertise des Agenten bewerten, und (3) wie sich Vertrauen in die Agenten über Zeit hinweg verändert – beeinflusst durch Erwartungen und direkte Erfahrungen. Die Ergebnisse zeigen deutlich: Nur wenn Beobachtende mindestens über das gleiche aufgabenrelevante Wissen verfügen wie die KI, sind sie in der Lage, deren Entscheidungen realistisch einzuschätzen. Fehlt diese Expertise, kommt es häufig zu Fehlurteilen über die Leistungsfähigkeit und Vertrauenswürdigkeit der KI. Interessant ist dabei auch die Dynamik des Vertrauens: Zwar basiert dieses anfänglich auf dem Ruf des KI-Agenten, es passt sich jedoch rasch der beobachteten Leistung an.
Die Arbeit von Dr. Fritz Becker leistet einen wichtigen Beitrag zum Verständnis kognitiver Prozesse in Mensch-KI-Interaktionen und liefert praxisrelevante Impulse für die Gestaltung adaptiver und transparenter KI-Systeme – insbesondere in komplexen Anwendungsfeldern wie Bildung oder beruflicher Weiterbildung, wo der richtige Umgang mit Vertrauen und Kompetenzbeurteilungen entscheidend ist.