mobile icon
Projekt

Psychologische Determinanten der Risikowahrnehmung in Bezug auf Künstliche Intelligenz

ArbeitsgruppeWahrnehmung und Handlung
Laufzeit10/2020-offen
FörderungIWM-Haushaltsmittel
Projektbeschreibung

Kaum ein Gesellschaftsbereich wird so stark mit Chancen und Risiken verbunden wie Künstliche Intelligenz (KI). In diesem Projekt wird untersucht, wie Menschen die Risiken von KI wahrnehmen, und wie solche Einschätzungen mit psychologischen Faktoren wie dem Vorwissen und der Urteilssicherheit zusammenhängen. Die Auswirkungen der Risikowahrnehmung auf das Verhalten werden dabei ebenso adressiert wie die Möglichkeiten, das Bewusstsein für Risiken durch Interventionen zu schärfen.


Es ist zu vermuten, dass die Risikowahrnehmung vom Ausmaß des Vorwissens abhängen könnte: Laien verfügen über wenig spezifisches Wissen, was sich darin äußern könnte, dass sie aufgrund der damit verbundenen Unsicherheit eher risiko-avers sind und somit den Chancen von KI eher ablehnend gegenüberstehen. Wer hingegen über Vorwissen verfügt, könnte eher dem Gedanken anheimfallen, dass Risiken kontrollierbar sind oder könnte motiviert sein, mögliche Risiken von KI auszublenden. Im Projekt sollen solche Muster untersucht werden – nicht nur in Bezug auf die Einschätzung von Risiken, sondern auch dahingehend, wie das konkrete Risikoverhalten in einer Situation aussieht (ob z.B. ein von einer KI eingebrachtes Urteil übernommen oder zurückgewiesen wird).


Darüber hinaus wird erprobt, wie Risiken von KI interaktiv erfahrbar gemacht werden können (z.B. durch Visualisierung von Datenströmen), um die Risikowahrnehmung zu beeinflussen. Dies könnte die Grundlage für Interventionsmaßnahmen bieten, um einer „Risikoblindheit“ vorzubeugen.


Kooperationen
Publikationen

Huff, M. (2024). Die Wahrnehmung von Risiken und Chancen von Künstlicher Intelligenz: Der Einfluss von Wissen und Vertrauen in das eigene Wissen. In M. Klaes & M. Gruß (Eds.), Fachgespräch: Aktuelle Themen und Herausforderungen behördlicher Risikokommunikation (pp. 40-42). Bundesamt für Strahlenschutz. https://doris.bfs.de/jspui/bitstream/urn:nbn:de:0221-2024071545043/3/61-24_Tagungsband-FG-RiKo.pdf
 

Said, N., Potinteu, A.-E., Brich, I. R., Buder, J., Schumm, H., & Huff, M. (2023). An artificial intelligence perspective: How knowledge and confidence shape risk and benefit perception. Computers in Human Behavior, 149, Article 107855. https://dx.doi.org/10.1016/j.chb.2023.107855 Volltext anfordern
 

Schwesig, R., Brich, I. R., Buder, J., Huff, M., & Said, N. (2023). Using Artificial Intelligence (AI)? Risk and opportunity perception of AI predict people’s willingness to use AI. Journal of Risk Research, 26(10), 1053-1084. https://dx.doi.org/10.1080/13669877.2023.2249927 Volltext anfordern