„Die KI wird’s schon richten.“ Der Satz klingt salopp. Er beschreibt allerdings eine zentrale Herausforderung der Mensch-KI-Zusammenarbeit: Je verlässlicher ein System erscheint, desto eher wird seine Empfehlung zur gedanklichen Abkürzung.
In ihrem Beitrag „Die KI wird’s schon richten“ – Eine psychologische Perspektive auf Automation Bias und richterliche Unabhängigkeit für den Tagungsband „Göttinger Kolloquien zur Digitalisierung des Zivilverfahrensrechts" befassen sich Markus Langer, Hannah Ruschemeier, Moritz Kolbe und Johann Laux mit diesem Mechanismus.
Automation Bias meint mehr als bloßes Übervertrauen in KI. Wer über längere Zeit gute Erfahrungen mit einem System macht, richtet Aufmerksamkeit und Kontrolle anders aus. Empfehlungen werden seltener hinterfragt, eigene Prüfungsschritte treten zurück. Das ist nicht zwingend irrational. Vielmehr liegt darin eine naheliegende Folge erfolgreicher Automatisierung.
Für die Justiz ist diese Verschiebung besonders sensibel. KI soll Arbeit erleichtern und Entscheidungen vorbereiten. Zugleich müssen Richterinnen und Richter nachvollziehen, prüfen und verantworten können, wie ein Ergebnis zustande kommt. Damit betrifft Automation Bias nicht allein individuelle Aufmerksamkeit, sondern auch die organisatorischen Bedingungen richterlicher Unabhängigkeit.
Zum Preprint.