Wie vertrauenswürdig ist künstliche Intelligenz?

Bei der Integration von KI-Systemen in medizinische Tätigkeiten ist es entscheidend, sich sowohl mit der Vertrauenswürdigkeit dieser Systeme als auch mit dem Vertrauen der Ärzte und Patienten in diese Systeme zu beschäftigen. Ein zu hohes Maß an Vertrauen kann dazu führen, dass Ärzte sich unkritisch auf diese Technologie verlassen, während zu wenig Vertrauen darin resultieren kann, dass Ärzte die Vorteile dieser Technologie für ihre Entscheidungen nicht nutzen. Um eine Balance zwischen diesen Extremen zu finden, muss die Vertrauenswürdigkeit eines Systems korrekt eingeschätzt werden. Nur so ist es möglich zu entscheiden, ob diesem System vertraut werden kann oder nicht. In diesem Beitrag stellen wir diese Zusammenhänge für den medizinischen Kontext dar. Wir zeigen auf, warum Vertrauenswürdigkeit und Vertrauen eine zentrale Rolle beim Einsatz KI-basierter Systeme spielen, und was nötig ist, damit Personen zu einer akkuraten Einschätzung der Vertrauenswürdigkeit KI-basierter Systeme kommen können.