Das Vertrauen in die medizinische Kompetenz einer künstlichen Intelligenz (KI) ist längst nicht so ausgeprägt, wie es den Anschein hat. Das ist zumindest das Ergebnis einer neuen Studie.
Früher haben die Menschen Dr. Google zu ihren Symptomen befragt. Heute wenden sie sich dafür zunehmend an ChatGPT. Mit der Folge, dass niedergelassene Mediziner sich über Patient*innen beschweren, die mit fertigen Diagnosen aus dem Internet in die Sprechzimmer kommen und sich nur mit Mühe davon überzeugen lassen, dass sie nicht schwer erkrankt sind.
Ausgeprägtes Misstrauen gegenüber der KI
Die Ergebnisse der Studie zeigen, dass Menschen medizinische Ratschläge als weniger zuverlässig und empathisch beurteilen, wann immer eine KI daran beteiligt war. Das war selbst dann der Fall, wenn die Studienteilnehmer*innen annehmen konnten, dass ein Arzt oder eine Ärztin unter Zuhilfenahme einer KI diese Empfehlungen erstellt hatte.
Konsequenterweise waren die Befragten bei KI-unterstützten Entscheidungen auch in geringerem Maße dazu bereit, diesen zu folgen – verglichen mit Ratschlägen, die ausschließlich auf ärztlicher Expertise basierten.
Keine Unterschiede in der Verständlichkeit
Mehr als 2000 Studienteilnehmer*innen erhielten in einem Experiment identische medizinische Ratschläge und sollten diese auf ihre Verlässlichkeit, Verständlichkeit und Empathie bewerten.
Die eine Gruppe erhielt Informationen, die von einem Arzt bzw. einer Ärztin stammten. In der 2. Gruppe hieß es, ein KI-gestützter Chatbot sei dafür verantwortlich. Die 3. Gruppe wurde in dem Glauben gelassen, ein Arzt oder eine Ärztin habe die Empfehlung unter Zuhilfenahme einer KI erstellt.
Eindeutige Ergebnisse
- Menschen vertrauen medizinischen Empfehlungen weniger, wenn sie vermuten, dass KI beteiligt ist. Das gilt auch dann, wenn sie glauben, dass ärztliches Personal daran mitgewirkt hat.
- Auch in der Kategorie „Empathie“ schneidet der ärztliche Rat besser ab als die beiden KI-Varianten.
- Einzig unter dem Aspekt der Verständlichkeit zeigen sich kaum Unterschiede zwischen den 3 Gruppen. Anscheinend haben Menschen unter diesem Gesichtspunkt keine Vorbehalte gegen die Technik.
Vertrauen ist wichtig für den Behandlungserfolg
„Das ist ein wichtiger Befund, da Vertrauen in medizinische Diagnosen und Therapieempfehlungen bekanntermaßen ein sehr wichtiger Faktor für den Behandlungserfolg ist“, bewerten die Autoren das Studienergebnis. Gerade vor dem Hintergrund einer möglichen Entbürokratisierung und Entlastung des ärztlichen Arbeitsalltags durch eine Kooperation mit KI erhalten diese Erkenntnisse einen besonderen Stellenwert. Ihrer Ansicht nach bildet die Studie somit einen Startpunkt für eine detaillierte Erforschung der Bedingungen dafür, wie KI in Diagnostik und Therapie eingesetzt werden kann, ohne das Vertrauen und die Mitwirkung von Patient*innen zu gefährden.
Quelle: Universität Würzburg
