Vor ein paar Tagen hat ein Tweet eines "KI-Forschers" ziemlich gut zusammengefasst, was mich an der Überschrift dieses Artikels zweifeln lässt. https://twitter.com/iamtrask/status/1695798588641538360?s=20.

Dass Ärzte in absehbarer Zeit durch künstliche Intelligenz ersetzt werden könnten. Dabei geht es in dem Tweet überhaupt nicht um Medizin oder Ärzte, sondern nur generell um aktuelle Funktionen der "large language models". Aber genau der Aspekt der hier kritisiert wird, ist meiner Meinung nach das einzige, was kurz- und mittelfristig LLMs davon abhalten wird, Ärzte zu ersetzen. Wenn Sie den Tweet bisher nicht gelesen haben: LLMs können nicht gut unterscheiden, welche Informationen wichtig sind, und welche nicht. Alles wird als relevant aufgenommen.

Und genau das ist das Gegenteil von dem was wir als Ärzte im täglichen Umgang mit Patienten tun. Wow... ich hoffe, dass dieser Artikel nicht größere Popularität erlangt, denn das ist eine ziemlich unbequeme Wahrheit unserer Arbeit: wir ignorieren und filtern sehr sehr viel, von dem was uns die Patienten berichten. Das klingt erstmal vermessen. Geradezu überheblich! Gibt es nicht zahlreiche Beispiele, in denen ein Arzt einem Patienten einfach mal genau zugehört hat, und dadurch auf die richtige Diagnose gekommen ist? Ja, natürlich! Das ist es auch gar nicht, was ich meine.

Während Patienten uns oft vorwerfen, wir würden nicht genug zuhören, gibt es das genauso umgekehrt: wir haben Fragebögen, die Patienten im Wartezimmer im Vorfeld ausfüllen sollen. Da wird nach Vorerkrankungen, Medikation, Allergien usw. gefragt. Anschließend wird der Fragebogen eingescannt und in der elektronischen Patientenakte hinterlegt. Wenn also ein neuer Patient vor mir sitzt, kann ich bereits diesen Fragebogen sehen. Und was mache ich? Ich frage den Patienten nach seinen Medikamenten, nach seinen Vorerkrankungen etc.. Teilweise sind Patienten geradewegs wütend, wieso ich das denn Fragen würde, schließlich hatten sie genau das doch im Fragebogen ausgefüllt. Stimmt. Und dennoch würde einiges an Informationen verloren gehen, würde ich nicht noch einmal danach Fragen. Metadaten, oder wie auch immer man das nenne will. Wie gut kann der Patient seine Medikamente benennen, ohne es nachzuschauen. Wie genau beschreibt er seine Vorerkrankungen, wie leicht fällt es ihm die einzelnen zu nennen. All das sind für mich als Arzt wichtige Informationen, die mir in der Gesamteinschätzung helfen. Und die würden mir fehlen, würde ich nur den Fragebogen ablesen (der Fragebogen ist trotzdem aus Dokumentationsgründen wichtig).

Was hat das nun alles mit künstlicher Intelligenz zu tun? Der fehlt alles "Meta" (ironisch, da die Firma Meta ein ziemlich gutes LLM erstellt hat). Wenn Patienten selbst Beschwerden eingeben, Vorerkrankungen, Medikamente, gibt es da niemanden der registriert wie die Beschwerden angegeben werden, mit welchem Gesichtsausdruck, welcher emotionalen Verfassung, wie schwer es jemanden fällt, seine Medikamente zu erinnern, oder Vorerkrankungen zu nennen. Wie in dem Tweet geschrieben, für LLM ist alles gleich wichtig. Für erfahrene Ärzte sind häufig andere Dinge wichtig als für die Patienten. Das klingt komisch und falsch. Ist es aber nicht, und dient am Ende des Tages nur dem Besten für den Patienten.

Christoph Glösenkamp