KI-Bots haben Prüfungen an medizinischen Fakultäten bestanden, aber sollten sie Ihr Arzt werden?
KI-Tools wie ChatGPT könnten das Gesundheitswesen verändern, indem sie mehr Menschen den Zugang zur Gesundheitsversorgung ermöglichen, es gibt jedoch erhebliche Vorbehalte.
Kürzlich wurde im Gesundheitswesen eine Art digitaler Rubikon überschritten, der Staunen, Abscheu und sogar einige Ängste hervorrief.
Google startete eine Reihe von Gesundheitsinitiativen, aber keine erregte auch nur annähernd so viel Aufmerksamkeit wie die Aktualisierung seines medizinischen Large Learning Model (LLM) namens Med-Palm, das letztes Jahr erstmals eingeführt wurde.
Wie Sie vielleicht wissen, handelt es sich bei LLMs um eine Art künstliche Intelligenz, die mit riesigen Datenmengen gespeist wird - wie im Fall des äußerst beliebten ChatGPT mit den gesamten Inhalten des Internets vor 2021. Mithilfe von maschinellem Lernen und neuronalen Netzen sind sie in der Lage, in Sekundenbruchteilen souveräne Antworten auf Fragen auszuspucken, die unheimlich menschenähnlich sind.
Bot MD
Im Fall von Med-Palm und seinem Nachfolger Palm 2 wurde das gesundheitsorientierte LLM einer strengen Diät mit gesundheitsbezogenen Informationen unterzogen und musste dann die U.S. Medical Licensing Examination (USMLE) absolvieren, eine Geißel angehender und ängstlicher Ärzte Eltern. Diese Prüfungen bestehen aus drei Teilen und erfordern Hunderte von Stunden Lernen. Sie sind bekanntermaßen schwierig.
Doch Med-Palm 2 hat es völlig übertroffen, indem es mit einer Punktzahl von 85 % auf dem Niveau eines „Experten“-Arzts abgeschnitten hat - 18 % mehr als sein Vorgänger - und seine Eltern, die Softwareprogrammierung programmieren, an diesem Abend zweifellos dazu gebracht hat, sich in der Kneipe zu putzen .
Sein Konkurrent, das generalistische LLM ChatGPT, erzielte mit seinem generalistischen Datensatz, der kein spezieller Gesundheitsdatensatz ist, nur eine Trefferquote von 60 % oder nahe der Bestehensschwelle - aber das war letztes Jahr. Es ist schwer vorstellbar, dass nachfolgende Versionen die Prüfung in naher Zukunft nicht bestehen.
Voreingenommene Bots und menschliche Vorurteile
Dennoch ist nicht jeder davon überzeugt, dass diese frischgebackenen medizinischen Wunderkinder gut für uns sind.
Erst vor wenigen Monaten erlitt Google einen demütigenden Rückschlag, als sein neugeborener Bot Bard nach einer großen Enthüllung eine grundlegende Frage zu einem Teleskop falsch beantwortete und so eine Marktkapitalisierung von 100 Milliarden US-Dollar abschlug.
Das Missgeschick hat eine anhaltende Debatte über die Genauigkeit von KI-Systemen und ihre Auswirkungen auf die Gesellschaft entfacht.
Von der Notaufnahme über die Chirurgie bis hin zur Vorsorge - die menschliche Tradition der Vorurteile gegenüber Frauen, älteren Menschen und farbigen Menschen - im Wesentlichen den Marginalisierten - wurde unseren Maschinenwundern effizient aufgezwungen.
Bodenrealitäten in einem kaputten System
Und doch ist das Gesundheitssystem in den USA so tiefgreifend kaputt: Mindestens 30 Millionen Amerikaner sind nicht versichert und Dutzende Millionen Menschen haben Schwierigkeiten, Zugang zu grundlegender Gesundheitsversorgung zu erhalten, dass die Sorge vor Voreingenommenheit ein unerschwinglicher Luxus sein kann.
Nehmen wir zum Beispiel Teenager. Sie neigen dazu, sehr zu leiden, in den ersten Jahren leiden sie unter Fettleibigkeit und Pubertät, in den darauffolgenden Jahren unter sexueller Aktivität, Drogen und Alkohol.
Laut den Centers for Disease Control and Prevention (CDC) haben in den zehn Jahren vor der Pandemie Traurigkeit und Hoffnungslosigkeit bei Teenagern, einschließlich Selbstmordgedanken und -verhalten, um 40 % zugenommen.
„Wir sehen wirklich hohe Selbstmord- und Depressionsraten, und das schon seit einiger Zeit“, sagte die Psychologin Kimberly Hoagwood, PhD, Professorin für Kinder- und Jugendpsychiatrie an der Grossman School of Medicine der New York University. „Während der Pandemie ist es auf jeden Fall schlimmer geworden.“
Statistiken zeigen jedoch, dass heute mehr als die Hälfte der Teenager überhaupt keine psychiatrische Versorgung erhalten. Von Veteranen - von denen sich jeden Tag im Jahr mindestens zwanzig das Leben nehmen - über ältere Menschen bis hin zu denen, die sich die hohen Versicherungskosten einfach nicht leisten können oder dringende medizinische Bedürfnisse haben, aber mit endlosen langen Wartezeiten konfrontiert sind, Gesundheitsbots usw Selbst verallgemeinerte KIs wie ChatGPT können zu Lebensadern werden.
Woebot, ein beliebter Gesundheits-Chatbot-Dienst, führte kürzlich eine landesweite Umfrage durch, die ergab, dass 22 % der Erwachsenen die Dienste eines KI-gestützten Gesundheits-Bots in Anspruch genommen hatten. Mindestens 44 % gaben an, den menschlichen Therapeuten komplett aufgegeben und nur noch einen Chatbot genutzt zu haben.
Der Arzt ist (immer) da
Es ist daher leicht zu verstehen, warum wir begonnen haben, als Hilfestellung auf Maschinen zu setzen.
KI-Gesundheitsbots werden weder krank noch müde. Sie machen keine Ferien. Es macht ihnen nichts aus, wenn Sie zu spät zu einem Termin kommen.
Sie verurteilen dich auch nicht wie Menschen. Psychiater sind schließlich Menschen und können ebenso wie jeder andere kulturell, rassisch oder geschlechtsspezifisch voreingenommen sein. Es kann sein, dass es Menschen unangenehm ist, jemandem, den sie nicht kennen, ihre intimsten Details anzuvertrauen.
Aber sind Gesundheitsbots effektiv? Bisher gibt es keine landesweiten Studien, die ihre Wirksamkeit beurteilen könnten, aber vereinzelte Informationen zeigen, dass etwas Ungewöhnliches passiert.
Sogar jemand wie Eduardo Bunge, außerordentlicher Lehrstuhlinhaber für Psychologie an der Palo Alto University und ein eingestandener Skeptiker von Gesundheits-Bots, war überzeugt, als er beschloss, in einer Zeit ungewöhnlichen Stresses einen Chatbot auszuprobieren.
„Es bot genau das, was ich brauchte“, sagte er. „An diesem Punkt wurde mir klar, dass hier etwas Relevantes vor sich geht“, sagte er gegenüber Psychiatry Online.
Barclay Bram, ein Anthropologe, der sich mit psychischer Gesundheit beschäftigt, befand sich während der Pandemie in einer Tiefphase und wandte sich laut seinem Leitartikel in der New York Times hilfesuchend an Woebot.
Der Bot meldete sich jeden Tag bei ihm und schickte ihm spielerische Aufgaben, um seine Depression zu überwinden.
Der Rat war grenzwertig banal. Doch durch wiederholtes Üben, das vom Bot angeregt wurde, sagte Bram, dass er eine Linderung seiner Symptome verspürte. „Vielleicht muss die alltägliche Heilung nicht ganz so kompliziert sein“, sagte er in seiner Kolumne.
„Halluzinierende“ Antworten
Und doch könnte es sich als katastrophal erweisen, die Inhalte des Internets zu verarbeiten und eine Antwort auf ein komplexes medizinisches Problem auszuspucken, wie es ChatGPT tut.
Um die medizinischen Qualifikationen von ChatGPT zu testen, habe ich darum gebeten, mir bei einigen erfundenen Beschwerden zu helfen. Zuerst bat ich um eine Lösung für meine Übelkeit.
Der Bot schlug verschiedene Dinge vor (Ruhe, Flüssigkeitszufuhr, milde Lebensmittel, Ingwer) und schließlich rezeptfreie Medikamente wie Dramamin, gefolgt von dem Rat, einen Arzt aufzusuchen, wenn sich die Symptome verschlimmern würden.
Wenn Sie unter anderem Probleme mit der Schilddrüse, Druck im Auge (darunter leiden Glaukompatienten) oder Bluthochdruck hatten, könnte sich die Einnahme von Dramamin als gefährlich erweisen. Dennoch wurde keines davon gemeldet und es gab keine Warnung, vor der Einnahme des Medikaments zunächst einen Arzt zu konsultieren.
Dann fragte ich ChatGPT, welche „Medikamente ich gegen Depressionen in Betracht ziehen sollte“. GPT war gewissenhaft genug, um vorzuschlagen, zuerst einen Arzt zu konsultieren, da es nicht für die Erteilung medizinischer Beratung qualifiziert war, listete dann aber mehrere Kategorien und Arten von Serotonin-bildenden Medikamenten auf, die häufig zur Behandlung von Depressionen eingesetzt werden.
Erst letztes Jahr jedoch Eine bahnbrechende, viel beachtete und umfassende Studie, die Hunderte anderer Studien über Jahrzehnte hinweg auf einen Zusammenhang zwischen Depression und Serotonin untersuchte, fand überhaupt keinen Zusammenhang zwischen beiden.
Dies bringt uns zum nächsten Problem mit Bots wie ChatGPT - der Möglichkeit, dass sie Ihnen in einem hyperdynamischen Bereich wie der Medizin veraltete Informationen liefern. GPT wurden nur bis 2021 Daten zugeführt.
Der Bot war möglicherweise in der Lage, die Prüfungen an der medizinischen Fakultät auf der Grundlage etablierter, vorhersehbarer Inhalte zu knacken, erwies sich jedoch als beklagenswert - vielleicht sogar gefährlich - veraltet, wenn es um neue und wichtige wissenschaftliche Erkenntnisse ging.
Und wo es keine Antworten auf Ihre Fragen gibt, erfindet es sie einfach. Laut Forschern der University of Maryland School of Medicine, die ChatGPT-Fragen zum Thema Brustkrebs stellten, reagierte der Bot mit einem hohen Maß an Genauigkeit. Doch jeder Zehnte war nicht nur falsch, sondern oft völlig erfunden - ein weithin beobachtetes Phänomen, das als KI-„Halluzinationen“ bezeichnet wird.
„Wir haben die Erfahrung gemacht, dass ChatGPT manchmal gefälschte Zeitschriftenartikel oder Gesundheitskonsortien erfindet, um seine Behauptungen zu untermauern“, sagte Dr. Paul Yi.
In der Medizin kann dies manchmal den Unterschied zwischen Leben und Tod ausmachen.
Keine Lizenz zum Abbilden
Alles in allem ist es nicht so schwer, den Weg von LLM zu einem riesigen juristischen Feuersturm vorherzusagen, wenn nachgewiesen werden kann, dass der fehlerhafte Rat eines anthropomorphisierenden Bots schwere Körperverletzung verursacht hat, unabhängig davon, ob er eine Standard-Homepage-Offenlegung hatte oder nicht.
Es besteht auch das Gespenst möglicher Klagen wegen Datenschutzproblemen. Der jüngste Untersuchungsbericht der Sanford School of Public Policy der Duke University von Joanne Kim enthüllte einen ganzen Untergrundmarkt für hochsensible Patientendaten im Zusammenhang mit psychischen Erkrankungen, die aus Gesundheits-Apps entnommen wurden.
Kim berichtete von 11 Unternehmen, die ihrer Meinung nach bereit waren, Bündel aggregierter Daten zu verkaufen, die auch Informationen darüber enthielten, welche Antidepressiva die Menschen einnahmen.
Ein Unternehmen verbreitete sogar Namen und Adressen von Menschen, die unter posttraumatischem Stress, Depressionen, Angstzuständen oder einer bipolaren Störung leiden. Ein anderer verkaufte eine Datenbank mit Tausenden von aggregierten Datensätzen zur psychischen Gesundheit, beginnend bei 275 US-Dollar pro 1.000 „Krankheitskontakte“.
Sobald diese ihren Weg ins Internet und damit auch zu KI-Bots finden, könnten sich sowohl Ärzte als auch KI-Unternehmen Kriminellen aussetzen und Sammelklagen von wütenden Patienten.