Schon jetzt fragen 300 Millionen Menschen pro Woche den Chatbot nach medizinischem Rat. Nun bietet OpenAI, das Unternehmen hinter ChatGPT, einen eigenen Bereich für Gesundheitsdaten an. Was das neue Tool kann und warum Experten zur Vorsicht mahnen.
Es ist Sonntagabend und alle Ordinationen sind geschlossen. Der Laborbefund aus der Vorwoche liegt auf dem Küchentisch, doch die Werte sagen einem wenig. Also öffnet man ChatGPT und tippt: Was bedeutet das alles? Millionen Menschen tun genau das. Jeden Tag.
Jetzt geht OpenAI, der Konzern hinter ChatGPT, noch einen Schritt weiter. Diese Woche hat das Unternehmen einen neuen Medizin-Service angekündigt, berichtet CBS News: Mit "Health in ChatGPT" können Nutzer künftig medizinische Unterlagen wie Laborwerte oder Medikamentenlisten hochladen und sogar ihren persönlichen Apple Health-Account verbinden. Die KI soll helfen, Ergebnisse zu vergleichen oder Zusammenhänge von Beschwerden oder Medikationen mit Schlaf und Bewegung zu erkennen.
Aber: Ist es wirklich eine gute Idee, in Gesundheitsfragen auf einen Computer zu vertrauen, der schon bei der Beantwortung von sehr viel weniger sensiblen Fragen oft grandios daneben liegt und einem Antworten präsentiert, die auf dem Wissensstand von vor fünf Jahren basieren? Und außerdem: Wie sicher ist es überhaupt, dass meine Daten von der KI vertraulich behandelt werden?
Wie das neue Gesundheits-Feature bei ChatGPT funktioniert, wofür man es idealerweise einsetzt und wann man doch lieber zum Arzt gehen sollte: Das sollte man über den neuen KI-Service wissen:
Was genau ist Health in ChatGPT?
Es handelt sich um einen eigenen Bereich innerhalb des Chatbots, in dem Nutzer ihre Gesundheitsdaten zentral speichern können. Dort lassen sich etwa Blutwerte hochladen, Medikamente eintragen oder Fitnessdaten von Apple Health verbinden. ChatGPT kann dann auf diese Informationen zurückgreifen, um Fragen zu beantworten oder Veränderungen seit dem letzten Arztbesuch zusammenzufassen.
Warum bietet OpenAI das jetzt an?
Weil die Nachfrage enorm ist: Laut OpenAI stellen bereits 300 Millionen Menschen weltweit pro Woche Gesundheitsfragen an ChatGPT. Die KI-Firma reagiert also auf ein Verhalten, das längst Realität ist. Tanzeem Choudhury, Gesundheitsinnovations-Chefin an der Cornell Tech, sieht darin auch ein Symptom: "Unser Gesundheitssystem ist kaputt. Deshalb suchen so viele Menschen nach Rat."
Kann ChatGPT einen Arzt ersetzen?
Nein. OpenAI selbst betont: "ChatGPT ersetzt nicht die Versorgung und das Urteil qualifizierter Mediziner." Der Chatbot kann Zusammenhänge erkennen und Informationen aufbereiten, aber keine Diagnosen stellen oder Behandlungen empfehlen. Er ist ein Werkzeug zur Orientierung, kein Ersatz für ärztliche Betreuung.
Welche Vorteile sehen Experten?
KI kann ein demokratisierendes Element sein, sagt Choudhury. Wer keinen schnellen Zugang zu Ärzten hat, kann sich zumindest erste Informationen holen. Vishal Misra, Informatikprofessor an der Columbia University, nutzt ChatGPT selbst für seine Gesundheitsdaten: "Es kann Verbindungen finden, die selbst ein kompetenter Arzt vielleicht übersieht."
Welche Risiken gibt es?
KI kann halluzinieren, also Dinge erfinden, die plausibel klingen, aber falsch sind. Das kann bei Gesundheitsthemen gefährlich werden. Diese Woche verklagte ein Mann aus Florida OpenAI, weil er nach irreführendem Rat des Chatbots gesundheitliche Schäden erlitten haben will. Bei medizinischen Notfällen zeigen Studien zudem: Die Trefferquote von ChatGPT liegt manchmal bei nur 50 Prozent.
Was passiert mit meinen Daten?
OpenAI verspricht zusätzliche Verschlüsselung und betont, dass Gesundheitsdaten nicht zum Training der KI-Modelle oder für personalisierte Werbung verwendet werden. Allerdings ist unklar, ob diese Richtlinien dauerhaft gelten. KI-Firmen haben in der Vergangenheit ihre Nutzungsbedingungen geändert, ohne Nutzer explizit zu informieren.
Wer sollte besonders vorsichtig sein?
Menschen mit eingeschränkter Urteilsfähigkeit oder ältere Personen könnten die Risiken eines Chatbots unterschätzen, warnt Choudhury. Auch wer unter Stress oder in einer Angstsituation ist, sollte sich nicht allein auf KI-Rat verlassen. Die Verantwortung, wann man zum Arzt geht, liegt beim Nutzer selbst.
Wie erkennt man falsche KI-Antworten?
Das ist das Problem: Oft erkennt man es nicht. ChatGPT formuliert auch falsche Informationen überzeugend und selbstsicher. Experten raten, jede medizinische Einschätzung der KI kritisch zu hinterfragen und im Zweifel immer einen Arzt hinzuzuziehen. Je ernster die mögliche Erkrankung, desto wichtiger ist ärztlicher Rat.
Was sagt OpenAI zur Sicherheit?
Das Unternehmen hat Ärzte weltweit eingebunden, um realistische Gesundheitsszenarien zu testen. Health in ChatGPT enthält zusätzliche Sicherheitsvorkehrungen, etwa Rückfragen, bevor der Chatbot eine Aktion wie das Versenden einer E-Mail ausführt. Dennoch übernimmt OpenAI keine Verantwortung für medizinische Entscheidungen.
Was sollte man auf keinen Fall tun?
Niemals auf Basis von ChatGPT allein medizinische Entscheidungen treffen, warnt Professor Misra: "Was auch immer die KI sagt: Geh damit zu einem echten Arzt. Handle nicht. Die einzige Handlung sollte sein, deinen Arzt zu konsultieren." Bei akuten Beschwerden oder Notfällen ist der Chatbot keine geeignete Anlaufstelle.
Ist das Tool in Österreich verfügbar?
Nein, noch nicht sofort. Health in ChatGPT wird schrittweise ausgerollt und ist derzeit für eine begrenzte Nutzerzahl zugänglich. Wer Interesse hat, kann sich auf eine Warteliste setzen lassen. Die Apple-Health-Integration funktioniert bereits für Nutzer, die Zugang haben. Wann das Feature für alle verfügbar sein wird, ist nicht bekannt.
Was raten Experten konkret?
Die KI als Hilfsmittel zur Vorbereitung auf Arztgespräche nutzen, nicht als Ersatz. Eigene Daten bewusst und sparsam teilen. Bei Unsicherheit oder besorgniserregenden Symptomen immer professionellen Rat einholen. Und: Sich bewusst sein, dass auch schlaue Algorithmen Fehler machen können.
