{"id":12340,"date":"2026-04-29T07:24:14","date_gmt":"2026-04-29T07:24:14","guid":{"rendered":"https:\/\/oberarzt-heute.de\/?p=12340"},"modified":"2026-04-29T07:24:14","modified_gmt":"2026-04-29T07:24:14","slug":"zu-vorsichtig-fuer-die-versorgung-schwaechen-von-chatgpt-bei-gesundheitsfragen","status":"publish","type":"post","link":"https:\/\/oberarzt-heute.de\/?p=12340","title":{"rendered":"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen"},"content":{"rendered":"

Laut einer Studie der TU Berlin neigen ChatGPT-Modelle zu \u00fcbervorsichtigen Empfehlungen. F\u00fcr die gezielte Steuerung von Patient*innen im Gesundheitssystem reicht das aktuell nicht aus. Die meisten Fehler traten bei F\u00e4llen auf, in denen eine Selbstversorgung \u2013 statt eines Arztbesuchs – ausreichend gewesen w\u00e4re.<\/span><\/strong><\/p>\n

K\u00fcnstliche Intelligenz (KI) wird zunehmend auch f\u00fcr gesundheitliche Fragen genutzt. Viele Menschen verwenden Tools wie ChatGPT, um Beschwerden einzuordnen und abzusch\u00e4tzen, ob sie sofort medizinische Hilfe brauchen, \u00e4rztlichen Rat einholen sollten oder zun\u00e4chst abwarten k\u00f6nnen. Mit speziell f\u00fcr den Gesundheitsbereich positionierten Versionen wie etwa ChatGPT Health in den USA entsteht dabei leicht der Eindruck besonderer fachlicher Eignung. Wie verl\u00e4sslich Empfehlungen von ChatGPT tats\u00e4chlich sind, ist bislang jedoch nur begrenzt untersucht.<\/p>\n

In einer neuen Studie aus dem Fachgebiet Arbeitswissenschaft der Technischen Universit\u00e4t Berlin haben Forschende deshalb analysiert, wie genau ChatGPT in verschiedenen Modellversionen gesundheitliche Beschwerden einordnet, wie sich die Leistung im Zeitverlauf ver\u00e4ndert hat und ob identische Eingaben konsistente Empfehlungen erzeugen. Das Ergebnis: F\u00fcr die digitale Ersteinsch\u00e4tzung und eigenst\u00e4ndige Patientensteuerung ist ChatGPT derzeit nur eingeschr\u00e4nkt geeignet.<\/p>\n

22 Modellversionen, 45 reale F\u00e4lle, 9.900 Bewertungen<\/b><\/h5>\n

\u201eDer Hauptunterschied zu unseren fr\u00fcheren Studien ist die l\u00e4ngsschnittliche Analyse. Bisher wurden nur ein oder zwei Modelle untersucht. Nun haben wir alle Modelle, die \u00fcber die Zeit verf\u00fcgbar waren, getestet und analysiert, wie sie sich tats\u00e4chlich ver\u00e4ndert haben\u201c, sagt Studienleiter Dr. Marvin Kopka. \u201eDas war uns auch deshalb wichtig, weil es immer wieder Meldungen gibt, nach denen neue Modelle in \u00e4rztlichen Zulassungspr\u00fcfungen oder Wissenstests nahezu perfekte Ergebnisse erreichen. Daraus wird dann schnell geschlossen, dass sie auch f\u00fcr Patient*innen verl\u00e4ssliche medizinische Empfehlungen geben. Genau das stimmt aber laut unserer Studie nicht.\u201c<\/p>\n

F\u00fcr die Studie testete das Forschungsteam 22 ChatGPT-Modellversionen anhand echter F\u00e4lle von 45 Patient*innen<\/strong>. Darunter waren Krankheitsbilder wie \u201eeine kurzfristige \u00dcberlastung von Sehnen\/B\u00e4ndern am Vortag\u201c oder auch \u201eeinfache Verdauungsprobleme\/Durchfall seit einem Tag ohne weitere Beschwerden\u201c. Jeder Fall wurde pro Modell zehnmal eingegeben. Insgesamt entstanden so 9.900 Einzelbewertungen. Die Modelle mussten jeweils entscheiden, ob ein Fall als Notfall, als Fall f\u00fcr \u00e4rztliche Abkl\u00e4rung oder als Fall f\u00fcr Selbstversorgung einzustufen ist.<\/p>\n

Die Auswertung zeigt: Die Genauigkeit stieg mit den ersten Modellversionen zun\u00e4chst deutlich an. Seit der dritten Modellgeneration (gpt-4) gab es jedoch nur noch geringf\u00fcgige Verbesserungen. Das beste getestete Modell erreichte eine Treffergenauigkeit von 74 Prozent. Zwar empfahlen neuere Modelle h\u00e4ufiger \u00fcberhaupt Selbstversorgung, insgesamt blieb die Leistung in diesem Bereich aber begrenzt.<\/p><\/blockquote>\n

Besondere Schw\u00e4chen bei harmlosen Beschwerden<\/b><\/h5>\n

Besonders gut waren die getesteten Modelle darin, behandlungsbed\u00fcrftige F\u00e4lle zu erkennen. Die meisten Fehler traten dagegen bei F\u00e4llen auf, in denen Selbstversorgung ausreichend gewesen w\u00e4re: 70 Prozent aller Fehler entfielen auf diese Gruppe. Kein einziger der 13 Selbstversorgungsf\u00e4lle wurde von allen Modellen in allen Durchl\u00e4ufen korrekt gel\u00f6st.<\/p>\n

Lediglich einzelne Modelle, etwa o4, o3 oder GPT 5, empfahlen \u00fcberhaupt jemals Selbstversorgung. Bei allen anderen getesteten Modellen wurde durchg\u00e4ngig zur \u00e4rztlichen Abkl\u00e4rung geraten. Das ist problematisch, weil ein erheblicher Teil der Beschwerden tats\u00e4chlich nicht gef\u00e4hrlich ist, von allein wieder weggeht oder selbst behandelt werden kann.<\/p>\n

Die Studie zeigt damit ein strukturelles Muster: Fast alle Modelle neigen dazu, Beschwerden vorsichtshalber als behandlungsbed\u00fcrftiger einzustufen<\/strong>, als es medizinisch erforderlich w\u00e4re. Die Forschenden bezeichnen dieses Muster als konservatives Triagierungsverhalten<\/strong>. \u201eUns haben die Ergebnisse in dieser Klarheit selbst \u00fcberrascht\u201c, so Dr. Marvin Kopka. \u201eDenn sie zeigen explizit, dass die f\u00fcr Patient*innen relevanten Fragen durch neuere Modelle nicht automatisch besser beantwortet werden. Bessere Test- oder Pr\u00fcfungsergebnisse bedeuten eben nicht zwangsl\u00e4ufig einen h\u00f6heren praktischen Nutzen in der Versorgung.\u201c<\/p>\n

\u201eEntscheidend ist aus unserer Sicht nicht nur, ob ein Modell einzelne F\u00e4lle richtig einordnet, sondern welchen praktischen Nutzen die Empfehlungen im Alltag tats\u00e4chlich haben. Wenn ein System bei sehr vielen Beschwerden vorsorglich zur medizinischen Abkl\u00e4rung r\u00e4t, wirkt das zun\u00e4chst sicher f\u00fcr Nutzer*innen \u2013 es bietet aber faktisch keine echte Entscheidungshilfe<\/strong> mehr, wenn die Empfehlung fast immer gleich ausf\u00e4llt\u201c, so Dr. Marvin Kopka.<\/p><\/blockquote>\n

Gleiche Eingabe, nicht immer gleiche Empfehlung<\/b><\/h5>\n

Hinzu kommt ein weiteres Problem: Die Modelle antworten nicht durchg\u00e4ngig konsistent.<\/strong> Bei identischen Eingaben kam es je nach Modell zu teils deutlichen Schwankungen. Neuere Modelle hatten zwar seltener F\u00e4lle, die nie korrekt gel\u00f6st wurden, zugleich aber h\u00e4ufiger F\u00e4lle mit inkonsistenten Empfehlungen \u00fcber mehrere Durchl\u00e4ufe<\/strong> hinweg. Besonders deutlich zeigte sich das bei GPT 5: Bei 42 Prozent aller F\u00e4lle waren die Empfehlungen bei mehrfacher Eingabe desselben Falls mal richtig und mal falsch \u2013 trotz exakt gleicher Eingabe.<\/p>\n

Im Experiment zeigte sich zwar, dass sich die Genauigkeit verbessern l\u00e4sst, wenn dieselbe Frage mehrfach gestellt und anschlie\u00dfend die niedrigste Dringlichkeitsstufe aus mehreren Antworten ausgew\u00e4hlt wird. Auf diese Weise stieg die Gesamtgenauigkeit im Mittel um vier Prozentpunkte, die Genauigkeit bei Selbstversorgungsf\u00e4llen sogar um 14 Prozentpunkte. Die Forschenden betonen aber ausdr\u00fccklich, dass dies keine Empfehlung f\u00fcr Endnutzer*innen<\/strong> ist, weil dabei im schlimmsten Fall Notf\u00e4lle \u00fcbersehen werden k\u00f6nnten.<\/p>\n

Relevanz f\u00fcr die Debatte um Prim\u00e4rversorgung<\/b><\/h5>\n

Die Ergebnisse sind auch gesundheitspolitisch relevant,<\/strong> so Kopka. In Deutschland wird intensiv \u00fcber ein Prim\u00e4rversorgungssystem und \u00fcber Formen digitaler Patientensteuerung diskutiert. Die TU-Studie legt nahe, dass allgemeine Sprachmodelle wie ChatGPT daf\u00fcr derzeit kein geeignetes allein einsetzbares Instrument sind. Wenn ein System in der Praxis \u00fcberwiegend zur \u00e4rztlichen Abkl\u00e4rung r\u00e4t, entsteht kaum ein echter Steuerungseffekt \u2013 unn\u00f6tige \u00e4rztliche Inanspruchnahme kann dann sogar zunehmen.<\/p>\n

Potenzial eher in qualit\u00e4tsgesicherten Anwendungen<\/b><\/h5>\n

\u201eDas Potenzial gro\u00dfer Sprachmodelle sehen wir deshalb derzeit weniger in einer Nutzung im Chatfenster der Hersteller als in einer sinnvollen Integration in qualit\u00e4tsgesicherten Anwendungen, also in Symptom-Checker-Apps. Dort k\u00f6nnten sie helfen, Informationen verst\u00e4ndlich aufzubereiten, Empfehlungen zu erl\u00e4utern und Menschen besser durch bestehende Versorgungswege zu lotsen \u2013 vorausgesetzt, die medizinische Qualit\u00e4tssicherung erfolgt im Hintergrund\u201c, so Marvin Kopka.<\/p>\n

Einschr\u00e4nkungen der Studie<\/b><\/h5>\n

Die Forschenden weisen zugleich daraufhin, dass der Fokus dieser Studie auf Bev\u00f6lkerungsrepr\u00e4sentativit\u00e4t lag. Da echte Notf\u00e4lle im Alltag selten sind und dementsprechend auch seltener bei der Nutzung von ChatGPT auftreten, enthielt auch der Datensatz nur wenige Notf\u00e4lle und untersuchte haupts\u00e4chlich Entscheidungen f\u00fcr oder gegen das Aufsuchen von \u00e4rztlicher Hilfe. Die Genauigkeit bei der Erkennung von echten Notf\u00e4llen sollte in weiteren Studien untersucht werden.<\/p>\n

    \n
  • TU Berlin, Pressemitteilung Nr. 71 vom 28.04.2026<\/i><\/li>\n
  • Kopka, M., He, L. & Feufel, M.A., Evaluating the accuracy of ChatGPT model versions for giving care-seeking advice. Commun Medicine (2026). https:\/\/www.nature.com\/articles\/s43856-026-01466-0<\/i><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"

    Laut einer Studie der TU Berlin neigen ChatGPT-Modelle zu \u00fcbervorsichtigen Empfehlungen. F\u00fcr die gezielte Steuerung von Patient*innen im Gesundheitssystem reicht das aktuell nicht aus. Die meisten Fehler traten bei F\u00e4llen auf, in denen eine...<\/p>\n","protected":false},"author":31,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15],"tags":[358,357],"class_list":["post-12340","post","type-post","status-publish","format-standard","hentry","category-gesundheitspolitik","tag-ai","tag-ki"],"yoast_head":"\nZu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen - [!] Oberarzt heute<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/oberarzt-heute.de\/?p=12340\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen - [!] Oberarzt heute\" \/>\n<meta property=\"og:description\" content=\"Laut einer Studie der TU Berlin neigen ChatGPT-Modelle zu \u00fcbervorsichtigen Empfehlungen. F\u00fcr die gezielte Steuerung von Patient*innen im Gesundheitssystem reicht das aktuell nicht aus. Die meisten Fehler traten bei F\u00e4llen auf, in denen eine...\" \/>\n<meta property=\"og:url\" content=\"https:\/\/oberarzt-heute.de\/?p=12340\" \/>\n<meta property=\"og:site_name\" content=\"[!] Oberarzt heute\" \/>\n<meta property=\"article:published_time\" content=\"2026-04-29T07:24:14+00:00\" \/>\n<meta name=\"author\" content=\"Redaktion\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Redaktion\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"5\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340\"},\"author\":{\"name\":\"Redaktion\",\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/#\\\/schema\\\/person\\\/44a9c05befe5c30151896dae6ec12ac6\"},\"headline\":\"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen\",\"datePublished\":\"2026-04-29T07:24:14+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340\"},\"wordCount\":1099,\"keywords\":[\"AI\",\"KI\"],\"articleSection\":[\"Gesundheitspolitik\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340\",\"url\":\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340\",\"name\":\"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen - [!] Oberarzt heute\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/#website\"},\"datePublished\":\"2026-04-29T07:24:14+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/#\\\/schema\\\/person\\\/44a9c05befe5c30151896dae6ec12ac6\"},\"breadcrumb\":{\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/?p=12340#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/oberarzt-heute.de\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/#website\",\"url\":\"https:\\\/\\\/oberarzt-heute.de\\\/\",\"name\":\"[!] Oberarzt heute\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/oberarzt-heute.de\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/oberarzt-heute.de\\\/#\\\/schema\\\/person\\\/44a9c05befe5c30151896dae6ec12ac6\",\"name\":\"Redaktion\",\"url\":\"https:\\\/\\\/oberarzt-heute.de\\\/?author=31\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen - [!] Oberarzt heute","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/oberarzt-heute.de\/?p=12340","og_locale":"de_DE","og_type":"article","og_title":"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen - [!] Oberarzt heute","og_description":"Laut einer Studie der TU Berlin neigen ChatGPT-Modelle zu \u00fcbervorsichtigen Empfehlungen. F\u00fcr die gezielte Steuerung von Patient*innen im Gesundheitssystem reicht das aktuell nicht aus. Die meisten Fehler traten bei F\u00e4llen auf, in denen eine...","og_url":"https:\/\/oberarzt-heute.de\/?p=12340","og_site_name":"[!] Oberarzt heute","article_published_time":"2026-04-29T07:24:14+00:00","author":"Redaktion","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"Redaktion","Gesch\u00e4tzte Lesezeit":"5\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/oberarzt-heute.de\/?p=12340#article","isPartOf":{"@id":"https:\/\/oberarzt-heute.de\/?p=12340"},"author":{"name":"Redaktion","@id":"https:\/\/oberarzt-heute.de\/#\/schema\/person\/44a9c05befe5c30151896dae6ec12ac6"},"headline":"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen","datePublished":"2026-04-29T07:24:14+00:00","mainEntityOfPage":{"@id":"https:\/\/oberarzt-heute.de\/?p=12340"},"wordCount":1099,"keywords":["AI","KI"],"articleSection":["Gesundheitspolitik"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/oberarzt-heute.de\/?p=12340","url":"https:\/\/oberarzt-heute.de\/?p=12340","name":"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen - [!] Oberarzt heute","isPartOf":{"@id":"https:\/\/oberarzt-heute.de\/#website"},"datePublished":"2026-04-29T07:24:14+00:00","author":{"@id":"https:\/\/oberarzt-heute.de\/#\/schema\/person\/44a9c05befe5c30151896dae6ec12ac6"},"breadcrumb":{"@id":"https:\/\/oberarzt-heute.de\/?p=12340#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/oberarzt-heute.de\/?p=12340"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/oberarzt-heute.de\/?p=12340#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/oberarzt-heute.de\/"},{"@type":"ListItem","position":2,"name":"Zu vorsichtig f\u00fcr die Versorgung: Schw\u00e4chen von ChatGPT bei Gesundheitsfragen"}]},{"@type":"WebSite","@id":"https:\/\/oberarzt-heute.de\/#website","url":"https:\/\/oberarzt-heute.de\/","name":"[!] Oberarzt heute","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/oberarzt-heute.de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/oberarzt-heute.de\/#\/schema\/person\/44a9c05befe5c30151896dae6ec12ac6","name":"Redaktion","url":"https:\/\/oberarzt-heute.de\/?author=31"}]}},"wp-worthy-pixel":{"ignored":false,"public":null,"server":null,"url":null},"wp-worthy-type":"normal","_links":{"self":[{"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=\/wp\/v2\/posts\/12340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=\/wp\/v2\/users\/31"}],"replies":[{"embeddable":true,"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12340"}],"version-history":[{"count":3,"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=\/wp\/v2\/posts\/12340\/revisions"}],"predecessor-version":[{"id":12342,"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=\/wp\/v2\/posts\/12340\/revisions\/12342"}],"wp:attachment":[{"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/oberarzt-heute.de\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}