Ist es eine gute Idee, ChatGPT Well being Ihre Krankenakten zur Verfügung zu stellen?

Ihre KI-Arztpraxis wird erweitert. Am 7. Januar OpenAI gab das bekannt In den kommenden Wochen wird ChatGPT Well being eingeführt, ein spezieller Tab für Gesundheit, der es Benutzern ermöglicht, ihre Krankenakten hochzuladen und Apps wie Apple Well being, die personalisierte Gesundheitstestplattform Operate und MyFitnessPal zu verbinden.

Nach Angaben des UnternehmensTäglich stellen mehr als 40 Millionen Menschen ChatGPT eine Frage zum Thema Gesundheit, was mehr als 5 % aller weltweiten Nachrichten auf der Plattform ausmacht – aus geschäftlicher Sicht ist es additionally sinnvoll, sich auf die Gesundheit zu konzentrieren. Aber wie sieht es aus Patientensicht aus?

„Ich conflict nicht schockiert, diese Nachricht zu hören“, sagt Dr. Danielle Bitterman, Radioonkologin und klinische Leiterin für Datenwissenschaft und KI bei Mass Common Brigham Digital. „Ich denke, dass dies auf ein ungedecktes Bedürfnis der Menschen in Bezug auf ihre Gesundheitsversorgung hinweist. Es ist schwierig, einen Arzt aufzusuchen, es ist heutzutage schwierig, medizinische Informationen zu finden, und leider herrscht ein gewisses Misstrauen gegenüber dem medizinischen System.“

Wir haben Experten gefragt, ob die Übergabe Ihrer Gesundheitsdaten an ein KI-Device eine gute Idee ist.

Was ist ChatGPT Well being?

Die neue Funktion wird ein Hub sein, über den Menschen ihre Krankenakten hochladen können, einschließlich Laborergebnissen, Besuchszusammenfassungen und Krankengeschichte. Wenn Sie dem Bot Fragen stellen, stützen sich diese auf diese Weise „auf die von Ihnen verknüpften Informationen“, so das Unternehmen in seiner Ankündigung. OpenAI schlägt vor, Fragen zu stellen wie: „Wie entwickelt sich mein Cholesterinspiegel?“ „Können Sie meine letzten Blutwerte vor meinem Termin zusammenfassen?“ „Geben Sie mir einen Überblick über meinen allgemeinen Gesundheitszustand.“ Oder: „Morgen habe ich meine jährliche Vorsorgeuntersuchung. Worüber soll ich mit meinem Arzt sprechen?“

Mehr lesen: 9 von Ärzten anerkannte Möglichkeiten, ChatGPT für Gesundheitsberatung zu nutzen

Benutzer können ChatGPT auch mit Apple Well being verbinden, sodass das KI-Device Zugriff auf Daten wie Schritte professional Tag, Schlafdauer und die Anzahl der während des Trainings verbrannten Kalorien hat. Eine weitere Neuerung ist die Möglichkeit zur Synchronisierung mit Daten von Operate, einem Unternehmen, das auf mehr als 160 Marker im Blut testet, sodass ChatGPT Zugriff auf Laborergebnisse sowie Gesundheitsempfehlungen von Ärzten hat. Benutzer können auch MyFitnessPal für Ernährungsratschläge und Rezepte sowie Weight Watchers für Essensideen und Rezepte für Personen, die GLP-1-Medikamente einnehmen, verbinden.

OpenAI, das über eine Lizenz- und Technologievereinbarung verfügt, die dem Unternehmen den Zugriff auf die Archive von TIME ermöglicht, weist darauf hin, dass Well being dazu gedacht ist, die Gesundheitsversorgung zu unterstützen – und nicht zu ersetzen – und nicht zur Diagnose oder Behandlung verwendet werden soll. Das Unternehmen gab an, zwei Jahre lang mit mehr als 260 Ärzten aus Dutzenden von Fachgebieten zusammengearbeitet zu haben, um herauszufinden, was das Device leisten kann und wie es auf Benutzer reagiert. Dazu gehört, wie dringend es die Menschen ermutigt, sich an ihren Anbieter zu wenden, die Fähigkeit, klar zu kommunizieren, ohne zu stark zu vereinfachen, und die Priorisierung der Sicherheit, wenn Menschen in psychischen Schwierigkeiten sind.

Ist das Hochladen Ihrer medizinischen Daten sicher?

OpenAI hat sich mit b.properly, einem Unternehmen für Datenkonnektivitätsinfrastruktur, zusammengetan, um Benutzern die sichere Verbindung ihrer Krankenakten mit dem Device zu ermöglichen. Der Ankündigung zufolge wird die Registerkarte „Gesundheit“ über „erweiterte Privatsphäre“ verfügen, einschließlich einer separaten Chat-Verlaufs- und Speicherfunktion als andere Registerkarten. OpenAI sagte außerdem, dass „Gespräche im Gesundheitsbereich nicht zum Trainieren unserer Basismodelle verwendet werden“ und Gesundheitsinformationen nicht in Nicht-Gesundheits-Chats einfließen würden. Darüber hinaus können Benutzer „Gesundheitserinnerungen jederzeit anzeigen oder löschen“.

Dennoch mahnen einige Experten zur Vorsicht. „Der konservativste Ansatz besteht darin, davon auszugehen, dass alle Informationen, die Sie in diese Instruments hochladen, oder alle Informationen, die sich möglicherweise in Anwendungen befinden, die Sie anderweitig mit den Instruments verknüpfen, nicht mehr privat sind“, sagt Bitterman.

Keine Bundesregulierungsbehörde regelt die Gesundheitsinformationen, die KI-Chatbots zur Verfügung gestellt werden, und ChatGPT bietet Technologiedienste an, die nicht in den Geltungsbereich von HIPAA fallen. „Zu diesem Zeitpunkt handelt es sich um eine vertragliche Vereinbarung zwischen dem Einzelnen und OpenAI“, sagt Bradley Malin, Professor für biomedizinische Informatik am Vanderbilt College Medical Middle. „Wenn Sie Daten direkt an ein Technologieunternehmen weitergeben, das keine Gesundheitsdienstleistungen erbringt, sollten Käufer vorsichtig sein.“ Im Falle einer Datenschutzverletzung hätten ChatGPT-Benutzer gemäß HIPAA keine besonderen Rechte, fügt er hinzu, obwohl es möglich sei, dass die Federal Commerce Fee in Ihrem Namen einspringe oder dass Sie das Unternehmen direkt verklagen könnten. Da sich medizinische Informationen und KI zu überschneiden beginnen, sind die Auswirkungen bisher unklar.

„Wenn Sie zu Ihrem Arzt gehen und mit ihm interagieren, besteht eine professionelle Vereinbarung, dass er diese Informationen vertraulich behandelt, aber das ist hier nicht der Fall“, sagt Malin. „Sie wissen nicht genau, was sie mit Ihren Daten machen werden. Sie sagen, dass sie sie schützen werden, aber was genau bedeutet das?“

Mehr lesen: Die 4 Worte, die Ihren Arzt in den Wahnsinn treiben

Als OpenAI am 8. Januar um einen Kommentar gebeten wurde, wies es TIME an ein Beitrag auf X vom Chief Info Safety Officer Dane Stuckey. „Konversationen und Dateien in ChatGPT werden im Ruhezustand und bei der Übertragung standardmäßig verschlüsselt, als Teil unserer zentralen Sicherheitsarchitektur“, schrieb er. „Für Well being haben wir auf dieser Grundlage mit zusätzlichen, mehrschichtigen Schutzmaßnahmen aufgebaut. Dazu gehört eine weitere Verschlüsselungsebene … verbesserte Isolation und Datensegmentierung.“ Er fügte hinzu, dass die Änderungen, die das Unternehmen vorgenommen hat, „Ihnen maximale Kontrolle darüber geben, wie Ihre Daten verwendet und abgerufen werden“.

Die Frage, mit der sich jeder Benutzer auseinandersetzen muss, lautet: „Ob Sie darauf vertrauen, dass OpenAI sein Wort hält“, sagt Dr. Robert Wachter, Vorsitzender der medizinischen Fakultät der College of California in San Francisco und Autor von Ein riesiger Sprung: Wie KI das Gesundheitswesen verändert und was das für unsere Zukunft bedeutet.

Vertraut er ihm? „Das tue ich irgendwie, zum Teil weil sie ein wirklich starkes Unternehmensinteresse daran haben, das hier nicht zu vermasseln“, sagt er. „Wenn sie sich mit sensiblen Themen wie Gesundheit befassen wollen, ist ihre Marke darauf angewiesen, dass Sie sich dabei wohlfühlen, und wenn es zum ersten Mal zu einer Datenschutzverletzung kommt, heißt es: ‚Nehmen Sie meine Daten da raus – ich teile sie nicht mehr mit Ihnen.‘“

Wachter sagt, dass er zögern würde, Informationen in seinen Unterlagen auf ChatGPT hochzuladen, wenn sie Informationen enthielten, die schädlich sein könnten, wenn sie an die Öffentlichkeit gelangen würden – wie zum Beispiel eine Vorgeschichte von Drogenkonsum. „Ich wäre etwas vorsichtig“, sagt er. „Das wird bei jedem anders sein, und mit der Zeit, wenn die Leute sich wohler fühlen und denken, dass das, was sie daraus ziehen, nützlich ist, werden die Leute meiner Meinung nach durchaus bereit sein, Informationen weiterzugeben.“

Das Risiko schlechter Informationen

Über Datenschutzbedenken hinaus bestehen bekannte Risiken bei der Verwendung von Chatbots, die auf großen Sprachmodellen für Gesundheitsinformationen basieren. Bitterman kürzlich Co-Autor einer Studie Dabei wurde festgestellt, dass bei Modellen die Hilfsbereitschaft Vorrang vor der medizinischen Genauigkeit hat – und immer eine Antwort zu liefern, insbesondere eine, auf die der Benutzer wahrscheinlich reagiert. In einem Experiment lieferten beispielsweise Modelle, die darauf trainiert wurden, zu wissen, dass Paracetamol und Tylenol dasselbe Medikament sind, immer noch ungenaue Informationen, als sie gefragt wurden, warum das eine sicherer sei als das andere.

„Die Grenze zwischen Hilfsbereitschaft und Genauigkeit liegt eher auf der Seite der Hilfsbereitschaft“, sagt Bitterman. „Aber in der Medizin müssen wir genauer sein, auch wenn es auf Kosten der Hilfsbereitschaft geht.“

Plus, mehrere Studien vorschlagen Das wenn Informationen fehlen In Ihren Krankenakten ist die Wahrscheinlichkeit höher, dass Modelle halluzinieren oder falsche oder irreführende Ergebnisse liefern. Laut einem Bericht des Nationwide Institute of Requirements and Know-how über die Unterstützung von KI im GesundheitswesenDie Qualität und Gründlichkeit der Gesundheitsdaten, die ein Benutzer einem Chatbot übermittelt, bestimmt direkt die Qualität der Ergebnisse, die der Chatbot generiert. Schlechte oder unvollständige Daten führen zu ungenauen und unzuverlässigen Ergebnissen. Einige gemeinsame Merkmale tragen zur Verbesserung der Datenqualität bei, heißt es in dem Bericht: korrekte, sachliche Informationen, die umfassend, vollständig und konsistent sind, ohne veraltete oder irreführende Erkenntnisse.

In den USA „beziehen wir unsere Gesundheitsversorgung von allen verschiedenen Standorten, und sie ist im Laufe der Zeit fragmentiert, sodass die meisten unserer Krankenakten unvollständig sind“, sagt Bitterman. Das erhöht die Wahrscheinlichkeit, dass man Fehler sieht, wenn man errät, was in Bereichen passiert ist, in denen es Lücken gibt, sagt sie.

Der beste Weg, ChatGPT Well being zu nutzen

Insgesamt betrachtet Wachter ChatGPT Well being als einen Fortschritt gegenüber der aktuellen Model. Die Leute nutzten den Bot bereits für Gesundheitsfragen, und indem sie ihn mit mehr Kontext über ihre Krankenakten versorgen – etwa eine Vorgeschichte von Diabetes oder Blutgerinnseln –, glaubt er, dass sie nützlichere Antworten erhalten werden.

„Was Sie heute bekommen, ist meiner Meinung nach besser als das, was Sie zuvor bekommen haben, wenn alle Ihre Hintergrundinformationen enthalten sind“, sagt er. „Es wäre nützlich, diesen Kontext zu kennen. Aber ich denke, dass die Instruments selbst mit der Zeit besser werden und etwas interaktiver sein müssen, als sie es jetzt sind.“

Als Dr. Adam Rodman das sah Einführungsvideo zu ChatGPT Well beinger conflict zufrieden mit dem, was er sah. „Ich fand es ziemlich intestine“, sagt Rodman, Allgemeininternist am Beth Israel Deaconess Medical Middle, wo er die Activity Power für die Integration von KI in den Lehrplan der medizinischen Fakultät leitet, und Assistenzprofessor an der Harvard Medical Faculty. „Der Fokus lag wirklich darauf, es zu nutzen, um Ihre Gesundheit besser zu verstehen – nicht als Ersatz, sondern als Möglichkeit zur Verbesserung.“ Da die Leute ChatGPT bereits für Dinge wie die Analyse von Laborergebnissen nutzten, werde die neue Funktion dies einfach einfacher und bequemer machen, sagt er. „Ich denke, das spiegelt eher wider, wie die Gesundheitsversorgung im Jahr 2026 aussieht, als irgendein Tremendous-Roman“, sagt er. „Das ist die Realität, wie sich die Gesundheitsversorgung verändert.“

Mehr lesen: 10 Fragen, die Sie bei Arztterminen immer stellen sollten

Wenn Rodman seine Patienten darüber berät, wie sie KI-Instruments am besten nutzen können, empfiehlt er ihnen, Fragen zum Gesundheitsmanagement zu vermeiden, beispielsweise den Bot zu bitten, das beste Behandlungsprogramm auszuwählen. „Lassen Sie es nicht autonome medizinische Entscheidungen treffen“, sagt er. Es ist jedoch durchaus berechtigt, Ihren Arzt zu fragen, ob er etwas übersehen hat, oder sich mit „risikoarmen“ Themen wie Diät- und Trainingsplänen oder der Interpretation von Schlafdaten zu befassen.