ChatGPT leest nu je medisch dossier, alleen niet hier

Samenvatting:

• OpenAI zette op 23 juli Health in ChatGPT live: Amerikaanse gebruikers van 18 jaar en ouder kunnen hun medisch dossier, Apple Health, Function en MyFitnessPal koppelen.
• Gezondheidsgesprekken krijgen aparte versleuteling en gaan niet mee in modeltraining of advertentieprofielen, ook niet als je training aan hebt staan.
• De Amerikaanse privacywet HIPAA geldt hier niet. Het is een contract tussen jou en OpenAI, meer niet.
• Nederland en de rest van de EU staan niet in de uitrol. De officiële video heet letterlijk "coming to U.S. users".

OpenAI wil de plek zijn waar je je uitslag begrijpt

Een chatbot die vragen over gezondheid beantwoordt is oud nieuws. Een chatbot die je werkelijke bloeduitslagen van vorige maand erbij pakt, is dat niet. Dat is wat OpenAI donderdag live zette voor Amerikaanse gebruikers: je koppelt je medisch dossier en je gezondheidsapps, en ChatGPT rekent daarmee.

Het gaat om Apple Health, Function en MyFitnessPal, plus de dossiers bij je zorgverleners. Daarmee kun je volgens OpenAI een uitslag laten uitleggen, een gesprek met je arts voorbereiden, advies krijgen over eten en bewegen, of je verzekeringsopties naast je eigen zorggebruik leggen. Het draait op web en iOS, vanaf 18 jaar, op alle abonnementen tot en met de gratis versie.

Koppelen gaat per zorgaanbieder, uit een lijst met Amerikaanse ziekenhuisgroepen. Eén tik per instelling, en je dossier staat in het chatvenster.

Daarbovenop komt wat je horloge en je apps al bijhouden: verbrande calorieën, gelopen kilometers, slaapduur, stappen. Dat is de tweede stroom, en die is dagelijks.

OpenAI zet er zelf een streep bij: ChatGPT is geen dokter en vervangt geen medische zorg, diagnose of behandeling. Dat is geen overbodige zin. The Register wijst op onderzoek waarin taalmodellen bij vroege differentiaaldiagnose in meer dan tachtig procent van de gevallen de mist in gingen. En de lancering kwam één dag na een rechtszaak waarin wordt gesteld dat medisch advies van ChatGPT bijdroeg aan een bijna-fatale longembolie.

De privacybelofte is echt, en toch niet wat je denkt

OpenAI heeft dit deel serieus aangepakt. Gezondheidsgesprekken krijgen eigen versleuteling en worden afgeschermd van de rest van je account. Gekoppelde dossiers, je Apple Health-gegevens en de gesprekken die ze gebruiken blijven buiten de training van de modellen én buiten advertentietargeting, ook als je zelf training gewoon aan hebt staan. Ontkoppel je een account, dan is de gesynchroniseerde data binnen dertig dagen weg.

Dat is meer dan de meeste gezondheidsapps beloven. Alleen zegt het weinig over je rechtspositie, en dat is een ander gesprek.

In de VS regelt HIPAA wat er met medische gegevens mag gebeuren, maar die wet geldt voor zorgaanbieders en verzekeraars. Niet voor een techbedrijf dat een chatvenster levert. Er is dus geen toezichthouder die meekijkt op wat OpenAI met deze gegevens doet.

"Zonder HIPAA is het eigen risico. Het is op dat moment een contract tussen het individu en OpenAI."

— Bradley Malin, hoogleraar biomedische informatica Vanderbilt University Medical Center (TIME)

Radiotherapeut-oncoloog Danielle Bitterman van Mass General Brigham zegt het in hetzelfde stuk botter: ga ervan uit dat alles wat je in dit soort tools zet, niet langer privé is. Ze zegt dat over een product waarvan de beveiliging waarschijnlijk beter is dan die van je huisartsenportaal. Het verschil zit niet in de techniek, maar in wie je kunt aanspreken als het misgaat.

Hier gebeurt het niet, en dat is geen toeval

Nederland staat niet in de uitrol. De EU ook niet, en OpenAI noemt geen datum. De officiële aankondigingsvideo heet "Health in ChatGPT is coming to U.S. users", en dat is precies zo bedoeld.

Dat is niet moeilijk te verklaren. Gezondheidsgegevens zijn onder de AVG bijzondere persoonsgegevens, met een verbod als uitgangspunt en een korte lijst uitzonderingen. Een consumentendienst die medische dossiers inleest en er adviezen op baseert, schuurt daarnaast tegen de Europese regels voor medische hulpmiddelen aan. Een Amerikaanse launch met een disclaimer erbij is in de VS een productkeuze. Hier is het een dossier.

Toch verandert dit vandaag al iets voor Nederlandse organisaties, en niet omdat je de functie kunt aanzetten. The Register noteert dat bij OpenAI meer dan zeventig procent van de gezondheidsgesprekken plaatsvond búíten de speciale health-omgeving. Mensen typen hun klachten, uitslagen en medicatie gewoon in het normale chatvenster. Dat gebeurt ook bij jouw medewerkers, op jouw licenties, zonder aparte versleuteling en zonder die dertig-dagenregel.

Dus is de vraag niet of je ChatGPT Health gaat gebruiken. Die vraag beantwoordt Brussel wel. De vraag is of in je AI-afspraken staat wat iemand wél en niet in een chatvenster zet als het over gezondheid gaat, en of je weet welke van je tools medische informatie kunnen opslaan. Werk je in de zorg, dan is dat geen huishoudelijk detail maar een verwerkersvraag. Zoek dat deze week uit, voordat het product hier ooit landt.

Volgende Stap

Wil je je AI-afspraken op orde brengen voordat dit soort functies hier landt? Neem contact op. We kijken mee naar welke tools bij jullie medische of andere gevoelige gegevens kunnen, en wat je daarover moet vastleggen.

Headerbeeld, beelden en video: OpenAI.