Betere kwaliteit van zorg, kostenbesparing, arbeidsbesparing en versnelde ontwikkeling van nieuwe behandelingen. Dat zijn potentiële voordelen van AI in de zorg volgens ZonMw. Vorig jaar sprak toenmalig zorgminister Agema van een ‘revolutie in de zorg’.
Welke belangrijke, bijzondere of verontrustende ontwikkelingen ziet zorgjurist Hermen in de zorgsector eigenlijk voorbijkomen? In een terugkerende blogserie deelt hij zijn gedachten over de inzet van AI in de zorg, uiteraard met een juridische blik. En soms met een knipoog.
De eerste ontwikkeling die ik wil delen, kwam ik tegen op een forum van de Nederlandse Vereniging van Ziekenhuizen. Steeds vaker vragen patiënten gegevens op om deze zelf door AI te laten beoordelen. Het gaat dan bijvoorbeeld om labuitslagen of medische beeldvorming. Met de AI-resultaten gaat de patiënt vervolgens terug naar de arts met het verzoek om een herbeoordeling of een second opinion.
Bij gebruik van AI op deze manier spelen de volgende knelpunten:
- ChatGPT is geen arts: omdat open AI-tools zoals Chatgpt doorgaans mensen willen pleasen, zal er vaak iets (afwijkends) gevonden worden. Ook wanneer dit niet relevant of zelfs helemaal niet aanwezig is (met alle gevolgen van dien). Ik heb het nog even opgezocht: ChatGPT staat niet in het BIG-register. Het is dus hooguit een alternatieve genezer.
- Toename van onnodige zorgverlening: de arts moet eventueel een herbeoordeling doen, de patiënt te woord staan en uitleg geven. In sommige gevallen leidt dit tot een (onnodige) second opinion. Moest AI niet zorgen voor kosten- en arbeidsbesparing?
- Oneerbiediging van de persoonlijke levenssfeer: de zorgsector probeert uit alle macht zorgvuldig met patiëntgegevens om te gaan en deze te beschermen. Patiënten dumpen hun eigen gegevens vervolgens lukraak in online AI-tools. Het inzagerecht op grond waarvan patiënten hun dossier opvragen, speelt ‘een belangrijke rol in de eerbiediging van de persoonlijke levenssfeer van de patiënt’ (aldus de Memorie van Toelichting uit 1989). Dit is een verwijzing naar het recht op privacy uit artikel 10 van de Grondwet. Dat recht gebruiken patiënten dus om hun medische gegevens te delen met wildvreemde bedrijven, zonder te weten wat die met hun gegevens doen? Oh, the irony.
- Het speelveld is ongelijk: patiënten mogen doen met hun eigen gegevens wat ze willen, de wet beperkt zorgaanbieders. Dit faciliteert de ontwikkeling van discutabele open AI-tools, terwijl AI-tools in de zorgsector die binnen de kaders van de wet worden ontwikkeld moeizaam aan data komen. Als de diagnoses van ChatGPT straks beter zijn dan die van artsen, zullen we ChatGPT dan toch maar opnemen in het BIG-register?
Mijn blik was gericht op de positieve inzet van AI binnen de zorg. Inmiddels realiseer ik me dat er tegelijkertijd AI-tools worden ontwikkeld die het werk in de zorg juist bemoeilijken. Als artsen AI kunnen gebruiken, kunnen patiënten dat ook. Ik probeer altijd af te sluiten met een positieve opinie, maar ik kom er even niet uit. Heeft iemand een second opinion?
Blog: Listen to the music
Een stemwijzer invullen? Er zijn veel belangrijkere dingen, vindt juridisch consultant Hermen Korterink. Zoals de top 2000 bijvoorbeeld. Daarom brengt Hermen speciaal voor jullie een
Blog: Oranje
Wat langs de deuren gaan met Sint Maarten en juridisch werk met elkaar gemeen hebben? Juridisch consultant Hermen kroop weer in de pen en dit
De 8 grootste uitdagingen binnen het afhandelen van letselschadeclaims
De behandeling van letselschadeclaims vraagt veel meer dan alleen juridische kennis. Het is een complex samenspel van empathie, dossiermanagement, medisch inzicht en communicatie met verschillende