De zorgverlener draait op voor AI-fouten die hij niet maakte
Vraag een arts die gebruikmaakt van een AI tool wie er verantwoordelijk is (of zich verantwoordelijk voelt) als AI de fout in gaat. De kans is groot dat de zorgverlener naar zichzelf wijst. Niet naar de leverancier die de tool bouwde. Niet naar de inkoper die hem binnenhaalde. Naar zichzelf.
Het is hoogzomer, het seizoen waarin niemand zonder kaart de weg op gaat. Behalve de zorgverlener, die de verantwoordelijkheid voor AI in zijn eentje draagt.
En dat hij die last voelt, is geen aanname. Deze week publiceerde IT-dienstverlener SureSync onderzoek onder 212 professionals in IT, data en compliance binnen de Nederlandse zorg. 41 procent van de zorgprofessionals vindt dat de behandelend professional zelf verantwoordelijk is als AI een fout maakt. 36 procent legt die verantwoordelijkheid bij de zorgorganisatie. Slechts 14 procent bij de leverancier van de AI-toepassing.
De mensen die het dichtst bij de patiënt staan voelen de last dus het sterkst. Niet degene die de tool bouwde of inkocht. Zonder duidelijke kaders draagt de zorgverlener iets wat gedeeld hoort te worden, of wat misschien helemaal niet bij hem of haar thuishoort.
Vorige week kreeg de zorg iets in handen om die last beter te verdelen. De Brancheorganisaties Zorg (ActiZ, de Nederlandse ggz, UMCNL, NVZ en VGN samen) presenteerden een Handreiking AI, een overzicht van wet- en regelgeving en een praktische factsheet. Ontwikkeld in opdracht van BoZ door KPMG, met input van de leden zelf.
Geen dik beleidsdocument dat in een la verdwijnt, maar een routekaart. Hij vertelt een organisatie niet wát de bestemming is, welke AI-tool of welk resultaat, maar hoe je er verantwoord komt. Welke afslagen (wetgeving) je moet nemen, welke stops (checks, verantwoordelijkheden) onderweg horen, en dat de route per voertuig verschilt: een groot academisch ziekenhuis met tien AI-toepassingen heeft andere governance nodig dan een kleine zorginstelling die net begint. De handreiking dwingt geen enkele vorm af. Ze geeft organisaties de ruimte om het af te stemmen op hun eigen omvang en risico’s. Oftewel; proportionaliteit.
Precies wat ik de afgelopen tijd op Ruisloos heb bepleit. Niet wachten op één perfecte, allesomvattende oplossing van bovenaf, maar starten met iets werkbaars. Iets wat meegroeit met de praktijk.
En de zorgverleners zelf? Die staan er opener in dan je zou denken. Meer dan de helft (56 procent) vindt dat AI de zorg juist veiliger maakt dan wanneer ze alleen op hun eigen oordeel vertrouwen. En 81 procent wil AI pas inzetten als honderd procent zeker is dat data veilig wordt gebruikt. We zijn de fase van koudwatervrees dus wel voorbij. We hebben hier te maken met vakmanschap dat om heldere kaders vraagt: duidelijke verantwoordelijkheden, heldere richtlijnen, en een human-in-the-loop-principe waarbij de professional het laatste woord houdt.
Deze zomer trekt de Nederlandse zorg voor het eerst een echte routekaart voor AI. Niet af, niet compleet, maar een begin. En als die kaart één ding goed doet, dan is het dit: de last van een AI-fout leggen waar hij hoort, in plaats van bij de arts die op dat moment toevallig naast de patiënt staat.
De arts die straks naar zichzelf wijst als AI de fout in gaat, verdient een betere kaart. Deze zomer is die er, voor het eerst.