De badmeester heet Washington.
Er is een oud principe bij zwembaden: het water is pas veilig als de badmeester op zijn stoel zit. Niet als het water schoon is. Niet als de regels aan de muur hangen. Niet als iedereen zwemles heeft gehad. Maar als er iemand is die toezicht houdt. Die ziet wat er gebeurt en die ingrijpt als het misgaat.
In de wereld van AI, en met name in de zorg, ontbreekt die badmeester al jaren. Zwembad vol, geen badmeester. Tot we op 12 juni ineens wel een badmeester bleken te hebben.
Op 12 juni konden gebruikers wereldwijd plotseling niet meer bij twee van de krachtigste AI-modellen ter wereld. Geen storing of technisch probleem, maar een besluit van de Amerikaanse overheid die met onmiddellijke ingang exportcontroles oplegde aan Anthropic’s nieuwste modellen. Interessante discussies ontstonden over de echte reden, en het verhaal achter het verhaal.
Maar gisteren, 30 juni, werden die controles opgeheven. Fable 5 is weer beschikbaar. Alsof er niets is gebeurd. Maar er is wel iets gebeurd.
De aanleiding was technisch van aard. Onderzoekers van Amazon stelden dat ze een methode hadden gevonden om de beveiligingen van Fable 5 te omzeilen (een zogenoemde jailbreak) waarna het model softwarekwetsbaarheden identificeerde en in één geval code produceerde die aantoonde hoe die kwetsbaarheid kon worden misbruikt. De Amerikaanse overheid greep daarop direct in. En Anthropic sloot wereldwijd de toegang af, ook voor Amerikaanse gebruikers zelf.
Wat me bezighoudt is niet de jailbreak zelf. Wat me bezighoudt is de relatieve stilte in Europa.
Want net iets voordat Fable en Mythos uit de lucht ging, verscheen de (erg sterke) analyse Europe 2031. Een vrij onrustig aanvoelend perspectief op de ontwikkelingen rondom AI en de gevolgen voor Europa. In dat perspectief ook een moment, over 2 jaar, waarin de VS exportbeperkingen oplegt aan technologie. Ook voor Europa. Alleen kwam dat moment niet over 2 jaar, maar 2 dagen na het verschijnen van deze analyse.
Europe 2031 is een scenarioanalyse van Brusselse denktanks en (ook Nederlandse) onderzoekers die beschrijft hoe Europa tegen 2031 economisch en politiek aan de zijlijn staat omdat het de snelheid en schaal van AI heeft onderschat. Een van de scenario's die het beschrijft: de Amerikaanse overheid legt exportbeperkingen op aan AI-technologie, en Europa staat buiten de defensieve coalitie die daaromheen wordt gevormd. Het rapport verscheen op 10 juni, twee dagen voordat Washington precies dat deed.
Dus het perspectief werd direct al ingehaald door de werkelijkheid. Terwijl Washington bepaalde welke AI-modellen Nederlanders mochten gebruiken, was de Nederlandse uitvoeringswet voor de Europese AI-verordening nog in consultatie. En zijn we in Nederland nog aan het bespreken wie er eigenlijk toezicht houdt op AI in de zorg.
De badmeester is er dus. Alleen heet hij niet IGJ of AP. Hij heet Washington.
De modellen die veelal draaien in de tools die zorgverleners of medewerkers in Nederlandse ziekenhuizen gebruiken, worden ontwikkeld in San Francisco. De modellen die huisartsen helpen met verslaglegging draaien vaak op servers in de VS. De beslissingen over welke versies beschikbaar zijn, wanneer en voor wie, worden genomen in boardrooms waar Nederland geen stem heeft.
Maar wie bepaalt in Europa wanneer AI veilig genoeg is voor gebruik in onze zorg?
Zweden heeft het voortouw genomen met de inspectie van AI-scribes, de eerste in Europa die formeel toetst of deze tools de juiste MDR-classificatie hebben. Waarbij ze besloten hebben dat een scribe zeker MDR plichtig is. Een doorbraak, maar in één land, voor één categorie tools.
Amazon, Microsoft, Google en Anthropic zijn intussen samen een industriebreed framework aan het ontwikkelen om de ernst van jailbreaks consistent te kunnen beoordelen, een gedeelde standaard die AI-ontwikkelaars helpt om nieuwe bevindingen te beoordelen en hoog capabele modellen veiliger te lanceren.
En in de zorg, waar de inzet van AI-fouten niet gaat over softwarekwetsbaarheden maar over patiëntveiligheid, is die vraag over wie daar de standaarden bepaalt misschien wel de meest urgente vraag van dit moment.
Maar wat kunnen we dan doen?
Europe 2031 geeft daarvoor een antwoord dat simpeler klinkt dan het is: bouw leverage: wees onmisbaar, niet halfslachtig zelfvoorzienend. Begin met het gebruiken van de tools. De mensen die de technologie moeten reguleren en besturen, begrijpen haar vaak niet goed genoeg omdat ze er geen toegang toe hebben of er zelf niet mee werken. Dat geldt bijvoorbeeld voor Europese, maar ook Nederlandse ambtenaren. Maar het geldt ook voor zorgbestuurders die AI-beleid schrijven zonder zelf ooit een model te hebben gebruikt.
Voor de zorg concreet: Europa heeft iets wat Amerika niet heeft: rijke, gestructureerde gezondheidsdata, deels verankerd in publieke systemen. Leverage komt niet van halfslachtige zelfstandigheid, maar van onmisbaar zijn. De European Health Data Space, Thuisarts als Nederlands alternatief voor ChatGPT Health, de Zweedse MDR-inspectie van AI-scribes, dat zijn allemaal bouwstenen van een positie waaruit Europa wél kan onderhandelen. Het ondersteunen van Europese AI-initiatieven als Mistral, General Intuition en toffe Nederlandse ontwikkelingen als Reason8, is daarin ook een stap.
Maar Europe 2031 is helder: één €1,7 miljard financieringsronde is nog steeds enorm klein vergeleken met wat Amerikaanse labs in één kwartaal uitgeven aan AI-infrastructuur. De richting klopt dus, de schaal nog niet.
Ik geloof dat vertrouwen in technologie niet vanzelf komt, en dat die mogelijk zelfs op deze manier onder druk komt te staan. We hebben een badmeester nodig die begrijpt wat er in het zwembad gebeurt, en die er ook is als het misgaat.
Technologie verandert de zorg. Maar wie bepaalt de spelregels…. dat maakt het verschil.