Miriam en de AI die ze nooit gebruikt
Miriam is verpleegkundige in een GGZ-instelling. Haar werkgever heeft onlangs een AI-module geïntroduceerd die automatisch zorgplannen suggereert op basis van cliënthistorie. De bedoeling: minder schrijfwerk, meer tijd voor gesprekken.
Miriam gebruikt het systeem niet. Niet omdat ze tech-onkundig is — ze doet dat al jaren. Maar omdat ze niet weet hoe de AI tot zijn conclusies komt. 'Stel dat het iets mist,' zegt ze. 'Dan heb ik mijn handtekening gezet onder een plan dat ik zelf niet volledig heb gemaakt.'
Miriam is niet de uitzondering. Een significante groep zorgprofessionals negeert AI-aanbevelingen stelselmatig — niet vanwege weerstand tegen technologie, maar vanwege een geïnformeerd gebrek aan vertrouwen. Een AI-systeem dat niet vertrouwd wordt, wordt niet gebruikt.
“Vertrouwen is de échte innovatie in AI voor de zorg.”
Wat maakt AI vertrouwbaar?
Vertrouwen in AI is geen gevoel. Het is een resultaat van concrete technische en organisatorische keuzes. Een zorgverlener moet kunnen begrijpen waarom een AI-systeem een bepaalde aanbeveling doet. In zorgcontexten is uitlegbaarheid essentieel voor transparantie, AVG-verantwoording (art. 13–15 en 22) en — voor hoog-risico AI-systemen — AI Act-compliance.
Human-in-the-loop is geen feature die je kunt uitschakelen — het is een architectuurkeuze. In vertrouwbare zorg-AI beslist de professional altijd. Het systeem presenteert opties, geeft context en wijst op risico's. De clinicus valideert, corrigeert of verwerpt.
Patiënten vertrouwen zorginstellingen met de meest gevoelige informatie die er is. Die data mogen nooit worden ingezet voor doeleinden die de patiënt niet heeft goedgekeurd. Privacy-by-design is de minimumstandaard.
Safe-by-design: het wetenschappelijke fundament
Yoshua Bengio, Turing Award-winnaar, werkt via zijn nonprofit LawZero aan een nieuwe generatie AI: 'designed to be trustworthy and safe.' Het uitgangspunt: de huidige frontier-systemen zijn opaque en niet-aligned met menselijke doelen.
Safe-by-design betekent: geen zelfredzame autonomie. AI-systemen die zichzelf corrigeren zonder menselijke tussenkomst zijn gevaarlijk in de zorg. Safe AI kan niet meer dan waarvoor het is ontworpen — werkend naar expliciete, verifieerbare doelen.
De Europese AI Act classificeert AI in de gezondheidszorg als 'hoog risico' en stelt hoge eisen aan transparantie, auditeerbaarheid en menselijk toezicht. Dit is het beeld dat de zorg nodig heeft én dat regulators vereisen.
Hoe CareHub dit implementeert
Het CareHub-ecosysteem maakt onderscheid tussen processen waar AI waarde toevoegt en processen waar menselijk oordeel onvervangbaar is. Elke AI-aanbeveling in het platform is voorzien van uitleg op begrijpelijk niveau — niet als technische metric maar als context die de professional kan gebruiken.
Elke AI-interactie wordt gelogd: wat heeft het systeem gesuggereerd, wat heeft de zorgverlener beslist en waarom? Dat maakt auditing — en leren — mogelijk. De log is immutable, retentie-conform en organisatorisch ontkoppeld van de klinische data, wat zowel privacy als forensische bruikbaarheid waarborgt.
Cliëntdata die in het CareHub-platform zijn opgeslagen, worden nooit gebruikt voor het trainen van AI-modellen buiten de eigen organisatie. Datasoevereiniteit is een harde eis — geen marketingterm maar een contractueel uitgangspunt waar verwerkersovereenkomst en architectuur op steunen.
Het patiëntperspectief: vertrouwen begint bij transparantie
Vertrouwen in AI is niet alleen een verhaal van professionals. Cliënten en patiënten hebben recht op informatie over de inzet van AI in hun zorg. De AVG dwingt het juridisch af (artikelen 13–15 over geautomatiseerde besluitvorming); de praktijk laat zien dat patiënten die geïnformeerd zijn beter meewerken en vaker tevreden zijn.
In een mensgerichte AI-implementatie krijgt de cliënt vooraf te weten dat AI ondersteunt bij bijvoorbeeld de matching van een behandelaar of het opstellen van een conceptbrief. Hij kan vragen wat de AI heeft voorgesteld, en kan bezwaar maken tegen geautomatiseerde besluitvorming wanneer dat van toepassing is.
Dat klinkt zwaar. In praktijk werkt het lichtgewicht: een vermelding op de cliëntportaal, een korte uitleg op verzoek, en een 'hoe werkt AI in onze zorg'-pagina die toegankelijk is voor wie meer wil weten. Het effect: cliënten voelen zich serieus genomen. Het alternatief — AI verzwijgen of bagatelliseren — leidt onvermijdelijk tot vertrouwensschade als het later naar buiten komt.
Wat de regulators willen zien
De Autoriteit Persoonsgegevens, de Inspectie Gezondheidszorg en Jeugd, en op Europees niveau de toezichthouders onder de AI Act letten alle drie op vergelijkbare zaken. Eén: dat AI-inzet is gedocumenteerd, met DPIA, conformiteitsbeoordeling en risico-management. Twee: dat menselijk toezicht concreet werkt, niet alleen papier is. Drie: dat incidenten worden gedetecteerd, gemeld en geleerd.
Voor zorgaanbieders en zorgtech-leveranciers betekent het: de bewijslast verschuift. Vóór de AI Act was 'wij hebben er goed over nagedacht' in veel gevallen voldoende. Daarna is het: laat zien dat het systeem werkt zoals gedocumenteerd, op de doelpopulatie waarvoor het bedoeld is, met aanvaardbare foutpercentages.
Een werkbare voorbereiding: bouw vanaf het begin een log-en-evaluatiestructuur die zowel intern leren als externe verantwoording dient. De technische registratievereisten van de AI Act overlappen sterk met wat je sowieso nodig hebt om de AI in productie te verbeteren. Het is geen extra werk; het is hetzelfde werk, maar bewust gedaan.
Concreet: hoe bouw je een vertrouwbare AI-deploy?
Vier stappen, in volgorde. Eén: scope het probleem strikt. Welke specifieke beslissing of taak ga je ondersteunen? Niet 'administratieve last verlagen' (te breed) maar bijvoorbeeld 'automatisch concept-zorgplan na intake bij sectie X'. Hoe smaller de scope, hoe makkelijker de evaluatie.
Twee: ontwerp de menselijke poort vooraf. Wie ziet de AI-suggestie, met welke informatie, en wat is de actie? 'Goedkeuren', 'aanpassen', 'afwijzen met reden'. Die laatste optie is essentieel: zonder reden-vermelding kan je systeem niet leren.
Drie: bouw de logging vanaf dag één. Niet later, niet als compliance-vinkje. Logging is je product-verbeteringstool. De data die je nu niet vastlegt, kun je over zes maanden niet alsnog ophalen om de AI te evalueren.
Vier: definieer succes vooraf. Welke metrics moet de AI in productie halen? Acceptatiepercentage? Tijdwinst per case? Concordance met expert-oordeel op een steekproef? Zonder vooraf gedefinieerde succescriteria wordt elk pilot-resultaat aanleiding voor 'we moeten meer onderzoek doen' in plaats van een go/no-go-besluit.
