AI kan zorgmedewerkers steeds meer werk uit handen nemen. Administratieve processen kunnen geautomatiseerd, documenten verwerkt en informatie tussen systemen doorgezet worden. Maar volgens Torsten Oosterholt, CPO van techbedrijf Yarado, betekent meer technische autonomie niet automatisch dat organisaties AI ook meer vrijheid moeten geven. Sterker nog: hoe meer beslissingen een AI-systeem zelfstandig neemt, hoe groter de behoefte aan controle kan worden. Juist in de zorg, waar processen vaak met gevoelige gegevens en duidelijke verantwoordelijkheden te maken hebben, is dat een belangrijk aandachtspunt.
De discussie over AI gaat volgens Oosterholt nog te vaak over wat technisch mogelijk is. De belangrijkere vraag is wat een organisatie daadwerkelijk aan AI zou moeten overlaten. “Als je AI volledige autonomie geeft, laat je het systeem bij iedere stap zelf nadenken en beslissen. Maar bij een proces dat al vastligt, voegt dat niet per se iets toe.” Dat is juist in de zorg relevant. Veel werkzaamheden zijn gebaseerd op protocollen, vaste procedures en controles. Bij zulke processen kan het verstandiger zijn om AI binnen duidelijke regels te laten werken. “Als de afspraak eenmaal staat, moet de uitvoering voorspelbaar zijn.”
Daarmee ontstaat volgens Oosterholt een paradox. “Een AI-systeem dat volledig vrij is om zelf beslissingen te nemen, lijkt op papier het meest autonoom. In de praktijk kan juist meer menselijke controle nodig zijn.” Door vooraf vast te leggen welke handelingen AI wel en niet zelfstandig mag uitvoeren, kan juist meer werk zonder voortdurende menselijke tussenkomst worden afgehandeld. “Het gaat er niet om wat AI technisch allemaal kan, maar wat je verstandig vindt om aan een model over te laten.”
Daarmee komt ook de vraag naar verantwoordelijkheid op tafel. Wie is verantwoordelijk wanneer een AI-systeem een verkeerde keuze maakt? Volgens Oosterholt moet daar vooraf over worden nagedacht. “Je moet vooraf afspraken maken over wie de grenzen ontwerpt, wie ze bewaakt en wie bij uitzonderingen beslist.” Voor zorgorganisaties betekent dit dat bij de invoering van AI niet alleen moet worden gekeken naar wat technisch mogelijk is. Ook moet duidelijk zijn welke beslissingen AI zelfstandig mag nemen en wanneer een medewerker moet kunnen ingrijpen.
Die gedachte speelde ook een rol bij de ontwikkeling van Yarado’s eigen AI-bouwer, Yara-Builder. Het oorspronkelijke idee was om AI met één opdracht een volledige automatisering te laten bouwen. In de praktijk bleek dat AI verkeerde aannames kon maken of context kon missen. “Misschien klopte 90 procent van de stappen, maar zonder mens die bijstuurt, werkte het proces als geheel niet. Daarom werkt de AI-bouwer stap voor stap samen met de gebruiker. Het systeem laat zien wat het doet en de gebruiker kan tussentijds bijsturen.”