Het vooraf definiëren van ethische waarden stelt organisaties in staat om de forensische zorg op een maatschappelijk verantwoorde wijze te innoveren.
De overheid streeft naar een geleidelijke en verantwoorde terugkeer van daders in de samenleving door de kwaliteit en effectiviteit van forensische zorg continu te optimaliseren. De forensische zorgketen zet daar steeds vaker innovatieve technologieën voor in om de publieke veiligheid te vergroten. Kunstmatige intelligentie bijvoorbeeld, heeft de potentie om professionals te ondersteunen bij het maken van beter gefundeerde beslissingen ten behoeve van verlof, het door- en uitstromen in zorg of het herkennen van gevaarlijk afwijkend gedrag zoals suïcide en zelfmutilatie in isolatie1. Ook maken forensische zorgaanbieders al gebruik van virtual reality bij agressiepreventie om ervaringsgericht te behandelen in een realistische context, waarmee de grens tussen een gesloten setting en de buitenwereld vervaagt2. Het hoofddoel van forensische zorg is altijd het bijdragen aan terugdringen van delictgedrag met een passende behandeling en waar nodig beveiliging.
De razendsnelle ontwikkelingen in de techsector bieden nieuwe kansen om een (bestaand) probleem op te lossen, waarbij het cruciaal is om stil te staan bij de morele overwegingen binnen de forensische zorgketen. Het snijvlak waarop de forensische zorg zich beweegt en de impact die het heeft op de veiligheid van de samenleving maakt dat innovatie niet alleen draait om wát en hóe een probleem opgelost kan worden, maar vooral om wáárom iets opgelost dient te worden3. Een diepgaand begrip van de situatie geeft zorgaanbieders daarbij een mogelijkheid om in hun beleidsontwikkeling rekening te houden met wat er in de samenleving speelt.
Om tot een weloverwogen en onderbouwd besluit te komen over de inzet van technologische innovaties, dient een organisatie een gestructureerd proces te doorlopen om te voorkomen dat het in een onnavolgbare retoriek vervalt. Het vooraf definiëren van ethische waarden helpt inzichtelijk te maken welke opvattingen, belangen en achterliggende waarden een mogelijke oplossing bij verschillende betrokkenen oproept. Dit artikel beschrijft hoe het redeneren vanuit ethische waarden kan leiden tot een goed onderbouwde afweging voor de start van een pilot. Hierbij wordt gebruik gemaakt van een batenlogica, waarmee oplossingen en beleidskeuzes worden gekoppeld aan de doelstellingen van een organisatie. Zo wordt in één oogopslag duidelijk op welke vlakken waarde wordt gecreëerd.
Stap 1: van ethische bezwaren naar ethiek als waarde
Bij het overwegen van innovatieve oplossingen voor een geïdentificeerde kans of risico, heeft de overheid ook de rol om te bepalen of de oplossing de publieke waarden versterkt en beschermt. In een werkveld dat maatschappelijk erg gevoelig ligt, vraagt dat om een breed begrip van individuele opvattingen, (tegenstrijdige) belangen en emoties bij een mogelijke oplossing. Door ethiek als reflectieproces op te zetten aan het begin van het traject, stelt een organisatie zichzelf in staat om zulke waarden principieel en continu te blijven beoordelen en bijsturen om de forensische zorg op een maatschappelijk verantwoorde wijze te innoveren.
Uit ervaring blijkt dat het in kaart brengen van de diversiteit in (individuele) waarden en principes van betrokken partijen helpt bij het bepalen hoe innovaties kunnen bijdragen aan het vormgeven van de oplossing. Door gezamenlijk met een onafhankelijke gespreksleider te verkennen welke eerste reacties een initiatief oproept, wordt een afweging tussen belangen en alternatieven gemaakt. Grofweg kan daarin een positie worden aangenomen als voorstander, tegenstander of neutraal/twijfelachtig over de oplossing. Om dit inzichtelijk te maken hanteren we het verminderen van incidenten tijdens het verlof van cliënten met behulp van technologische innovaties als fictieve casus. Voorbeelden van eerste reacties die deze casus oproepen zijn:
- Wanneer technologie kan worden ingezet om nauwkeurigere voorspellingen te maken van de zorgbehoefte van onze cliënten moet dit niet worden tegengehouden;
- Bij nieuwe incidenten tijdens verlof is het lastig te bepalen wie de verantwoordelijkheid voor deze besluitvorming draagt: de technologie of een medewerker;
- Bij gevoelige casuïstiek is het wenselijk dat de inschatting van het recidiverisico altijd een menselijk besluit blijft.
Op basis van deze gesprekken en reacties wordt bepaald welke feiten of informatie ontbreekt, zoals vragen over eigenaarschap (‘Wie mag zo’n algoritme bouwen?’); vragen over relevantie van de oplossing (‘Hoe vaak ontstaat een incident tijdens verlof, en wat kan de meerwaarde van technologie dan precies hierin zijn?’); of vragen over de scope (‘Over welke cliënten spreken we bij het maken van zo’n inschatting van recidiverisico?’).
Na het vaststellen van deze kaders wordt een inschatting gemaakt hoe de waarden met elkaar conflicteren, en of dit kan leiden tot een ethisch maatschappelijk vraagstuk. Zo kan iemand die het inzetten van kunstmatige intelligentie in de zorg onmenselijk vindt zich bijvoorbeeld zorgen maken over de waarde van relationele zorgverlening. De belangrijkste waarden en principes worden in dat geval op groepsniveau met behulp van één concrete hoofdvraag in kaart gebracht om tot een gezamenlijk beeld te komen (zie Figuur 1).
Een afweging tussen objectiviteit, veiligheid en de persoonlijke benadering in de forensische zorg kan bijvoorbeeld leiden tot een uitgangspunt dat zo’n advies te allen tijde dienend moet zijn aan het oordeel van de behandelaren. Dit kan bijvoorbeeld door een voorselectie te maken van patiënten die een groter maatschappelijk risico tijdens het verlof lopen op basis van de beschikbare documentatie. Zodra de ethische kaders zijn gedefinieerd kan er een volgende stap worden gezet: de vormgeving van de implementatie van de oplossing.
Figuur 1: Een voorbeeld van argumenten die door deelnemende partijen voor de inzet van technologie bij risicotaxatie gegeven kunnen worden, inclusief achterliggende waarde.
Stap 2: inventariseren van mogelijke ethische oplossingen
In deze fase stellen de deelnemende partijen in een workshop samen de batenlogica4 op. Vanuit de doelstelling om het aantal incidenten tijdens verlof te verminderen zal worden geredeneerd naar mogelijke oplossingen. Dit gebeurt door steeds de vraag te stellen ‘Hoe doe je dat?’. Dit voorkomt niet alleen tunnelvisie bij deelnemende partijen door de mogelijkheid te geven om alle mogelijke oplossingen te overwegen, maar kan met de ethische kaders uit stap 1 ook inzicht geven in waarom sommige oplossingen moreel problematisch worden gevonden.
Figuur 2: Eén stroom van de batenlogica die leidt tot de oplossing om een algoritme te ontwikkelen.
In deze casus hebben wij één stroom van de batenlogica uitgewerkt die leidt tot de oplossing om een algoritme te ontwikkelen (Figuur 2). Bij elke stap van rechts naar links worden de morele waarden meegewogen in het definiëren van mogelijke waardedrijvers. Zo kan het beantwoorden van de vraag ‘Hoe doe je dat?’ na ‘Verbeteren van de inschatting kans op een incident’ op verschillende manieren worden bereikt. Een mogelijk alternatief pad kan zich bijvoorbeeld richten op het verzamelen van meer data als blijkt dat betrouwbare informatie op dit moment ontbreekt. Deze vraag wordt net zolang gesteld totdat er een concrete oplossing is geformuleerd. Zo valt meer inzicht in voorspellende factoren voor risicogedrag te verkrijgen door de beschikbare data over recidive (zoals dossiers en klinische relevante informatie ingevuld door behandelaars) te analyseren.
Mogelijk willen betrokken partijen geen besluit nemen over de beste technologische oplossing als aan de toepassingsmogelijkheden wordt getwijfeld. In de batenlogica worden de morele vragen uit stap 1 verwerkt in de route richting mogelijke oplossingen.
Stap 3: vormgeven van de pilot
De laatste stap is het kiezen van de beste oplossing: wat gaan we implementeren? De beste oplossing is niet alleen aantrekkelijk vanwege de haalbaarheid en impact op het bereiken van het doel, maar is ook te realiseren binnen de in stap 1 gedefinieerde ethische kaders. Deze oplossing wordt vormgegeven samen met de deelnemers in de vorm van een pilot die ook voldoet aan het vastgestelde ethische kader. In de voorbereiding van een pilot wordt vastgelegd aan welke eisen bij de implementatie van de oplossing moet worden voldaan. Een voorbeeld is het vastleggen van de minimaal vereiste datavelden om voor een specifieke patiënt het risico op een incident in te schatten.
Deze testfase is ook de perfecte kans om enkele voorwaarden die in stap 1 zijn opgesteld te toetsen. Hoe nauwkeurig werkt het algoritme als het wordt toegepast op historische data waarbij de uitkomst al bekend is? Dit geeft meer vertrouwen in de toepassingsmogelijkheden voor de behandelaren. Daarnaast kan het uitgangspunt zijn dat een mens het laatste oordeel heeft voordat verlof wordt toegekend. Door alle stappen gezamenlijk te doorlopen en vast te leggen ontstaat een transparante beschrijving van het besluitvormingsproces. Dit document is daarmee direct een onderbouwing naar de buitenwereld hoe de oplossing tot stand is gekomen en binnen welk ethisch kader dit is gedaan.
De forensische zorg ligt constant onder een maatschappelijk vergrootglas vanwege de angst voor incidenten. Dit leidt tot druk om de kwaliteit en effectiviteit te blijven optimaliseren met het doel Nederland veiliger te maken zonder dat burgers zich daar minder veilig door gaan voelen.
Organisaties zijn voorzichtig in het nemen van stappen richting technologische innovaties, omdat zij de maatschappelijke impact onvoldoende overzien. Het vooraf definiëren van ethische waarden en het doel van het innovatietraject helpen zowel de maatschappelijke waarde als mogelijke impact inzichtelijk te maken, waarbij de afwegingen en conclusie worden vastgelegd. Het meenemen van ethiek als criterium voor deze afweging helpt om een weloverwogen en onderbouwd besluit te nemen over de beste richting.
1: Haarms, R. & Peterse. J. (2019). Smart Detect: vroegtijdig detecteren van risicovol gedrag (zie bron).
2: Kip, H. et al. (2019). Technologie in de forensische zorg – Crossing borders (zie bron).
3: Simon Sinek (2010). Start with Why: How Great Leaders Inspire Everyone to Take Action.
4: De batenlogica is een methode om een logische relatie te leggen tussen het doel van het innovatietraject en mogelijke oplossingen door van het doel (rechts) via waardedrijvers (midden) naar mogelijke oplossingen (links) te redeneren.
