2030: een Truman Show of maatschappij met menselijke autonomie?

De hedendaagse Truman Show

Stel je voor, je hebt een koffie-afspraak met een collega in Utrecht. Om de locatie zo snel mogelijk en zonder verkeersboete te bereiken, start je de routeplanner-app en de Flitsmeister-app. Je stapt in de auto en rijdt op advies van de routeplanner-app via de snelweg waar de ANPR-camera’s jouw kenteken registreren. Bij de afslag richting het centrum zijn de verkeerslichten uitgerust met sensoren om de doorvoer van het verkeer te bespoedigen. Eenmaal een parkeerplek gevonden, parkeer je de auto en je zet de betaalapp voor parkeren aan, die werkt op basis van locatiegegevens op je smartphone. Je loopt richting het café waar jij en je collega elkaar zouden treffen en passeert ondertussen enkele wifi-netwerken die jouw smartphone detecteren. Op straat word je gevolgd door camera’s en wifi trackers van de gemeente en winkeliers. Tegelijkertijd krijg je gepersonaliseerde advertenties op je smartphone op basis van je gps-coördinaten, betaal- en surfgedrag. Intussen kijken (en verzamelen) jouw stappenteller, Facebook en datingapp mee. Voordat je aanschuift voor dat kopje koffie ben je nauwlettend in de gaten gehouden en ben je aangespoord tot het maken van verschillende keuzes. Je zou je haast onderdeel van de ‘Truman Show’ voelen, de film uit 1998 waarbij de hoofdpersoon onbewust de hoofdrol in een realityshow heeft en beïnvloed wordt.

Datahonger leidt tot smart cities

Deze groter wordende dataverzameling (datahonger) over het gedrag van burgers biedt de basis voor de zogeheten ‘smart city’ of ‘quantified society’: een samenleving waar alles en iedereen op elk moment van de dag gemeten en geanalyseerd wordt¹. Analyses en acties op basis van deze data bieden grote mogelijkheden voor het vergroten van de stedelijke leefbaarheid². Relatief nieuwe technologieën zoals kunstmatige intelligentie (Artificial Intelligence), datawetenschap, voorspellende analyses en sensoren worden daarbij ingezet om op basis van enorme hoeveelheden data beslissingen te nemen en acties te ondernemen. Data is de essentiële brandstof. De datahonger is zodoende enorm, terwijl de technologieën ons toepassingen bieden die onze kwaliteit van leven vergroten. Althans, dat wordt ermee beoogd. Maar tegen welke prijs stillen wij deze honger? Hoewel al dat technisch vernuft ons leven vereenvoudigt, zijn we ons ervan bewust dat ons gedrag gemeten en beïnvloed wordt en weten we wie deze beïnvloeding doet en waarom? Is het niet zaak om onze autonomie te bewaken? Slimme locaties worden onvermijdelijk We staan voor een grote uitdaging om als maatschappij en burger autonoom te blijven. Lang niet altijd is een burger op de hoogte van zijn of haar betrokkenheid in deze continue dataverzameling en de reikwijdte van deze zogenaamde levende laboratoria. Waar dit bewustzijn wel gecreëerd wordt, kan een burger deelname vaak niet weigeren, omdat bijvoorbeeld mobiele telefoons signalen zenden en worden opgepikt door wifi trackers of simpelweg omdat het betreden van een stuk ‘slimme’ publieke ruimte niet vermeden kan worden. Afzien van deelname aan dataverzameling betekent in dat geval het fysiek vermijden van ‘slimme’ publieke plaatsen. Wellicht wordt dat nu nog niet als onmogelijk of onwenselijk ervaren omdat er nog voldoende mogelijkheden zijn om andere locaties te bezoeken. Lang zal dat echter niet meer duren. De komende jaren zal de hoeveelheid ‘domme’ openbare ruimte enorm afnemen waarbij winkels zoals Amazon Go het straatbeeld bepalen en wellicht het Chinese Sesame Credit rating breder toegepast wordt³. De nieuwe regelgeving Algemene verordening gegevensverwerking (AVG), voorziet in transparantie over het verzamelen en gebruik van je persoonlijke data. Echter, het vragen van toestemming voor het gebruik van onze data op zo’n grote en ongeorganiseerde schaal⁴ blijkt enorm lastig in de praktijk, ook omdat het gaat om nieuwe toepassingen van data⁵. ‘Slimme’ gebieden breiden zich als een olievlek uit en hierbij is een veelvoud aan private en publieke partijen betrokken. De uitdaging om toestemming te vragen breidt daarmee ook uit.

Handelen met menselijke maat

In dit tijdperk van ongekende technologische mogelijkheden ontstaan zodoende risico’s voor onze samenleving waar we bewust mee moeten omgaan. Het gevolg van deze risico’s is dat we als mens en maatschappij onbewust veel macht uit handen geven. In de quantified society worden veel van de nieuwe technologieën namelijk ingezet voor de aanpak en ondersteuning bij sociale en maatschappelijke vraagstukken. Denk aan het voorkomen van vroegtijdig schoolverlaten, bepalen wie gevaarlijk is in een wijk of het verbeteren van de luchtkwaliteit in de stad. Deze vraagstukken kunnen echter niet alleen met technologie opgelost worden. Zij vergen ook altijd een sociale component als onderdeel van de oplossing. Wij vinden daarom dat technologie nooit dominant mag zijn over de mens, dus niet zelfstandig beslissingen over mensen mag nemen zonder input of feedback van de mens zelf. Om deze menselijke maat in de datahonger van moderne technologieën in de openbare ruimte te borgen, stellen wij de volgende handreikingen voor:

1. 1. Betrek burgers actief
      We zien te weinig dat burgers actief betrokken zijn bij innovaties van de smart city waardoor er in feite sprake is van ‘permissionless innovation’⁶. Daardoor is er teveel nadruk op technologische vooruitgang en te weinig aandacht voor de vraag of de toepassing wel wenselijk is. Betrek burgers daarom op concrete wijze bij de quantified society. Burgers hebben invloed en zijn onderdeel van de maatschappij en medebouwers aan de slimme stad. Dirk Helbing, hoogleraar technologische sociale wetenschappen aan de TU Delft, stelt dat “je moet zorgen dat dit soort systemen democratisch zijn en van onderaf gecontroleerd worden, niet van bovenaf opgelegd”⁷. We dienen de ethische vragen in het openbaar bespreekbaar te maken, zodat burgers kunnen meediscussiëren over het nut en de noodzaak van de dataverzameling door bijvoorbeeld camera’s en sensoren.
   2. Maak gebruik van transparante technologieën
      Geef inzicht in de gebruikte technologieën in de slimme stad of quantified society. Maak liever gebruik van open source technologieën, zodat de gebruikte technologie geen black box is. Voorzie daarnaast in transparante, open en democratisch gecontroleerde opslag en analyse van de data⁸. Tot slot, zorg voor goede informatiebeveiliging om misbruik van oneigenlijk verkregen data te voorkomen. Ongeautoriseerde toegang tot een slimme stad kan leiden tot datalekken, veiligheidsrisico’s en toegang tot vitale en/of kritieke infrastructuren. Hoogleraar Aiko Pras van de Universiteit Twente waarschuwt dat slimme steden zich te afhankelijk maken van buitenlandse technologieën en bedrijven die door andere landen als risicovol worden bestempeld⁹.
   3. Voer regie vanuit nationaal beleid
      Momenteel zijn er enorm veel losse, lokale initiatieven op het gebied van slimme steden waarbij vaak onduidelijk is wie eigenaar is van de gemeten en opgeslagen data . In sommige gevallen is dit eigendom van een bedrijf dat bijvoorbeeld de parkeerplaatsen beheert, in andere gevallen van de gemeente. Door het gebrek aan regie ontstaat er een groot risico dat bedrijven of gemeenten zichtbaar of onzichtbaar te veel invloed krijgen. Door het invoeren van een nationaal beleid worden initiatiefnemers verplicht om aan eenduidige regelgeving te voldoen. De doelstelling van dergelijk beleid zou zich onder meer moeten richten op transparantie in het gebruik van sensoren (zoals een register), transparantie in data-eigenaarschap en de verwerkingswijze (zie ook handreiking 4). Zo ontstaat een overzicht van de verzamelde data en de toepassing daarvan. Dergelijke regievoering creëert naast duidelijkheid over eigenaarschap ook duidelijkheid over de rol van de burger, overheid en private partijen. Maak het gebruik van deze data zodoende democratisch.
   4. Richt ‘algoritme governance’ in
      De algoritmes die keuzes maken voor ons of aan de basis liggen van gedragsbeïnvloeding kunnen oncontroleerbaar worden. In dat geval kunnen resultaten niet worden gevalideerd en zijn besluiten genomen op basis hiervan potentieel schadelijk. Correlaties leggen die niet relevant zijn, is een algemeen risico van alle vormen van toepassing van statistiek. Echter, aangezien deze toepassingen vaker en op veel grotere schaal gedaan worden, zijn dit potentieel ‘weapons of math destruction’¹⁰. Hoewel organisaties op basis van de AVG verplicht worden om algoritmische beslissingen te kunnen toelichten, kan men zich afvragen of alle losse, lokale initiatieven daaraan voldoen. Het gebrek aan de zojuist besproken regie bemoeilijkt controle hierop. Neem daarom niet alleen privacy, maar ook ethiek mee in het ontwerp en de toepassing van technologie waarbij deze dienend is aan de mens. Om effectiviteit van algoritmes te borgen en ongewenste effecten te reduceren, is ‘algoritme governance’ van groot belang¹¹. Naast toezicht op algoritmes om correct gebruik ervan te waarborgen, dient ook tegenspraak door experts, burgers, wetenschappers en bestuurders georganiseerd te worden.
   5. Voorzie in ‘opt-out’ mogelijkheid om af te zien aan deelname
      Er is bijna geen ‘opt-out’ mogelijk voor burgers die niet gemeten willen worden. In de digitale wereld wordt ons de mogelijkheid geboden om bijvoorbeeld cookies uit te schakelen. De fysieke wereld biedt dit soort mogelijkheden nog niet. Als de smart city trend zich voortzet, leidt dit op termijn tot uitsluiting van burgers die niet gemeten willen worden. Geef betrokkenen daarom de mogelijkheid om af te kunnen zien van deelname. Het toepassen van een fysieke versie van de succesvolle, digitale toepassing zoals ‘do not track’ van je internetbrowser zou hier soelaas kunnen bieden. Daarnaast voorziet de AVG in de verplichting om betrokkenen te informeren als data over hen wordt verzameld, hen inzage te geven in het gebruik én burgers te voorzien in het recht om vergeten te worden zodra data over je is verzameld. Met behulp van een overzicht van dataverzameling kunnen burgers snel en gericht inzage krijgen in de over hen verzamelde en verwerkte data. De strikte toepassing van deze regelgeving in combinatie met regie op de dataverzameling zorgt voor behoud van autonomie van betrokkenen.

Betrek burgers in de discussie

In dit artikel gaven we een beeld van het gebruik van moderne technologieën in onze maatschappij. Wij stelden onszelf de vraag of onze autonomie hierin behouden blijft of dat het gebruik van deze technologieën zal leiden tot een hedendaagse Truman Show: een maatschappij waarin monitoring en manipulatie aan de orde van de dag is, zonder dat burgers zich daarvan bewust zijn en hier invloed op kunnen uitoefenen. Belangrijke factoren om bewustzijn te creëren en menselijke autonomie te realiseren, zien wij in het creëren van transparantie in de discussie aan de voorkant met de burger, doelbinding en beheersbaarheid van de wildgroei aan (lokale) initiatieven. Een meer democratische benadering bij het gebruik van data en strengere naleving van privacyregelgeving draagt bij aan het behoud van de menselijke autonomie. De randvoorwaarde hiervoor is het voeren van regie op de datahonger en de mogelijkheid om af te zien van deelname, waardoor autonomie behouden blijft.