De inzet van AI en algoritmes bij zogenaamde big data-policing, ofwel het veilig maken van de samenleving, heeft geleid tot een intensivering van omvang en diepgang van surveillance, stelt Schuilenburg: “Surveillance graaft dieper dan ooit in het privéleven van burgers. Ze worden van alle kanten en door iedereen bekeken.”
Dat bekijken gebeurt overigens niet alleen door politie en gemeenten, of private tech-bedrijven, maar ook door burgers zelf. Bij het gebruik van een digitale deurbel bijvoorbeeld, zegt Schuilenburg op de website Socialevraagstukken: “Het zet de verhoudingen en de grenzen tussen privé en publieke belangen op scherp.”
Nare gevolgen
Schuilenburg denkt dat met AI de preventie en opsporing van criminaliteit en het maken van veiligheidsbeleid door gemeenten en de landelijke overheid kan worden verbeterd. Hij waarschuwt er echter ook voor dat niet goed doordachte AI-toepassingen nare gevolgen kunnen hebben: “De bias en zelf versterkende effecten van een toegepaste technologie kunnen bijvoorbeeld leiden tot onnodig verscherpt politietoezicht op bepaalde buurten of groepen.”
Hij doelt ook op het massale gebruik van digitale deurbellen door burgers: “Het zet de verhoudingen en de grenzen tussen privé en publieke belangen op scherp.”
Stem geven
Er is volgens Schuilenburg behoefte aan democratische oefening bij de ontwikkeling en toepassing van AI: “Vanuit het oogpunt van transparantie en accountability is het verstandig om een zo divers en inclusief mogelijk team in termen van gender, leeftijd en achtergrond mee te nemen bij het ontwerp van AI-toepassingen. Aldus kan een stem worden gegeven aan de silenced voices van zwakke, kwetsbare of gemarginaliseerde groepen als jongeren en minderheden.”
Marc Schuilenburg is professor Digital Surveillance aan de Rechtenfaculteit van de Erasmus Universiteit. Hij sprak eerder over dit onderwerp in een podcast die op Mr. is terug te vinden. Hij schreef het boek Making Surveillance Public (uitgeverij Eleven, 2024)
