Terre des Hommes is in 2013 gestart met het maken van een virtuele lokpuber genaamd ‘Sweetie’ en in 2016 ‘Sweetie 2.0.’ Het gaat om een AI-systeem dat bestaat uit drie technologische onderdelen, een realistisch beeld van een jong meisje, een software framework dat het mogelijk maakt om op meerdere chatrooms en datingsites te werk te gaan en een software dat terugkerende beelden, chatgesprekken, woordgebruik en communicatiepatronen van seksuele aard herkent. Als een meerderjarig persoon seksuele opmerkingen maakt, dan wordt deze informatie opgeslagen en worden de daders gewaarschuwd. WATCH Nederland heeft er nu ook voor gezorgd dat we in Nederland dergelijke virtuele lokpuber hebben. Het gaat hier om een jongetje die de seksueel- geweld en uitbuiting van puberjongens tegengaat.
Problemen met Sweetie en dergelijke systemen
Laten we beginnen bij dat AI-systemen altijd goed moeten worden uitgelegd. De systemen kunnen namelijk biased zijn naar een etniciteit, maar ook bepaalde bewoordingen in chatgesprekken. De systemen moeten gecontroleerd en ge-update worden door mensen. Je kan je afvragen of de tijd en kosten die gestoken wordt in deze systemen in evenwicht zijn met de resultaten (zie: veroordeling, veilige online omgeving voor kinderen).
Uitlokking
In mijn vorige blog heb ik uitgelegd wat uitlokking inhoudt. In Nederland hebben de lokprofielen nog niet geleid tot een vervolging, omdat sprake is van een ongeoorloofde uitlokking. Er was geen reden om aan te nemen dat de persoon met wie contact is gezocht, ook daadwerkelijk al die intentie had om te groomen. Een AI-systeem begrijpt (nog) niet dat het contact op deze manier moet komen vanuit de verdachten, in plaats van zelf op zoek te gaan. Het probleem ligt hier vooral, zoals bij de meeste zedendelicten, in de lage aangiftebereidheid. Zonder aangifte is het voor opsporingsbevoegdheden lastig om een dergelijke grond te vinden voor dit opsporingsmiddel.
Een volgend probleem: daders creëren
Denk aan bijvoorbeeld een meerderjarige, die niet op zoek is naar een (seksueel) romantisch contact met een minderjarige, maar toch door bepaalde uitingen gekenmerkt wordt als ‘groomer.’ Of een eenzaam persoon die enkel en alleen door de aandacht van een lokpuber gevoelens kan ontwikkelen, zonder de eerste intentie om een zedenmisdrijf te plegen. Je kan dan van dergelijke uitlokking spreken. Het gevolg? vrijspraak. Het tweede gevolg? Iemand die blijft zitten met die gevoelens die zijn gecreëerd en waar niet mee om kan worden gegaan.
Bescherming
Zoals ik in mijn vorige blog al benoemde: het is belangrijk dat we kinderen beschermen tegen anderen én zichzelf. Echter, we willen geen dader creëren die er (nog) niet is.
