Welke specifieke aandachtspunten relevant zijn, kun je vaststellen met behulp van het antwoord op de volgende vragen:
- Waarvoor wordt het AI-systeem straks ingezet? Waarvoor gaan we erop vertrouwen?
- Wat proberen we hier te realiseren? Wat is het doel?
- In hoeverre kunnen en gaan onze mensen de uitkomsten nog controleren voordat die worden toegepast? Kunnen we tijdens de rit nog bijsturen?
- Wat kan er mis gaan?
- In hoeverre heeft het AI-systeem zich al bewezen in dezelfde of een goed vergelijkbare omgeving?
- In hoeverre bepaal je als klant de inrichting van het AI-systeem, bij voorbeeld door het te trainen in de eigen omgeving of met eigen data sets?
Hoe meer de leverancier begrijpt van het specifieke gebruik van de klant, hoe meer je op de leverancier kunt vertrouwen. Als je zelf het specifieke gebruik bepaalt, moet je daar ook meer verantwoordelijkheid voor nemen. Dat betekent onder andere dat je meer zult moeten testen voordat je het in een productieomgeving toepast. Vanuit klantperspectief is het logisch om te willen begrijpen hoe de techniek werkt. Dat is geen blijk van wantrouwen naar de leverancier, maar van het nemen van verantwoordelijkheid door de klant.
