Juristen moeten voorzichtig zijn met het gebruik van nieuwe AI-tools

AI-onderzoeker Masha Medvedeva van de Universiteit Leiden waarschuwt gebruikers voor de inzet van juridische artificial intelligence tools. In de juridische sector veranderen data namelijk snel. "En het toezicht op de tools is ook nog een beetje het Wilde Westen."

Delen:

foto: Depositphotos

Masha Medvedeva is universitair docent bij eLaw, het Centrum voor Recht en Digitale Technologie, en bij de afdeling Bedrijfswetenschappen van de Universiteit Leiden. Zij is expert op gebied van de technische ontwikkeling van AI-tools.

Ze voert onderzoek uit voor het netwerk SAILS (Society Artificial Intelligence and Life Sciences) van de Universiteit Leiden, waaraan onderzoekers van alle zeven Leidse faculteiten verbonden zijn. Doelstelling is om meer kennis te verkrijgen over AI en te helpen om de gunstige toepassing van AI voor de maatschappij te vergroten.

Gevolgen

Medvedeva richt zich als onderzoeker op de technische ontwerpkeuzes in systemen, die vergaande gevolgen hebben voor gebruikers. Deze keuzes kunnen implicaties meebrengen voor de rechtspraak als geheel, voor juridische professionals of voor individuen. Dit legt ze uit op de website van de Universiteit Leiden: “Juridische zoekmachines bestaan al een tijdje en zitten op zich ook goed in elkaar. Maar soms laten ze zaken weg in zoekresultaten, of ze rangschikken zoekresultaten op een andere manier. Juridische professionals zouden dus op zijn minst in de basis moeten begrijpen hoe deze systemen werken, zodat ze een goede afweging kunnen maken om ze wel of niet te gebruiken.”

Goed beeld

De onderzoeker geeft als advies aan juridische professionals die graag AI-tools willen gebruiken: “Probeer een goed beeld te krijgen van de data die de tool gebruikt, op welke manier de tool een beslissing neemt, en vooral op welke manier de werking van de tool is geëvalueerd.”

Ze wijst erop dat in de juridische sector vaak snelle veranderingen plaatsvinden: “Wil je binnen AI-tools gebruikmaken van de meest recente informatie, dan moet je de systemen regelmatig bijwerken. En zelfs als die optie er is, moet elke verandering in een AI-model steeds weer worden geëvalueerd. Want het toevoegen van nieuwe of andere informatie aan een tool betekent niet automatisch dat deze dan beter werkt. Integendeel, een tool kan slechter gaan werken. Verder denk ik dat cliënten geïnformeerd moeten worden als er voor hun zaak gebruik wordt gemaakt van AI-tools.”

AI-wet

Op dit moment is er geen toezicht op juridische tools, vertelt Medvedeva op de website van de universiteit: “Het is een beetje het Wilde Westen. Met de nieuwe AI-wet wordt het hopelijk verplicht om toezicht in werking te stellen voor systemen met een hoog risico. Misschien wordt het dan veiliger om ze te gebruiken.”

Delen:

Het belangrijkste nieuws wekelijks in uw inbox?

Abonneer u op de Mr. nieuwsbrief: elke dinsdag rond de lunch een update van het nieuws van de afgelopen week, de laatste loopbaanwijzigingen en de recentste vacatures. Meld u direct aan en ontvang elke dinsdag de Mr. nieuwsbrief.

Scroll naar boven