U verzorgt regelmatig lezingen voor kantoren en juridische afdelingen waarin u pleit voor een ‘verantwoorde AI-implementatie’. Wat houdt dat wat u betreft in?
“Verantwoorde AI gaat over een aantal onderwerpen. Het begint met het begrijpen van AI, wat het ongeveer doet en wat het kan. Als men niet weet hoe het werkt en welke data worden gebruikt, dan zijn de risico’s lastig in de schatten. Naast training is een goede afweging van de tools essentieel: wat gebruiken we en aan welke voorwaarden moet de oplossing voldoen? Dan komt het definiëren van het probleem. Chatten met een interne database is leuk, maar geen structurele oplossing. Een andere factor is het opstellen van randvoorwaarden door middel van beleid, ethiek en wetgeving. Deze laatste onderdelen neem je dan weer mee in de continue training van gebruikers.”
Wat is de meest voorkomende valkuil waarmee u kantoren en organisaties in de praktijk ziet worstelen als het gaat om verantwoorde AI-implementatie?
“We zien dat de statistieken rondom het gebruik in de eerste periode na implementatie altijd erg goed zijn, maar dat deze na verloop van tijd afnemen. Dit heeft deels te maken met het gebrek aan (continue) training, maar ook met verwachtingsmanagement. Huidige AI-oplossingen zijn nog niet hallucinatievrij en zul je moeten voeden met geschikte context. Maar alles valt of staat met probleemdefinitie: is er een probleem dat we willen oplossen en is AI hiervoor de meest geschikte oplossing?”
Legal AI werkt alleen goed en betrouwbaar als de data die je erin stopt dat ook is. Maar wat doe je dan als je weinig tot geen data hebt, bijvoorbeeld als kleinschalig advocaten- of notariskantoor, of als geheel nieuw bedrijf?
“Zoals Elgar Weijtmans vorige week mooi omschreef, is het delen van kennis essentieel om de markt gezamenlijk vooruit te helpen. Uit ons AI-onderzoek van afgelopen januari blijkt dat oplossingen als ChatGPT en Claude redelijk in staat zijn om juridisch onderzoek voor te bereiden. Zo hebben wij onze prompts openbaar beschikbaar gesteld en hebben we enkele openbare Custom GPT’s die draaien op onze content. Dit stelt kantoren of bedrijfsjuristen in staat om te ontdekken wat er mogelijk is met AI. Bredere integratie van content van juridische uitgevers in juridische platforms laat vermoedelijk niet lang op zich wachten en kan ook uitkomst bieden.”
Moet je als moderne advocaat, bedrijfsjurist of notaris straks ook iets van data-analyse of IT weten om je werk nog goed te kunnen doen?
“Er wordt al lange tijd over T-shaped of zelfs O-shaped lawyer gesproken. Dat zijn juristen die naast diepgaande juridische kennis ook andere kennis en vaardigheden hebben. Begrip van data is zeker relevant, maar ik denk niet dat iedere jurist data-analist moet worden. Maar het bestaan ervan moet wel bekend zijn, de jurist moet voelsprieten ontwikkelen om vast te stellen wanneer welke expertise nodig is. Begrip van projectmatig werken en procesmanagement komt het juridisch werk zeker ten goede. Zoals Katja van Kranenburg twee weken geleden aangaf, is het essentieel om juristen in opleiding goed voor te bereiden op de praktijk en vaardigheden te combineren met kennis.”
In welk segment van de juridische sector ziet u op korte termijn veel mogelijkheden voor winst als het gaat om efficiënter werken, en hoe zou dat eruit kunnen zien?
“Een mooi voorbeeld is te vinden in de sociale advocatuur, waar de druk hoog is. Uit eigen onderzoek is gebleken dat AI een aantal taken kan versnellen. Bijvoorbeeld het herschrijven van vonnissen en brieven naar begrijpelijke taal (B1, of zelfs vertalen naar een andere taal). Dit draagt bij aan de begrijpelijkheid van het Nederlandse recht en de toegang tot het recht. En het scheelt de sociaal advocaat aanzienlijk wat tijd.”
Wat zijn volgens u de grootste risico’s van AI-gebruik in juridische besluitvorming?
“Gebrek aan training en dataselectie. Training draagt bij aan een goed begrip van de werking van AI en waarom menselijk toezicht noodzakelijk is. Daarnaast is het gebruik van geschikte data essentieel, het is niet een kwestie van een data-dump uitvoeren en hopen dat het goed gaat. Een gedegen selectie van data helpt bij het genereren van betere antwoorden.”
Wat is de laatste ontwikkeling op AI-gebied in juridische context die u heeft verrast of verbaasd?
“De vernieuwde Word-plugin van Legora vind ik een zeer waardevolle toevoeging. Voor de adoptie van AI is het natuurlijk erg fijn als niet de jurist zich hoeft aan te passen aan de technologie, maar als de technologie op maat gemaakt is voor de jurist. Daarnaast zie ik veel positieve ontwikkelingen voortkomen uit modelprotocol (MCP), waarmee het eenvoudiger is op een goede en gestructureerde manier juridische bronnen te integreren. Maar ook minder recente ontwikkelingen, zoals de mogelijkheden om kennis op een andere manier te delen, zijn interessant. Denk aan het met AI genereren van infographics, factsheets, mindmaps, podcasts, video’s of complete apps.”
Wat moet de wetgever nu doen om voorbereid te zijn op AI in het recht?
“De AI Act is een stap in de goede richting, dit geeft enige kaders over hoe en onder welke voorwaarden AI gebruikt mag worden door de rechtspraak. Maar het herkennen van AI-gegenereerde content kan bijzonder waardevol zijn. AI is in staat foto’s en documenten zo te manipuleren dat deze op geloofwaardige wijze ingebracht kunnen worden. Voldoende kennis hiervan is dan ook essentieel en het door de AI Act voorgeschreven watermerk zal hierbij ook helpen.”
In hoeverre vertrouwt u zelf op de uitkomsten van AI-systemen bij juridische beoordeling?
“Het gebruik van goede data en een gedegen (gestructureerde) prompt kan goede resultaten leveren. Vertrouwen op juridische beoordelingen doe ik echter nog niet, op dit moment is het controleren van output noodzakelijk. Bij integraties in bestaande processen, zoals het extraheren van metadata uit contracten, zie ik dat de nauwkeurigheid een stuk hoger ligt.”
Welk advies zou u geven aan juristen die AI willen gaan gebruiken?
“Experimenteer en leer! Begin klein bij een goedkope oplossing om te zien wat AI kan betekenen en maak op basis daarvan een plan. Om het verantwoord in te zetten is het wat mij betreft belangrijk om gebruikers te trainen en bewust te maken van de mogelijkheden en risico’s. Dat aangevuld met goede (data) governance en beleid is een goede start voor verantwoorde inzet van AI.”
AI en het Recht is een achtdelige serie die deze zomer elke vrijdag verschijnt op Mr. Online. Eerder in deze rubriek:
Katja van Kranenburg over transparantie over AI-inzet
Elgar Weijtmans over experimenteren en kennis delen
