Op 20 juli 1969 waren Neil Armstrong en Buzz Aldrin nog maar enkele minuten verwijderd van hun landing op de maan toen er een alarm afging: 1202. Binnen enkele seconden moest worden vastgesteld wat het alarm betekende. Kon de landing doorgaan of moest die worden afgebroken? De 25-jarige Jack Garman (John Royer Garman, roepnaam Jack) wist het antwoord, want tijdens de voorbereiding had hij een handgeschreven overzicht gemaakt van mogelijke alarmcodes en hun betekenis. Hij herkende code 1202, begreep wat die betekende en kort daarna kon de landing worden voortgezet. De rest kennen de meesten: Armstrong werd de eerste mens op de maan, Aldrin de tweede. Ruim vijfentwintig jaar later werd Buzz Lightyear, de ruimteheld uit Toy Story, naar Buzz Aldrin vernoemd. Jack Garman werd door NASA onderscheiden, maar schopte het nooit tot Pixar-held. Terwijl zijn bijnaam, Gar-Flash, daar toch eigenlijk alle ingrediënten voor had. Zijn collega’s gaven hem die bijnaam omdat hij de betekenis van de alarmcodes razendsnel paraat had. Door Toy Story 5 moest ik aan Buzz en Jack denken en omdat het 20 juli is, wil ik nu Jack in de schijnwerpers zetten. Want zonder Jack was er 20 juli 1969 geen maanlanding geweest.
Goede voorbereiding
Jack Garman was computer engineer bij NASA. Tijdens de simulaties van Apollo 11 stelde hij voor om ook onwaarschijnlijke computeralarmen te oefenen. Hij wist daardoor wat code 1202 betekende en kon snel beoordelen dat de landing veilig kon worden voortgezet. Ook de boordcomputer functioneerde zoals de ontwerpers deze geprogrammeerd hadden. Bij overbelasting werden vooraf vastgelegde prioriteiten gevolgd. Processen met een lagere prioriteit werden uitgesteld, zodat de essentiële processen konden worden voortgezet. Wat kon wachten, werd uitgesteld. Jack wist dus genoeg om op het beslissende moment professioneel te kunnen handelen. Na Apollo bleef hij trouwens ruim dertig jaar bij NASA werken, onder meer aan de Space Shuttle en het International Space Station en groeide hij door tot Chief Information Officer van het Johnson Space Center.
Human in the loop
Er wordt veel geschreven over human in the loop, human on the loop en andere vormen van menselijke betrokkenheid bij AI. Jack Garman vervulde tijdens de maanlanding een rol die ik graag zie in de samenwerking tussen mens en AI. Jack had zich goed voorbereid en kon daardoor op het beslissende moment professioneel oordelen. Die kennis en vaardigheden zijn nodig vóór het moment waarop een systeem een menselijk oordeel vraagt. Op dat moment moet die competentie dus al aanwezig zijn en die ontwikkel je door opleiding, oefening en ervaring. Juist daar zie ik de overeenkomst met de vraagstukken waar we vandaag voor staan. Steeds meer professionals werken met AI-toepassingen en krijgen de verantwoordelijkheid om daar zorgvuldig en kritisch mee om te gaan, zonder de benodigde training te ontvangen. Tegelijkertijd ontwikkelen die AI-toepassingen zich in hoog tempo en vraagt dat voortdurend om nieuwe kennis en vaardigheden. Daarnaast stapelen wetgeving, beleidskaders, nieuwe risico’s en maatschappelijke verwachtingen ten aanzien van AI zich op. Als professionals ‘moeten’ we steeds meer en vrijwel niets lijkt te verdwijnen. In een eerdere column schreef ik over de AI-last. AI verandert in snel tempo hoe we werken en maar heel weinig mensen begrijpen hoe, laat staan dat zij de werking en uitkomsten van AI-toepassingen professioneel kunnen beoordelen.
Menselijke infrastructuur
Zodra organisaties vastlopen, zoeken we vaak naar meer capaciteit en vrijwel onmiddellijk gebruiken we die extra capaciteit om méér te doen. Meer documenten analyseren, meer risico’s signaleren en meer controles uitvoeren. De Apollo Guidance Computer kon bij overbelasting blijven functioneren omdat mensen vóór de landing hadden bepaald welke processen essentieel waren en welke konden wachten. De prioriteiten waren bepaald in het ontwerp en maakten deel uit van het systeem. Die les zou ik willen toepassen op AI. We investeren namelijk miljarden in digitale infrastructuur: chips en datacenters. En hoeveel investeren we in onze menselijke infrastructuur? Wat mij betreft verdient die infrastructuur minstens dezelfde ambitie en aandacht.
Op zoek naar meer Jacks
Jack is de professional die voldoende begrijpt om betekenis te geven aan wat een systeem produceert. De professional die kan beoordelen wanneer menselijk oordeel nodig is. En deze tijd vraagt om organisaties die deze professionals de tijd, opleiding en ruimte geven om die rol ook daadwerkelijk te vervullen.
Maar als alles belangrijk is…
De ingenieurs achter Apollo 11 hadden vooraf bepaald wat tijdens de landing voorrang kreeg. Daardoor kon het systeem bij overbelasting blijven functioneren. Diezelfde ontwerpvraag ligt vandaag ook op het bord van organisaties. Bij een nieuwe wet voegen we een proces toe, bij een nieuw risico een extra controle en bij de toepassing van AI vragen we welke werkzaamheden sneller kunnen. Veel minder vaak stellen we de vragen: wat krijgt voorrang? Wat gaan we niet meer doen? Want iedere keuze vóór iets is ook een keuze om iets anders te laten wachten of niet te doen. We ontwerpen organisaties, AI-systemen en beleid soms alsof capaciteit eindeloos kan meegroeien. Maar we leven op een planeet waar energie, grondstoffen, tijd en menselijke aandacht niet onuitputtelijk zijn. Juist daarom is het belangrijk om te bepalen wat kan wachten, wat kan verdwijnen en wat werkelijk waarde toevoegt.
Misschien is de belangrijkste vraag van deze tijd daarom niet hoe we nog slimmere AI bouwen, maar hoe we organisaties ontwerpen waarin mensen zorgvuldig met AI kunnen blijven samenwerken. Deze wereld heeft zeker ook Buzz Lightyears nodig, maar boven alles behoefte aan organisaties waar meer Jacks kunnen floreren. Want ‘To infinity… and beyond!’ is alleen mogelijk als iemand ervoor zorgt dat het systeem onder druk blijft werken. Daarom zou ik graag vandaag Jack Garman eren. Zijn verhaal laat zien dat grote technologische doorbraken uiteindelijk rusten op goed voorbereide professionals die op het beslissende moment het verschil maken.
