Het gebruik van AI heeft een enorme vlucht genomen. Op alle niveaus; voor scholieren is het ondenkbaar om AI niet meer in te zetten bij opdrachten, maar ook op de hoogste managerial en bestuurlijke niveaus. Naast dat die managers en bestuurders vaak ook AI persoonlijk gebruiken, ontkomen ze er niet aan om zich ook bezig te houden met de vraag: wat betekent deze ontwikkeling? Wat betekent het voor mijn organisatie, welke kansen en bedreigingen komen eruit voort? Maar ook: wat betekent het voor onze mensen?
Vanuit Bvolve hebben we dagelijks te maken met de AI-ontwikkelingen. We geloven en zien dat, mits op de juiste wijze ingezet, AI een enorme booster kan zijn voor productiviteit en ook voor kwaliteit. We zien echter ook dagelijks voorbeelden van een overduidelijk gebruik van AI, waarbij mensen te veel daarop zijn gaan leunen en niet eens meer goed alles nalopen. Ze geven hun werk feitelijk uit handen. En daar zit een risico.
Om te begrijpen waar(om) het mis kan gaan bij het gebruik van AI, is het goed om te kijken wat AI nu heel feitelijk is: het is een door heel veel data getraind (taal-)model die op basis daarvan komt met antwoord dat statistisch gezien het best past. Wat dit allemaal kan en hoe vaak dat klopt, dat weten we allemaal. En het wordt ongetwijfeld nog beter in de nabije toekomst. Maar dat betekent niet dat AI-systemen alle wijsheid in pacht hebben en precies weten hoe de wereld in elkaar steekt. In tegendeel, het brengt de volgende risico’s met zich mee:
1.Garbage in is garbage out
Een AI-model wordt bepaald door de informatie en de data waar het van geleerd heeft. Als er in die data onjuistheden en/of zekere biases zitten, zullen die in de output weer naar voren komen. Aangezien veel informatie van internet komt, en er ook veel onwaarheden op internet staan (zie ook het volgende punt), loop je al snel het risico dat de onjuistheden en biases ook in de output naar voren komen. En alleen al om deze reden zouden kenmerken als etniciteit, geslacht, geaardheid etc. nooit in data-gevoede modellen zoals AI moeten zitten. Er zullen altijd verschillen zijn, deze worden uitvergroot in het model (zie ook het punt over eenheidsworst) en dat maakt dat individuen benadeeld kunnen worden enkel en alleen op basis van bepaalde kenmerken. Het Toeslagenschandaal laat zien dat dit probleem al geruime tijd speelt.
2. Selffulfilling prophecies
We zijn op een punt aangekomen dat AI leert van eerder door AI gegenereerde data. Hierdoor kan iets dat niet waar is, als het maar vaak geroepen wordt, als waarheid worden beschouwd en zo in de modellen blijven rondzingen. De modellen kunnen hiermee steeds verder van de werkelijkheid komen te staat. Mechanismen voor factchecking zijn dan ook onontbeerlijk. Dit kan gereduceerd worden door reinforcement learning met menselijke feedback. Maar blijf altijd kritisch op wat een AI-model zegt.
3. De machtige AI trainer
Als je eenmaal bereikt hebt dat jouw AI-toepassing op grote schaal gebruikt wordt, dan heb je heel veel macht. Hiermee kun je namelijk enorm sturen op de uitkomsten die je wél en juist niet wil dat eruit komen. Hier gaat het om te allereerst om de eigenaren van de AI-platforms, (inclusief social media zoals TikTok en Instagram; deze platforms hebben tegenwoordig allemaal lerende algoritmen met AI), Maar het gaat zeker ook om de gebruikers die met hun content de data aanleveren waar het platform van leert. Ik hoef maar te verwijzen naar inmenging in verkiezingen, zoals bijvoorbeeld in de VS of de indoctrinaties in Rusland. Dit betekent dat je altijd kritisch moet zijn op een AI-model dat niet volledig door jou of jouw organisatie is getraind. En dat laatste is vrijwel nooit het geval.
4. Eenheidsworst
Zoals mijn oud-ProRail-collega Sandra Buster in deze bijdrage al schreef, haalt een AI-model uit een enorme berg data de grote lijnen en het algemene beeld dat daaruit gedestilleerd kan worden. Op het moment dat je op basis daarvan output gaat genereren, zijn die altijd gebaseerd op die grote lijnen. Afwijkingen daarvan zijn statistisch gezien outliers, je hoeft dan ook niet te verwachten dat deze gegenereerd zouden worden met generatieve AI. Terwijl juist zo’n outlier, het letterlijk out-of-the-box denken, zo verrijkend kan zijn en een nieuw verfrissend perspectief kan bieden.
Kortom, er zijn een hele hoop redenen om uiterst kritisch te zijn op waar AI mee komt. Wat betekent dit nu, moet je AI dan maar niet inzetten? Absoluut wel wat ons betreft, dat doen we bij Bvolve dan ook. Maar dan wel ter ondersteuning van het menselijk denken en nooit als vervanging daarvan. We zien daarvoor twee manieren.
- AI om te verbeteren: Je hebt zelf al ideeën uitgewerkt, maar laat de tekst vervolgens verbeteren met AI. Je kunt het ook in een hele andere vorm laten gieten, bijvoorbeeld een Powerpoint. Vervolgens kijk je nog kritisch naar de inhoud en de lading die het AI gegenereerde stuk heeft. Hier kunnen meerdere iteraties overheen gaan, maar jij hebt letterlijk het laatste woord. Check altijd inhoud die voor jou nieuw is (altijd nagaan, nooit aannemen).
- AI om te inspireren: je geeft AI een richting mee en laat ideeën genereren die jou inspiratie kunnen geven. Ook dit kan in meerdere iteraties, als je nog meer inspiratie wilt. Vervolgens bepaal jij zelf welke ideeën de eindstreep halen, bij voorkeur een idee dat NIET letterlijk tussen de AI-suggesties zat. Zo kan AI ook bijdragen aan verfrissende ideeën, maar let op het punt van de eenheidsworst!
Of je AI nu inzet ter inspiratie of ter verbetering, je begint en eindigt als mens. AI zou zoals gezegd nooit het laatste woord moeten hebben, maar je zou kunnen zeggen dat AI ook nooit het eerste woord moet hebben. En hoewel de eerste prompt natuurlijk van jou komt, gaat het erom dat de basis van de inhoud van jou als mens komt. Zodat je inderdaad, zoals we bij Bvolve bepleiten, AI inzet ter ondersteuning van jouw eigen denken en jouw ideeën. Zet AI dus gericht in, en wees je daarbij ook bewust van nog een ander aspect van het gebruik van AI: het enorme energieverbruik dat ervoor nodig is. Voor het trainen van de modellen én ook nog eens voor het gebruik ervan. Zelfs al worden datacenters steeds ‘groener’, dat gaat nooit compenseren voor ongebreidelde groei. Gericht inzetten heeft dus alleen maar voordelen en niet in de laatste plaats voor jouzelf: geleidelijk aan kun je door het gebruik van AI ‘creatief lui’ worden. Dat is een probleem voor jou, voor je organisatie en voor de maatschappij. Zoals de impact van social media vijftien jaar geleden niet overzien kon worden, zo voorspel ik dat AI ook een dergelijke impact heeft als we er te veel op gaan leunen. AI-platforms bieden nu (vrijwel) gratis hun diensten aan, terwijl ze daar vandaag de dag nog altijd zwaar verlies op lijden. Ze zetten er bewust op in dat wij er afhankelijk van gaan worden. Blijf onafhankelijk, blijf in de lead, blijf in control, behoud je eigen creativiteit en dan kan dat met een stukje AI nog mooier worden gemaakt.
Frank van Kouwen
