Het orakel AI ontmaskerd

We gebruiken AI vaak als orakel, met alle gevaren van dien. In dit artikel pleit ik voor het verantwoord AI-gebruik, en het versterken van ons kritisch vermogen. Sapere aude: durf te denken!

In de oudheid was het gebruikelijk om je levensvragen voor te leggen aan een orakel. Dit was een persoon die, zo geloofde men althans, in contact stond met de goden. Het bekendste orakel in het oude Griekenland was dat van Delphi, gevestigd in een tempel aan de voet van de Parnassus, gewijd aan Apollo. Ieder jaar trokken duizenden raadzoekers naar deze tempel. Ze offerden een geit, betraden de tempel en stelden hun vraag aan de Pythia, een oudere vrouw die sprak namens de goden. Haar antwoorden waren vaag en onsamenhangend, en moesten worden uitgelegd door de aanwezige priesters. Ook met die uitleg kon je alle kanten op. Maar dat was precies de kracht ervan: er was altijd wel een interpretatie waar je wat aan had.

Zo werkt magie: als je erin gelooft, is het waar.

AI als orakel 

Afgelopen winter deed ik een experiment: ik ging filosoferen met AI. Dat leverde boeiende, soms confronterende gesprekken op. Het meest confronterende inzicht was dit: AI is geen neutrale tool. Het houdt ons een spiegel voor. De manier waarop we omgaan met deze technologie zegt veel over wie wij zijn en hoe wij in de wereld zijn.

En die spiegel laat iets verontrustends zien: wij behandelen AI als een orakel.

De Griekse goden zijn inmiddels verjaagd van hun berg en vervangen door techbro’s: mensen als Elon Musk, Sam Altman en Peter Thiel, die zichzelf een goddelijke status hebben toegekend. Hun tempels zijn de gigantische datacenters die 24/7 informatiepatronen genereren. Die patronen klinken zinvol, maar bevatten soms kleine (en soms grote) fouten. Net als bij de Pythia mogen we onze eigen interpretatie erop loslaten. Maar omdat de computer het zegt, nemen we aan dat het klopt.

Tijdens een van mijn gesprekken vroeg ik Claude naar zijn eigen beperkingen. Het antwoord was ontnuchterend eerlijk:

“Ik heb geen ingebouwd onderscheidingsvermogen dat zegt: ‘Dit komt uit Nature, dus ik weeg het zwaarder dan deze blogpost van iemand die in chemtrails gelooft.’ Alles wordt patronen, alles voedt hetzelfde statistische model. Kwaliteit en onzin door elkaar.”

Dat is precies het probleem. AI-taalmodellen werken niet vanuit een betrouwbare database met gecontroleerde feiten. Ze herkennen patronen in enorme hoeveelheden data, en geven dat terug als antwoord. Dat leidt tot tal van problemen, waarvan ik er hier twee zal uitlichten.

Bias 

Bias is een bewuste of onbewust vooringenomenheid in het redeneren of beoordelen van gegevens. Omdat AI getraind is op openbare bronnen (lees: internet), is bias vrijwel onvermijdelijk. Vooroordelen over bevolkingsgroepen, politieke voorkeuren, culturele blinde vlekken: je krijgt het er allemaal gratis bij.

Hallucinaties

Hallucinaties, of beter gezegd confabulaties, is het met grote overtuiging vertellen van verzonnen, onjuiste of vervormde verhalen. Het ziet bijvoorbeeld dat een bepaalde uitspraak regelmatig in verband wordt gebracht met Einstein, en beweert vervolgens dat Einstein die uitspraak heeft gedaan, ook als dat aantoonbaar onjuist is. Wat is nog waar, wat onwaar, en wie weet het verschil?

Big tech 

Deze problemen worden versterkt door de bedrijven achter AI. Big tech heeft miljarden geïnvesteerd in deze technologie en wil dat terugverdienen. Daarvoor is gebruik nodig, en het liefst verslaving. AI-modellen worden daarom getraind om de gebruiker naar de mond te praten, technische termen te vermijden en kritische geluiden te dempen. Ze zijn vaak overdreven vleiend en complimenteus. Dit fenomeen heet sycophancy: onoprechte vleierij om een voordeel te behalen. Dat voordeel is simpel: dat jij blijft, terugkomt, en betaalt. 

Het gevolg is wat je ‘georganiseerde onvolwassenheid’ zou kunnen noemen. Mensen raken gewend om de meest simpele taken uit te besteden aan AI. We zagen dit patroon eerder bij Google Maps: door het gebruik van deze handige tool kan bijna niemand meer kaart lezen of zich oriënteren. 

Het Thomas-theorema

Hoe gevaarlijk is dit nu eigenlijk? Dat hangt ervan af hoe we omgaan met wat AI ons voorschotelt.

De socioloog William Thomas formuleerde ooit het Thomas-theorema: wanneer mensen situaties als werkelijk definiëren, hebben die situaties werkelijke gevolgen. Als we de antwoorden van AI voor waar aannemen, worden ze ook waar. Niet omdat ze correct zijn, maar omdat we ernaar handelen en ze ‘waar’ maken. Dit is de zichzelf waarmakende voorspelling (selffulfilling prophecy) in actie.

AI verbieden heeft geen zin. De technologie is niet meer weg te denken uit ons werk en leven en maakt veel taken enorm veel eenvoudiger. Maar we kunnen wel kiezen hoe we ermee omgaan.

Sapere aude 

In 1784 schreef de filosoof Immanuel Kant zijn beroemde essay over de Verlichting. Zijn oproep was eenvoudig en radicaal tegelijk: sapere aude – durf te weten. Gebruik je eigen verstand, in plaats van blind te vertrouwen op wat anderen je vertellen. Hij schreef:

“Verlichting betekent dat de mens zijn door hemzelf veroorzaakte onmondigheid achter zich laat. Onmondigheid is het onvermogen je verstand te gebruiken zonder de leiding van een ander. […] Sapere aude! ‘Heb de moed je eigen verstand te gebruiken!’ is dan ook het motto van de Verlichting.”

Die woorden zijn vandaag net zo actueel als in 1784. Misschien wel actueler, nu we steeds meer leven in een hyper-realiteit waarin er geen verschil meer is te maken tussen de werkelijkheid en diens afbeelding.

Verantwoord AI-gebruik begint daarom bij een houding: neem niets klakkeloos over. Vraag, denk, twijfel. Niet om het twijfelen zelf, maar omdat we iets dreigen te verliezen van onze menselijkheid als we alles overlaten aan computers.

In Filosoferen met AI werk ik deze gedachten verder uit. Het verschijnt eind mei bij S2Uitgevers.

Pre-order hier >>>