Emily M. Bender & Alex Hanna. The AI Con. How to Fight Big Tech's Hype and Create the Future We Want. Harper, 2025. Bestelinformatie
Er zijn allerlei redenen om bezwaar te maken tegen AI. De angst dat de mens binnenkort door kunstmatige intelligentie tot slaaf wordt gemaakt, hoort daar niet bij, leggen Emily Bender en Alex Hanna uit in hun boek The AI Con. Er zijn volgens hen wel heel veel andere redenen om ons zorgen te maken. In hun boek zetten ze die op een rijtje. En dat wordt wel een beetje veel.
Overtuigend vind ik Bender en Hanna op een aantal punten zeker. Het grootste bezwaar: de huidige AI is geheel en handen van grote (vooral Amerikaanse) techgiganten. Het is zo duur om een groot taalmodel te maken dat geen enkele universiteit, waar ook ter wereld, het geld heeft om er een te maken die we echt van binnen kunnen bekijken en controleren – de precieze werking van de modellen is bedrijfsgeheim. Bovendien heb je er zoveel data voor nodig dat je ook de schaamteloosheid van die bedrijven – en de juridische ondersteuning die alleen zij zich kunnen veroorloven – om overal teksten en plaatjes vandaan te halen zonder de rechthebbenden daarvoor op de een of andere manier te compenseren.
We hoeven misschien niet bang te zijn dat de computers de macht overnemen. Feitelijk zijn de Sam Altmans en de Elon Musks en de Mark Zuckerbergs dat aan het doen, en gebruiken ze de fascinatie voor AI als een instrument.
Handwerk
Ook overtuigend: het belang van Kunstmatige Intelligentie wordt flink gehypet. Het hele idee dat die apparaten ook maar in de buurt komen van wat een mens is of kan, wordt op geen enkele manier bewezen. Tegelijkertijd wordt de mens daarmee naar beneden gehaald – en dat treft waarschijnlijk vooral de mensen die toch al aan de kant zitten waar de klappen vallen, de lager betaalden, de minderheden, enzovoort.
Maar dan. Bender en Hanna zetten vervolgens zoveel verschillende argumenten tegen KI op een rijtje, dat het betoog volgens mij incoherent wordt. Alles wat er tegen chatbots ingezet kan worden, zetten ze in, ook als die argumenten niet per se bij elkaar passen.
Zo geven ze uitvoerig af op het dramatische effect dat chatbots nu al hebben op de (lokale) journalistiek (in Amerika). Steeds meer redacties besluiten om steeds meer berichten te laten genereren door chatbots. En hoewel de bazen dan steeds zeggen dat er zo middelen vrij komen voor echt journalistiek handwerk, betekent het in de praktijk dat het aantal journalisten krimpt.
Argumenten
De kwestie lijkt me daarbij, in de eerste plaats, dat de problemen van de journalistiek overal natuurlijk óók zijn dat mensen steeds minder lezen en nog minder bereid zijn te betalen voor wat ze lezen. Maar vooral: als wat KI aan teksten voortbrengt slecht en zielloos is, dan zou het toch helemaal geen probleem moeten zijn? Dan kunnen echte menselijke journalisten de concurrentie toch aan? Wie leest er nu iets dat slecht en zielloos is?
Het probleem van The AI Con is voor mij dat Bender en Hanna tegenover de stelligheid van de AI-hype vooral hun eigen stelligheid plaatsen. Er is in het hele boek geen moment waarin de auteurs lijken te twijfelen. Maar dat betekent dat ze apodictisch beweren dat kunstmatige intelligentie niet echt intelligent is, dat grotetaalmodellen niet echt kunnen denken, dat een gedicht dat door zo'n model geschreven is, geen echt gedicht is, maar dat ze het nooit de moeite waard lijken te vinden dat uit te werken. Het spreekt volgens hen kennelijk allemaal vanzelf.
Mijn gevoel is ook dat er nog echt wel wat ontbreekt aan de huidige modellen, en dat we nog heel ver weg zijn van een échte intelligentie. Maar ik zou niet durven beweren dat ik met zekerheid durf te zeggen wat er dan ontbreekt. Uit The AI Con krijg ik de argumenten ook niet.
Democratisch
Op een bepaald moment beweren Bender en Hanna, wat mij betreft ook weer plompverloren, dat je mensen die met AI plaatjes genereren, moet uitlachen. Dat het nooit echte kunst is. Dat het schrijven van een goede prompt echt niet hetzelfde is als een kunstenaar zijn.
Ook dit onderbouwen ze helemaal niet, en mij lijkt dit heel naïef. Van fotografie werd ook lange tijd gedacht dat het geen kunst was: op een knopje drukken, dat was toch wel heel iets anders dan met potlood of penseel jouw visie op papier of doek krijgen. Veel te gemakkelijk. Ik denk niet dat iemand nu nog zo denkt. Bovendien lijkt mij het werk van een AI-kunstenaar niet alleen te bestaan uit het schrijven van prompts, maar ook uit het vissen van de echt goede plaatjes uit de zee van onzin die er wordt gegenereerd.
De kern van het probleem is volgens mij dat Bender en Hanna zozeer de neiging hebben zich af te zetten tegen de hype dat ze van de weeromstuit de mogelijkheden van die modellen onderschatten. En dat is gevaarlijk, precies omdat ze door de techgiganten gebruikt worden om ons allemaal nog meer in hun greep te krijgen. In hun laatste hoofdstuk, waarin ze op een rijtje zetten wat we tegen de 'AI Con' kunnen doen (het blijft een Amerikaans boek, er moet optimistisch geëindigd worden) wordt daarom volgens mij ook te weinig aandacht besteed aan een voor de hand liggend alternatief: dat wij, de mensen van deze wereld, die grote taalmodellen moeten onteigenen: ze moeten niet in handen zijn van bedrijven, maar van de gemeenschap, die dan ervoor kan zorgen dat er op een verantwoorde manier mee wordt omgegaan. Zo dat ze geen al te grote aanslag worden op het milieu of op de werkgelegenheid of op de menselijkheid.
Die chatbots zijn geen nieuwe grote heldere geesten die al onze problemen gaan oplossen. Maar ze zijn potentieel wel nuttige instrumenten. Als we ze maar democratisch kunnen controleren.
Reacties