AI is niet onvermijdelijk

Ik had deze week twee berichten in mijn inbox en in mijn LinkedIn-feed van vrienden over AI. In beide gevallen beweerden ze dat AI onvermijdelijk is. Daar ben ik het niet alleen niet mee eens: ik vind het onverantwoord om zoiets te verkondigen. En ik denk dat we het onszelf en de wereld verplicht zijn om zo’n statement te bevragen en ons ertegen te verzetten.

Ik moet altijd denken aan Star Trek, als ik weer iemand het ‘AI is onvermijdelijk’-verhaal hoor verkondigen. ‘Resistance is futile‘ is het adagium van de borg, de invasieve aliens die planeet na planeet onderwerpen, opgebruiken en onderdeel maken van hun eigen hives.

Verzet is nooit zinloos

De mensen die je aan je wilt onderwerpen vertellen dat verzet zinloos is, is een slimme strategie. Als ze het geloven, maken ze je het een stuk makkelijker om ze te overmeesteren en aan je te onderwerpen. En nog mooier is het natuurlijk als er onder die mensen ook vooraanstaande, invloedrijke figuren zijn die hetzelfde gaan verkondigen.

Maar de wereld is gebouwd op verzet. Zelfs de vreselijkste en oneerlijkste regimes worden uiteindelijk omver geworpen, omdat mensen zich georganiseerd gaanverzetten.

Het gevaarlijke van het ‘AI is onvermijdelijk’-narratief is dit: als je denkt dat iets onvermijdelijk is, zul je je er nooit meer tegen verzetten. En dat komt de grote AI-bedrijven die ons beeld van AI op dit moment nog bepalen heel goed uit.

OpenAI, Google, Microsoft en Athropic beheersen de markt voor generatieve AI-modellen en toepassingen. Ze hebben hun modellen gebouwd door massaal het internet te scrapen en het creatieve werk van bloggers, communities, internetgebruikers, auteurs en wetenschappers en hun eigen gebruikers te schenden en te misbruiken. Ze proberen zelfs om over de hele wereld de wetgeving rondom intellectuele eigendom te veranderen, zodat ze hier niet verantwoordelijk voor kunnen worden gehouden.

Hun systemen zijn ontwikkeld zonder rekening te houden met mensenrechten, zonder te kijken naar slechte, onjuiste en discrminerende input. Ze maken gebruik van de oneerlijke positie van tienduizenden datawerkers en doen er alles aan om die positie zo ongelijk mogelijk te houden.

Deze bedrijven nemen geen verantwoordelijkheid voor de negatieve effecten van hun producten op de mensheid, van door chatbots aangemoedigde tienerzelfmoorden tot ondermijning van het onderwijs, de wetenschap, de creatieve sector en de werkgelegenheid in het algemeen.

Ze hebben meer impact en macht dan overheden, maar zijn niet democratisch verkozen.

Hun verdienmodellen – waaronder het gratis ter beschikking stellen van hun toepassingen – versterken hun eigen machtsposities door de markt als het ware te kopen. Ze maken het nieuwe, betere toetreders tot die markt daarmee steeds moeilijker.

Het komt deze paar bedrijven erg goed uit als wij geloven dat verzet zinloos is en dat we niets meer kunnen doen om het gebruik van hun diensten te vermijden.

Wat het extra pijnlijk maakt, is dat ik dit verhaal verkondigd hoor en zie worden door mensen die ik hoog heb zitten en aardig vind.

Generatieve AI kan ons zeker iets opleveren. Het is soms handig, vaak interessant en in sommige gevallen vermakelijk. Maar de negatieve effecten zijn gigantisch. De vraag is daarom niet alleen of je zo’n technologie wel moet omarmen, laat staan promoten. De vraag is vooral onder welke voorwaarden wij AI toe wilen staan in onze samenleving.

Niets is onvermijdelijk

Hoe vaker je hoort dat AI onvermijdelijk is, hoe meer je het gaat geloven. En hoe minder je het gevoel hebt dat je in een positie bent waarin je keuzes hebt. Maar keuzes heb je altijd. Ze kosten je alleen iets. Soms heel veel.

Als iemand zegt dat iets onvermijdelijk is, is dat eigenlijk ALTIJD een rode vlag. Zodra je dat woord hoort, moet je je afvragen: is dat zo? Waarom denkt diegene dat? En wie heeft er iets te winnen? Wie wil iemand onderwerpen? En aan wat, precies?

De dood, die is onvermijdelijk.

AI is dat niet.

Welke AI bedoelen we hier eigenlijk?

Om bij het begin te beginnen: als mensen zeggen ‘AI is onvermijdelijk’ bedoelen ze meestal maar 1 beperkte vorm van die definitie, namelijk generatieve AI. Taalmodellen, beeldmodellen, wereldmodellen – whatever. Modellen die content genereren.

Ik ben onvoldoende technisch onderlegd om de vele vormen van AI te kunnen onderscheiden en uit te leggen. Maar ik weet wel dat er meer is dan generatieve AI en ChatGPT. Ik wantrouw daarom per definitie alle ‘AI-experts’ die pas op zijn gestaan na november 2022, toen OpenAI ChatGPT lanceerde. AI is al veel en veel ouder, heeft veel meer vormen en wordt al veel en veel langer gebruikt. Wat dat betreft is AI inderdaad bijna onvermijdelijk als je online bezig bent, want het zit in zoveel van onze digitale diensten.

Als ik spreek met mensen die het over ‘AI’ hebben, probeer ik altijd eerst uit te vinden wat ze met AI bedoelen en of ze enig besef hebben van de bredere toepassing van deze technologie.

Of ze begrijpen dat AI niet 1 systeem, product of organisatie is. De wereld van AI is een complexe wereld, waarin ongelofelijke hoeveelheden mensen, doelgroepen, belanghebbenden, geldstromen, wetten, materialen en toepassingen een rol spelen.

Dat betekent ook dat we de term ‘AI’ allemaal anders interpreteren. Nog even los van de discussie of het woord ‘Artificiële intelligentie‘ wel terecht is (veel kritische wetenschappers vinden van niet).

Kortom: het heeft zin om even door te vragen bij mensen die enthousiast roepen dat AI onvermijdelijk is.

Wat is er echt ‘onvermijdelijk‘ aan (generatieve) AI?

Je favoriete social media app, je favoriete zoekmachine, je meest gebruikte spamfilter: ze zitten allemaal al heel lang vol met AI-technologie. Geen generatieve AI, maar net zo goed AI. Modellen gebaseerd op patroonherkenning, getraind op basis van enorme hoeveelheden data, die vervolgens iets proberen te voorspellen. Of die e-mail spam is; of jij die nieuwe social media post leuk zult vinden; en welke webpagina het beste aansluit bij wat jij zoekt.

Wie in de digitale wereld leeft of digitale producten gebruikt, komt AI overal tegen. Maar generatieve AI, dat is iets anders. In die zin is het inderdaad heel moeilijk om AI te vermijden. Niet onmogelijk, wel lastig.

Maar generatieve AI, dat kun je nog steeds vrij makkelijk vermijden.

Het moeilijkst is dat eigenlijk bij Microsoft, nu hun generatieve AI-product (CoPilot) overal in wordt verwerkt. Aangezien vrijwel de hele zakelijke wereld Microsoft gebruikt, is het een uitdaging om CoPilot uit te zetten. Helemaal als je het steeds drukker hebt, grijp je snel naar gemak. In die zin is AI geen technisch probleem, maar een probleem van hoe onze samenleving georganiseerd is rondom de mythe van productiviteit.

Het is niet onmogelijk om geen Microsoft te gebruiken, maar wel steeds lastiger. SURF doet hier al heel lang onderzoek naar, mocht je interesse hebben.

Veel lastiger is de druk die we ervaren van de mensen om ons heen en uit onze sector. Medeleerlingen, medestudenten en mensen uit ons vak. Als mensen zeggen ‘onvermijdelijk’, bedoelen ze vaak dat je niet meer kunt concurreren met mensen die generatieve AI gebruiken om het zelfde werk te doen als jij. Oftewel, hoe hoger de druk wordt om productiever te worden, hoe hoger de werkdruk, hoe groter de concurrentie, hoe onvermijdelijker AI wordt.

Het lastige daaraan is natuurlijk dat die concurrentie en die werkdruk direct op zouden houden als iedereen tegelijkertijd stopte met het gebruik van AI. Zie daar het slimme van het narratief: hoe meer mensen denken dat ze het niet kunnen vermijden, hoe moeilijk het wordt om niet mee te doen.

Helaas is hier niet echt een goed antwoord op, behalve dat ik hoop dat je je gesteund voelt in je twijfel. En dat je moet weten dat je niet de enige bent die kritisch is. Meerdere organisaties werken aan een database met een overzicht van alternatieven en voorbeelden van verzet. Als ze gepubliceerd zijn, zal ik ze hier toevoegen.

Ook goed om voor ogen te houden, is dat veel mensen die met luide stem AI promoten, het doen voorkomen alsof iedereen het gebruikt. Maar lang niet iedereen is actief bezig met het gebruik van (generatieve) AI. Je zou anders kunnen vermoeden, omdat veel mensen met veel bereik over aan het praten zijn op social media en in de media. Zoals altijd bij een nieuwe techologie, zijn de belangen om ons te doen geloven in de ontwikkeling enorm.

En net als altijd geldt dat de mensen die het hardste schreeuwen, er het meeste belang hebben bij dat jij hen gelooft. En dat kritische vragen niet zo welkom zijn.

Er is een lange traditie van kritisch kijken naar AI

In al die hype vergeten de experts te wijzen op een belangrijk feit: er wordt al jaren en jaren gewerkt aan het organiseren van kaders voor AI. Door mensen die zich al heel lang realiseerden dat AI negatieve gevolgen kan hebben voor gebruikers en de samenleving.

Niet voor niets zijn er heel veel wetten, standaarden en internationale afspraken over het verantwoorde gebruik van AI. Die discussies liepen al heel lang voordat we ChatGPT ontdekten:

• De Universal Guidelines for AI: van de OECD, uit 2022
• De Europese AI-verordening: deze nieuwe Europese wet, die vorig jaar in werking trad, begon met een whitepaper die al in 2020 gepubliceerd werd.
• UNESCO’s AI recommendations: uit 2021. Inmiddels worden de eerste evaluaties gepubliceerd door landen die toegezegd hebben zich aan die recommendations te houden (NB: Ik was zelf betrokken bij die van Nederland, dus ik ben zeker niet objectief)
• Het vaticaan publiceerde in 2025 een set met richtlijnen en overwegingen over AI
• Het AI-verdrag van de Raad van Europa: vanaf 2024 open voor rectificatie, ook voor landen die geen lid zijn van de raad. Ook dit proces begon al in 2020.
• Verdagen en afspraken tussen Aziatische en Afrikaanse landen
• Internationale standaarden van de NIST, de ISO en JTC21 (nog los van sectorspecifieke standaarden)

Dit is geen complete lijst, want er zijn ongelofelijk veel verschillende afspraken, richtlijnen en samenwerkingen. Die zijn niet tot stand gekomen, omdat AI zo veilig, leuk en handig is. Maar juist omdat visionaire mensen zich realiseerden dat de impact van slechte systemen enorm kan zijn.

En veel van deze afspraken, wetten en standaarden zijn niet pas na november 2022 gestart. Duizenden wetenschappers en beleidsmakers zijn hier jaren mee bezig geweest – en nog steeds mee bezig. Want internationale afspraken hebben jaren van discussie en onderzoek nodig. Pas daarna komen processen rondom implementatie en toezicht.

Overal ter wereld wordt hier iedere dag aan gewerkt.

Ook goed om je te realiseren: ze gaan bijna allemaal verder dan alleen de techniek. Het gaat niet alleen om productregelgeving en consumentenbescherming. Ze gaan meer en meer ook over dingen als mensenrechten en impact op de samenleving. Omdat we dankzij heel veel misstanden en incidenten weten dat AI-technologie ons leven en onze maatschappij raakt op zoveel manieren die we niet hadden voorzien.

Ik wijs je ook nog graag op een van de belangrijkste rapporten in Nederland op het vlak van AI, namelijk het rapport van de WRR (Wetenschappelijke Raad voor het Regeringsbeleid), ‘Opgave AI’. En ook dat stamt uit 2021. En ook dat voorziet dat de technologie zoveel effect kan hebben dat regels en afspraken hard nodig zijn.

Hoewel we soms in de hype rondom generatieve AI de focus op mensenrechten, standaarden en internationale afspraken opeens lijken te vergeten, bestaan ze wel degelijk. Ze laten zien dat er grenzen zijn aan wat mag en wat wenselijk is. En dat AI wat meer is dan of je goed kunt prompten.

Hoe krijg je grip op AI?

Ik ben groot fan van het werk van de non-profit We and AI, die al jaren bestaat (lang voor ChatGPT de markt op kwam). In samenwerking met o.a. Oxford heeft WeandAI een paper gepubliceerd over de vraag hoe mensen zich verzetten tegen het verhaal dat AI onvermijdelijk is. De wetenschappers kwamen na onderzoek uit op 4 verschillende manieren waarop mensen het idee dat AI onvermijdelijk is bestrijden:

Verzet tegen AI: het afwijzen van het idee achter AI-systemen die gemaakt zijn op basis van o.a. extractie, dataficatie en automatisering (voor terminologie, zie verderop). Verzet gaat over het tegenspreken van de bestaande narratieven, over het aankaarten van wat we onwenselijk of onrechtvaardig vinden. Denk aan wetenschappelijke papers en boeken over AI waarin allerlei aannames van de techindustrie kritisch worden bekeken en worden weersproken.

Weigeren van AI: actieve weigering van het gebruik van AI-systemen en -applicaties. Denk bijvoorbeeld aan stakingen van groepen werknemers of werkenden; of burgers die zich verzetten tegen het gebruik van AI-systemen door de overheid. Maar denk ook bedrijven die hun website beschermen tegen crawler bots (moet ik nog doen!).

Het herwinnen van AI: de ontwikkeling van AI-systemen waarbij de maatschappij en de communities over wie het gaat de controle krijgen over het design van de technologie, de ontwikkeling en het gebruik. Het beroemdste voorbeeld is misschien wel dit Maori taalmodel. Zie bijvoorbeeld de projecten van het CommuniCity EU-project (waaronder die in Amsterdam). Maar ook het Nederlandse initiatief GPT-NL.

Het heruitvinden van AI: het gezamenlijk herontwerpen van onze blik op technologie vanuit andere waarden dan nu gebruikelijk is, waaronder mensenrechten, impact op het klimaat, dekolonalisatie en een ‘ancestral’ blik. We realiseren ons te weinig dat de manier waarop we naar AI kijken en zelfs de manier waarop we over ‘ethische AI’ denken, gebaseerd is op een Westerse blik. Maar steeds meer mensen beginnen de aannames die daaronder liggen te bevragen.

Het belangrijkste om hieruit mee te nemen is misschien niet wat jij precies kunt doen. Maar meer dat je niet de enige bent die vragen heeft en twijfelt.

Vragen stellen is nooit zinloos

Ik vind AI een fascinerende technologie, net als ik social media heel lang geweldig vond. En ik van het internet houd.

Maar met de opkomst van generatieve AI ben ik gaan twijfelen. Zoals ik ook ben gaan twijfelen over social media en over de machtsverhoudingen op het internet. Voor allemaal geldt dat de techologie nog steeds veel kansen en mooie dingen biedt. Maar dat de negatieve gevolgen in de huidige situatie te groot zijn en de machtsverhoudingen te oneerlijk. En vaak zijn die tot stand gekomenomdat we de narratieven geloofden.

Nederlanders zijn goed in kritisch zijn en alles bevragen. Altijd hun eigen mening serieus nemen. En misschien komt dat dit keer wel goed uit. Misschien geeft het ons de kans om verzet te organiseren.

Laten we dat doen, bij AI. En vooral als we ergens weer horen dat AI onvermijdelijk is. Laten we dan gewoon vragen: waarom? En kritisch blijven over de antwoorden.

Extra: uitleg van AI terminologie

Extractie en AI

Als er in de context van AI-verzet gesproken wordt over extractie, gaat het niet over technische ‘kennisextractie’ (het technische proces waarbij de data die kennis bevat wordt gelezen en gebruikt). In de context die ik hier bedoel gaat het vooral over het zich toeëigenen van kennis, taal en cultuur door AI-ontwikkelaars die oorspronkelijk niet de eigenaar en maker zijn van die kennis, taal en cultuur en/of hierbij een voordeel halen uit die kennis, taal en cultuur zonder dat dat voordeel ook de oorspronkelijke makers/cultuur/eigenaren ten goede komt.

Vaak wordt hierbij de vergelijking gemaakt met kolonialisme. Zie ook de term ‘extractivism‘, die verwijst naar een economisch model waarbij natuurlijke bronnen en materialen worden gewonnen en weggehaald uit een land, in deze (negatieve) context zonder dat de mensen ter plaatse daar voordeel uit halen en waarbij zelfs de negatieve effecten van het proces op de schouders van lokale mensen neerkomen.

In het geval van data is ligt dat iets anders, omdat de data meestal blijft bestaan (zoals wanneer een AI-bedrijf het internet scrapet). Maar ook hier geldt dat de makers en eigenaren geen voordeel hebben van het gebruik van de data door degene die de data weghaalt en gebruikt.

AI heeft trouwens ook te maken met de meer traditionele definitie van ‘extractie’, omdat voor de computerschips en datacenters waarop AI draait veel materialen nodig zijn die alleen in bepaalde landen voorkomen en daar uit de grond moeten worden gehaald, zoals lithium. In die zin komt het gebruik en de ontwikkeling van AI ook weer terug bij de oorspronkelijke betekenis van extractie en ‘de extractie economie’. Zie onderstaande infographic:

Dataficatie en AI

Dataficatie en dataisme gaan over het gegeven dat grote delen van ons leven, onze gezondheid en ons gedrag tegenwoordig gevangen worden in data en natuurlijk de vraag wat er met die data gebeurt en of we daar iets over te zeggen hebben.

Dat we steeds meer data hebben, kan handig zijn, bijvoorbeeld in de gezondheidszorg waar met behulp van AI patronen kunnen worden herkend. Die kunnen ons helpen om ziektes op tijd te herkennen of medicijnen op maat te maken.

Maar hoe meer data een bedrijf over ons heeft, hoe groter de inbreuk op onze privacy. Hoe meer TikTok weet over mijn voorkeuren, hoe makkelijker ik gemanipuleerd kan worden door slimme AI-modellen die mij content en advertenties laten zien die precies aansluiten op mijn gemoedstoestand. Hoe meer foto’s (= data) er van mijn gezicht online staan, hoe makkelijker het is om mijn gezicht te herkennen op straat met behulp van slimme AI-modellen op het vlak van gezichtsherkenning en hoe minder privacy ik heb.

Narratieven en AI

Een narratief is een simpel verhaal dat betekenis geeft aan een ontwikkeling of een reeks gebeurtenissen. Als ik het woord narratief gebruik in relatie tot AI, bedoel ik dat er verhalen zijn over AI die zo vaak herhaald worden dat we ze als waar aannemen zonder ze te bevragen.

Denk aan ‘AI is onvermijdelijk’, maar ook aan ‘we gaan het verliezen van China en de VS’. Narratieven zijn belangrijke tools in de politiek, in beleid en in marketing, omdat ze zo ingebed raken dat niemand ze meer bevraagt. Zo worden ze een manier om discussie in de kiem te smoren en als argument te gebruiken, zonder dat we ze nog herkennen.

AI governance

AI governance is een modewoord. Een paar jaar lang ging het vooral over AI ethiek (AI ethics). Maar langzamerhand is de discussie over wat wel en niet in orde is rondom AI verschoven naar ‘governance’.

Met AI governance wordt in het algemeen bedoeld: de regels, kaders en afspraken die gelden als het over AI-toepassingen gaat. Maar waar de een dan praat over internationale en nationale wetten en compliance, praat de ander vooral over de afspraken binnen 1 organisatie of een derde weer over de technische en operationele standaarden die gelden bij AI.

Kortom, het is een beetje een verzamelterm. Ik gebruik het als een overkoepelende term die niet alleen weergeeft dat er afspraken zijn over hoe we willen dat AI gemaakt en gebruikt wordt, maar ook de discussie over wat we nou vinden dat ‘goed’ is als het om AI gaat.