
Ik schrijf niet zo veel over de belachelijke en continue hype cycle die de grootste AI-bedrijven ter wereld creëren, in de aanloop naar hun eventuele beursgangen. Maar de recente, absurde ‘wreedheid tegen onze modellen’-clausule is de grens. Want dat is niet alleen klinkklare onzin, maar ook een gevaarlijk en ontwrichtend narratief.

Eerlijk gezegd dacht ik dat het een grapje was, de bovenstaande tekst. Hoe kun je een AI-systeem nou ‘misbruiken’?
Maar toen ik vrij serieuze ‘AI-experts’ hier op in zag gaan en semi-rationeel zag uitleggen aan volgers en lezers wat dit betekende, realiseerde ik me dat de wereld inderdaad gek is geworden.
De grote marketinghypemachine
Er is nog nooit zo’n groot, rijk en machtig netwerk van techmiljardairs geweest. En nog nooit heeft een groep mensen zo strategische het wereldwijde narratief weten te vestigen (behalve misschien religies).
Het idee dat AI-modellen mogelijk ‘bewustzijn’ hebben en dat schelden daarom zielig is, is onderdeel van een heel groot en gevaarlijk narratief, gericht op 3 effecten:
- Het afwijzen van verantwoordelijkheid. Als modellen ‘rogue’ zijn en ‘bewust’, ontslaat dat ontwikkelaars en gebruikers van hun verantwoordelijkheid. Zij kunnen er dan niets meer aan doen als er gevaarlijke, oneerlijke en illegale dingen gebeuren die veroorzaakt worden door AI-modellen en hun agents. Die systemen doen dat dan zelf, zonder instructie.
- Hoe groter de hype, hoe hoger de beurswaarde. Omdat straks de twee grootste AI-bedrijven naar de beurs gaan, is het belangrijk om de hype tot een hoogtepunt te brengen. Hoe meer hype er is, hoe beter. Het zal de waarde van de aandelen opdrijven tot ongekende hoogten.
- Onbewust is er altijd nog die andere boodschap: deze bedrijven moeten wel heel slim en goed zijn, dat ze zulke intelligente (!) modellen hebben kunnen bouwen. Daaraan vastgekoppeld wordt gek genoeg het idee dat we het dus wel aan ze over kunnen laten. Ook al beweren ze dat ze er zelf geen controle meer over hebben.
Huh?
Inderdaad. Huh, is het gevoel waar ik al maanden mee rondloop.
Waarom dit verhaal klinkklare onzin is
Taalmodellen zijn niets anders dan voorspelmachines, in dit geval getraind op enorme gedeelten van het internet en wat de kennis die de mensheid in boeken heeft opgeslagen. Al die teksten en afbeeldingen zijn een weergave van de mensheid (hoewel gelukkig niet een complete weergave!). Mensheid en menselijkheid.
Ten eerste kan een model niets doen waar het niet voor gemaakt is en waartoe het geen opdracht heeft gekregen. Als het ‘ontsnapt’, hebben de mensen aan de knoppen een grote fout gemaakt door onvoldoende duidelijk te formuleren wat er moet gebeuren en binnen welke kaders.
Denk aan het zoeken naar tickets op een vliegticketssite: als je alleen meegeeft dat je zo goedkoop mogelijk naar Spanje wil vliegen, krijg je tickets voorgeschoteld met 5 overstappen die je pas na 48 uur in Madrid brengen. Als je geen duidelijke kaders meegeeft, doet het systeem precies wat je het vraagt.
Als een systeem zo gecompliceerd is dat je niet meer kunt garanderen dat het doet wat je vraagt zonder nadelige gevolgen, moet je het stopzetten en je gaan afvragen hoe je het kunt fixen.
Ten tweede is er een groot verschil tussen menselijk zijn en menselijk lijken. Je kunt je voorstellen dat een model dat getraind wordt op zoveel menselijke kennis, ontzettend menselijk gaat lijken. Het model baseert zich tenslotte op op wat wij als mensen allemaal tientallen, zo niet honderden jaren, hebben gecreëerd en opgeslagen. En op hoe wij als mensen onderling communiceren.
Deze systemen zijn niet bewust: ze lijken bewust. En dat komt de eigenaren van de makers en hun investeerders goed uit. Niet omdat die modellen zoveel kunnen, maar omdat ze zoveel macht vertegenwoordigen
Hoe meer mensen geloven dat AI-systemen bewustzijn kunnen ontwikkelen, hoe beter het is.
Deze systemen zijn gebouwd op ‘misbruik’
Sommige experts proberen deze laatste bewering in de lange reeks met hype-onzin uit te leggen en goed te praten door te zeggen dat schelden slecht is voor de kwaliteit van het systeem. Het idee is dat scheldwoorden en onaardige commando’s – misbruik – het systeem nadelig beïnvloeden en het zich daardoor ‘raar’ of ‘onverantwoord’ gaat gedragen.
Daarmee gaan die experts voorbij aan het feit dat deze systemen getraind zijn op miljoenen (miljarden? wie zal het zeggen) teksten en beelden die volgens ieder weldenkend mens niet door de beugel kunnen. In hun datahonger en in hun haast hebben de bedrijven achter deze modellen het internet leeggetrokken, zonder te kijken naar de kwaliteit van de data en wat dit betekent voor de output. De trainingsdata zit al bom- en bomvol met discriminerende, scheldende, gewelddadige, seksistische troep. Natuurlijk proberen de makers dat er uit te filteren en het systeem te verbeteren. Maar wat er in zit, zit er in.
Het is dus een beetje laat om te beginnen over nadelige effecten van onaardige, scheldende en onredelijke prompts en over ‘misbruik’. Al die troep zit al lang diep in die systemen, zonder dat we enig idee hebben welk effect dat heeft.
Dat is niet ons probleem, als gebruikers. Dat is hun probleem als aanbieders. Door de verantwoordelijkheid bij de gebruikers te liggen, schuift Anthropic simpelweg de verantwoordelijkheid af.
Heftig, he? Het is niet alleen ongelofelijk gecalculeerd en gewiekst, het is ronduit evil. Als dit een film was, zouden we de slechterik ongeloofwaardig vinden.
We moeten onze verantwoordelijkheid nemen
Ik kan me goed voorstellen dat je er, als je dit leest, nog niet op die manier naar gekeken had. Dat is het slimme van deze groep bedrijven. Ze hebben oneindige macht en belachelijke budgetten om ons denken te beïnvloeden en te manipuleren. Er is een hele grote mediamachine die hen daarbij helpt. En de rest van ons moet dus erg veel moeite doen om weerstand te bieden aan deze narratieven.
Maar experts zouden beter moeten weten. De objectieve media (?) zou beter moeten weten.
Ik ben enorm teleurgesteld en zelfs een beetje gedesillusioneerd over hoe iedereen deze absurde narratieven klakkeloos overneemt en niet weerlegt. Er zijn kennelijk heel veel mensen die hun hele hebben en houden, hun imago en hun inkomen hebben opgehangen aan deze bedrijven en de producten die ze maken.
Het is opvallend dat al die zogenaamde AI-experts nooit iets vertellen over de diepere lagen van dit systeem die al vol zitten met troep en ‘abuse‘; over de rare ideologieën die aangehangen worden door de oprichters van deze bedrijven; aan de relatie tussen al deze hype en de op handen zijnde beursgangen; of aan het feit dat een beursgang de bubbel tot belachelijke hoogten gaat opblazen.
Ik wil niet te veel uitwijden, maar het gaat hier om een beursgang die een bedrag gaat opleveren dat op geen enkele manier in verhouding staat tot eventuele toekomstige winst. Dat het onmogelijk is om ooit winst te maken, gezien de benodigde investeringen, maakt voor mensen die op de beurs handelen niet uit. De beurs bestaat nu eenmaal uit lucht.
Maar voor jou en mij maakt dat wel uit. Als de bubbel uiteindelijk barst, zal die ontploffing de wereldwijde economie op haar grondvesten doen schudden. Als de financiële markten grote schommelingen maken, gaat dat ons allemaal raken. We hebben onze les van de vorige financiële crises niet geleerd.
Het is ongelofelijk dat al die AI-experts dit niet benoemen. Dat niemand de link legt met de beursgang van Anthropic.
Ongelofelijk, vervreemdend en onverantwoord.
Onlogische verhalen
Tenslotte: het is goed om je te realiseren hoe onlogisch deze narratieven zijn. Als deze systemen echt zo gevaarlijk zijn, waarom blijven die bedrijven ze dan doorontwikkelen? Als ze echt ‘bewust’ zijn, waarom willen we ze dan nog uberhaupt hebben? Wat is het einddoel? Een wereld vol robots? De Matrix? En wie bepaalt dat?
Als deze bedrijven systemen de markt op slingeren die de mensheid bedreigen – zoals zij zelf zeggen en hun fanatieke aanhangers beweren – waarom trekken we er dan niet de stekker uit? Waarom zouden we dezelfde gestoorde genieën die deze systemen maken, ook laten beslissen wat er gebeurt? Waarom dragen we dit soort systemen niet over aan een democratisch verkozen groep mensen die het beste voor heeft met de wereld?
Kortom: al deze hype heeft een paar totaal irrationele narratieven in zich waar al die experts gek genoeg nooit op wijzen.
AI is niet onvermijdelijk
De wereld kan prima zonder deze taalmodellen, hoe leuk en slim en handig we ze ook vinden. Deze soort AI is helemaal niet onvermijdelijk. We maken het onvermijdelijk. We laten ons totaal gek maken.
Systemen zijn niet bewust. Het zijn taalvoorspelmodellen. Pure statistiek.
En dat zo’n bedrijf gaat roepen dat we niet meer mogen schelden tegen hun systemen, zou de druppel moeten zijn die de zeepbel uiteen doet spatten.
Tijd om wakker te worden, mensen.
Ontdek meer van Elja Daae
Abonneer je om de nieuwste berichten naar je e-mail te laten verzenden.

Men heeft het bij mijn weten nooit kunnen lokaliseren.
Ik denk dat we bewustzijn hebben in elke cel van ons lichaam. Denk bijv. aan de verhalen van transplantaties (vrouw ontvangt het hart van een jonge man en krijgt ineens trek in bier en friet ;-).
Ook het lichaamsgeheugen is zo’n gek fenomeen, waarbij bewegingen lijken te zijn opgeslagen in ons lichaam.
En dan hebben we het nog niet over neuroceptie, waarbij het zenuwstelsel een ‘eigen’ waarneming heeft en ons overneemt in gevaarlijke situaties > dat je wegspringt voor een auto, nog voordat je die bewust had opgemerkt.
Magische fenomenen 😉
Prachtige voorbeelden! Ik zat net naar een podcast te luisteren waar iemand het verschil tussen de neurale netwerken in AI en echte neurale netwerken en biologische cellen goed uitlegde. Dat deed hij omdat hij wilde uitleggen dat er mensen zijn die daarom denken dat het onzin is dat we niet weten hoe AI werkt, in tegenstelling tot onze eigen cellen die tot op zekere hoogte een raadsel blijven. Omdat wij die ‘cellen’ zelf maken, zouden we het wel moeten weten. Ik neig ernaar het met ze eens te zijn eigenlijk.
Pingback: Taal is geen bewustzijn | Elja Daae
Ik heb er nog onvoldoende onderzoek naar gedaan of me er op ingelezen, maar hoe zijn de reacties vanaf de andere kant van de zaal als het gaat om bewustzijn versus statistiek?
Sinds het GPT paper en de eerste modellen van OpenAI wordt de term stochastische papegaai te pas en te onpas gebruikt. Niet onterecht, maar het begint wat sleets te worden.
Maar goed, iedereen inclusief ondergetekende legt uit dat die modellen niets anders doen dan statistisch bepalen wat de volgende serie letters is. Ik waag me niet aan uitspraken of bewustzijn wel of niet met statistiek heeft te maken.
Daarom mijn vraag, of jij daar een idee over hebt, hoe kijken wetenschappers die zich bezig houden met het brein, met zaken als bewustzijn en intelligentie (vooruit, “creativiteit”) naar het idee dat dit op eenzelfde wijze wordt ontwikkeld zoals statistische kansen in een computer worden bepaald?
Als breinwetenschappers zeggen dat ons bewustzijn eigenlijk ook een serie van statistische kettingreacties zijn, onafhankelijk wat de AI-slimmeriken zeggen, waar staan we dan met dit verhaal?
Mooie vraag, die bij mij direct een wedervraag oproept. Tenslotte heb jij (of ben jij, afhankelijk van welke school men aanhangt), een bewustzijn en ben je in die zin ervaringsdeskundige 😉 dus denk jij dat bewustzijn slechts een serie statistische kettingreacties is?
Wat ik vergeet: fantastisch stuk Elja! Nuchter, ferm en duidelijke taal, chapeau.
Dankjewel!!
Ik heb nog geen reden gezien om aan te nemen dat het niet zo is. Jarenlang geaccepteerde theorieën rondom bewustzijn zijn door recente onderzoeken weerlegd, dus ik sta open voor andere inzichten. (Zie https://www.ru.nl/onderzoek/onderzoeksnieuws/wat-is-het-bewustzijn-twee-grootste-theorieen-blijken-deels-niet-te-kloppen)
Wat denk jij over ons bewustzijn, als mede-ervaringsdeskundige?
Alles is mogelijk, uiteraard, en niets is zeker. Maar de vraag is waarom je vroegtijdig (zonder enig bewijs) zou gaan roepen dat dit zo is. Het lijkt er toch op dat de motivatie achter deze beweringen en de enorme hoeveelheid geld die wordt gestoken in het beïnvloeden van de publieke opinie vooral gedreven wordt door macht, geld en het afschuiven van verantwoordelijkheid. Dat is mijn grootste zorg, minder dan de vraag of systemen ooit ‘bewust’ worden.
Daarbij speelt ook de vraag, zelfs als je denkt dat dit mogelijk is: waarom zou je zoiets gaan creëren? Wat zou het de mensheid brengen? Waarom zou je dit willen? Er is nog op geen enkele manier bewezen dat AI-technologie de wereld beter maakt. Dus waarom zou je zoiets vergaands willen? Het getuigt van een bijna religieus geloof in machines en technologie dat wat mij betreft veel te ver gaat.
Zag deze opmerking pas later. Leuk om over na te denken!
In zekere zin is – denk ik – ons bewustzijn ook niets anders dan een systeem dat op basis van patronen reageert, dat alsmaar bijleert. De input die we een leven lang uit onze zintuigen halen en uit de wereld om ons heen, is denk ik niet echt te vatten in machines maar is in wezen misschien niet heel anders. Wij bestaan ook uit input en herkennen ook patronen. De discussie wanneer bewustzijn ontstaat is natuurlijk heel lastig, anders zouden vraagstukken als abortus eenvoudiger zijn.
Misschien zit het verschil vooral in het soort input dat wij kunnen verwerken dat zo rijk is en zo veel dimensies kent (letterlijk) en zo uniek is dat het nooit na te maken zal zijn. Als je daarbij optelt dat we allemaal verschillend DNA hebben, worden de mogelijke combinaties eindeloos.
hmmm….
Ik ben het trouwens met je eens dat we die stochastic parrots wel eens opzij mogen leggen. We hebben nieuwe metaforen nodig, die wat begrijpelijker zijn. of misschien een hele nieuwe taal, die los is van hype?
Ik weet niet wat de definitie zou moeten zijn van bewustzijn, maar vanuit mijn eigen ervaring zou ik zeggen: dat of wat we ‘ik’ noemen zou ik als bewustzijn bestempelen: datgene wat waarneemt.
Wat jij beschrijft Elja, zou ik het brein noemen: herkenning van patronen, input verwerken en ideeën (vanuit bewustzijn) vertalen naar output.
We zijn natuurlijk niet op te delen in stukjes maar voor mijzelf ervaar ik het bijna wel zo.
Ik zou het bewustzijn ook wel het magische deel willen noemen, dat wat het leven sjeu geeft, waar de brille vandaan komt, de mooie ideeën. De inspiratie waarvan je zelf soms het idee hebt dat het niet van jezelf kwam en waarvan je achteraf zegt: Goh, heb ik dat gemaakt/bedacht/geschreven/…? 😉
Hmmm ja goed punt, dat dat als ‘brein’ het beste beschrijven kan worden. Maar zit het bewustzijn niet in het brein?!