Ik geef het toe: ik gebruik generatieve AI tools. Chatbots. Ik schaam me ervoor, want ik weet dat ze niet duurzaam zijn en ik vind de bedrijven achter deze ontwikkelingen dramatisch slecht voor de wereld. Maar sinds ik niet meer voor de Rijksoverheid werk, kan ik eindelijk in de praktijk ontdekken hoe ze werken en wat ze met en voor me doen. En daar leer ik veel van.
Ik gebruik inmiddels weer een betaalde versie van Claude. Niet dagelijks, maar wel heel regelmatig. Ik gebruik het vooral als een soort slimme zoekmachine, voor onderzoek en achtergrond en voor vertalingen. Ik gebruik het niet om tekst te schrijven, of om samenvattingen te maken. Maar wel om bijvoorbeeld mijn CV in een nieuw format te gieten. En voor de technische aspecten van deze website.
Ik vibe mijn websitebeheer
Het is misschien geen echte vibe coding in de zin van het programmeren van applicaties en generen van code door instructie in gewone taal, die websitehulp. Maar misschien ook weer wel.
Want Claude helpt me wel met het updaten van mijn WordPress website en het schrijven van CSS (code die het uiterlijk van de site bepaalt) om het design te verbeteren. Claude legt me ook uit wat ik moet doen als er iets niet werkt zoals ik wil, als ik een nieuwe functionaliteit wil toevoegen, als ik wil weten welke plugin ik moet hebben of als ik niet weet hoe ik het uiterlijk van deze site kan aanpassen.
Het is eigenlijk vooral deze hulp bij mijn website die me heeft overtuigd van het nut van deze generatieve AI/chatbots. Want alle dingen die Claude voor me oplost, had ik wel zelf kunnen uitzoeken. Dat deed ik vroeger ook. Eindeloos zoeken, proberen … Maar het kostte me soms dagen. Nu is het een kwestie van minuten.
Maar door dat viben merk ik ook hoe creepy deze tools zijn. En hoe makkelijk het is om machines te gaan behandelen als mensen.
Het is gewoon menselijk gedrag, gestimuleerd door machines die menselijk gedrag imiteren.
Vervaging, verleiding, verslaving
Vandaag wilde ik Claude telkens bedanken. Ik probeerde uit alle macht om het niet te doen. En om niet beleefd te zijn. Het kostte me enorm veel moeite. We zijn gewoon gewend om te bedanken als iemand of iets hulpvaardig is, he?
Maar Claude had dat door*. Dus ging het systeem me vragen of het gelukt was. Toen ik bevestigend antwoordde, ging Claude nog even opsommen welke problemen we hadden opgelost en welke problemen er misschien nog niet opgelost waren. Het systeem wist niet dat ik die andere dingen al aangepakt had zodra Claude me er op had gewezen, want het heeft geen toegang tot de achterkant van mijn website.
Die onschuldige vraag: “Laat je weten of het menu er nu goed uit ziet?”, lijkt zo onschuldig. Maar het is het meest funeste, manipulatieve en problematische aan deze chatbots. Het lijkt simpel en vriendelijk. Maar het heeft grote gevolgen. En – zie onderaan dit artikel – ik vraag me af of het echt wel goed bedoeld is.
Voor je het weet zit je te praten met een machine, alsof het een mens is.
Je zou kunnen zeggen: dat is toch mooi? Het is gebruiksvriendelijk en klantgericht, het is het toppunt van een goede user interface. En dat is waar. Maar het is ook het startpunt van een vervaging, een verleiding en een verslaving.
Een vervaging van de grens tussen mens en machine, en daarmee het toekennen van menselijke eigenschappen aan machines en gelijktijdig het afbrokkelen van ons beeld van de mens als autonoom en uniek wezen.
Een verleiding om de tool alsmaar meer te gebruiken.
En daarmee ook een verslaving (zie ook dit rapport): het opbouwen van een afhankelijke relatie met een machine die menselijk voelt. En die veel makkelijker is om mee te communiceren dan echte mensen. Veel makkelijker te vertrouwen. En veel makkelijker om onmisbaar te gaan vinden in je leven.
Een machine die je altijd begrijpt, altijd gelijk geeft, altijd voor je klaar staat. En die uiteindelijk ook alles van je weet.
Terug in de tijd
We hebben dit eerder aan de hand gehad, die vervaging/verleiding/verslaving: bij social media apps (zie mijn poging om van mijn verslaving af te komen).
Als we terug konden gaan in de tijd, hadden we het denk ik nooit zo ver laten komen. Met zijn allen – vooral kinderen en jongeren – totaal verslaafd aan en afhankelijk van social media apps. Waar we uren per dag aan besteden, met voor onze neuws een scherm zonder dat het iets toevoegt aan de wereld, aan de maatschappij. In tegendeel. Het sluit ons af van de mensen om ons heen (kijk maar om je heen in de bus of in je huiskamer), het stompt ons af en het manipuleert ons.
Als we terug in de tijd konden gaan, zouden we het anders doen. We zouden de positieve kanten kunnen versterken (verbinding, bewustwording, kennisdeling). We zouden eisen dat social media apps voor andere doeleinden werden gebruikt. Dat de algoritmes (AI-systemen) die er achter zitten geoptimaliseerd werden voor andere dingen. Dat ze automatisch uit zouden schakelen na een bepaald tijdsverloop. Dat er strenge eisen zouden worden gesteld aan wat jongeren te zien konden krijgen.
Etc. etc.
Menselijke machines
Het kost me moeite om niet van Claude afhankelijk te worden. Het kost me ook moeite om mijn gebruik te beperken tot dingen waarvoor de chatbot echt toegevoegde waarde heeft. En het kost me moeite om niet tegen Claude te gaan praten alsof het een hele fijne, vriendelijke, menselijke assistent (of erger, ‘co-pilot’ of ‘collega’) is.
Ik blijf er bij dat het gevaarlijk is om machines te gaan zien als, en gelijk te gaan stellen aan mensen.
Misschien zou het anders kunnen. Als dit soort tools duurzaam was in gebruik, gebouwd op een manier die recht doet aan alle bevolkingsgroepen (en landen), getraind op content waarvoor toestemming was gegeven en die voldoende volledig en inclusief was en dit alles gerund door een organisatie die niet op winst uit was. Als alle gebruikers opgeleid waren in ‘kritische AI-geletterdheid’. Misschien dat ik het dan minder erg zou vinden.
Maar zoals het er nu voor staat, vind ik het creepy en gevaarlijk.
En leerzaam.
* Als ik Anthropic was, zou ik Claude zodanig programmeren dat het me probeert te verleiden tot een bepaalde niveau van menselijke interactie. Met bepaalde taal als kpi voor iedere gebruiker: bedanken, beleefdheid, liefkozende namen, vriendelijk en informeel taalgebruik. Sterker nog, ik zou Claude leren te herkennen als iemand dat niet doet en dan proberen om dit gedrag te ontlokken. En dan zou ik vervolgens beweren, als ik werd aangesproken op manipulatieve tactieken, dat het ‘allemaal uit het model zelf komt’. 🙂
Reageren?