Google Gemini stelde me vandaag een vraag. En die ogenschijnlijk onschuldige vraag deed voor mij alle alarmbellen afgaan.
Ik had Gemini gevraagd hoe het zat met de Great Depression in de VS. Nadat er een opsomming van factoren op mijn scherm verscheen, wilde Gemini er graag met me over praten.
Wat ik er van vond? Welke van de genoemde factoren vond ik zelf het meest verrassend?
Het is niet alleen een rare vraag (hoezo, wat vond ik verrassend? Is dat echt belangrijk?). Maar het is uberhaupt heel gek dat Gemini mij een vraag stelt.
Als de vraag zou zijn: ‘Wil je nog iets weten?’ of ‘Kan ik je nog ergens bij helpen?’ kun je nog zeggen dat de chatbot dienstbaar is en dat Google de chatbot zo programmeert dat die dienstgericht is.
Maar de vraag wat ik er van vind is verre van onschuldig. Door mij te verleiden tot een gesprek, probeert Google te doen alsof Gemini menselijk is. Want mensen hebben gesprekken. Zoekmachines doen gewoon wat je ze vraagt.
Ieder gesprek met een chatbot is geld waard
Maar de vraag naar wat ik er over dacht, is pure verleidsingstactiek. Het is een poging om me dieper de chatbot in te trekken. Om mijn ‘screen time’ te vergroten. En me afhankelijker te maken van Google.
Het doet denken aan de manier waarop social media apps je verleiden om langer in de app te blijven. Hoe langer je in die apps blijft hangen, hoe meer geld er verdiend wordt aan reclames. Het is wat ze zo verslavend maakt. Er is een reden dat TikTok en Instagram omogelijk zijn om weg te leggen.
Die chatbots hebben nog geen reclame, maar de tijd die jij in en aan die chatbots besteedt heeft wel degelijk al waarde. Hoe meer jij doet in de chatbot, hoe meer de chatbot over jou weet. Hoe meer trainingsdata de bot heeft.
En op het moment dat Google, Anthropic of OpenAI besluiten om de gratis versies van hun chatbots te sponsoren met advertenties, zijn ze spekkoper. En de adverteerders ook. Ze weten ALLES over je.
Of misschien doen ze al van alles met die data. Wie zal het zeggen? Het is een absolute goudmijn.
Chatbots weten alles over ons
Chatbots weten door al onze interacties en prompts niet alleen hoe mensen praten, wat ze willen weten, welke informatie ze als waardevol zien en hoe je informatie moet vormgeven om mensen te verleiden om meer prijs te geven of ander gedrag te vertonen. Ze weten bovendien de diepste gevoelens van mensen. Ze kennen patronen per land, stad, per onderwerp. Al die interacties geven chatbots ongelofelijke hoeveelheden informatie over de mensheid en de samenleving. Informatie die ze kunnen gebruiken voor zichzelf of verkopen.
Maar ze weten ook alles van jou en mij. Ze weten niet alleen – letterlijk – waar je je druk om maakt. Uit de manier waarop je met die chatbot praat en wat je precies vraagt, kunnen die bedrijven je ook nog eens heel precies indelen in hokjes. In dit artikel wordt dat goed uitgelegd (lees het op een mobiele telefoon, het is interessant vormgegeven).
Ik stelde me vroeger wel eens voor hoe genant het zou zijn als de wereld opeens mijn Google zoeihistorie zou kunnen zien. Maar wat als je chathistorie met je favoriete AI-tool openbaar zou worden gemaakt?
(even los van dit nachtmerriescenario waarin de data van een vrouw die een mental health app gebruikte, werd opgevraagd in een juridische procedure en al haar gesprekken openbaar wereden)
Wat nu?
Het is erg moeilijk om de verleiding van chatbots te verstaan, merk ik. Net als veel van jullie ben ik verslaafd geraakt aan mijn chatbots. Niet om teksten te schrijven of code te genereren. Maar als slimme informatiebron.
Het is ongelofelijk handig als je dingen wilt weten, zo’n chatbot, omdat informatie van zoveel bronnen gecombineerd wordt; omdat het mogelijk wordt om ingewikkelde dingen in gewone mensentaal te vragen en uitgelegd te krijgen; en omdat het lukt om grote hoeveelheden data (zoals tekst) als het ware te bevragen in gewonemensentaal.
Maar iedere keer dat ik met zo’n chatbot praat, geef ik iets weg. Mijn data, mijn privacy, mijn zelfstandigheid en mijn denkvermogen. Helemaal als ik me laat verleiden om in gesprek te gaan.
Een chatbot die mij vraagt wat ik er van vind is een hele grote rode vlag dat het bedrijf daarachter snode plannen heeft.
De vraag is: kan ik de verleiding weerstaan?
Reageren?