Taal is geen bewustzijn

Tekst met de titel CONTROLE VAN DE HERSENEN boven een afbeelding van menselijke hersenen met CHATGPT-labels voor taal en bewustzijn, naast een schroevendraaierset en een persoon die zijn hoofd vasthoudt.
Bart Fish & Power Tools of AI / Brain Control II / Licenced by CC-BY 4.0

Het is wel logisch dat we zo gehecht zijn aan onze chatbots. ‘Mijn vriend Claude’, ‘mijn buddy Chat’ (een toenemende gewoonte van mensen, waar G. me op wees). En dat we denken dat die systemen bewustzijn hebben, is ook niet gek. Want zo lijkt het ook.

Na een fijne discussie met Frank, onder dit artikel over een ronduit smerige tactiek van Anthropic, kwam ik een bericht tegen op LinkedIn. Er stond o.a in:

Language is not fundamental to human consciousness. In terms of evolution, it arrived only recently on our timeline.

Consciousness evolved over millions of years through sensory awareness, emotion, and the embodied survival instincts of our tribal past; our capacity for empathic engagement and community. Syntactic language only emerged around 100,000 years ago.

En ik dacht: aha! Hoe herkenbaar is dit?

Als iets zich kan uiten op een manier die we begrijpen of het liefst zelfs kunnen verstaan of vertalen, dan vinden we iets ‘bewust’. Is een mier bewust? Een boom? Mijn kat Loki? Als het niet met me kan communiceren, ben ik geneigd te denken van niet. Maar dat is misschien wel een redeneerfout.

Maar het verklaart wel waarom we denken dat chatbots net als mensen zijn. We verwarren taal met bewustzijn.

Het vervelende is alleen dat heel veel machtige, invloedrijke mensen ons proberen te overtuigen dat machines kunnen voelen en denken.

Modellen als wij?

Zo las ik een interview met de ‘uitvinder’ van de AI-systemen die we nu zo veel gebruiken.

“People have a very bad model of what people are, and that’s why they fail to understand how these AI models are very like us. Most people don’t understand what consciousness is. They don’t understand what subjective experience is, and they’re very confident that even though they don’t understand it, they’re sure AI doesn’t have it.”

He rejects the idea that the human mind possesses some mysterious quality that machines, by definition, cannot share.

“It’s obvious that these AI models understand what they’re saying. You couldn’t possibly answer all the questions without understanding the question. It’s ridiculous to say they don’t understand.”

(bron)

Ik weet het niet met die man, hoor. Hij is heel slim, maar ook heel raar. En wat een rare redenering: omdat jij en ik niet precies weten hoe mensen in elkaar zitten, zouden we ook niet kunnen begrijpen dat machines zoveel op ons lijken? Volgens mij weten de meeste mensen best veel over mensen. En ook over machines.

Ik denk dat het onzin is om te denken dat we iets kunnen creëren dat bewustzijn heeft. We zijn de evolutie niet. Bovendien: systemen kunnen nog zo slim zijn, ze leven niet in onze multi-dimensionale wereld. En de data over wat we zien en voelen is niet te vangen, hoe hard grote techbedrijven ook hun best doen. En al was het te vangen, dan had je nog geen mens nagemaakt.

(deze week beweerde de baas van een van de naarste bedrijven ter wereld dat het nu echt allemaal te ver ging met AI, want met AI kon je nu het gedrag van mensen tot in zulke minieme dingen voorspellen dat het gelijk staat aan gedachten lezen. Interessante waarschuwing van een bedrijf dat zelf aan de basis staat van de meest invasieve software die dit al probeert te doen. Maar dat is een tactiek die alle CEO’s van grote techbedrijven de laatste tijd hanteren. Als je er zelf voor waarschuwt, lijkt je opeens verstandig?!)

Ik begrijp ook totaal niet waarom je dat zou willen, robots met bewustzijn. Behalve als je arbeiders zoekt om het werk te doen in je fabrieken of om oorlog mee te voeren. Maar dan is bewustzijn eigenlijk een nadeel. Dus nogmaals: waarom zou je dit willen? Waarom zou je er mee doorgaan als je echt gelooft dat dit gebeurt?

Raadselachtig en vol tegenstrijdigheden.

Voorspellingen zijn geen feiten

In het kader van de vreemde tegenstrijdigheden en onderliggende aannames in deze gekke wereld van AI-ontwikkelingen, luisterde ik vandaag tijdens het moestuinieren naar een fascinerende podcast met de auteur van een boek over voorspellingen. Voorspellingen, zei ze, nemen we aan als feiten. Maar voorspellingen gaan over de toekomst, en zijn daarom per definitie nooit een feit. Want de situaties die voorspeld worden zijn nog niet gebeurd.

Huh. Goed punt!

Dat neemt niet weg dat politici en marketeers en grote techbedrijven dit slim inzetten. Door iets te voorspellen, hopen ze dat we ernaar gaan handelen, zodat de voorspelling werkelijkheid wordt.

‘In 2030 zal de economie door AI totaal zijn veranderd.’. ‘Binnen twee jaar zal ieder bedrijf AI gebruiken.’. ‘AI zal ongekende welvaart brengen.’ ‘AI gaat massaal werknemers vervangen.’ Voorspellingen als deze zijn nergens op gebaseerd, anders dan de hoop dat we er naar handelen. En als we dat allemaal doen, wordt het waarheid.

Dat is het rare aan de discussie over de ‘onvermijdelijkheid’ van AI. Niets is onvermijdelijk tot het zover is. Als we allemaal weigeren, stopt het hele verhaal vanzelf. Maar al die zogenaamde voorspellingen drijven ons in een bepaalde richting.

De zwakte van voorspellingen heeft voor AI een dubbele lading, want ieder AI-systeem doet feitelijk niets anders dan voorspellingen. Ook je favoriete AI-buddy, ook de AI van de longdokter om longfoto’s te scannen, ook de AI achter de nummerplaatherkenning van scanauto’s. Het zijn altijd voorspellingen. En voorspellingen kunnen het mis hebben.

De podcast is ook nog interessant om een andere reden: de auteur legt uit wat de filosofieën zijn waarop de machtigste mannen van de wereld – de mannen achter de grote techbedrijven – zich baseren, waaronder utilitarisme en effectief altruïsme. Er wordt ook goed uitgelegd wat dat allemaal met AI te maken heeft. En hoe deze stromingen het doen van voorspellingen over de toekomstige mensheid als centraal uitgangspunt nemen – niet de mensen van nu zijn belangrijk, maar de fictieve mensen die in de toekomst zullen leven.

Wie kent de waarheid?

Het is allemaal heel gecompliceerd, daar komt het op neer. Als het om AI gaat, weten we niet meer wat waar is en wat niet waar is, wat goed is en niet goed is. We worden doorlopend gemanipuleerd door hele machtige stromingen met heel veel geld.

Ik ben geen wetenschapper die haar leven gewijd heeft aan onderzoek naar bewustzijn. Ik heb er geen boeken over gelezen. Helemaal zeker weet ik het niet.

Maar wat ik wel weet dat het raar is om bedrijven te vertrouwen die geloven dat zij de enigen zijn die de wereld kunnen redden; dat zij de enigen zijn die belachelijk krachtige technologie moeten bouwen omdat zij zo goed begrijpen wat de wereld nodig heeft (en dan ondertussen waarschuwen dat het nu echt allemaal te krachtig wordt, maar wel door te gaan met nog heftigere ontwikkelingen); dat zij het beste kunnen bepalen waar de kostbare bronnen van de wereld het beste aan besteed kunnen worden; dat hun technologie zonder uitgebreide tests gewoon de maatschappij in kan worden gestuurd.

Alles wat uit hun mond komt, is daarom verdacht, wat mij betreft. Dus als zij gaan beweren dat hun machines rechten moeten krijgen alsof het mensen zijn en dat die machines tekenen tonen van bewustzijn, terwijl diezelfde technologie nadelig uitpakt voor grote gedeeltes van de mensheid, ben ik geneigd te denken dat wat ze zeggen niet klopt.

Ik houd maar vast aan dat eerste concept: dat taal niet hetzelfde is als bewustzijn.

Een mens moet toch houvast zoeken.


Ontdek meer van Elja Daae

Abonneer je om de nieuwste berichten naar je e-mail te laten verzenden.

2 gedachten over “Taal is geen bewustzijn”

Reageren?