Werkdingen die me bezig houden

Ik ben met veel dingen bezig, en werk is daarvan even niet het grootste. Maar dat neemt niet weg dat ik veel nadenk over werkdingen. Zoals de volgende zaken (allemaal rondom AI … dus als je allergisch bent voor het woord AI is dit het moment om me weg te klikken):

1. Kan ChatGPT wat ik dacht dat het kon?

Ik was er volledig van overtuigd dat tools als ChatGPT en Claude in staat waren om, als je een document uploadt of naar een link verwijst, te zorgen dat al je vragen worden beantwoord volgens wat daar staat. Naiëf natuurlijk, want zoveel heb ik het zelf nog niet geprobeerd. Alleen sporadisch. Al helemaal niet goed gecheckt. En vooral gebruikt als ik geen tijd en zin had om dingen zelf helemaal te lezen.

Helaas blijkt dat niet zo handig te zijn. Ik zag gisteren 3 redenen om aan te nemen dat ik wat kritischer moet zijn:

• De juristen die generatieve AI apps vroegen om vragen te beantwoorden op basis van de leerstof van een juridisch vak en ontdekten dat de antwoorden vaak op niets gebaseerd waren (en onjuist waren);
• Dit creepy gesprek met ChatGPT waar een auteur de app vragen stelt over eigen werk en de app het keer op keer fout heeft; en natuurlijk
• Het onderzoek van Apple, The illusion of thinking, waarin het idee dat generatieve AI-apps ‘denken’ onderuit wordt geschoffeld.

Apple doet niet voor niets, dus de vraag is waarom Apple wil laten zien dat AI-apps (van anderen) niet zo goed werken als we willen geloven. Maar interessant is het wel.

Nu vraag je je misschien af of dit nou allemaal echt zo erg is, maar het hele idee van generatieve AI voor bedrijven is natuurlijk dat je een model kunt doortrainen op je interne documenten en data (ook wel RAG genoemd, of enterprise search), zodat je juist dit soort dingen kunt doen: de informatie in je bedrijf kunt gaan bevragen en laten combineren door een slimme AI-app. Veilig en betrouwbaar.

(RAG? Laat het je uitleggen door de mensen die het verkopen! Zoals SalesForce, of Oracle, of natuurlijk Microsoft)

Het kan ook anders, las ik in deze update op LinkedIn: een app die voelt alsof je met Agatha Christie in gesprek bent. Gemaakt met zorg en aandacht en menselijke tussenkomst. Er van uitgaande dat deze app inderdaad zo goed werkt, natuurlijk, want ik heb hem niet getest.

Ik weet niet of het klopt. Maar het laat zien dat het goed is om te blijven nadenken en checken en vooral niet blind te vertrouwen op de uitkomsten van je discussie met ChatGPT.

2. Wat zijn belangrijke onderzoeksvragen rondom AI & samenleving?

Vorig jaar waren een collega en ik ebezig met de vraag wat mensen nou echt willen weten over AI en waar ze zich zorgen om maken. Uit het onderzoek dat we lieten doen kwam naar voren dat deep fakes en nepnieuws op nummer 1 stonden.

Als vervolg daarop werd ik laatst geinterviewd door onderzoekers over precies die vraag, maar dan vanuit het onderzoekdsperspectief: wat moet de wetenschap verder onderzoeken om te kijken welke impact (generatieve) AI heeft op de samenleving en vooral op wat mensen nog wel of niet geloven.

Ik had wel wat ideeen. Vooral rondom het effect van generatieve AI op de wereld van content/informatie. Zoals

• Wat doet ‘zero click’ in zoekmachines (dat je met behulp van AI een antwoord krijgt op je vraag in Google, en niet meer door hoeft te klikken naar de betreffende website) met ons en met het online ecosysteem?
• Wat gebeurt er als we AI-modellen trainen op grote hoeveelheden content die door andere AI-modellen worden gemaakt? Hoe versterkt dit ongewenste patronen? En hoe heeft dit impact op onze creativteit en ons wereldbeeld?
• Hoe betrouwbaar vinden we het internet nog?
• En vooral: moeten we niet gaan onderzoeken wat je IRL, in de klas, aan de keukentafel, op kantoor en op het middelbaar en hoger onderwijs kunnen leren om elkaar en onze kennis en informatie te gaan bevragen?

Dat laatste houdt me bezig. Wat kunnen we offline doen om online vertrouwen te houden in informatie? Of althans om eigen vermogen om de juiste informatie op te sporen? Daarom vond ik dit bericht op LinkedIn zo inspirerend. Het gaat over docenten die proberen om te zorgen dat hun studenten nog echt lezen en onderzoeken wat daar voor nodig is.

3. Is LinkedIn een blogplatform? En zou het dat moeten zijn?

Heel iets anders, maar LinkedIn wordt steeds meer mijn belangrijkste bron van informatie. Ik heb het algoritme (net als vroeger Twitter) inmiddels weer zo getraind dat ik de dingen te zien krijg die me interesseren. Het valt me sowieso op dat steeds meer mensen het gebruiken als een soort microblogplatform. Met updates die langer zijn dan Tweets, maar zonder dat ze de officiele ‘blog’-functie van LinkedIn gebruiken.

Ik blijf het jammer vinden dat sommige slimme inspirerende denkers alles op LinkedIn zetten en niet op een eigen website of nieuwsbrief die gearchiveerd is en doorzoekbaar. Ik vind het ook niet strategisch handig. Maar ja.

Als oude social media gebruiker (en oude blogger) is het tegelijkertijd grappig om er zowel onderdeel van te zijn als er naar te kijken. Aangezien het nog mijn enige social media app is, wel zo fijn als andere mensen er nuttige info delen.

Maar als jij veel op LinkedIn deelt: begin je eigen blog.

118/1000