Algoritmes en de invloed op ons leven

algoritmesSoms lees je een boek dat je wereldbeeld verandert. En dat had ik vorige week.* Het begint met een schijnbaar simpele vraag: wat is succes?

Het lijkt een makkelijke vraag. Als we het hebben over succesvolle ondernemers, zijn dat mensen die veel geld verdienen of in ieder geval veel omzet hebben. Simpel (hoewel mogelijk niet terecht!).

Maar de vraag is belangrijker dan je denkt. Omdat het bepalend is voor je keuzes, je meningen en dus voor hoe je je gedraagt. Als ‘succes’ voor jou is: genoeg geld om op vakantie te gaan met de tent in Frankrijk en veel tijd met geliefden, maak je andere keuzes dan mensen die ‘een miljoen op de bank’ als succes zien.

De impact van wat we als succes beschouwen

Die impact van wat we als succes definiëren geldt niet alleen voor jou, zelf. Het geldt ook voor andere dingen, zoals je werk. Jouw baas bepaalt wat de definitie van succes is voor wat betreft jouw werk. En zijn of haar baas bepaalt wat ‘succes’ inhoudt voor het werk van hem of haar. Etc., etc.

Misschien zijn het bij jouw bedrijf wel de aandeelhouders die de algehele definitie van ‘succes’ bepalen? Bijvoorbeeld in winst en groei. Of ‘relatieve’ groei’ zelfs: de groei t.o.v. de verwachte groei. Of de groei t.o.v. andere partijen. Niet echt een heel makkelijke definitie van succes om aan te voldoen. Maar dat terzijde.

Wat is succes voor algoritmes?

De reden dat de vraag ‘wat is succes’ me zo fascineert is dat ik me opeens realiseerde dat andermans definitie van ‘succes’ zoveel impact heeft op ons leven. En vaak zonder dat we weten dát het impact heeft. En zonder dat we weten wát de gebruikte definitie is.

Wanneer vindt het Ministerie van Onderwijs dat je een succesvolle school bent? Wanneer vindt een werkgever dat je een geschikte sollicitant bent? Wanneer vindt de bank dat je een succesvolle klant bent (en dus een hypotheek verdient?). En – hoe ik er op kom – wanneer vindt bijvoorbeeld Google dat mijn webpagina een relatief ‘succes’ is?

En wat als die succescriteria in algoritmes worden gevangen? En ons leven gaan bepalen? Want over dat onderwerp las ik een boek: ‘Weapons of Math Destruction’ (hier een Nederlandse review en interview met de auteur).

Wie codeert, bepaalt

weapons of math destruction algoritmesSteeds meer is het zo dat degene die de geheime code achter die algoritmes schrijft, bepaalt. Maar meestal weten wij als gebruikers helemaal niet wat het uitgangspunt is van al die code. Wat volgens de code ‘succes’ is. Of dat er überhaupt een algoritme gebruikt wordt (automatisch scannen van je CV bij sollicitaties, bijvoorbeeld!).

Maar als je weet dat op social media de algoritmes bepalen wat jij wel en niet te zien krijgt, weet je opeens waarom het interessant zou zijn om te weten wat voor bijvoorbeeld Facebook ‘succes’ is.

Is het misschien ‘mensen zo lang mogelijk op Facebook houden’ (zodat we zoveel mogelijk advertenties kunnen tonen en dus zoveel mogelijk geld verdienen). Of is het misschien ‘mensen zoveel mogelijk gegevens te laten invullen’ (zodat we zoveel mogelijk data kunnen verkopen aan adverteerders)? Is het soms ‘engagement’ (zodat we langer blijven hangen en dus meer advertenties zien)?

De definitie van ‘succes’ bepaalt wat we te zien krijgen. Want wat als Facebook’s algoritme als ‘succes’ zag: mensen zoveel mogelijk helpen om kennis te vergaren? Of: mensen zo goed mogelijk op de hoogte te houden van nieuws uit hun buurt? Of: mensen laten lachen?

Of: mensen nieuws voorschotelen dat aantoonbaar klopt?

Dat zou een heel ander Facebook opleveren.

Kennis is macht

Ik kwam hierop omdat ik dus een boek aan heb gelezen over de invloed van algoritmes op ons leven. Het heet ‘Weapons of Math Destruction’. Dat klinkt saai (en agressief) maar dat is het allerminst. Ik heb geen wiskundeknobbel, dus het lezen van een wiskundeboek zou niets voor mij zijn. Maar dit is begrijpelijke taal. Ik zou bijna zeggen: het is life changing. Want het legt de vinger op een zere plek die ik wel gewaar was maar niet goed kon duiden.

In feite, zegt de auteur, worden steeds meer dingen in ons leven bepaald door algoritmes (oftewel Kunstmatige Intelligentie!). En soms is dat goed. Maar heel vaak weten we totaal niet dat het gebeurt**, hoe het gebeurt, wanneer het gebeurt en wie er bepaalt welke factoren als ‘succes’ worden gezien door zo’n systeem.

In de VS spelen algoritmes bijvoorbeeld een rol in het bepalen van het verlengen van arbeidscontracten van leerkrachten. Bij sollicitatieprodures. Bij kredietaanvragen. Bij het vaststellen van de hoogte van gevangenisstraffen (het algoritme berekent de kans dat iemand opnieuw de fout in zal gaan). Bij het bepalen van welke kinderen mogelijk het slachtoffer kunnen worden van kindermishandeling. Bij de premieberekening voor autoverzekeringen. En zelfs bij de fitnessprogramma’s die door werkgevers worden aangeboden.

Soms met goede gevolgen. Maar soms met gevolgen die desastreus zijn voor individuen, of voor hele bevolkingsgroepen.

“Algorithms are opinions embedded in code.”,

zegt de auteur van het boek.

Jaaaa kauw daar maar eens op!

POEH.

En als je denkt dat dit in Nederland niet gebeurt, heb je het mis. Ik had het boek nog niet uit, of ik had een gesprek op Twitter over hoe CV’s automatisch worden geïnterpreteerd en video-interviews worden geanalyseerd om sollicitanten in te delen op persoonlijkheidskenmerken.

Het nieuw geïntroduceerde Xpress Analytics in het Cammio platform analyseert het taalgebruik van de kandidaat in het video interview en genereert daarmee automatisch een BIG5 persoonlijkheidsprofiel.

Het zou kunnen dat goed is nagedacht over het voorkomen van oneerlijke gevolgen van zo’n indeling op basis van taalgebruik. Maar het zou ook kunnen dat de manier waarop je Nederlands spreekt, je op een voor- of achterstand zet. En dat daarmee bepaalde groepen automatisch bevoor- of benadeeld worden.

Of het nou klopt of niet: het is belangrijk dat je als opdrachtgever van dat soort software de juiste, kritische vragen bljft stellen. Want algoritmes zijn handig, mits ze goed doordacht zijn, de juiste criteria hanteren en een continue – en kloppende – feedback loop hebben.

Is dat alles? Tuurlijk niet. In de recente podcast/radioshow van NPO1, Argos, kun je een heel verhaal horen over ‘predictive policing‘ in Nederland op basis van algoritmes. Oftewel: met behulp van data en algoritmes proberen te voorspellen waar boeven mogelijk iets gaan doen. Je kunt die podcast hier luisteren en downloaden. Luister ook naar de discussie met experts in de studio, die argumenten voor en tegen geven.

Weapons of math destruction

Het boek Weapons of Math Destruction is momenteel alleen nog in het Engels verkrijgbaar. Op Amazon kun je het eerste hoofdstuk alvast lezen en bekijken.

Auteur Cathy O’Neil gaf ook een TED talk:

Ze heeft bovendien een blog: https://mathbabe.org. Daar vind je niet alleen al haar artikelen voor o.a. Bloomberg en de podcasts waarin ze te horen is, maar ook een persoonlijk log over andere dingen uit haar leven.

Algoritmes zijn een uitvloeisel van wat we populair Big Data noemen. Je kunt alleen iets met al die data als je er een formule op loslaat. En die algoritmes zijn in zeker zin ook weer een andere naam voor, of onderdeel van, ‘AI’, artificial intelligence’. En van ‘bots’. Allemaal gaat het om het verzamelen van data en het loslaten van een wiskundige formule daarop om te komen tot een ‘beste resulaat’.

Maar de vraag blijft: wie definieert wat ‘succes’ inhoudt?

 

* Als dit onderwerp je bekend voorkomt, ben je waarschijnlijk geabonneerd op mijn nieuwsbrief. Stop maar met lezen: dit is de nieuwsbrief van vorige week, met wat aanvullingen.

** Dat zie ik in vrijwel iedere social media training die ik geef en waar ik uitleg dat door het algoritme het bereik van je (Facebook-) bericht maar 3% of zo is. Heel veel mensen hebben geen idee dat hun succes bepaald wordt door een geheim algoritme.

Elja elders:

Elja Daae

Elja is spreker, trainer en adviseur op het gebied van social media. Ze is daarnaast een van de bekendste blogexperts van Nederland. Elja is de auteur van twee boeken over social media en heeft al een vaag idee voor de derde. Meer lezen? Abonneer je op haar nieuwsbrief over marketing, social media en ondernemersschap. Iedere vrijdag in je inbox!
Elja elders:

6 Opmerkingen

Discussieer mee en vertel ons uw mening.

Peter Pellenaarsantwoord
23 november 2017 om 12:57

Je hebt m’n interesse gewekt met deze blogpost. Het boek kende ik nog niet, maar de bestelling is inmiddels geplaatst.

Elja Daaeantwoord
25 november 2017 om 12:02
– Antwoord aan: Peter Pellenaars

Ha! Ik ben erg benieuwd wat je er van vindt – ik denk dat het in jouw werkveld ook een interessante discussie kan opleveren. Sinds ik het gelezen heb zie ik het opeens overal om me heen, in Nederland.

Peter Pellenaars
27 november 2017 om 20:55
– Antwoord aan: Elja Daae

Ik ben er nog niet in begonnen (lees momenteel Irresistible van Adam Alter), maar gister kwam het boek wel al voorbij in een artikel uit augustus 2017 over Mensenrechten in het digitale tijdperk op De Groene => https://www.groene.nl/artikel/is-het-einde-van-het-individu-in-zicht.

Elja Daae
27 november 2017 om 21:02
– Antwoord aan: Peter Pellenaars

Wat interessant! En dat voorbeeld van de gemeente … precies zoals in het boek!! Jij gaat dat boek heel interessant vinden. Ik ga ‘Irresistible’ op mijn leeslijst zetten … klinkt goed.

20 november 2017 om 13:46

De nieuwsbrief vond ik zo interessant dat ik het boek ondertussen ernaar bij heb gehaald. Ben benieuwd

Elja Daaeantwoord
20 november 2017 om 14:01
– Antwoord aan: Ali

Ik ben ook benieuwd wat je vindt! vooral de slag naar wat er gebeurt in Nederland vind ik fascinerend …!

Reactie achterlaten

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.