Vier jaar geleden, in de vroege uurtjes van 21 maart 2017, weerklonk in de buurt van het station Dortmund-Scharnhorst een luide knal. Eerder die avond had een 31-jarige man het plan opgevat om zich toegang te verschaffen tot de inhoud van een kaartjesautomaat op het perron – geld, en ongebruikte vervoerbewijzen. Hij had zich moed zitten in te drinken in een nabijgelegen bar, alvorens zich naar de halte te begeven in de noordoostelijke rand van de stad, voorzien van een zak met spuitbussen, die men hem later zag ledigen in de machine.
Ons genetisch materiaal maakt dat we niet automatisch de juiste beslissing nemen: we zouden bijvoorbeeld beter af kunnen zijn als we minder risicoavers waren, of ons minder vastklampten aan het status quo
Toen hij het opgehoopte gas aanstak ontplofte het toestel, en het metalen frontpaneel trof hem zwaar op zijn onbeschermde hoofd, terwijl hij bekogeld werd door shrapnel van de vernielde interne onderdelen. Iemand die eerder ook in de bar was geweest, herkende de zieltogende man en verwittigde de hulpdiensten, maar ondanks hun inspanningen om hem te reanimeren overleed hij aan zijn verwondingen.
Dat treurige verhaal was een van de kandidaten voor de Darwinonderscheidingen van 2017. Zo’n prijs is een ironische, zij het wat morbide, erkenning voor mensen die zichzelf, door hun eigen ondoordachte handelingen, verwijderen uit de menselijke genenpool, hetzij door om het leven te komen, hetzij door zichzelf ongewild te steriliseren. Men kan betwisten hoe grappig het concept is, maar het is niet zonder grond, zoals de naam suggereert.
Een brein om te overleven
Evolutie, het geesteskind van Charles Darwin, is een onstuitbare kracht die die individuen in een soort bevoordeelt die het best zijn aangepast aan hun omgeving. Zij zullen overleven en floreren, en bovenal met meer succes hun genen doorgeven aan de volgende generatie. Mochten zich kenmerken verspreiden die de kans op voortplanting ondermijnen, zou de hele soort immers op termijn uitsterven. Men heeft nog geen genetische drager gevonden die in verband wordt gebracht met een neiging tot opblazen van kaartjesautomaten (en dan nog zonder bescherming), maar het principe is helder: als maladaptieve eigenschappen worden geëlimineerd, dan is dat voordelig voor een soort.
Mensen zijn een relatief nieuwe soort, maar we dragen genetisch materiaal mee dat teruggaat tot de allereerste levensvormen, miljarden jaren geleden. Ook de meer recente ontwikkeling van de menselijke cognitieve vaardigheden heeft minstens tienduizend generaties gehad waarover de natuurlijke selectie onze hersencircuits heeft kunnen afregelen.
Het feit dat we hier vandaag zijn, dat we overleven, floreren en ons voortplanten, is grotendeels te danken aan hoe we denken. De kringen in ons brein laten ons toe in te spelen op de wereld rondom ons op een manier die ons prima dient, zodat we kunnen blijven overleven, floreren en ons voortplanten, en ze onderdrukken impulsen die ertegenin gaan (zoals het opblazen van kaartjesautomaten).
Ze geven echter ook gestalte aan vele tendensen die van groot nut zijn geweest gedurende ons bestaan, en die stil adaptief zijn in vele, maar niet in alle, omstandigheden. Omdat we niet beschikken over een ingebouwd mechanisme om de uitzonderlijke situaties eruit te filteren, maken we niet automatisch de beste keuzes: we zouden bijvoorbeeld beter af kunnen zijn als we minder risicoavers waren, of ons minder vastklampten aan het status quo. De gedragswetenschap, en in het bijzonder de studie van heuristieken en biases, richt zich al enkele decennialang op dit aspect van besluitvorming.
Maar menselijke hersenen hebben inmiddels al een mogelijke oplossing bedacht: artificiële intelligentie (AI) en machinaal leren (ML). Het is al een tijdje geleden dat men toestellen ontwikkelde die het grootteordes beter doen dan wij in simpele cognitieve taken, zoals het manipuleren van getallen (het woord ‘computer’ verwijst naar iemand rekensommen maakt). Computers kunnen vandaag echter heel wat meer. Ze kunnen leren op een manier die sterk lijkt op de wijze waarop mensen leren: door trial-and-error. Maar omdat onze cognitieve capaciteit beperkt is, en meer nog omdat we beperkende tendensen hebben ingebakken in onze denksystemen, zijn we onvermijdelijk selectief in wat we proberen. Machines zijn niet onderhevig aan die beperkingen, en dat is wat AI-systemen zo krachtig kan maken. Het kan echter ook tot onverwachte situaties leiden.
Te slim voor hun eigen goed?
In 2013 kondigde Alphabet, het moederbedrijf van Google, officiëel het Loon-project aan, dat erop was gericht stabiel internet aan te bieden in afgelegen gebieden, de wereld rond. Dat zou gebeuren aan de hand van ballonnen op grote hoogte (18-25 kilometer boven het aardoppervlak), die niet beschikken over hun eigen drijfkracht, maar zich bewegen als conventionele heteluchtballonnen: de lucht verplaatst zich in lagen in de stratosfeer, en de ballonnen, die toegang hadden tot realtime gegevens over de snelheid en de richting in elke laag, konden hun hoogte aanpassen via een met zonne-energie gestuurde pomp, en zo een geschikte laag selecteren.
Nu en dan bleken sommige ballonnen verrassende wendingen te maken, en weken ze af van de verwachte koers door te gaan zigzaggen of zelfs tijdelijk achteruit te vliegen. Aanvankelijk namen de ingenieurs de controle weer over, maar dan realiseerden ze zich dat de ballonnen, helemaal alleen, een techniek hadden geleerd die zeilers gebruiken: het overstag gaan. In plaats van de kortste route te plannen, en op en neer te gaan door de lagen om die koers te volgen, maakten ze ten volle gebruik van de gegevens over de windvectoren, en bereikten zo sneller hun bestemming. Salvatore Candido, de toenmalige CTO van Loon, vatte het aldus samen in een blogpost: “We beseften al gauw dat ze ons te slim af waren geweest, toen de eerste ballon de afstand van Puerto Rico naar Peru aflegde in een recordtijd. Nooit eerder had ik me tegelijkertijd slimmer en dommer gevoeld.”
De Loonballonnen illustreren de kracht van artificiële intelligentie en machinaal leren. Ongehinderd door de tendensen die beperken wat wij mensen zouden overwegen, of zelfs maar zouden kunnen overwegen, kunnen AI-systemen continu leren en datgene optimaliseren waarvoor ze zijn gebouwd, gebaseerd op welke ook de beloningsfunctie is waarmee ze zijn geprogrammeerd. Dit kan leiden tot verrassende nieuwe oplossingen voor grote en kleine problemen, die bijna per definitie onvoorspelbaar zijn.
Wieden en wegen
In tegenstelling tot homo sapiens sapiens steunt de ‘soort’ van artificiële intelligentie niet op een lange opeenvolging van generaties die voortdurend de meer onbesuisde individuen en hun denkwijze hebben uitgewied. Wat zij proberen leidt vaak tot superieure resultaten die wij in geen miljoen jaar zouden bereiken. Maar voor hetzelfde geld zouden ze kunnen falen op een manier die vergelijkbaar is met de onfortuinlijke poging een kaartjesmachine op te blazen – maar dan op veel grotere schaal.
Dat levert een interessante symmetrie op in de uitdagingen waar we voor staan op het vlak van besluitvorming. Enerzijds proberen we onze menselijke beslissingen beter te maken door ze te verlossen van de ketens van biases en heuristieken die in bepaalde situaties niet van toepassing zijn. Anderzijds moeten we verhinderen dat AI-systemen opgefokte kandidaten voor de Darwinonderscheiding worden, en hun ongebreidelde capaciteit om het ondenkbare te denken – en ernaar te handelen, in zalige onwetendheid van de mogelijke catastrofale gevolgen – inperken.
Het is misschien niet helemaal een verrassing (en beslist zeer toepasselijk), dat we hier een van de handelsmerken van de economische wetenschap aantreffen: de inherente aandacht voor conflicten vervat in het 'enerzijds/anderzijds'-denken dat president Harry Truman zo opwond.
De (gedrags)economie heeft beslist een flinke kluif aan de opgave om zowel mensen als machines te helpen de beste keuzes te maken.
