Vorige week was er een speciale editie van DWDD Heimwee. Adriaan van Dis kroop nog één keer in de rol van interviewer, dit keer met de Israëlische historicus Yuval Noah Harari. Veel deelnemers van de AI-cursus vonden dat Harari een aantal interessante punten naar voren bracht over de toekomst waarin mensen en machines samen gaan leven. Voor ons reden om professor Jeroen van den Hoven (TU Delft) om een recensie te vragen.

1. Wat maakt Harari zo’n interessante gesprekspartner?

Harari is een voortreffelijk popularisator van wetenschappelijk en filosofisch onderzoek. Zijn boeken snijden vrijwel alle onderwerpen aan die van belang zijn voor het beter begrijpen van onze moderne samenlevingen. Zijn cultuurhistorische oeuvre bevat ook belangrijke boodschappen voor het leven in onze hoogtechnologische 21^e eeuw: biotech en digitale technologie geven ons – zeker in hun combinatie –  ongelofelijke krachtige middelen die ons in staat stellen geweldige vooruitgang te boeken en die ons kunnen helpen bij het oplossen van mondiale problemen. Ze dreigen echter ook onze liberale kernwaarden zoals vrijheid, gelijkheid, solidariteit, privacy, democratie en menselijke waardigheid te ondermijnen. Harari geeft vele voorbeelden van waar het allemaal mis kan gaan in de 21^e eeuw. Wij moeten dus zeer alert zijn op deze negatieve effecten van technologie.

2. Welk van zijn boeken moeten we het eerst lezen?

Zijn “21 lessons for the 21st century” vind ik het meest interessant, omdat hij daarin niet kan volstaan met samenvatting, overzicht en suggestie, zoals in zijn eerdere werk Sapiens en Deus, maar ook expliciet stelling moet nemen en zijn stellingname moet rechtvaardigen. Ik besprak het boek ook in Buitenhof in augustus 2018.

Het is goed je te bedenken dat het werk van Harari  nu in het jaar 2020 op een warm onthaal kan rekenen, maar dat in de afgelopen decennia kritiek op technologie en digitale innovatie meestal niet erg welkom was. Een naief neoliberaal geloof in de markt en privatisering als panacee maakte dat bijna onmogelijk. Auteurs als Weizenbaum, Lessig, Turkle, Morozov, Rushkoff, en Zuboff hebben de afgelopen decennia vergelijkbare punten gemaakt zonder de mate van bijval te krijgen die Harari nu te beurt valt. De tijdgeest is veranderd, na de financiele crisis en nasleep ervan, na Piketty’s monumentale analyse van toenemende ongelijkheid, na de Cambridge Analytica/Facebook affaire, de uitwassen van de platform economie, discussies over filter bubbels en de afwezige verantwoordelijkheid van Facebook en anderen voor content management.

In de computerethiek, de toegepaste ethiek van ICT die sinds de jaren tachtig van de vorige eeuw wordt onderwezen aan universiteiten in de US en in Europa, werden deze kritische geluiden over het disruptieve potentieel van digitale technologie al ongeveer een halve eeuw gehoord. Je vraagt je af of we de uitwassen van zogenaamde path dependencies, monopolies, irreversibele ongelijkheid, netwerk effecten, lock-ins en power grabs in het digitale domein wellicht hadden kunnen voorkomen en het fantastische democratische potentieel van computers en het Internet kunnen realiseren als we deze vroege signalen serieuzer hadden genomen.

3. Hoe kijken filosofen aan tegen zijn stelling dat mensen eigenlijk ‘hackable animals’ zijn?

Harari introduceert het idee van ‘hackable animals’ om aan te geven dat geavanceerde wetenschap, technologie  en big data gebruikt worden om mensen te manipuleren en onder controle te brengen. We kunnen AI gebruiken om EEGs te lezen. Nanoparticles kunnen naar target gebieden in het lichaam worden gedirigeerd. De droom van sommigen om anderen naar hun hand te zetten kent in de 21^e eeuw nauwelijks beperkingen. Het idee dat AI, Big Data en internet door ondemocratische regimes kunnen worden gebruikt om centraal gestuurde en gecontroleerde samenlevingsmodellen te implementeren, is  al enige tijd een uitgangspunt  onder kritische ethici van het digitale tijdperk.

Met een groep collega hoogleraren uit Europa hebben we deze ideeën bijvoorbeeld al enige jaren geleden geformuleerd in Scientific American onder de titel  “Will Democracy survive big data and AI?” De combinatie van Big Data, AI, en geavanceerde gedragswetenschappen levert zeer krachtige manipulatiemiddelen op. Er vindt nu veel onderzoek plaats naar de wijze waarop nieuwe vormen van digitale propaganda, hersenspoelen, framen, en nudgen worden ingezet om de publieke opinie te beïnvloeden en individuele burgers en consumenten te manipuleren. Harari wijst terecht op indringende wijze op deze ontwikkelingen met verstrekkende gevolgen.

4. Wat mist er volgens jou nog in zijn betoog?

Dan denk ik aan het recente inzicht dat ethiek en het denken over gewenste ontwikkelingen, politieke systemen, en verantwoorde innovaties van onze problemen een design vraagstuk is. Harari is sterk in het vertellen van het grote verhaal waaruit blijkt dat het de hoogste tijd is om ons te bezinnen en op te passen met nieuwe technologie, maar het idee dat we technologie zouden moeten ontwerpen die ons de voordelen ervan biedt zonder de nadelen, treffen we bij hem niet aan. En toch is dat een oplossingsrichting die nu vaak wordt gezocht, in het bijzonder in Europa. Dat noemen we “Ontwerpen voor Waarden” (Design for Values) en Maatschappelijk Verantwoord Innoveren (Responsible Innovation). Zo willen we de power van machine learning, maar dan zonder de onuitlegbaarheid en intransparantie. Dat is dan ook op dit moment de heilige graal van zgn. ‘Explainable AI’ of ‘XAI’.

Zo willen we ook de voordelen van Big Data, maar dan zonder de privacy nadelen en dat leidt dan tot  privacy respecting data science oplossingen. Ethiek is in belangrijke mate een ontwerp discipline en gaat over het verantwoord vormgeven van onze samenleving en leefwereld. Daarin ligt ook de oplossing voor Europa. Wij kunnen onze liberale waarden, waar Harari uitvoerig op ingaat, niet loslaten, zonder het project Europa op te geven. En toch zal Europa ook de problemen van de 21^e eeuw moeten oplossen met moderne middelen. Digitale innovatie op basis van waarden van open liberale democratische samenlevingen is daarom de opgave.

5. Wat zijn andere goede bronnen voor cursisten die op zoek zijn naar filosofische verdieping?

Ik zou voor de AI cursisten het boekje van Hector Levesque over AI willen aanraden: Common Sense, the Turing Test, and the Quest for Real AI . Stuart Russell’s recente Human Compatible is ook een aanrader.  

Bekijk hier het hele gesprek tussen Van Dis en Harari, of bekijk hier het interview met Jeroen van den Hoven over het kruispunt van technologie en filosofie