Digitalisering en kunstmatige intelligentie zijn de meest disruptieve ontwikkelingen waar we de komende decennia mee te maken krijgen. Zowel op de goede als op de slechte manier. Want al die nieuwe ontwikkelingen, zetten onze oude ethische normen en waarden onder druk. Futuroloog en auteur Maurits Kreijveld zegt het als volgt: ‘Elke grote nieuwe technologische vooruitgang hebben we nieuw geloof nodig.’ Een interview over internet, onze data, robots als hondjes en onsterfelijk leven, met ethiek als rode draad.
Maurits Kreijveld: technologie dwingt ons weer principieel te worden
“Monster is misschien niet het goede woord als we het hebben over technologie waarmee we goede dingen doen, zoals het optimaliseren van de opbrengst van het land, of bij het beter maken van patiënten. Maar aan de andere kant is het wel een soort monster, omdat het wat onbeheersbaar wordt en vervreemdend kan zijn: de menselijke maat raakt zoekt. We kunnen het niet meer alleen (in ons eentje) begrijpen/overzien, terwijl we dat wel veel gebruiken in onze beslissingen en handelingen. Want sinds we internet hebben hadden we een gevoel van zelfbeschikking gekregen: dat zoek ik zelf wel even uit, dat google ik wel even, ik kijk zelf wel even uit wat die ziekte is en of mijn arts gelijk heeft. Daar zit dus een spanning in. Die is enigszins op te lossen als we het collectief geleerde individueel kunnen hanteren. Misschien gaat kunstmatige intelligentie ons daarbij helpen.”
Internet is al lang niet meer de vrijplaats
De reden om onderzoek te gaan doen naar De kracht van platformen is omdat ik al vroeg zag dat er steeds meer machtsopbouw op internet aan het ontstaan was. “Internet is al lang niet meer de vrijplaats waar alles kan, of waar je even kon ontsnappen, of waar iedereen gelijk was, die het leek te zijn.’
Nieuwe strategieën voor innoveren in een digitaliserende wereld
“Want je ziet steeds meer dat landen zeggen: ‘We willen onze wetten ook op internet toepassen. Dus content die ons niet bevalt, willen we er niet ophebben en moet gefilterd worden’. In Nederland beperken we dat tot kinderporno en extreem gewelddadige beelden of haat zaaien. Er zijn genoeg, met name niet-Westerse landen die hierin een stuk verder gaan, zoals China. Toch dreigt ook in het Westen, onder druk van de bestrijding van nepnieuws, een sluipende censuur. Zoekmachines, sociale media tijdlijnen: informatie wordt automatisch gerangschikt en schadelijk of nepnieuws kan dan lager op de lijst staan zodat de meeste mensen het niet meer opmerken.”
Tegelijk hebben grote, vaak nieuwe organisaties de macht op internet gegrepen en ‘kanalen’ gecreëerd en verdienmodellen ontwikkeld, terwijl dat helemaal niet zou hoeven als ondernemers meer samenwerken, denkt de auteur van De kracht van Platformen: “Waarom moet een Amerikaans Platform als Uber of Airbnb bij mij in de buurt leveren? Waarom gebruiken we een landelijk platform als Thuisbezorgd, dat gebruik maakt van lokale bezorgers die producten van lokale leveranciers bezorgen? Alle ondernemers van Delft zouden samen een lokaal platform voor het bezorgen van eten, of voor een taxidienst kunnen maken. Maar zo worden op dit moment de meeste platformen nog niet opgezet. Het zijn de internationaal opererende spelers die met hun centrale platformen komen. Deze internationale spelers proberen gevoel te krijgen voor wat er in mijn wijk speelt terwijl ze weinig of niets bijdragen aan de lokale gemeenschap of lokale economie, sterker nog je zou ze als parasieten kunnen beschouwen die waarde onttrekken. Je zou willen dat wij als Delftenaren slimmer en wijzer worden in onze eigen stad van de platformen die er actief zijn. Er wordt nog niet zoveel nagedacht over hoe je lokaal meer synergie kan creëren. Het lijkt erop alsof men te weinig urgentie ervaart, en ondertussen grijpt een internationaal opererend bedrijf als Facebook, Google, Amazon of Thuisbezorgd zijn kans en slaat een slaatje uit het feit dat er lokaal geen samenwerking is die concurrent zou kunnen zijn van het internationale platform of deze overbodig zou maken.”
Toets het algoritme
De gebruikte algoritmes, platformen en systemen zijn dus niet neutraal, maar sturen en geven richting. Het is de missie van Maurits Kreijveld om te inspireren, maar ook om mensen bewust te maken van de gevaren en kansen die de digitalisering biedt. Omdat algoritmes steeds complexer worden zeker in combinatie met de data waarvan ze leren, kunnen we deze amper nog controleren. “Je ziet dat de enige manier om grip op de technologie te houden, is door terug gaan naar onze principes die we willen borgen in de samenleving en die moeten verankerd worden in de technologie.”
“En dan kunnen we de algoritmes toetsten en kijken of ze zich aan bepaalde regels en normen en waarden houden en geen dingen doet die we niet willen. Een toets voor algoritmes is iets wat in Denemarken al is ingevoerd, dus dat is iets waar we zeker naar moeten kijken . De technologie dwingt ons terug te gaan naar ethiek, die dwingt ons weer principieel te worden. Als we alles kunnen programmeren en niets meer waardevrij is, en software zo intelligent is dat hij zelf kan programmeren, dan moeten we terug naar de basis en nadenken wat voor samenleving we met elkaar willen hebben, wat we eerlijk, rechtvaardig en beschaafd vinden.”
Nieuwe dilemma’s door vooruitgang
“Want we krijgen er door technologische vooruitgang nieuwe dilemma’s bij ook. Dat zie ik ook in discussies over de zorgdata. Opeens krijg ik er alle verantwoordelijkheid voor mijn data bij. En als akkoord geef, zeg ik ook dat het de goede data zijn, en dan kom ik in een discussie terecht die normaal alleen artsen voeren. Maar je zou bij data moeten inbouwen dat het bij default niet gedeeld wordt. En er moet een optie komen dat je als mens zegt: ‘ik wil dat mijn data gewist wordt’, dat de data dan ook echt uit database van een bedrijf gewist wordt. Dat zijn hele robuuste maatregelen.”
Veel mensen en organisaties die met technologie en innovatie bezig zijn, zien vooral voordelen van digitalisering, Maar Kreijveld is ook kritisch: “Niet alle technologische ontwikkelingen zijn per definitie vooruitgang ook al worden ze zo altijd wel geframed en bedoeld. Het is de vraag of soms de proportionaliteit niet zoek is, en of de beloftes alle inbreuken op privacy en grote investeringen rechtvaardigen, investeringen die in andere zaken gedaan hadden kunnen worden. Inderdaad, het ICT-monster zoekt voortdurend nieuwe voedingsbodems en wil groeien, en dat hoeft niet iets te zijn dat we vanzelfsprekend vinden of aan mee doen als samenlevingen.”
Programmeerbaar leven
Een andere belangrijke ontwikkeling die ons leven flink de komende decennia flink zal gaan beïnvloeden is robotica. Er verdwijnen al banen door de verregaande robotisering. En tegelijk worden er ook weer nieuwe banen die voorheen niet bestonden gecreëerd. Daarbij worden robots ook steeds slimmer: er zijn robots die andere robots ontwerpen die effectiever zijn dan hun voorganger. De grote angst in de samenleving is dan ook dat robots op een geven moment de mens verstoten. Kreijveld: “We kunnen dat niet uitsluiten, al is het een echt doemscenario. Maar juist daarom moeten we belangrijke controlemechanismes en een ‘uit’-knop inbouwen en belangrijke maatschappelijke zaken hard regelen. Want het programmeren stopt niet bij alleen computers en robots, de volgende stap – die in laboratoria al aan de gang is – is programmeerbaar leven, waarmee je bijvoorbeeld virussen kunt maken.”
“Een veiligheidsmaatregel is dat de code van een synthetisch gemaakt virus altijd openbaar gemaakt moet worden, zodat er altijd en ook door anderen een tegengif gemaakt kan worden. Een bedrijf dat voorop loopt in het maken van synthetische virussen en organismen (van Graig Venter) doet dat ook.”
De robot als buddy
Kreijveld ging zich bezighouden met nieuwe ontwikkelingen omdat de toekomst hem fascineerde. De ontwikkelingen stoppen nooit: elke keer zijn er weer nieuwe toepassingen die hij kan bestuderen en die hij wil begrijpen. ‘Na de consumentenelektronica – toen ik jong was – en de smartphone, zie ik nu het tijdperk voor robots aanbreken. Je ziet, daar waar ze worden ingezet, dat robots heel snel onze buddy’s gaan worden. Net als bij huisdieren projecteren wij mensen daar onszelf of soortgenoten op. En robots worden zo vertrouwd, je kunt erop wachten tot mensen zeggen: ‘je kunt ze toch niet zomaar afmaken, of uitzetten? Ze moeten ook rechten krijgen.’ In Japan is dat zelfs al zo, en steeds meer landen wordt daarvoor gepleit.”
“Eigenlijk heeft elke golf van technologie daarom een nieuw geloof nodig: geloof om zin te geven, houvast te geven en richting te geven, die de technologie en wetenschap ons nooit volledig kunnen geven.”
Eeuwig leven?
AI brengt ook de stap van een ‘eeuwig leven’ dichterbij. We kunnen organen 3D-printen. We zijn op weg om van kanker geen dodelijke maar een chronische ziekte te maken. Gaan we op weg naar eeuwig leven? Kreijveld: “Het zou goed kunnen dat we op een of andere manier ‘voortleven’. We zijn al in bijna in staat om ons brein digitaal na te bootsen. Een computer zou dan een ‘kopie’ van ons brein kunnen bevatten en op dezelfde manier kunnen reageren als de betreffende persoon zou doen: het onderscheid tussen origineel en kloon is dan weg. Hiermee kun je een overleden echtgenoot laten voortleven.”
Daar komt nog bij dat we ook een avatar kunnen maken van een persoon waarbij je iemand alles kunt laten zeggen wat je intypt met zijn eigen gezicht en stem. Kreijveld vertelt: “de nieuwste iPhones hebben al gezichtsherkenning aan boord waarmee dit zou kunnen. Adobe demonstreerde een softwarepakket waarmee geluid bewerkt kon worden: iemands stem kon perfect nagebootst worden door enkele minuten gesproken tekst te analyseren. Ook zouden we ons brein langer werkend kunnen houden door het te stimuleren. Maar misschien denken we veel te gemakkelijk over het scheiden van lichaam en geest en over het overzetten van het brein.”
Ethiek…
“De technologische vooruitgang zorgt ervoor dat we steeds meer gaan geloven in maakbaarheid. Mijn opa en oma hadden geleerd om de dingen veel meer te nemen zoals ze komen en te berusten in dingen. Maar zelfs het weer willen we niet meer aan het toeval overlaten en proberen we naar alles naar onze hand zetten. In China hebben ze dit gedaan rond de Olympische Spelen. Er zijn hele ideeën over hoe we de stratosfeer willen beïnvloeden, er zijn zelfs ideeën om daar systemen voor te bouwen, climate engineering. Maar ook op kleine schaal willen we alles manipuleren, terwijl we vaak niet eens weten wat we nu echt willen. Maar in dat denken past het niet willen sterven, zodat we niet met dat verlies hoeven om te gaan.”
“Toch moeten we niet te snel denken dat we alles kunnen verklaren en alles kunnen ‘maken’. Tijdens de Verlichting hebben we ons logische denkvermogen (de ratio) op een voetstuk gezet en een einde gemaakt aan het oude geloof dat steeds meer bijgeloof leek te zijn nu ‘alles’ wetenschappelijk te verklaren viel. Technologische vooruitgang blijft ons geestelijk uitdagen. Eigenlijk heeft elke golf van technologie daarom een nieuw geloof nodig: geloof om zin te geven, houvast te geven en richting te geven, die de technologie en wetenschap ons nooit volledig kunnen geven. Een computer kan omgaan met 82% zekerheid maar een mens eigenlijk niet. De godsdienstige boeken staan vol ethiek, ethiek die met nieuwe technologie voortdurend wordt beproefd. Oude kaders en heilige huisjes worden omver gehaald, de romantiek verdwijnt steeds meer omdat de nieuwe technologie de oude regels doorkruist en de wereld steeds weer een beetje maakbaarder en programmeerbaarder lijkt te worden.”
Maurits Kreijveld is futuroloog, spreker en adviseur. Ook schreef hij de boeken De plug&play-organisatie, Samen slimmer en De kracht van platformen.
Door: Eduard van Brakel
Lees ook:
‘De CFO van de toekomst kijkt holistisch naar finance’
Nederlandse CEO heeft nog maar weinig vertrouwen in digitalisering
