Nemen computers de macht over? Nee, wij delegeren steeds meer menselijke taken aan systemen, die we vervolgens gretig voorzien van brandstof: data.
In de sciencefictionfilm Gattaca kiest de hoofdpersoon ervoor iets ‘niet te willen weten’. Ontwerper Daan Roosegaarde zei in het televisieprogramma Zomergasten dat dit in de toekomst “wellicht onze enige vrijheid is, nu de overheid letterlijk in onze inbox blijkt mee te kijken: de vrijheid om iets niet te willen weten.”
Filmscenario’s zijn dankbare etalages van de menselijke fantasie. In films als Westworld, The Matrix en 2001: A Space Odyssey is een belangrijke rol weggelegd voor ‘kunstmatige systemen’ die de macht overnemen. In Westworld verandert Yul Brynner in een niet te stoppen ‘killer robot’ en ook het recalcitrante computersysteem HAL uit Kubricks meesterwerk ‘2001’ kan alleen met grote moeite worden gestopt. In deze scenario’s gaat het steeds om door mensen bedachte systemen, waarbij – na een niet altijd even duidelijk kantelpunt – robots en computers op vijandige wijze de macht van hun eigen scheppers overnemen. Daarna is er alle ruimte voor het bewijzen van de menselijke superioriteit: de mens – intrinsiek goed – overwint het kwaad. Wij bedenken steeds maar weer opnieuw, dat systemen die moreel besef krijgen, zich uitsluitend kunnen ontwikkelen tot Het Kwaad. Systemen die intrinsiek goed willen doen, bestaan niet – of ze komen voor als zwak en bedreigd (bijvoorbeeld de mens). Kortom, technologie wordt pas evil als het zich aan de wil en controle van zijn eigen schepper onttrekt.
Omdat we zo sterk geloven in de goedheid van technologie die wijzelf maken en beheersen, zijn we in onze technologie- en gadget-economie geneigd om potentieel bedreigende technologie als een ‘nieuw’ verschijnsel te zien – iets dat buiten onszelf tot stand komt, en dat in beginsel een neutraal karakter heeft. Reden waarom het Rathenau Instituut met enige regelmaat een tegengeluid laat horen.
Als nieuwe technologie niet onverdeeld positief of neutraal is, maar ook mogelijke negatieve bijverschijnselen zou kunnen hebben, worden de goede eigenschappen in stelling gebracht. Goede eigenschappen dragen immers bij aan de verbetering van de wereld: ze lossen misstanden op, beantwoorden lastige vragen of verrijken ons leven met luxe en gemak. Beloften uit die hoek hebben bijna een religieus tintje: leg je lot in handen van de technologie, geloof er in, geef je er aan over en het komt goed. Van het internet – intrinsiek een neutraal systeem – is bijvoorbeeld beweerd dat het de democratie zou kunnen versterken.
Kunstmatige rekenkracht wordt steeds sneller, goedkoper en kleiner, waardoor technologie steeds dichter op de mens komt te zitten. Was een pacemaker 40 jaar geleden nog high tech, nu is dat een medische ‘commodity’. Het probleem dat is opgelost door de pacemaker, heeft wel plaats gemaakt voor andere problemen die vragen om een oplossing. Bij al die nieuwe problemen worden telkens nieuwe oplossingen gevonden. Daarbij wordt de harde techniek geleidelijk minder belangrijk; in plaats daarvan wint de kracht van data aan betekenis. En waar zuiver technische oplossingen beperkt zijn in de wijze waarop ze in ons leven ingrijpen – harde techniek is inert – blijken data juist vloeibaarder te worden. Voeg data toe aan software, laat software de oorspronkelijk rigide techniek aansturen en diezelfde lompe techniek wordt ‘intelligenter’. De auto kan zelf remmen voor plotselinge obstakels, zelf achteruit inparkeren en sneller dan de bestuurder beslissen over de snelste of kortste route.
Onze waarneming (de manier waarop we met onze zintuigen naar de wereld en de mensen om ons heen kijken) vullen we inmiddels aan met – of vervangen zelfs door – technologische hulpmiddelen. We laten onze beslissingen afhangen van derden (welk restaurant is goed?), we laten dagbladen voor wat ze zijn en laten onze informatievoorziening liever bepalen door een partij als Google, we willen instant feedback over calorieën die we verbranden en we willen vermijden dat we nat regenen.
Dat alles wekt de indruk dat we er steeds beter in slagen ons aan te passen aan de omstandigheden waarin we leven. Of is het omgekeerde waar: vertrouwen we steeds minder op onze eigen zintuigen en delegeren we in plaats daarvan steeds meer taken aan systemen?
Met dat laatste neemt het aantal verrassingen misschien af, omdat we beter kunnen anticiperen. Maar ons vermogen tot zelfstandig anticiperen, dus onafhankelijk van systemen, wordt steeds kleiner.
Met meer wearable computing en meer quantified self ontstaan er meer latente verbanden waarbij de discussie geleidelijk verandert: van “hadden we dit kunnen weten?” naar “hadden we dit moeten weten?”.
Ieder verband is straks latent aanwezig: het enige wat we moeten doen (of nalaten) is analyseren. Het maken van fouten in de analyse (dat wil zeggen: verkeerd analyseren, te laat analyseren of helemaal niet analyseren) is nu al vaak onderwerp van gesprek. Ons handelen – en daarmee onze vrijheid – wordt steeds meer digitaal bepaald.
Terug naar de film. Nemen computersystemen onze hersenen over? Nee, wij kiezen er voor steeds meer zaken aan computers te delegeren: zoeken, vinden, adviseren, informeren, suggereren, anticiperen en in toenemende mate ook waarnemen. Niet de computer is het probleem, maar het besluit om de waarneming uit te besteden – en deze te vervangen door analyse van data.
Tweeten