Robot says no (1)

DSC_8614Robots worden slimmer en dreigen hun territorium (fabriekshallen, science fiction films en speelgoedwinkels) te verlaten. Naarmate de afstand tussen mens en robot kleiner wordt, gaan we ons meer zorgen maken over de eigenschappen van intelligente apparaten. Robots moeten luisteren, zich aan regels houden en zich al helemaal niet tegen de mens keren. 

In het FD van 19 januari schreef Franka Rolvink Couzy dat wij geen idee hebben hoe snel de ontwikkelingen zullen gaan, ook al zijn er mensen die een beetje moeten lachen om het idee van een zelfdenkende robot. Couzy haalt daarbij de Wet van Moore aan en stelt: na tien jaar groei is alles mogelijk, wie weet besturen robots over tien jaar onze bedrijven! Volgens Couzy moet een belangrijke robotwet dan ook zijn dat een robot moet doen wat de mens wil. Of zoals andere voorstanders van robotwetgeving stellen: robots moeten uiteindelijk door mensen kunnen worden uitgeschakeld. Elon Musk gaat een stap verder dan filosoferen: hij heeft 10 miljoen dollar geïnvesteerd in onderzoek naar de vraag hoe we kunstmatige intelligentie veilig kunnen houden.

Tot voor kort was kunstmatige intelligentie inert: als computer vastgeklonken in mainframes, of als robot vastgeschroefd aan een assemblagelijn in een fabriekshal. Met de komst van laptops, tablets en smartphones is hard- en sofware mobiel geworden. We slepen intelligentie overal achter ons aan, met het internet of everything stoppen we het straks ook overal in. Robots nemen in deze softwareproliferatie een aparte positie in. Onze smartphone is weliswaar al een mobiele computer, maar de robot is tot veel meer in staat. De nieuwe robot kan zichzelf verplaatsen en is vaak in staat tot het verrichten van fysieke handelingen. Dat betekent dat een robot zelf zijn werkingsgebied kan gaan bepalen. Dat biedt opties voor de zorg, de horeca, het transport, defensie, kortom alles waar verplaatsing een wezenlijk onderdeel van het kernproces vormt. Maar mogen robots zelf de hort op om in te grijpen in menselijke processen? Wanneer gaat ‘helpen’ over in ‘bepalen’? En wanneer gaat ‘ondersteunen’ over in ‘uitschakelen van obstakels’? De vraag of robots mogen doden, is al vaak gesteld (en ook vaak met ‘nee’ beantwoord) maar moet misschien vooraf worden gegaan door een andere vraag; kunnen robots doden? Een zelfsturende auto die bij dreigend ongeval moet uitwijken en daarbij moet kiezen tussen een moeder met kind of een peloton wielrenners, moet een beslissing nemen over levens.

Robot NASA
NASA Space Center, Houston

Bij het maken van robots gaan we er van uit dat de schepper van de robot bepaalt wat de robot kan en mag. Een robot is een apparaat waarbij we er vanuit gaan dat het aan- en uit te zetten is. Maar de mens kan ook eigenschappen in de robotsoftware inbouwen die menselijke interventie of manipulatie juist voorkomen. Jaarlijks worden er miljarden besteed aan het beveiligen van software en hardware: denk aan het kopiëren van data, oneigenlijk gebruik van programma’s, ongeoorloofde toegang et cetera.

Ook robots zullen, naarmate hun taken meer impact op mens en maatschappij krijgen, al in de ontwerpfase aan regels moeten voldoen. Zwakheden in de software kunnen er voor zorgen dat ze gemakkelijk gehackt kunnen worden, waarmee ze net als bij een vliegtuig of auto een moordwapen kunnen veranderen. Het lijkt me dan ook niet onverstandig om robots, net als bij auto’s en vliegtuigen, ze door een goedkeurigs- of certificeringsproces te laten gaan voordat ze de markt op mogen.

Feit is dat veel processen in onze economie (en ook in onze bedrijven) al worden aangestuurd door robots; ze bewegen weliswaar niet, maar zijn actief in de vorm van algoritmen. De financiële sector drijft er op, succesvolle online retailers zoals Bol.com realiseren het grootste deel van hun omzet op basis van algoritmen en onze internetzoekmachines doen een groot deel van het denkwerk voor ons. Google presenteert gegevens, afgestemd op individuele kenmerken van de gebruiker zoals leeftijd, geslacht, locatie en zoekgeschiedenis. Het probleem is niet zo weer het gebrek aan transparantie – het precieze denkwerk van onze huisarts is ook niet altijd helder – maar dat het systeem niet ter verantwoording is te roepen. Dat geldt ook voor de losgeslagen robot die niet meer naar zijn baasje luistert.

westworldRobot-ontwikkelaar Ishiguro, ook de bedenker van het concept uncanny valley, vraagt zich af of er robots te ontwikkelen zijn, die de indruk wekken dat ze echt leven. Ishiguro noemt dit sonzai-kan ofwel aanwezigheid. Ligt de kern van menselijk gedrag in onze manier van aankijken (de ogen) of in iets anders? Als filmkijker laten we ons niet snel in de maling nemen. In Star Trek weten we zeker dat de robot genaamd Data gespeeld wordt door een mens. Maar in de film West World worden zowel kijker als hoofdrolspelers op het verkeerde been gezet. Welke filmacteurs spelen mensen en welke acteurs spelen robots die in een pretpark als echte mensen acteren? Kan je robots vertrouwen?