De onvermijdelijke overheersing door robots

De laatste tijd heeft de ontwikkeling van robots een grote vlucht genomen. Met enige regelmaat komen er nieuwsberichten langs waarin de laatste snufjes op het gebied van robotica worden gepresenteerd. Aan de ene kant is dit allemaal heel interessant, want wie wil er nou niet een robothulpje dat het huishouden voor je doet? Maar aan de andere kant is het allemaal enigszins beangstigend en ik zal uitleggen waarom.

Neem bijvoorbeeld de volgende twee berichten: “Alle robots op online zoekmachine“ [nu.nl] en “Huisrobots vormen mogelijk gevaar voor mensen” [nu.nl]. Het eerste bericht beschrijft een methode die ontwikkeld wordt waarbij robots op het internet kunnen opzoeken hoe ze bepaalde taken kunnen uitvoeren. Het tweede bericht beschrijft de observatie dat bepaalde robots die met scherp gereedschap werken, mensen per ongeluk zouden kunnen verwonden. Afzonderlijk van elkaar nogal onschuldige berichten.

Maar wat als de robot die met scherp gereedschap werkt, straks ook zijn instructies op het internet opzoekt? Dan bestaat dus de mogelijkheid dat daar op de één of andere manier een instructie tussen zit die het verwonden van mensen als resultaat heeft. Wellicht wordt een dergelijke instructie door kwaadwillende mensen in het systeem gezet, maar ik kan me ook goed voorstellen dat dit gebeurt door een fout in de software, of misschien domweg doordat de robots zich op den duur realiseren dat hun leven een stuk makkelijker wordt zonder tussenkomst van mensen en zich op deze manier tegen ons keren.

Nog een aantal kopjes die ik recent voorbij zag komen. Je mag zelf de puntjes met elkaar verbinden.

“Nieuwe robot nauwelijks van mens te onderscheiden” [nu.nl]
“In New Study, Babies Think A Silvery Robot Is Human, As Long As It Acts Friendly” [popsci.com]
“Athlete, the Robot, Runs Like You Do - May Soon Win the Race” [fastcompany.com]
“Machine kopieert zichzelf” [c2w.nl]
“Automatic Ham Boning Robot - Mayekawa HAMDAS-R” [diginfo.tv]
“Robot Archer Hits Bulls Eye by 8th Try: Can You Learn to Dodge Perfectly in 7?” [technabob.com]
“Northrop Arms Its Robot Pack Mule With Big Gun” [wired.com]
“Robots capable of 'deceiving humans' built by crazed boffins” [theregister.co.uk]
“Robots learning our pain threshold by punching humans and seeing if they cry” [engadget.com]

Vooral die laatste ook: wie heeft er ooit een seconde gedacht dat het een goed idee zou zijn om een robot te bouwen die mensen stompt om te kijken wanneer we gaan huilen??

Maar goed, afgezien van deze “dreiging”, zullen robots zich steeds verder ontwikkelen. Het is een kwestie van tijd voordat robots zo intelligent zijn dat ze zelfbewustzijn ontwikkelen en uiteindelijk zullen opkomen voor hun rechten. Zoals slavernij eeuwen geleden maatschappelijk geaccepteerd en vervolgens afgeschaft werd, zo zal dit ook gebeuren met de slavernij van robots.

Nu denk je misschien: “maar robots leven niet echt, want robots zijn mechanisch, hebben geen gevoel en dat soort dingen”. Maar ik denk dat dat idee op den duur zal veranderen. Want wat is het leven anders dan het verschijnsel dat klompen materie zichzelf proberen in stand te houden door middel van een min of meer complex terugkoppelingsmechanisme gebaseerd op zintuiglijke waarnemingen en daaruit voortkomende acties? Zelfpreservatie en voortplanting zijn de enige essentiële eigenschappen van leven en alle andere kenmerken zijn daar van af te leiden.

Zodra deze processen autonoom worden uitgevoerd, kunnen we wat mij betreft spreken van leven, en dan maakt het niet uit of deze autonome entiteiten organisch of mechanisch van aard zijn. Naarmate robots meer complexe redeneringen kunnen vormen, zullen de ambities die zij in hun leven hebben zich ontwikkelen van simpele taken als “stofzuig de kamer” naar doelen als zelfverwezenlijking. Het enige verschil is dat het terugkoppelingsmechanisme bij een robot is uitgevoerd in de vorm van elektronische circuits in plaats van een neurologisch zenuwstelsel, maar voor het resultaat maakt dat niet uit.

Ik denk dat de mensheid hier een vorm van leven aan het creëren is en zich niet realiseert wat de consequenties zullen zijn. Dus wat zijn onze opties? Aan de ene kant zou je ervoor kunnen pleiten om het overenthousiasme van robotontwikkelaars in te perken, maar dit zal waarschijnlijk niet zo makkelijk gaan als je de kortzichtigheid in het achterhoofd houdt welke mensen doorgaans ten toon spreiden m.b.t. dreigingen op de lange termijn. Het is misschien het beste om te hopen dat de robotrevolutie zich geleidelijk voltrekt, en dat de mensheid de tijd heeft om te wennen aan de ondergeschikte positie die zij onvermijdelijk gaat vervullen.

Broken 3

Wat fascinerend hoe een voorwerp zo plotseling zijn functionaliteit kan verliezen!