13-3-2023 In artikelen of studies die betrekking hebben op de ethische aspecten van robots worden ze vaak genoemd: de drie wetten der robotica van Isaac Asimow. Juist omdat ze zo vaak voorbij komen ben ik er eens ingedoken. Wie is Asimow en waarom stelde hij de drie wetten op?
Ik, robot
De wetten komen uit een boek van Isaac Asimow dat al in 1950 is gepubliceerd met de titel I, robot of in het Nederlands Ik, robot. Het bestaat uit 9 verhalen die eerder in de jaren ’40 zijn uitgegeven. Tot mijn verrassing geen wetenschappelijke publicatie maar een science-fiction-vertelling. Een alleraardigste boekje zelfs.
Het boek gaat over de fictieve geschiedenis van robots in de 21e eeuw. De robots in het boek zijn nabootsingen van mensen. Ze zijn weliswaar van metaal en hun brein is een positronbrein maar qua uiterlijk en gedrag lijken ze heel erg op mensen. Daarin gaat Asimow heel ver. Ze hebben niet alleen een stem en ogen. Soms loopt een robot terneergeslagen weg, kijkt hij verveeld, klinkt zijn stem bezorgd of zit hij verslagen in een hoekje. Het is overigens altijd een hij. De robots zijn alleen veel groter, sterker en slimmer dan mensen. Ze doen vooral zwaar en gevaarlijk werk. Om ze toch ‘slaafs’ te houden en onderdanig aan de mens, zijn de drie wetten opgesteld.
De drie wetten der robotica:
- Een robot mag een mens geen letsel toebrengen, noch laten overkomen.
- Een robot moet door mensen gegeven orders uitvoeren, behalve als die orders in strijd zijn met de eerste wet.
- Een robot moet zichzelf beschermen, zover als dat niet in strijd is met de eerste en tweede wet.
In het boek belicht Asimow in ieder hoofdstuk, waarin steeds een ander, nieuwer, type robot wordt opgevoerd, wat de wetten in de praktijk betekenen. Hij laat zien wat er dankzij de wetten goed gaat maar ook wat er gebeurt als de wetten met elkaar conflicteren. Grappig is dat in het boek een robotpsycholoog de hoofdrol speelt. Zij weet hoe robots redeneren als het gaat om het interpreteren van de wetten, waarom het soms fout gaat, hoe je dat merkt en hoe je dat oplost. Ze wordt dan ook vaak ingeschakeld als er weer eens een robotcrisis is uitgebroken.
Aan het eind van het boek zijn de robots doorontwikkeld tot ‘superbreinen’. Ze hebben geen lichaam meer, maar zijn een soort besturingssysteem geworden, geleid door kunstmatige intelligentie. Nog steeds gelden de wetten. De mens is dan eigenlijk de controle over deze ‘Machines’ helemaal kwijt. Ze beheersen onze economie volledig. De vraag is of dat erg is. De Machines weten immers beter dan de mens zelf wat goed is voor de mensheid en dankzij de eerste wet nemen de Machines beslissingen die uiteindelijk in het voordeel zijn voor de mens.
Een alleraardigst boekje dus. Met leuke verhalen die ondertussen een interessant perspectief op robots en hun verhouding tot mensen behandelen. Een robot als een nabootsing van mensen die in alles eigenlijk beter is maar toch onderdanig moet blijven. Juist omdat de robots zo op mensen lijken, zowel in uiterlijk als gedrag, een mensennaam krijgen en omdat ze uiteindelijk toch onderdanig zijn, komen ze niet bedreigend over. De robot als metgezel van de mens, een collega, die het zware en gevaarlijke werk opknapt. Dat de eerste wet zelfs een verder in alle opzichten autonoom functionerende superrobot kan beheersen en daarmee zorgt voor een betere wereld is een verrassende invalshoek die misschien ook wel een beetje hoop geeft.
Over de schrijver
Isaac Asimov (1920-1992) is geboren in Rusland maar verhuisde al op jonge leeftijd met zijn ouders naar de Verenigde Staten. Hij was opgeleid tot biochemicus maar wijdde zijn leven vooral aan het schrijven. Hij behoorde zelfs tot de Grote Drie van science-fiction-schrijvers van de 20e eeuw. Hij heeft talloze titels op zijn naam staan en won meerdere prijzen.
Samenvatting van Ik, Robots
Het boek gaat over de geschiedenis van robots die wordt verteld aan de hand van 9 verhalen. Ieder verhaal gaat over een bepaald type robot. De verhalen zijn geschreven door een journalist die hiervoor robotpsychologe Susan Calvin heeft geïnterviewd. Ze heeft lang gewerkt bij US Robotics & Mechanical Men, een bedrijf dat robots maakte. In alle verhalen die ze vertelt en die door de journalist zijn opgeschreven (hij heeft ze “in een vorm gegoten die met zijn eigen inzichten overeenkomen, feiten gedramatiseerd en conversatie en nog wat dingetjes toegevoegd”) gaat het over het gedrag van robots in het licht van de drie wetten.
1. Robbie
Het eerste hoofdstuk speelt zich af eind van de 20e eeuw. Een klein meisje heeft een robot, Robbie. Deze eerste robot is groot en van metaal en lijkt qua uiterlijk en gedrag op een mens. Hij kan alleen niet praten. Het meisje is dol op haar robot, tot grote ergernis van haar moeder. Die geeft haar man de opdracht te laten verdwijnen. Het meisje is ontroostbaar. Per ongeluk komen ze de robot toch weer tegen en redt hij het leven van het meisje omdat ze in een gevaarlijke situatie belandt. De eerste wet der robotica. En hierdoor worden ze weer herenigd. Moeder kan het niet maken de robot nu nog een keer weg te doen en daarom mag Robbie blijven.
2. De dronken robot
In 2002 kwamen de eerste sprekende robots op de markt. In de jaren daarna werd het gebruik van robots op aarde verboden voor andere doeleinden dan wetenschappelijk onderzoek. De robots mochten wel buiten de aarde worden ingezet, bijvoorbeeld voor zwaar en gevaarlijk werk in de mijnbouw op andere planeten. Twee medewerkers van US robotics, Greg en Mike, worden naar Mercurius gestuurd met een nieuw type robot die ze Speedy noemen. Deze robot komt op een dag niet terug van zijn werk. Er blijkt een conflict te zijn tussen de 2e en de 3e wet waardoor de robot in de war is geraakt (hij leek wel dronken). De opdracht om naar een gevaarlijke mijn te gaan werd door Speedy uitgevoerd vanwege de 2e wet maar omdat het daar gevaarlijk was trad wet 3 in werking en draaide hij om. Als hij ver genoeg was trad de 2e wet weer in werking en daarna weer wet 3. Door Speedy te confronteren met een situatie waarin de 1e wet van toepassing is, die wet 2 en 3 overruled, raakt hij uit de conflicterende situatie en kregen ze hem weer onder controle.
3. Logica
Greg en Mike zijn deze keer naar een ruimtestation gestuurd met de nieuwste robot van dat moment, Cutie. Deze Cutie concludeert door logisch te redeneren dat hij superieur is aan de mens. Hij dient liever de veel complexere krachtbron van het ruimtestation die hij Meester noemt. Geen wenselijke situatie. Maar tijdens een ruimtestorm die de aarde bedreigt, zorgt Cutie ervoor – vanwege de eerste wet – dat de krachtbron van het ruimtestation perfect functioneert waardoor de aarde wordt gered. En daarom hebben Greg en Mike er geen problemen meer mee dat Cutie het ruimtestation bestuurt, wie hij ook als zijn Meester ziet.
4. Vingers
Weer gaan Mike en Greg een nieuwe robot uitproberen. Deze keer zitten ze op een asteroïde met Dave, een denkeenheid van een geïntegreerd team van 7 robots (zie het als een hand met 6 vingers). De robots werken samen in de mijnbouw. Echter, zodra er geen toezicht van mensen meer is, doen ze hun werk niet meer. Ze gaan dan achter elkaar lopen of in bepaalde patronen lopen. Na enig speurwerk blijkt dat deze storing ontstaat zodra Dave de 6 ‘vingers’ tegelijk moet aansturen en dat is in noodsituaties. Zolang er een mens in de buurt is, is de eerste wet van toepassing. Maar zonder mens raakt de robot in de war vanwege een conflict tussen de tweede en derde wet. En met zoveel robots die aangestuurd moeten worden raakt Dave helemaal de kluts kwijt. Is dat eenmaal ontdekt, dan is het probleem snel opgelost.
5. Leugenaar
In dit hoofdstuk gaat Susan Calvin even terug naar 2021. Toen rolde er op de aarde een robot van de band die over een bijzondere eigenschap beschikte. Hij kon gedachtenlezen. Een productiefoutje maar wel een interessante. De robot werd Herbie genoemd. Susan en twee wiskundigen moesten uitzoeken wat er mis gegaan was tijdens de productie en brachten daarom ieder afzonderlijk veel tijd met Herbie door. Waarbij ze stiekem dankbaar gebruik maakten van zijn bijzondere talent. Zo vroeg Susan of haar collega op wie ze verliefd was, ook op haar verliefd was. Herbie bevestigde dat. En aan één van de wiskundige bevestigde Herbie diens wens dat hij snel de baas van het laboratorium zou worden. Maar wat bleek? Het waren leugens. Die Herbie vertelde omdat hij vanwege de eerste wet mensen geen letsel mocht toebrengen. En geestelijke pijn is ook letsel. Susan weet Herbie uiteindelijk uit te schakelen.
6. Robot vermist
Susan Calvin, de robotpsychologe, moet in dit hoofdstuk ook zelf aan de slag. Er is een robot vermist op een ruimtebasis. De robot heeft zich verschanst in een ruimteschip waar zich 62 identieke robots in bevinden. Welke van de 63 is de vermiste robot? En waarom is het zo’n probleem dat ze niet weten welke robot het is als ze toch allemaal op elkaar lijken? Daar komt Susan snel achter. De bewuste robot is namelijk onderdeel van een geheim project waarbij de eerste wet deels is uitgeschakeld. De robot mag een mens nog steeds geen letsel toebrengen maar hoeft niet meer te voorkomen dat de mens letsel overkomt. Dat bleek namelijk een heel onhandige eigenschap voor een robot die met mensen in gevaarlijke omstandigheden werkt. De robot haalde te pas en te onpas mensen weg van hun werkplek. En na de aanpassing kon de mens met de robot samen het werk doen. Maar vanwege deze geheime aanpassing moest de robot wel gevonden worden voordat hij de ruimtebasis zou verlaten. Het zou tot grote ophef leiden als dit bekend zou worden. Zeker bij de tegenstanders van robots op Aarde die de robots alleen accepteerden omdat de eerste wet er was. Susan ontdekt dat de robot is ‘verdwenen’ omdat een mens die zich aan de robot ergerde, woedend ‘verdwijn’ naar hem had geschreeuwd. En vanwege de tweede wet deed de robot dat. Slimme Susan weet hem toch te ontmaskeren.
7. Grappenmaker
US Robotics beschikt over een superrobotbrein genaamd Brein. Een concurrent heeft een vergelijkbaar superbrein dat is gecrasht door een bepaalde bewerking, waarschijnlijk vanwege een onoplosbaar dilemma met de drie wetten. Ze hebben die bewerkingsopdracht naar US Robotics gestuurd met als smoes het verzoek om hen te helpen maar waarschijnlijk in de hoop dat Brein ook crasht zodat ze geen achterstand oplopen ten opzichte van US Robotics. Het lijkt er op dat het Brein wel lukt om de bewerking uit te voeren zonder te crashen. Brein gaat spontaan een ruimteschip bouwen dat een interstellaire reis kan maken en dat ook onaangekondigd gaat doen met Greg en Mike – daar zijn ze weer – aan boord. Het ruimteschip keert ook weer netjes terug. Susan ontdekt wat er aan de hand is. Tijdens een interstellaire reis overleeft de bemanning de interstellaire sprong niet. Daarom crashte de computer van de concurrent. Maar daarna komt de bemanning weer wel tot leven. Brein was toch iets slimmer en kon verder kijken tijdens het ontwerpen en had hiermee een oplossing voor het overtreden van de eerste wet. Brein was wel een beetje hysterisch geworden van de bewerking wat te merken was aan zijn gelach. En robotpsychologe Susan zag dat verband en wist daardoor waar het probleem zat bij de superrobotbreinen.
8. Bewijs
De robots worden in de loop van de 21e eeuw steeds menselijker qua uiterlijk. Susan krijgt de vraag of een burgemeesterskandidaat, genaamd Byerley, een mens is of een humanoïde robot. Want robots zijn op aarde verboden. Alles lijkt erop dat Byerley een robot is. Niemand ziet hem ooit eten bijvoorbeeld. Of toen hij nog officier van justitie was, zelf iemand een straf opleggen. Maar Susan kan het niet bewijzen. Zelf levert Byerley het bewijs dat hij geen robot is door iemand te slaan. Hij wordt gekozen en benoemd tot burgemeester. Later wordt hij zelfs Coördinator van de Sferen en in 1944 zelfs de eerste Wereld-Coördinator. Susan vermoedt toch dat hij een robot is omdat ze denkt dat Byerley destijds een klap uitdeelde aan een andere humanoïde robot. En dus de eerste wet niet overtrad.
9. De machines
Byerley is Wereld-Coördinator maar de wereld wordt inmiddels bestuurd door de Machines. Superrobots eigenlijk. En dankzij de eerste wet der robotica waar ook de Machines zich nog steeds aan moeten houden is de aardse economie in overeenstemming met het belang van de mens. Er is geen verspilling en geen schaarste, geen werkeloosheid en geen oorlog. Tenzij de Machines hun taken niet naar behoren vervullen en daar zijn aanwijzingen voor. Soms is er ineens ergens een overschot of een tekort. Hoe kan dat nou? Susan wordt door Byerley gevraagd om mee te denken. Hij heeft alle leiders van de Sferen gesproken. Het lijkt erop dat het Genootschap van de Mens, fundamentalisten die tegen robots zijn, ermee te maken hebben. Door de Machines niet te gehoorzamen willen ze voor instabiliteit in de wereld zorgen omdat ze daar zelf baat bij hebben. Maar Susan concludeert dat het anders zit. De mens is de controle over de Machines kwijt. Maar de Machines weten wat goed voor ons is en ze weten dat mensen de Machines soms niet gehoorzamen. Dus houden ze daar rekening mee en lopen ze soms zelf bewust een beetje uit de pas. De mensen die daarvan profiteren, zoals een directeur die tevens aanhanger is van het Genootschap, worden vanzelf buitenspel gezet (vanwege de eerste wet op een zachte manier) omdat de mensen in de omgeving zelf ingrijpen door de verantwoordelijke directeur te ontslaan bijvoorbeeld.
Dit hoofdstuk eindigt met een filosofische beschouwing. Volgens Susan zijn de Machines tenslotte alleen maar een werktuig dat de mensheid kan helpen zich sneller te ontwikkelen door iets van de last van het maken en interpreteren van berekeningen van onze schouders te nemen. De taak van de menselijke geest blijf dezelfde als ze altijd is geweest: het ontdekken van nieuwe informatie die dan geanalyseerd kan worden en van nieuwe begrippen die beproefd kunnen worden. In 2066 sterft Susan Calvin op 82-jarige leeftijd.