Když lidé mluví o robotech a etice, vždy se zdá, že uvádějí „Tři zákony robotiky“ Isaaca Asimova. S těmito zákony a jejich používáním v našem reálném světě však existují tři hlavní problémy.
Zákony
Asimovovy zákony původně obsahovaly tři pokyny pro stroje:
- Zákon One – „Robot nesmí ublížit člověku nebo nečinností umožnit člověku ublížit.“
- Zákon dva – „Robot musí dodržovat rozkazy, které mu lidé dávají, kromě případů, kdy je to tak objednávky by byly v rozporu s prvním zákonem. “
- Zákon tři -„ Robot musí chránit svou vlastní existenci, pokud taková ochrana není v rozporu s prvním nebo druhým zákonem. “
- Asimov později přidal „Zerothův zákon“, nad všechny ostatní – „Robot nemusí lidstvu ublížit nebo nečinností umožnit lidstvu ublížit.“
The Debunk
Prvním problémem je, že zákony jsou fikce! Jsou spikleneckým zařízením, které Asimov vymyslel, aby pomohl řídit jeho příběhy. Ještě více se jeho příběhy téměř vždy točily kolem toho, jak by se roboti mohli řídit těmito skvěle znějícími, logickými etickými kodexy, ale přesto zbloudí a z toho vyplývají nezamýšlené důsledky. Reklamu na filmovou adaptaci slavné Asimovovy knihy Já, robot (v hlavní roli s čerstvým princem a dětskou mámou Toma Bradyho) z roku 2004 uvádí: „Pravidla byla porušována.“
Například v jedné z Asimovových příběhů jsou roboti vyrobeni tak, aby dodržovali zákony, ale dostávají určitý význam „lidský“. Roboti předznamenávající to, co se nyní děje v etnických čistících kampaních v reálném světě, rozpoznávají lidi určité skupiny pouze jako „lidské“. Řídí se zákony, ale stále provádějí genocidu.
Druhým problémem je, že žádná technologie ještě nedokáže replikovat Asimovovy zákony uvnitř stroje. Jak říká Rodney Brooks ze společnosti iRobot – pojmenované podle knihy Asimov, jsou lidé, kteří vám přinesli vojenského robota Packbot a robotický vysavač Roomba – řekli: „Lidé se mě ptají, zda se naši roboti řídí Asimovovými zákony. Existuje prostý důvod: Nemohu v nich stavět Asimovovy zákony. “
Robotik Daniel Wilson byl o něco záludnější. „Asimovova pravidla jsou čistá, ale jsou také kecy. Jsou například v angličtině. Jak to sakra naprogramujete?“
Nejdůležitějším důvodem, proč se Asimovovy zákony dosud neuplatňují, je to, jak roboti jsou používány v našem reálném světě. Nevyzbrojíte bezpilotní letoun Reaper raketou Hellfire ani nepoložíte kulomet na MAARS (Modular Advanced Armed Robotic System), aby nedošlo k ublížení lidí. To je ten pravý bod!
Totéž platí pro stavbu robota, který bere pořádek od každého člověka. Opravdu chci, aby Usáma Bin Ládin mohl objednávat mého robota? A konečně skutečnost, že roboty mohou být vysílány na nebezpečné „zabití“ misí je často důvodem jejich použití. Poskytnout jim pocit „existence“ a instinktu přežití by bylo v rozporu s tímto důvodem a otevřelo by potenciální scénáře z jiné série sci-fi, filmů Terminátor. Jde o to, že velká část financování robotického výzkumu pochází z armáda, která platí za roboty, kteří se řídí pravým opakem Asimovových zákonů. Vyslovně chce roboty, kteří mohou zabíjet, nepřijímají rozkazy od žádného člověka a nestarají se o jejich vlastní existenci.
Otázka etiky
Největší otázkou, pokud jde o roboty a etiku, však není to, zda můžeme použít něco jako Asimovovy zákony k výrobě strojů, které jsou morální (což může být přirozeným rozporem, protože morálka je spojena dohromady) záměr i akce, nikoli pouhé programování).
Spíše musíme začít zápasit s etikou lidí za stroji. Kde je etický kodex v oblasti robotiky pro to, co se buduje a co K čemu by se mladí robotici obrátili do? Kdo tyto sofistikované systémy používá a kdo ne? Je dron Predator technologie, která by měla být omezena pouze na armádu? No, příliš pozdě, ministerstvo pro vnitřní bezpečnost již létá šest dronů Predator provádějících bezpečnost hranic. Stejně tak mnoho místních policejních oddělení prozkoumává nákup vlastních dronů, které by nad ním mohly parkovat. Možná si myslím, že to dává smysl, dokud dron nebude sledovat mé okolí. Ale co já? Je v mém 2. dodatku právo mít robota, který nosí zbraně?
To vše zní trochu jako druh otázek, které by byly kladeny pouze na konvencích sci-fi. Ale o to jde. Když teď mluvíme o robotech, už nemluvíme o „pouhé science fiction“, jak popsal jeden analytik Pentagonu o těchto technologiích. Jsou velmi součástí našeho skutečného světa.