Când oamenii vorbesc despre roboți și etică, par să aducă mereu în discuție „Trei legi ale roboticii” a lui Isaac Asimov. Dar există trei probleme majore cu aceste legi și cu utilizarea lor în lumea noastră reală.
Legile
Legile lui Asimov implicau inițial trei linii directoare pentru mașini:
- Legea unu – „Un robot nu poate răni o ființă umană sau, prin inacțiune, permite unei ființe umane să facă rău.”
- Legea a doua – „Un robot trebuie să respecte ordinele date de ființele umane, cu excepția cazului în care ordinele ar intra în conflict cu prima lege. ”
- Legea a treia -„ Un robot trebuie să-și protejeze propria existență, atâta timp cât o astfel de protecție nu intră în conflict cu prima sau a doua lege ”.
- Asimov a adăugat mai târziu „Legea Zeroth”, mai presus de toate celelalte – „Un robot poate să nu dăuneze umanității sau, prin inacțiune, să permită omenirii să facă rău.”
Debunk
Prima problemă este că legile sunt ficțiune! Sunt un dispozitiv de complot pe care Asimov l-a inventat pentru a-și ajuta poveștile. Și mai mult, poveștile sale se învârteau aproape întotdeauna în jurul modului în care roboții ar putea urma aceste mari coduri etice logice, dar totuși rătăcesc și consecințele neintenționate care rezultă. O reclamă pentru adaptarea filmului din 2004 a celebrei cărți a lui Asimov I, Robot (cu rolul Prințului proaspăt și cu mama lui Tom Brady) a spus cel mai bine: „Regulile au fost făcute pentru a fi încălcate”.
De exemplu, într-una din poveștile lui Asimov, roboții sunt făcuți să urmeze legile, dar li se dă un anumit sens de „om”. Prefigurând ceea ce se întâmplă acum în campaniile de curățare etnică din lumea reală, roboții recunosc doar oamenii dintr-un anumit grup ca „umani”. Aceștia respectă legile, dar fac totuși genocid.
A doua problemă este că nicio tehnologie nu poate reproduce legile lui Asimov în interiorul unei mașini. oamenii care ți-au adus robotul militar Packbot și aspiratorul robot Roomba – spun: „Oamenii mă întreabă dacă roboții noștri respectă legile lui Asimov. Există un motiv simplu: nu pot construi legile lui Asimov în ele. ”
Roboticistul Daniel Wilson a fost ceva mai înflorit. „Regulile lui Asimov sunt îngrijite, dar sunt și prostii. De exemplu, sunt în engleză. Cum naiba programați asta?”
Cel mai important motiv pentru care Legile lui Asimov nu au fost aplicate încă este modul în care roboții sunt utilizate în lumea noastră reală. Nu înarmați o dronă Reaper cu o rachetă Hellfire sau nu puneți o mitralieră pe un MAARS (Modular Advanced Armed Robotic System) pentru a nu provoca rănirea oamenilor. Acesta este chiar punctul!
Același lucru este valabil și pentru construirea unui robot care preia ordine de la orice om. Chiar vreau ca Osama Bin Laden să poată comanda despre robotul meu? Și, în cele din urmă, faptul că roboții pot fi trimiși pe periculoși misiunile de a fi „ucise” sunt adesea chiar rațiunea utilizării lor. Pentru a le oferi un sentiment de „existență” și instinct de supraviețuire ar merge împotriva acestei rațiuni, precum și deschide scenarii potențiale dintr-o altă serie de ficțiune științifică, filmele Terminator. Ideea este că o mare parte din finanțarea cercetării robotice provine din militar, care plătește roboții care respectă opusul legilor lui Asimov. Dorește în mod explicit roboți care pot ucide, nu primesc ordine de la orice om și nu le pasă de propriile lor existențe.
O chestiune de etică
Problema mai mare, totuși, când vine vorba de roboți și etică, nu este dacă putem folosi ceva asemănător legilor lui Asimov pentru a produce mașini care sunt morale (ceea ce poate fi o contradicție inerentă, având în vedere că moralitatea se încheie atât intenția, cât și acțiunea, nu simpla programare).
Mai degrabă, trebuie să începem să ne luptăm cu etica oamenilor din spatele mașinilor. Unde este codul de etică în domeniul roboticii pentru ceea ce se construiește și ce La ce s-ar îndrepta un tânăr robotic la? Cine poate folosi aceste sisteme sofisticate și cine nu? Este o dronă Predator o tehnologie care ar trebui limitată doar la armată? Ei bine, prea târziu, Departamentul pentru Securitate Internă zboară deja cu șase drone Predator care fac securitate la frontieră. La fel, multe departamente de poliție locale explorează cumpărarea propriilor lor drone pentru a parca peste el cartierele criminalității. Aș putea crede că asta are sens, până când drona îmi urmărește cartierul. Dar ce zici de mine? Este în dreptul celui de-al doilea amendament al meu să aibă un robot care poartă brațe?
Toate acestea seamănă puțin cu genul de întrebări care ar fi puse doar la convențiile de science fiction. Dar acesta este punctul meu de vedere. Când vorbim despre roboți acum, nu mai vorbim despre „simpla știință-ficțiune” așa cum a descris un analist al Pentagonului despre aceste tehnologii. Acestea fac foarte mult parte din lumea noastră reală.