사람들이 로봇과 윤리에 대해 이야기 할 때 항상 Isaac Asimov의 “로봇 공학의 세 가지 법칙”을 언급하는 것 같습니다. 그러나 이러한 법칙과 현실 세계에서의 사용에는 세 가지 주요 문제가 있습니다.
법률
Asimov의 법칙은 처음에 기계에 대한 세 가지 지침을 수반했습니다.
- 법률 1 – “로봇은 인간에게 해를 입힐 수 없으며, 행동하지 않음으로 인해 인간이 해를 입히는 것을 허용해서는 안됩니다.”
- 2 법칙 – “로봇은 인간이 내린 명령에 따라야합니다. 명령은 제 1 법칙에 위배됩니다.”
- 3 법칙 – “로봇은 제 1 법칙 또는 제 2 법칙과 충돌하지 않는 한 자신의 존재를 보호해야합니다.”
- Asimov는 나중에 다른 모든 것보다 “제로스 법칙”을 추가했습니다. “로봇은 인류에게 해를 끼치 지 않거나, 행동하지 않으면 인류가 해를 입도록 허용 할 수 없습니다.”
The Debunk
첫 번째 문제는 법이 허구라는 것입니다! 그들은 Asimov가 그의 이야기를 주도하기 위해 만든 음모 장치입니다. 더군다나 그의 이야기는 로봇이 이처럼 들리는 논리적 인 윤리 규범을 따르지만 여전히 길을 잃고 그 결과로 발생하는 의도하지 않은 결과에 대해 거의 항상 회전했습니다. Asimov의 유명한 책 I, Robot (신선한 왕자와 톰 브래디의 아기 엄마 주연)의 2004 년 영화 각색에 대한 광고는 “규칙이 깨지도록 만들어졌습니다.”라고 가장 잘 표현했습니다.
예를 들어 아시모프의 이야기에서 로봇은 법을 따르도록 만들어졌지만 “인간”이라는 특정한 의미를 부여 받았다. 실제 민족 청소 캠페인에서 현재 진행되고있는 일을 미리 생각해 보면 로봇은 특정 그룹의 사람들 만 “인간”으로 인식합니다. 그들은 법을 따르지만 여전히 대량 학살을 수행합니다.
두 번째 문제는 아직 어떤 기술도 기계 내부에서 Asimov의 법칙을 복제 할 수 없다는 것입니다. Asimov 책의 이름을 따서 명명 된 iRobot 회사의 Rodney Brooks는 Packbot 군용 로봇과 Roomba 로봇 청소기를 가져온 사람들은 이렇게 말합니다. “사람들은 우리 로봇이 Asimov의 법칙을 따르는 지 물어 봅니다. 간단한 이유가 있습니다. Asimov의 법칙을 만들 수 없습니다.”
로봇 학자 Daniel Wilson은 좀 더 화려했습니다. “Asimov의 규칙은 깔끔하지만 엉터리이기도합니다. 예를 들어 영어로되어 있습니다. 어떻게 프로그래밍합니까?”
아시모프의 법칙이 아직 적용되지 않은 가장 중요한 이유는 로봇이 Reaper 드론에 Hellfire 미사일을 장착하거나 MAARS (Modular Advanced Armed Robotic System)에 기관총을 장착하여 인간에게 해를 입히지 않도록하는 것이 현실 세계에서 사용되고 있습니다.
사람의 주문을받는 로봇을 만드는 것도 마찬가지입니다. 오사마 빈 라덴이 제 로봇에 대해 주문할 수 있기를 정말로 바라나요? 그리고 마지막으로 로봇이 위험한 곳으로 보내질 수 있다는 사실 “죽이는”임무는 종종 그것들을 사용하는 이유입니다. 그들에게 “존재”와 생존 본능을 부여하는 것은 그 이론적 근거에 위배 될뿐만 아니라 다른 공상 과학 시리즈 인 터미네이터 영화의 잠재적 시나리오를 열어 줄 것입니다. 여기서 요점은 로봇 연구에 대한 자금의 대부분이 군대는 Asimov의 법칙과 정반대되는 로봇에 비용을 지불하고 있습니다. 분명히 죽일 수 있고, 인간의 명령을받지 않으며, 자신의 존재를 신경 쓰지 않는 로봇을 원합니다.
윤리의 문제
하지만 로봇과 윤리에 관한 더 큰 문제는 Asimov의 법칙과 같은 것을 사용하여 도덕적 인 기계를 만들 수 있는지 여부가 아닙니다 (도덕성이 함께 싸여 있다는 점을 감안할 때 본질적인 모순 일 수 있음). 단순한 프로그래밍이 아니라 의도와 행동 모두).
차라리 우리는 기계 뒤에있는 사람들의 윤리와 씨름을 시작해야합니다. 로봇 분야의 윤리 강령은 무엇을 만들고 무엇을 만드는지에 대한 것입니다. 젊은 로봇 공학자들은 에? 누가 이러한 정교한 시스템을 사용하고 누가 사용하지 않습니까? Predator 드론은 군대에만 국한되어야하는 기술입니까? 너무 늦게 국토 안보부는 이미 국경 보안을 위해 프레데터 드론 6 대를 비행하고 있습니다. 마찬가지로, 많은 지역 경찰서가 범죄 지역에 주차하기 위해 자체 드론을 구입하려고합니다. 드론이 우리 동네를 지켜 볼 때까지 말이 돼요. 하지만 나는 어떻습니까? 팔을 쥐는 로봇을 갖는 것이 수정 헌법 제 2 조에 포함됩니까?
이 모든 것은 공상 과학 대회에서만 제기되는 질문과 비슷하게 들립니다. 그러나 그것이 나의 요점입니다. 지금 우리가 로봇에 대해 이야기 할 때, 한 국방부 분석가가 이러한 기술에 대해 설명했듯이 더 이상 “단순한 공상 과학”에 대한 이야기가 아닙니다. 로봇은 현실 세계의 거의 일부입니다.