Page 219 - 고등학교 인공지능 기초

생각
확장하기 아시모프의 로봇 3원칙

미국의 공상 과학 소설 작가 아이작 아시모프는 1942년 발표한 단편 소설 <런 어라운드>에서 로
봇이 지켜야 하는 3원칙을 처음으로 언급하였다. 그 당시 로봇과 인공지능에 대한 추상적 개념과

상상만 있었던 것을 고려한다면 미래를 상당히 잘 내다봤다고 할 수 있다.

로봇 3원칙

제1원칙 제2원칙 제3원칙

로봇은 인간에게 해를 끼쳐서는 제1원칙에 위배되지 않는 한, 로 제1원칙과 제2원칙에 위배되지
안 되며 위험에 처한 인간을 방 봇은 인간에 의해 주어진 명령 않는 한, 로봇은 로봇 자신을 지
관해서도 안 된다. 에 반드시 복종해야 한다. 켜야 한다.

그러나 이 개념은 복잡한 현실 상황에서 상충되는 경우가 있다. 예를 들어 전쟁 상황에서 로봇이
상대방을 공격하라는 명령을 받아 적군을 공격하고 있다. 이 경우 아군은 지키지만, 적군은 공격하

는 것이 되어 제1원칙을 위배하는 셈이 된다. 이처럼 상충되는 상황이 제시되자 아시모프는 1985
년 로봇 3원칙에 우선하는 0원칙을 추가한다.

제 0원칙 로봇은 인류에게 해를 가하거나, 또는 해를 입는 상황을 무시하면 안 된다.

제0원칙은 개인이 아닌 인류라는 거시
적 차원에서 정립된 것이 특징이다. 로봇

은 어떤 경우에도 인류를 해치면 안 된다
는 것이다. 앞서 제시했던 로봇 3원칙은

이 제0원칙을 위배해서는 안 되고, 제 0원
칙에 위배되지 않는 범위에서 3원칙을 지
켜야 한다.

217
3. 윤리적 딜레마