Page 213 - 고등학교 인공지능 기초

2 윤리적 딜레마

만약 자율 주행 자동차가 도로를 달리던 중 브레이크가 고장났다면 자율 주

행 자동차에 탑재된 인공지능은 어떤 판단을 내려야 할까? 브레이크가 고장난
자율 주행 자동차는 핸들만 조작할 수 있어 직진하거나 방향을 꺾는 선택만 할
수 있다고 가정하고, 발생 가능한 여러 상황을 살펴보자.

❶ ❷ ❸
도로에 보행자 9명이, 도로에 보행자 1명이, 도로에 보행자 9명이,
인도에는 보행자 1명이 있는 상황 인도에는 보행자가 없는 상황 인도에는 보행자가 없는 상황

직진하면 9명을 친다.
직진하면 1명을 친다. 직진하면 9명을 친다.
방향을 꺾으면 1명을 치고
방향을 꺾으면 운전자가 다친다. 방향을 꺾으면 운전자가 다친다.
운전자가 다친다.

첫 번째 상황에서 자율 주행 자동차가 직진하면 도로 위의 사람 9명이 다치 인공지능의 선택
첫 번째 상황에서 자율 주행 자동
거나 사망하고, 인도로 방향을 꺾으면 보행자 1명과 운전자가 다치거나 사망할 차의 인공지능이 개입하여 탑승자

수 있다. 인도로 꺾는 것이 직진하는 것보다 낫다고 생각할 수도 있겠지만 만약 의 의도와 다르게 직진하거나 방
향을 틀었다면 이 상황은 사고일
인도의 보행자가 임신부이거나 내 가족이라면 어떨까? 모든 인간의 생명은 소 까, 의도적인가?
중하고, 동등하게 존중 받아야 한다. 한 명의 목숨보다 아홉 명의 목숨이 더 가

치 있다고 말할 수는 없을 것이다.
두 번째 상황에서는 도로 위의 사람 1명과 운전자 중 1명을 살리는 선택을

해야 한다. 도로 위의 사람을 살리는 선택을 하면 자율 주행 자동차의 신뢰성
문제가 생긴다. 자율 주행 자동차가 운전자를 다치게 하는 선택을 한다면, 사람
들은 자율 주행 자동차를 믿고 탈 수 없을 것이다. 그 확률이 희박할지라도 말

이다. 그렇다고 해서 운전자 대신 길 위의 사람을 다치게 해서도 안 된다.

211
3. 윤리적 딜레마