Page 212 - 고등학교 인공지능 기초

1 인공지능의 불완전성

인공지능은 많은 문제를 해결해 주는 긍정적 측면이 있지만, 항상 완벽하게

동작하는 것은 아니다. 기존의 전통적인 프로그램에서도 장애가 발생하듯이,
인공지능도 장애가 발생할 수 있다. 문제는 인공지능은 기존 프로그램과 달리
인간의 판단을 대신하는 기능이 많기 때문에, 장애가 발생하면 그 파급력 역시

매우 크다는 것이다.
2016년 5월, 미국 플로리다에서 자율 주행 자동차가 트럭과 충돌해 운전자

가 사망하는 사고가 발생했다. 앞에서 좌회전을 하고 있던 흰색 트럭이 빛에 반
사되어 센서가 트럭을 제대로 인식하지 못한 것이 사고 원인으로 밝혀졌다.

3 자율 주행 자동차, 4 트럭이 좌회전을 마치고
감속 없이 계속 주행 직진 주행 돌입
자율 주행 자동차, (트럭 존재 인식 실패) 2
US-27A 고속도로 직진 주행
1 맞은편에서 오던 트럭이
(운전자 탑승 상태에서 중앙 분리대 건너편에서
자율 주행 모드) 좌회전 시도
5
자율 주행 자동차,
트럭 뒷부분 측면에 충돌
(브레이크 미작동) 8
자율 주행 자동차
운전자 사망

자율 주행 자동차는 오른쪽
난간에 두 차례 충돌 및 7
전봇대 충돌 후 정지
트럭은 계속 진행 6

그림Ⅳ-4 l 2016년 5월 발생한 자율 주행 자동차 사고

2018년 3월, 2020년 12월 등에도 시스템 결함으로 인한 자율 주행 자동차 사
고가 발생하였다. 자율 주행 자동차 기술은 계속해서 발전하겠지만 사고 가능

성을 완전히 배제하기는 어려울 것이다.

잠깐 활동

자율 주행 자동차 외에 인공지능 사용 과정에서 의도치 못한 사고가 발생한 경우를 조사해 보자.

210 Ⅳ 인공지능의 사회적 영향