Page 215 - 고등학교 인공지능 기초

3 사회적 합의의 중요성

윤리적 딜레마 상황에서의 선택은 개인마다, 나라마다 다를 수 있다. 동일한
문제 상황에서 사회 구성원의 의견이 통일되지 않고 타당성에 대한 해석이 다
양하다면 사회적 혼란을 초래할 수 있다.

따라서 인공지능을 도입하기 전에 발생 가능한 예외적 상황에 대한 사회적
합의가 선행되어야 한다. 사회적 합의란 사회 구성원 대다수의 동의를 얻는 것
을 의미한다.

운전자
보행자

사회적
약자
자율 주행
제조 업체

그림Ⅳ-6 l 사회적 합의의 주체
사회적 합의 내용
사고 발생 시 책임을 누가 얼마만
그렇다면 어떤 부분에서 사회적 합의가 필요할까? 대표적으로 소수의 사람
큼 져야 하는지에 대해서도 합의
과 다수의 사람 중 누구를 구하는 것이 합당한지, 나이 든 사람과 젊은 사람 중 해야 한다. 인공지능 알고리즘의
판단 오류, 운전자의 자동차 관리
우선적으로 구해야 하는 사람은 누구인지, 동물의 생명과 사람의 생명이 대치 의무 및 센서/소프트웨어 관리 의
되는 상황에서 인공지능은 어떤 선택을 해야 하는지 등에 대해 충분한 사회적 무, 보행자의 교통 법규 준수 여부
등을 종합적으로 고려한 합의가
합의가 필요하다. 이루어져야 한다.

잠깐 활동

인공지능 도입과 관련하여 어떤 사회적 합의가 필요할 것인지 의견을 제시하고, 모둠별로 토론해 보자.

213
3. 윤리적 딜레마