Page 226 - 고등학교 인공지능 기초

인공지능의 공정성 문제는 중요하다. 우리는 인공지능이 합리적이기를 기대
하며, 편견에 빠진 인간과 달리 공정한 결론을 내려줄 것으로 생각한다. 인간은
타인이 어떠한 행동을 했을 때 그 사람의 나이, 출생지, 거주지, 학력, 종교 등의

정보를 통해 편견 개입 유무를 추측할 수 있다. 이와 달리 인공지능의 판단에
대해 공정성을 파악하기는 매우 어렵다.

인공지능이 사용되는 사례를 보고 어떤 윤리적 조건을 충족하는지, 혹은 충
족하지 않는지 직접 판단할 수 있어야 한다. 다음 사례에서 인공지능이 공정하
게 사용되었는지 알아보자.

영국의 일부 자치 정부는 지난 8월 고교 졸업반 학생들에게 인공지능 알고
리즘으로 예측된 학점을 부여했다. 코로나19로 인해 졸업 시험을 치르지 못
했기 때문이다. 그런데 가난한 공립 학교의 우수한 학생들이 유독 낮은 학
점을 받아 교사·학생들의 항의 시위로까지 이어졌다. 인공지능이 개별 학
생들의 학점 예측에 소속 고교의 역대 학업 성적을 주요 데이터로 사용했기
때문에 벌어진 일이다. 영국에서 고교 학점은 대학 입학 허가를 받는 데 최
우선 자료 중 하나다. 출처 : 시사IN, 2020.10.28.

이 사례는 앞서 살펴본 10대 요건 중 여러 요소를 위반했다. 일부 공립 학교
학생들의 권리와 자유를 침해했으므로 인권 보장 요건을 위배했고, 지역 및 공

사립 특성에 따라 차별이 발생했으므로 다양성 존중 요건도 위배했다. 또 데이
터 편향성이 발생해 데이터 관리 요건도 위반한 셈이다.

인공지능이 인류에게 큰 편리함과 긍정적 영향을 주는 것은 명백하다. 하지
만 인공지능을 사용할 때 예기치 못한 사고가 발생하거나 의도적으로 부적절
한 방향으로 개발 및 활용되면 인간에게 끼치는 피해 역시 매우 크다. 따라서

인공지능을 올바르고 공정하게 활용하려는 노력이 반드시 수반되어야 한다.

잠깐 활동

다른 국가에서 제시한 인공지능 윤리를 찾아보고 우리나라의 3대 원칙과 비교해 보자.

224 Ⅳ 인공지능의 사회적 영향