Page 208 - 고등학교 인공지능 기초

3 데이터 공정성

데이터 공정성이란 편견이 들어가 있지 않고 한쪽으로 치우

치지 않은 데이터의 성질을 말한다. 인공지능이 옳고 그름의
판단, 채용, 기업의 의사 결정뿐만 아니라 챗봇, 일정 관리, 온
라인 쇼핑, 엔터테인먼트 등 인간의 삶과 밀접하게 관계되면

서 데이터 공정성에 관한 관심이 높아지고 있다. 편향된 데이
터로 학습한 인공지능의 사용은 일상에서 차별을 산출하거나

기존의 차별을 강화할 수 있다. 그렇기 때문에 “인공지능은 항
상 올바를 것이다.”라는 명제를 항상 의심하고 데이터의 수집 단
계와 학습 단계에서부터 데이터 공정성에 주의를 기울여야 한다.

투명하고 책임 있는 방법과 적법한 절차를 통해 기업과 사용자 모두에게 이
다양한 공정 데이터 규칙 익을 주면서도 그로 인해 발생하는 여러 사회적 비용은 최소화하려면 “데이터
• 아실로마 인공지능 원칙
는 항상 공정하고 중립적이어야 한다.”는 원칙에 대해 생각하고 데이터 수집 단
•마이크로소프트의 인공지능 원칙
•구글의 인공지능 원칙 계에서부터 주의를 기울여야 한다.
•카카오의 알고리즘 윤리 헌장
데이터 공정성이 확보된다면 인공지능은 사회의 이익과 편의성을 제공하는

역할을 담당할 것이다.

잠깐 활동

다음을 읽고 데이터 공정성을 확보하기 어려운 이유를 생각해 보자. 이 경우 공정하게 데이터를 사용하는 방안에 대해 각자
의견을 적어 모둠별로 토론해 보자.

미국 의료 시스템에 적용됐던 인공지능은 미래의 질병 가능성을 과거 병력과 진단을 고려하여 예측하고 건강 위험 정도를
고려하여 진료에 우선순위를 주는 서비스였다. 하지만 고액의 치료비를 지불해야 하는 진료의 경우 진료비를 지불할 수 있
는 환자를 우선하도록 알고리즘이 작성되어 백인만 진료를 받을 수 있게 하여 인종 차별이 확인되었다.

3줄 요약

1. 개인의 성향이 데이터 선택에 반영되어 현실 세계와 선택한 데이터가 일치하지 않을 때 데이터 편향성이 발생한다.
2. 현실 세계 자체에 편향적 성향이 있다면 데이터를 선택하는 과정이 객관적이어도 데이터 편향성이 발생한다.
3. 데이터 공정성이란 편견이 들어가 있지 않고 한쪽으로 치우치지 않은 데이터의 성질을 말한다.

206 Ⅳ 인공지능의 사회적 영향