Page 223 - 고등학교 인공지능 기초

인공지능 관계자의 사회적 책임과 실천 방안

• 인공지능이 공정한 판단을 내리도록 개발 과정에서 유의해야 한다.
인공지능
(편향되지 않은 데이터로 학습시키기, 적절한 알고리즘 선택 등)
개발자
• 정보 유출에 유의하며 보안 수칙을 준수한다.

인공지능 • 인공지능을 절대적으로 신뢰하지 말고, 오류가 발생할 수 있음을 명심한다.
사용자 • 어떠한 상황에서도 인공지능을 제어할 수 있는 방법을 알고 있어야 한다.

• 인공지능을 항상 모니터링하고, 결함이 발견되면 보완하려는 노력을 해야 한다.
인공지능 • 인공지능과 연결된 센서 등 하드웨어를 정기 점검하고, 소프트웨어 업데이트 등을
관리자 소홀히 하지 않는다.
• 인공지능 사용자를 교육하는 것 역시 관리자의 의무이다.

잠깐 활동

다음은 미래에 인공지능 의료가 보편화될 때 발생할 수 있는 가상의 사건이다. 이 사건을 읽고 다음 질문에 답해 보자.

외과 의사 J씨는 의료 소송에 휘말려 힘든 나날을 보내고 있다. 인공지능 로봇과 함께 폐암 환자를 수술하는 과
정에서 사고가 일어난 것이다. 인공지능이 진단한 대로 수술을 진행했는데 결과는 상태 악화로 이어졌다. 사실
이 환자를 두고 J씨는 수술 전부터 인공지능이 내린 진단과 다른 생각이었다. 그러나 인공지능이 병원에 도입된
이후 단 한 번도 실패 경험이 없었기에 기계가 판단한 대로 수술을 결정했다. 현행법상 인공지능에 책임을 물을
방법은 없다. 인간인 J씨가 수술 총책임자이기 때문에 그의 이름으로 소장이 날아왔다. 출처 : AI타임스, 2020.10.01.

1. 이 사건에서 인공지능 개발자, 사용자, 관리자를 구분해 보자.

2. 이 사건에서 어떤 관계자가 어떤 부분을 잘못했는지 생각해 보자.

221
4. 사회적 책임과 공정성