연구의 필요성

인공지능은 과거 PC, 인터넷, 스마트폰 등 디지털 기술에 이어 2020년대 핵심기술로 부상 중임. 인공지능 기술수준이 고도화되고 다양한 산업분야에 본격적으로 활용됨에 따라 기술적 결함부터 사회적, 윤리적, 법적 문제까지 발생
- 국내외 정부, 산업계 차원에서 인공지능 윤리기준의 수립 움직임과 인공지능 윤리교육의 필요성이 지속적으로 논의되고 있음

인공지능 기술의 발전 속도와 방향을 고려한 법·제도적 체계뿐만 아니라 예방적인 차원에서 인공지능 윤리에 대한 인식을 제고하기 위하여, 인공지능 개발자 대상 윤리교육 기획이 필요함

인공지능 연구개발의 특성을 고려하여 인공지능 개발자에 특화된 윤리기준을 정립하고, 이를 기반으로 교육과정 개발 및 활용방안을 제안하고자 함

인공지능 윤리 관련 최근 이슈

인공지능은 속도, 규모, 자동화로 대용량 데이터를 활용하는데 능숙하여 합리적인 시간 내 빅데이터를 처리할 수 있음. 또한 인공지능은 감독 없이 지정된 작업을 수행할 수 있어 분석 효율성이 크게 향상됨

지금까지는 데이터 처리 시 높은 수준의 통제를 가능하게 했지만, 인공지능 사용이 증가할수록 예측 불가능성이 커지게 됨. 프라이버시, 안전과 보안, 투명성, 설명가능성, 공정성과 차별금지 등에 대한 국내외 이슈에 대한 지속 발생하고 있음
- 예를 들어, 자율주행 차량 오작동으로 인한 사고 등 손해 및 피해는 발생하지만 누구도 책임지지 않는 사태가 발생할 가능성이 존재하며, 이에 대해 책임 보험제도의 역할을 강조하는 등 인공지능 행위결과에 대한 책임귀속 문제 해결방식이 적극적으로 논의 중임

인공지능은 도덕적 위험과 오류를 재현하거나 더 확대할 수도 있으며, 데이터를 통해 차별, 부정적 평가, 암묵적 편견도 학습할 수 있음
- 인공지능에 의해 자동화된 판단과정에서 편향, 오류, 개인정보 침해가 발견된다면 일반인으로서는 기술적 이해력의 부족으로 그것이 의도된 결과인지 설계상의 통제 불가능한 변수 때문인지 알기 어려움

국내외 인공지능 윤리교육 현황

최근 인공지능 윤리교육은 다양한 유형의 교과로 여러 나라에서 제공되고 있음. 미국 MIT, 하버드, 스탠포드대학, 중국과학원대학교 뿐만 아니라 국내 일부 대학에서 인공지능 윤리를 교육과정으로 운영하며, 교영과정 유형을 크게 ①개념 중심, ②개념과 공학적 방법*을 결합, ③공학적 방법 중심으로 나눌 수 있음
* 문제기반학습(PBL : Project-based learning)을 토대로 데이터 편향과 알고리즘 편향의 구성을 연습하고, 기계학습 플랫폼으로 구현하는 경우를 뜻함

Rapid prototyping 적용 교육과정 개발

학습자 요구분석 인공지능 개발자 대상으로 교육요구조사를 한 결과. 현재 인공지능 개발윤리에 대한 이해나 합의가 부족한 상태로 인공지능 개발윤리에 대한 교육 경험은 거의 없었으며, 일부 데이터관리 업무에 대한 내용의 교육에 참여해 본 정도였음
- 경력 5년 이상 책임급, 관리자 급의 경우, 인공지능 개발윤리에 대한 최신 이슈에 대한 기초 지식이 있으며, 교육을 통해 현업에서 활용할 수 있는 가이드라인 작성에 대한 요구가 높았음

프로토타입 설계 및 검증 앞서 도출한 인공지능 개발윤리 관련 역량과 학습자 교육요구조사 내용을 기반으로 교육 핵심내용을 구성하고, 인공지능 개발자 경력별 교육 니즈, 교육 참여방식 등을 고려하여 ‘인공지능 개발윤리 필요성-인공지능 개발윤리 관점 데이터관리-인공지능 개발윤리 적용방안’순서의 공통모듈로 구성
- 교육 대상자의 경력단계에 따라 심화 학습내용과 실습을 제공하는 유형, 학습자의 교육참여 가능 정도에 따라 집합과 온라인 등으로 프로토타입 종류를 다양화 함
- 가장 선호하는 교육유형은 ②집합교육(1일)과 ③실습을 포함한 워크숍(1.5일)임

연구결과 요약

교육과정 학습요소 도출을 위해 인공지능 관련 최근 이슈와 국내외 인공지능 가이드라인 현황 등을 기반으로 인공지능 개발윤리 관련 12개 역량* 초안을 도출함
* 개인정보 보호, 인간존엄성 보호, 공정성, 다양성 존중, 공공성, 데이터관리, 책임성, 안전성․보안, 투명성, 통제성, 법적 규제, 신뢰성

인공지능 개발자 대상 교육요구조사 결과, 현재 인공지능 개발윤리에 대한 이해나 합의가 부족한 상태로 인공지능 개발윤리에 대한 교육 경험은 거의 없었으며, 일부 데이터관리 업무에 대한 교육에 참여해 본 정도였음

앞서 도출한 역량, 인공지능 개발자 경력별 교육 니즈, 교육 참여방식 등을 고려하여 ‘인공지능 개발윤리 필요성-인공지능 개발윤리 관점 데이터관리-인공지능 개발윤리 적용방안’순서의 공통모듈의 교육과정 프로토타입을 설계함

결론 및 제언

본 연구에서는 인공지능 관련 최근 이슈와 빅데이터 분석을 통해 인공지능 개발윤리의 국민 인식을 살펴보고, 인공지능 개발윤리 교육과정 기획의 필요성에 대한 과학적 근거를 확보했다는 점에서 의미가 있음

국내외 최신 인공지능 윤리 관련 가이드라인과 윤리교육 현황을 조사하고, 전문가 자문과 현직 인공지능 개발자가 참여한 워크숍 등을 통해 실제 연구현장에서 통용될 수 있는 인공지능 개발윤리 역량체계를 구축함

본 연구과정에서 도출된 인공지능 개발윤리 역량체계를 기반으로 교육사업 기획 외 정책, 조사연구, 컨설팅 등을 수행하기 위해서는 현재 역량체계 고도화 작업이 필요함. 또한, 교육과정 프로토타입을 다수의 학습자 대상으로 실시하여 교육내용의 적절성과 효과성을 점검해야 함