- 일본정부는 AI로 인한 인권침해 리스크 실태조사에 나설 방침. 6월 시행된 AI 관련 기술의 연구개발·활용 촉진법(AI 신법)의 조사권을 토대로, 인재 채용 시 의도치 않은 성차별, 성적 이미지 무단 생성 등의 피해를 우선 조사. 이달 중으로 착수해 리스크를 줄일 수 있는 환경을 조성.
- 내각부가 관계기관과 조정을 시작. 각 부처 및 경제단체와 연계해, 관련 서비스 제공·이용 실태를 조사. AI 신법에 근거한 첫 조사가 될 전망.
- 선행 조사에서 채용 시 서류 전형이나 면접, 인사 평가 등에 활용하는 기업에 도입 상황을 물어보고, 남녀 차별 등이 발생하지 않는지 확인. 성적인 가짜 이미지·가짜 동영상인 ‘딥페이크 포르노’를 생성하는 앱이나 시스템 등의 실태도 파악.
- 해외 거대 IT기업에 대한 조사도 상정. G7의 히로시마 AI 프로세스의 자율보고 시스템을 활용하는 한편, 개별 면담도 할 생각.
- 인사 분야의 AI 활용은 속인적 평가를 피하고 업무를 효율화할 수 있는 반면, 편견과 차별이 섞일 우려가 존재.
- 미국 아마존닷컴이 자체 개발한 인재 채용 AI가 여성보다 남성을 우대해 사용을 중단한 것으로 2018년 밝혀진 바 있음. 남성 지원자가 많았던 과거 데이터를 바탕으로, 여성이라는 이유만으로 감점을 부여한 것으로 알려짐.
- AI 신법은 부적절한 AI 개발 및 활용으로 인한 권리 침해 등을 정부가 조사할 수 있는 권한을 부여. 문제가 확인되면 사업자에게 지도, 자문을 통해 시정을 촉구. AI를 통한 기술 혁신을 촉진하는 동시에 리스크를 감소시키겠다는 생각.
- 조사는 (1)개발 사업자의 안전 대책 (2)중요 인프라 도입 실태 (3)악성 사례 (4)우수 사례 (5)최신기술·정책동향 등을 검토 방침