- 일본정부는 2024년경에 인공지능(AI) 안전성을 평가하는 전문기관을 설립하는 방안을 검토 중. 민간의 AI 관련 제품이 군사로 전용될 위험성이나 보안상 결함이 없는지를 살피고, 심사를 통해 AI 연구개발과 적절한 활용이 이뤄질 수 있도록 안전성을 높일 생각.
- 이달 중 열리는 AI 전략회의에서 설치 방침을 제시하고, 민간 전문가들과 함께 AI 제품을 검증하는 체계를 마련할 방침임.
- 대상으로는 ChatGPT와 같은 고성능 AI 제품을 염두에 두고 있으며, 민간 비즈니스에 지장이 크지 않도록 대상을 좁힐 예정. 기업이 업무 효율화를 위해 사용하는 일반 AI 등은 대상에서 제외될 전망임.
- AI 제품이 시장에 나오기 전 단계에서 검증. 정부가 조달할 때 검증이 완료된 것을 조건으로 달아 실효성을 부여하는 방안이 있음. 현 단계에서 처벌 등은 없지만, 새로운 법안의 필요성에 대한 문제도 제기.
- AI를 통해 무기나 생화학무기 제조방법이 전달되는 등 안보와 관련된 리스크가 없는지 조사하며, 사이버 공격 대응 등 보안상 결함이 없는지도 확인.
- AI가 통제 불능이 되지 않는지, 잘못된 정보나 편견을 퍼뜨릴 우려가 없는지도 검증할 것으로 보임.
- 전문기관은 신설할 가능성도 있으나, 현재로서는 기존 조직에 두는 방안이 유력. AI 기술 등을 연구하는 총무성 소관 정보통신연구기구(NICT)나 경제산업성 소관 정보처리추진기구(IPA)가 후보로 거론. 14일에는 자민당도 전문기관 설치를 정부에 요구하는 제안서를 정리함.
- G7이 지난 6일 최종 합의한 생성형 AI 관련 국제 가이드라인은 AI 개발 기업 등에 시장 출시 전에 제3자의 위험 평가를 받도록 요구하고 있음.