- 일본에서 AI의 안전성 검증을 담당하는 정부 기관은 이달 중에 기업이 AI의 안전성과 투명성을 평가할 수 있는 기준과 사이버 공격 대응 방법을 공표할 방침. 일본정부는 법 제정을 포함한 AI 규제 논의에서 개발 기업에 이러한 공개를 촉구할 뜻을 밝힘.
- 일본 경제산업성 산하 독립행정법인 ‘정보처리추진기구(IPA)’에 설치된 전문기관 ‘AI 세이프티 인스티튜트(AISI)’가 내용을 정리. 지난 2월 설립 이후 외국의 선행 동향을 조사해 왔음. 향후 국내 AI 평가의 토대가 될 전망.
- 평가 기준에는 학습하는 데이터를 보관/공개한다는 투명성 확보, 잘못된 정보를 생성하지 않는 등의 안전성 유지, 이용자의 사생활 보호, 차별을 생성하지 않는 공평성 관련 항목이 포함될 전망.
- 사이버 공격을 가정한 훈련 절차서도 공개. 기업이 개발한 AI를 일부러 공격해 방어 수준이 충분한지 측정. 공격 방식과 규모, 적절한 횟수 등 절차를 정리해 검증을 용이하게 하려는 목적이 있음.
- AISI는 일본의 AI 동향을 해외에 알리는 역할도 담당. 앞으로 국가 연구기관인 산업기술종합연구소, 이화학연구소, 정보통신연구기구(NICT), 국립정보학연구소(NII)와도 협력. 협약을 맺은 뒤 일본국내 AI 연구정보 등을 AISI가 일괄적으로 발신 예정.
- 일본정부는 AI 규제 관련해, 사회적 영향력이 크고 리스크가 큰 AI 개발자에게 시스템 안전성에 대한 보고의무를 부과하는 방안을 검토. 구체적인 항목은 AISI가 관여해 결정할 것으로 알려졌으며, AISI가 조만간 발표할 평가 기준이 활용될 가능성이 있음.
- 일본정부는 리스크가 낮은 AI 개발자에게도 안전성에 대한 정보 공개를 독려할 방침. 고위험 AI 개발자와 마찬가지로 AISI의 기준이 하나의 참고 지표가 될 것으로 보임.
- AI를 둘러싸고 미국이나 영국도 비슷한 기관을 설립. 미국에서는 안전기관이 오픈AI, 마이크로소프트 등 200개 이상의 개발 기업 및 이용 단체와 연계해 민관 공동으로 안전 기준 마련 등을 추진.
- AISI는 이러한 미국, 영국 기관과의 협력도 강화. 일본이 강점을 가진 로봇 분야, 모든 사물이 인터넷으로 연결되는 IoT 관련 AI 기술 지식을 제공해 세계적인 규칙을 만드는 데 기여하겠다는 생각.