- 일본정부는 고성능 인공지능(AI)의 보급을 감안하여 부처 간 협력을 통해 포괄적인 대책을 마련할 예정. 지식재산권 보호에 관한 정보 공개 규정 제정, 사이버 방어 강화를 위한 법 정비, 해외 국가들과의 협력 등을 검토. AI의 활용을 촉진하는 동시에 악용에 대한 대비를 강화하겠다는 생각.
- 대책에 대해서는 ①생성형 AI 사업자의 투명성 확보 ②중요 인프라 방어 ③관련 법제도 점검 ④국제 규칙 형성의 4대 축을 세워 검토를 진행. 각 부처가 소관 분야별로 대책을 담당하고, 내각부나 디지털청 등이 전체를 조정.
- 생성형 AI가 저작권을 침해하는 사례가 증가함에 따라, 투명성 확보를 목적으로 ‘Principle Code’ 제정을 지향하며, 내용의 공표도 검토. 생성형 AI의 개발·제공 사업자에게 사용 모델이나 학습 데이터의 개요, 권리자로부터 문의를 받았을 때의 대응 방안 등을 공개하도록 촉구.
- 전력, 금융, 정보통신 등의 중요 인프라 사업자에게는 자사 시스템에 취약점이 없는지 확인하고, 필요에 따라 수정하도록 요구. 사이버 공격을 받았을 경우에 대비해, 복구 절차 점검 및 훈련도 촉구. 현장의 방어력을 높이는 것이 목적.
- 현행 제도의 점검도 진행. 7월에 각의결정된 새로운 ‘AI 기본계획’을 토대로, AI추진법 등 관련 제도를 지속적으로 재검토할 방침. 악용이 확인된 경우 어느 부처가 정보를 수집하고, 사업자에게 어느 정도까지 대응을 요구할지가 쟁점.
- 정부가 부처 간 협력을 통해 이에 나서는 배경에는 고성능 AI를 둘러싼 위험의 고조. 미국 신생 기업 앤트로픽이 개발한 ‘클로드 미토스’는 시스템의 취약점을 찾아내는 능력이 뛰어나다고 평가. 공격에 악용될 경우 그 영향은 헤아릴 수 없을 정도.
- 단서가 되는 것은 5월에 마련된 정책 패키지 ‘Project YATA-Shield’로, 고성능 AI를 악용한 사이버 공격을 염두에 두고, 정부 기관, 중요 인프라 사업자, 소프트웨어 사업자에게 취약점 점검 및 수정 프로그램 작성 등을 촉구하는 내용.
- 고성능 AI로 인해 취약점 발견 속도가 빨라지면, 공격 측의 준비 기간도 짧아짐. 피해가 확산되기 전에 약점을 찾아 수정으로 이어짐. 디지털청과 국가사이버통괄실(NCO), 경제산업성, 금융청 등을 중심으로 대응 방안을 협의.
- 세계적으로는 AI 활용을 경쟁하는 움직임과 안전성 및 투명성을 확보하기 위한 규칙 제정이 동시에 진행되고 있음.
- 유럽연합(EU)은 AI법으로 생성형 AI와 딥페이크에 대한 표시 의무를 도입했으며, 미국도 대통령령으로 안전성 평가와 중요 인프라 보호를 정부 전반에 걸쳐 추진해 왔음. 영국은 AI 안전성 평가 전문 기관을 설립해 첨단 모델의 위험 분석을 강화.
- 일본은 동남아시아국가연합(ASEAN) 및 기타 신흥·개발도상국인 ‘글로벌 사우스’에 협력을 호소.
- 실행 체제의 강화도 필수적. 지휘 본부 역할을 하는 내각부의 AI 정책추진실에서는 인력 부족이 과제로 대두. 자민당 디지털사회추진본부의 AI·웹3 소위원회는 AI 추진 부서의 인원을 현행 30명 미만에서 80명 이상으로 늘릴 것을 요구.
- AI의 안전성을 평가하는 전문 기관인 ‘AI 세이프티 인스티튜트(AISI)’도 기능 강화 대상. 평가 결과는 각 부처의 운영 개선에 활용. 내각부에 따르면 영국과 미국의 AISI는 200명 이상의 인력을 보유하고 있는 반면, 30명 정도에 그치는 일본은 뒤처져 있음.