- 방위성은 6일, AI를 활용한 방위장비품의 안전성을 확보하기 위한 가이드라인을 마련. 방위성·자위대가 AI를 탑재한 장비품을 연구개발할 때 규칙을 정하고, 방위성 내부에서 사전 심사를 실시.
- 나카타니 방위상은 6일 기자회견에서 ‘장비품 등의 연구개발에 있어서의 책임 있는 AI 적용 가이드라인’을 공표. 장비품에 AI를 탑재할 때 인간의 판단이 개입하는 것의 중요성과 책임에 관한 규칙을 규정.
- AI를 탑재한 새로운 장비의 연구개발에 착수하기 전부터 안전성에 문제가 없는지 국방부 내부에서 심사.
- AI가 장비의 공격 능력에 어느 정도 영향을 미치는지 조사해 고위험과 저위험으로 분류. 고위험으로 판단되면 외부 전문가의 의견도 참고해 기술적 검토를 실시. 인간에 의한 제어가 작동하는지, 오작동을 방지할 수 있는 장치가 충분한지 등을 확인.
- 자율살상무기시스템(LAWS)과 같이 인간이 관여하지 않는 완전 자율적이고 치사율이 높은 장비는 연구개발을 허용하지 않을 방침. 전 세계적으로 규제론이 높아지는 가운데, 일본도 보조를 맞추고 있음.
- 나카타니 방위상은 “AI 활용에 따른 리스크를 줄이면서 그 혜택을 극대화할 수 있는 내용으로 되어 있다”고 설명.
- 가이드라인의 목적에 대해 “AI의 리스크를 적절히 관리하고 위험 감소를 도모한다”고 명시. 연구개발을 담당하는 기업이 준수해야 할 요건도 명확히 해 장비 등에 AI 활용을 촉진.
- 방위성 내 심사 체계가 정비되는 대로 가이드라인 운용을 시작. 개발에 사용한 AI 알고리즘 공개 등 기업 측의 협조가 전제가 됨.
- 안보 분야에 AI 활용은 전 세계적으로 확산. 러시아의 우크라이나 침공이나 중동 분쟁에서는 AI를 활용한 드론이 많이 활용. 전황 분석과 지휘통제 판단에 AI를 활용하는 사례도 늘고 있음.
- 외무성은 2024년 6월, AI 무기를 둘러싼 ‘기본 입장’을 발표하며 운용 측면에서 ‘인간의 개입이 필요하다’는 견해를 밝힘.
- 방위성과 자위대도 같은 해 7월 AI 활용 기본 방침을 정리. 목표물 탐지, 정보수집·분석, 무인항공기 등 7개 분야에서의 활용에 중점을 둠. 이미 수중 무인기와 무인차량, 차기 전투기와 연계하는 무인기에 AI를 탑재하는 연구는 진행 중.
- 반면, 무제한적인 AI 활용은 안보에 위협이 될 수 있음. 팔레스타인 가자지구에서 전투를 벌이고 있는 이스라엘군은 공습 목표물 선정에 AI를 사용해 민간인 희생이 보고된 바.
- 23년 12월 유엔 총회는 LAWS에 대한 '대응이 시급하다'는 결의안을 채택. 러시아, 인도 등이 반대하고 중국, 북한, 이스라엘 등이 기권함.
- 미국, 호주, 영국 등은 군사 분야에 AI를 사용하는 경우의 윤리 원칙을 규정. 방위성 가이드라인은 각국의 정책도 참고해 작성함.