- 총무성은 사이버 보안을 위협하는 정보의 수집·분석에 AI 활용을 시작. 찾기 어려운 다크웹 등을 포함한 다양한 정보를 집약한 데이터베이스를 2026년까지 구축. 전문 인력의 경험을 AI에 구현해, 일본에 대한 위협 정도를 신속하게 판단할 수 있도록 하겠다는 생각.
- 국립연구개발법인 정보통신연구기구가 프로젝트의 중심이 되며, 1일 출범한 정부의 국가사이버총괄실 등과의 연계도 검토.
- 인터넷상의 공개 정보를 분석하는 오픈소스 인텔리전스(OSINT)의 첨단 기법에 기반한 AI의 실현이 목표. 다크웹으로 불리는 익명성이 높은 사이트나 해커 집단이 사용하는 은어 등도 학습.
- 신설할 데이터베이스는 정부 내에서의 공격 대비나 원인 규명의 조사 보고 등에 활용. 민간 기업에 대한 정보 제공은 현재로서는 예상하지 않고 있음.
- 기구는 지금까지 외부 기관의 보고서 등을 통해 일본의 리스크가 될 수 있는 정보를 수집. 수작업으로는 시간이나 효율성에 한계가 있었는데, AI는 번역 기능으로 다국어에 대응할 수 있다는 장점이 존재.
- 해커의 예고 등과 실제 공격 사례를 대조해 중요도를 학습시켜 새롭게 수집한 정보의 긴급성을 판단할 수 있도록 함.
- 최근에는 사이버 공격의 증가와 교묘화가 두드러지고 있어, ‘24년 사이버 공격 관련 통신량은 10년 전 대비 10배에 달하는 상황. 생성형 AI로 악성코드를 만들 수 있다는 지적도 있음. 인간을 대신해 자율적으로 작동하는 ‘AI 에이전트’를 악용한 사이버 공격도 새로운 위협으로 주목.
- 총무성은 생성형 AI의 사이버 보안에 특화된 가이드라인도 ‘25년도 말까지 마련할 예정. AI의 오작동을 유발하는 명령어 ‘프롬프트 인젝션’ 등에 대한 기술적 대책을 검토해 포함시킬 방침.