- 일본정부의 인공지능(AI) 정책의 지침이 되는 ‘AI기본계획안’의 내용이 18일 판명. AI추진법 등의 법제를 ‘기민하고 지속적으로 재검토한다’고 명기. 고성능 AI를 이용한 사이버 공격 등에 대응하는 체제를 정비하겠다는 목적. 계획안 관련, 일본 정부는 의견공모를 거쳐 조만간 각의결정하겠다는 방침
- AI를 둘러싼 급격한 변화를 고려해 계획안에서는 규칙과 체제를 유연하게 정비해 나가는 중요성을 강조. 고성능 AI의 등장으로 AI를 둘러싼 리스크가 복잡화·심각화되고 있는 현 상황을 반영.
- 일본정부는 기본계획을 토대로 고성능 AI 대응체제를 근본적으로 강화. ① 위험성이 높은 고성능 AI를 개발·이용하는 사업자에 대한 사전 신고 ② 사업자가 개발한 AI의 취약성·안전성 평가 ③ 위험한 AI를 개발·제공하는 사업자에 대한 대응 등이 검토 과제.
- 계획안은 AI의 안전성을 평가하는 정부기관 ‘AI Safety Institute(AISI)’의 강화책도 제시. 전문성이 높은 인재를 확보해 인원을 증원.
- AI 개발 경쟁은 향후 더욱 격화될 전망. 새로운 AI 모델이 시장에 출시되기 전에 취약성 및 안전성을 신속하고 정확하게 평가하는 중요성이 높아지고 있음.
- 계획안에서는 동지국과 연계한 AI 기술 규범 마련 방침도 제시. ‘AI 국제표준화 활동에 참가해 국제 규격 제정을 추진한다’고 명기. 현재는 국가별로 AI 개발·이용에 관한 제도와 운용 방식이 상이한 상황.
- 일본 정부는 악용 위험성이 높은 AI 모델이라고 판단될 경우의 대처 방안도 검토. 현행 AI추진법에서는 정부가 AI 활용 실태와 리스크를 조사할 수 있음. 필요에 따라 사업자에 대한 지도·조언은 가능하나 벌칙 규정은 없음.
- 일본정부는 신규 법제 마련도 시야에 두고 개발사업자에 대한 벌칙 부과 여부도 논의. 앤트로픽의 Claude Opus 4 및 Claude Sonnet 4는 사람이 발견하기 어려운 시스템 취약성을 찾아낼 수 있는 수준에 도달.
- 앤트로픽은 제품 제공 대상을 제한하는 등 자사 AI 모델의 악용 리스크를 고려한 기업활동을 지속. 동일 수준의 AI 모델을 무제한으로 제공하는 사업자가 등장할 경우 국경을 초월한 사이버 범죄 등에 악용될 우려가 존재.
- AI를 이용한 사이버 공격 및 생물·화학무기 개발 등에 활용될 가능성에 대한 우려가 높아지고 있어, 경찰청을 중심으로 한 대응능력 강화도 추진.
- 계획안에는 ‘딥페이크’ 대응도 포함. 경제산업성을 중심으로 AI 생성 여부를 판별하는 기술 개발을 지원.