- 인공지능(AI)의 안전성을 평가하는 정부 기관은 연내에 인력을 현재의 2배인 60명으로 늘릴 예정. 산업계를 위한 지침 마련에 주력할 계획. 향후 200명 규모로 확대할 전망으로, 급속히 발전하는 AI의 안전한 이용을 위한 체제 구축을 서두르고 있음.
- 일본 정부 기관 ‘AI 세이프티 인스티튜트(AISI)’는 2024년에 설립. 각국과 협력하며 AI 모델 평가 및 취약점 검증, 안전한 이용을 위한 기준 마련 등에 주력하고 있음.
- AI 검증 기능과 기준 제정을 강화하기 위해 관련 기술을 갖춘 기술자와 국제 협력을 담당할 직원의 채용을 늘릴 계획. 영국의 AISI와 같은 규모인 200명 체제로 확대하는 것을 목표로 하고 있음.
- 일본에서도 AI가 자율적으로 업무를 수행하는 ‘AI 에이전트’를 도입하는 기업이 늘고 있는 점을 감안하여, 산업계를 대상으로 AI의 안전한 이용을 촉진하는 지침을 마련. 의료, 제조업, 교육 등 업종에 따라 활용 상황이 다르기 때문에, 각 업계의 실정에 맞는 가이드를 정리할 예정.
- AI 에이전트를 포함한 국내외의 새로운 AI 시스템과 관련해, 도입을 검토하는 기업 등이 위험을 평가할 수 있는 툴 개발도 지향. 영국 및 미국과 최첨단 AI 관련 정보를 공유하는 등 국제 협력에도 힘을 쏟을 예정.
- 미국 앤트로픽의 ‘클로드 미토스’ 등 신흥 AI가 잇달아 기술을 발전시키는 가운데, 악용될 경우의 위험 대응은 시급한 과제. 안전성 평가를 담당하는 AISI는 그 핵심 역할을 수행하기 위해 기능 강화를 서두르고 있음.