- 일본정부가 3월 중에 마련할 인공지능(AI) 지침안의 개요 내용이 판명. 자율적으로 움직이는 ‘AI 에이전트’와 로봇을 제어하는 ‘피지컬 AI’에 대응. 오작동이나 개인정보 침해 위험을 염두에 두고 ‘인간의 판단을 필수로 하는 체계’ 구축을 개발 기업 등에 요구. 위험을 억제하면서 활용을 촉진해 국제 경쟁력을 향상시키겠다는 생각.
- 총무성과 경제산업성이 ‘24년에 제정한 ‘AI 사업자 가이드라인’을 개정하며, 3월 말 공개 예정. 보급기에 접어든 AI 에이전트와 세계적 대기업들이 연구개발에 주력하는 피지컬 AI의 정의, 편익, 위험, 대책 등을 새롭게 포함.
- AI 에이전트는 “목표 달성을 위해 환경을 인지하고 자율적으로 행동하는 시스템”으로 정의. 피지컬AI는 “목적 달성의 최적 방안을 자율적으로 추론·판단해 물리적 행동으로 연결하는 시스템”으로 기술. 편익으로는 업무 효율화, 노동력 부족 보완, 안전성 향상, 간병·생활 지원 등을 제시함.
- 위험 요소로는 자율 행동에 따른 오작동, 사이버 공격 악용 가능성, 개인정보 침해 가능성 등을 추가. 대책으로 인간의 판단을 필수로 하는 체계 구축을 명시. 보안 유지를 위해 권한을 최소화하는 설정, 하드웨어에 남는 데이터의 처리 방식에 대한 배려 등도 요구.
- “교육 분야에서 학생의 사고력 발전 저해”, “생성형 AI 활용 시 개인정보 위험”, “자격 등의 침해” 등 일반적인 위험도 추가.
- 총무성의 ‘25년 조사에 따르면, 사업자 대상 지침의 인지도는 81%에 달하나 활용은 46%에 그침. 지자체나 소규모 사업자에게도 확산시키기 위해 질문에 자동 응답하는 챗봇 등 전용 도구 개발을 검토.
- AI의 진화가 빠른 상황에서 각국·지역은 대응에 분주. 일본은 AI 新법이라 부르는 관련 기술의 연구개발·활용 촉진법을 ’25년 6월 시행해, 악질적 사안은 정부가 조사할 수 있도록 규정. 별도로 유연하게 변경 가능한 지침으로 안전성 등 기본적 사고방식을 제시하고, 이에 부합하는 규칙 마련을 기업에 요구하고 있음.
- EU는 안전을 우선시하며 서비스 제공자 등에 위험에 따른 의무를 부과하는 AI 규제법을 단계적으로 시행 중. 트럼프 美행정부는 AI 액션 플랜을 발표해, 기술 혁신을 우선시하면서 규제 완화를 추진하고 있음.