- 일본정부는 12일, 인공지능(AI)에 대해 기업 등이 지켜야 할 사항을 담은 지침안을 제시. 자율적으로 움직이는 'AI 에이전트'나 로봇을 제어하는 '피지컬 AI'의 위험 억제책으로, 인간의 판단이 개입되는 체계 구축을 서비스 제공 기업에 요구함.
- 총무성과 경제산업성은 'AI 사업자 가이드라인'을 2024년에 마련해 매년 갱신. 12일 열린 전문가 회의에서는 갱신안을 대략적으로 승인했으며, 3월 말에 정식 공개 예정.
- 기술 동향을 반영해 AI 에이전트와 피지컬 AI의 정의와 편익, 위험 등을 추가. 서비스 사례로 AI 에이전트는 여행 예약이나 영업 지원, 물리적 AI는 자율주행 시스템이나 자율 이동 로봇을 제시.
- AI 에이전트는 목표에 따라 스스로 정보를 찾아 출력. 일반적인 AI 시스템보다 피해가 발생하기 쉽다는 견해가 있음. "자율적인 동작 과정에서 인간의 의도와 다른 상품 주문이나 파일 삭제 등의 동작을 할 가능성이 있다"고 지적.
- AI 에이전트 간에 고속으로 상호 대화가 이루어질 경우 인간만의 감시로는 불충분한 상황도 예상. "AI 시스템 간 상호 감시 등 자율성에 대응한 안전 확보 방안 검토를 기대한다"고 명시함.
- 인간의 판단을 개입시키는 체계 구축과 관련해 제품·서비스 제공 사업자에게 "판단이 필요한 사항을 중요도에 따라 정리하고 적절히 대상을 선정하는 것이 중요하다"고 기술.
- 피지컬 AI는 취득한 개인정보가 기기에 남아 프라이버시를 침해할 우려가 존재. "불필요한 정보를 취득·보유하지 않는 구조"의 필요성을 언급함.
- 의도하지 않은 데이터의 외부 전송 피해를 억제하기 위해 AI가 다루는 데이터를 최소한으로 제한하는 것도 AI 개발자에게 요구함.