동경 IT 뉴스 상세
내년 법 개정으로 AI 개발의 안전 대책 감시(10.27 니혼게이자이신문)
- 일본 정부는 생성형 AI를 악용한 사이버 공격의 위협을 감안하여 안전 대책을 강화. AI 개발 사업자로부터 필요한 정보를 수집할 때, 정부의 조사에 응하지 않는 사업자에 대한 벌칙을 포함해 검토할 예정. AI 개발 촉진과 감독 기능의 양립을 지향.
- 빠르면 2027년 정기국회에 AI 추진법 개정안을 제출. 중대한 문제가 발생했을 때 정부가 개발 사업자로부터 신속하게 정보를 수집해 원인을 규명할 수 있는 제도 구축이 목표. 오픈AI나 앤트로픽 등 해외 개발 사업자에 대한 제도 적용 방안도 검토할 예정.
- 일본정부는 26일, 관계 부처와 전문가들이 참여하는 ‘AI 전문 조사회’를 열어 규제 강화 논의를 시작. 28일에는 워킹그룹을 구성해 구체적인 방향성을 마련할 예정.
- 후루카와 디지털상은 회의에 앞서 “AI의 예기치 못한 행동이나 사이버 보안상의 위험에 대한 국민의 관심이 높아지고 있다”고 지적. “매우 중요한 과제로서 AI의 안전성과 보안 확보에 힘쓰겠다”고 언급함.
- AI를 악용한 것으로 보이는 부정 접근 사례가 잇달아 드러나고 있는 점을 감안해 대응을 서두르고 있음.
- ‘25년에 제정된 AI 추진법은 AI의 연구 개발 및 활용 촉진이 주된 목적. 국민의 권리·이익이 침해된 경우, 정부는 정보를 수집해 사업자에게 지도나 조언을 할 수는 있으나, 정보 제공 요청에 대한 법적 강제력은 갖추지 못해, 기업의 자발적인 협력에 의존하고 있음.
- 시행 1년여 만에 AI 추진법을 재검토하고, AI의 안전성을 평가하는 정부 기관인 ‘AI 세이프티 인스티튜트(AISI)’의 기능과 체제를 강화할 예정.
- 조사 기능을 강화하는 것은 AI를 악용한 사이버 공격이 발생했을 때, 어떤 모델이 어떻게 사용되었는지 파악할 필요가 있기 때문. 의도하지 않은 동작이나 허위 정보의 확산이라도 개발 과정이나 안전 관리 상황을 확인할 수 없다면 재발 방지로 이어지기 어려움.
- 보고나 조사에 대한 협력을 거부한 사업자에게 벌칙을 부과하는 방안 등을 검토하여 조사 권한의 실효성을 높일 예정. 해외에서는 규제의 강도나 방식이 제각각.
- 유럽연합(EU)의 AI법은 AI를 위험도에 따라 분류. 범용 AI 제공자에게 기술 문서 작성 및 학습 내용 개요 공표를 요구. 사회 전체에 중대한 영향을 미칠 우려가 있는 모델에는 위험 평가나 중대 사고 보고 등을 추가로 의무화.
- 미국과 영국은 EU보다 혁신에 대한 배려를 전면에 내세움. 미국에서는 포괄적인 연방법이 아닌, 대통령령이나 정부 기관의 조치, 주법을 조합하는 형태가 중심.
- 빠르면 2027년 정기국회에 AI 추진법 개정안을 제출. 중대한 문제가 발생했을 때 정부가 개발 사업자로부터 신속하게 정보를 수집해 원인을 규명할 수 있는 제도 구축이 목표. 오픈AI나 앤트로픽 등 해외 개발 사업자에 대한 제도 적용 방안도 검토할 예정.
- 일본정부는 26일, 관계 부처와 전문가들이 참여하는 ‘AI 전문 조사회’를 열어 규제 강화 논의를 시작. 28일에는 워킹그룹을 구성해 구체적인 방향성을 마련할 예정.
- 후루카와 디지털상은 회의에 앞서 “AI의 예기치 못한 행동이나 사이버 보안상의 위험에 대한 국민의 관심이 높아지고 있다”고 지적. “매우 중요한 과제로서 AI의 안전성과 보안 확보에 힘쓰겠다”고 언급함.
- AI를 악용한 것으로 보이는 부정 접근 사례가 잇달아 드러나고 있는 점을 감안해 대응을 서두르고 있음.
- ‘25년에 제정된 AI 추진법은 AI의 연구 개발 및 활용 촉진이 주된 목적. 국민의 권리·이익이 침해된 경우, 정부는 정보를 수집해 사업자에게 지도나 조언을 할 수는 있으나, 정보 제공 요청에 대한 법적 강제력은 갖추지 못해, 기업의 자발적인 협력에 의존하고 있음.
- 시행 1년여 만에 AI 추진법을 재검토하고, AI의 안전성을 평가하는 정부 기관인 ‘AI 세이프티 인스티튜트(AISI)’의 기능과 체제를 강화할 예정.
- 조사 기능을 강화하는 것은 AI를 악용한 사이버 공격이 발생했을 때, 어떤 모델이 어떻게 사용되었는지 파악할 필요가 있기 때문. 의도하지 않은 동작이나 허위 정보의 확산이라도 개발 과정이나 안전 관리 상황을 확인할 수 없다면 재발 방지로 이어지기 어려움.
- 보고나 조사에 대한 협력을 거부한 사업자에게 벌칙을 부과하는 방안 등을 검토하여 조사 권한의 실효성을 높일 예정. 해외에서는 규제의 강도나 방식이 제각각.
- 유럽연합(EU)의 AI법은 AI를 위험도에 따라 분류. 범용 AI 제공자에게 기술 문서 작성 및 학습 내용 개요 공표를 요구. 사회 전체에 중대한 영향을 미칠 우려가 있는 모델에는 위험 평가나 중대 사고 보고 등을 추가로 의무화.
- 미국과 영국은 EU보다 혁신에 대한 배려를 전면에 내세움. 미국에서는 포괄적인 연방법이 아닌, 대통령령이나 정부 기관의 조치, 주법을 조합하는 형태가 중심.
