- 정부는 21일 열린 AI 전략회의에서 AI와 관련해 사업자가 지켜야 할 사항을 담은 ‘AI 사업자 가이드라인(안)’을 논의함. 안전성 등 10개 항목에 따라 AI 오작동 방지를 위한 점검과 개발 과정 기록 등을 기업에 요구할 방침.
- AI 관련 가이드라인은 그동안 총무성과 경제산업성이 만든 것이 있었지만, 내용이 추상적이어서 기업에서 참고할 만한 내용이 많지 않았음. 이번에 내용을 구체화해 사업자를 위한 지침안으로 발표. 구체적인 점검 리스트의 초안도 공개함.
- 리스트 초안에는 ‘의도하지 않은 리스크를 구체적으로 파악하고 있는지’, ‘경영진에게 신속하게 보고할 수 있는 체계를 구축했는지’ 등의 항목이 포함.
- 가이드라인은 의견 공모를 거쳐 2024년 3월까지 정식으로 결정. 모든 AI 사업자에게 인간의 의사 존중과 허위정보 대처, AI에 의존하지 않고 사람의 판단을 개입시킬 것 등을 요구함.
- 사업자를 AI의 ‘개발자’, ‘제공자’, ‘이용자’ 등 3가지로 분류해 각각 지켜야 할 항목도 제시. 예를 들어 개발자에게는 적절한 데이터를 활용한 AI의 학습과 개발과정 등을 기록해 외부에 설명할 수 있도록 하는 것이 중요하다고 지적함.
- 오픈AI와 같은 최첨단 AI 개발 기업들은 G7이 합의한 국제 가이드라인의 내용을 지켜야 한다고도 기재. 제품 출시 전 외부 전문가에 의한 모의 사이버 공격 등으로 안전성을 확인할 것 등을 요청함.
- 21일 AI 전략회의에서 좌장인 마츠오 유타카 도쿄대 교수는 향후 검토 과제안을 제시. 가이드라인의 실효성 확보를 위한 제도 정비 검토와 안전성 관련 정보 공개 체계의 필요성을 제안함.
- 기시다 총리는 회의에서 “가이드라인의 이행 확보 방안도 국제 동향을 고려해 검토하겠다”고 언급. EU는 개발자부터 이용자까지 각 사업자가 이행해야 할 의무를 법으로 정해 실효성을 담보하는 구상을 가지고 있음.
- 자민당 디지털사회추진본부는 12월 중순 가이드라인 준수를 위해 정부에 법제화 검토 등을 요구하는 긴급제언을 정리함.
- 정부는 의료, 금융 등 업계의 규칙을 조사하기 시작했으며, 준수를 위해 법 정비도 하나의 선택지로 보고 있음. 정부나 전문가들 사이에서는 기술 혁신을 위해 기업의 자율성을 존중해야 한다는 의견도 있음.