- 일본정부가 연내 발표할 예정인 AI의 사업자용 지침의 골격안 내용이 밝혀짐. 개발부터 활용까지의 5단계에서 기업이 지켜야 할 규칙을 제시. 생성형 AI의 학습 데이터 공개 등을 요구함. 산업경쟁력 향상으로 이어지는 AI의 적절한 활용을 위해 규칙을 마련해 투명성을 높이겠다는 생각.
- 일본은 AI로 인한 차별 방지 등 기본규칙을 지침으로 규정해 기업에 준수를 요구. AI의 개발과 이용을 촉진해, 생산성 향상과 경쟁력 강화를 목표로 하고 있음.
- 경제산업성과 총무성이 주도로 작성하며, 폭넓은 분야에서 참고할 수 있는 지침을 예정하고 있음. 생성형 AI는 기술 발전이 빠르기 때문에 정부나 전문가들은 법으로 엄격한 규제를 만드는 것에 소극적인 상황.
- 지침에 법적 구속력은 없으며, 벌칙 등도 마련하지 않으나, 사업자가 개발과 활용 시 지켜야 할 기준이 됨. 지침 준수 여부를 인증하는 체계를 만들거나 정부가 공공입찰의 조건으로 삼는 것도 향후 예상되고 있음.
- 골격안은 크게 두 가지로 구성. 첫 번째는 사업자가 공통적으로 지켜야 할 규칙. 생성형 AI가 만들어내는 잘못된 정보와 차별의 위험을 알고, 법제도를 준수해 인권을 배려한 서비스를 만드는 것을 원칙으로 함. 경영층이 참여해 기업 내 리스크 관리 체계를 마련하는 것도 제언.
- 또 하나는 사업자 유형에 따른 유의사항으로, 기업을 (1)생성형 AI ‘기반모델’ 개발자 (2)AI에 데이터를 학습시키는 사업자 (3)시스템 개발자 (4)서비스 제공자 (5)AI 서비스를 사용하는 기업 등 5가지로 분류.
- 개발 및 학습을 담당하는 사업자에게는 투명성을 확보하도록 하고, AI의 기능, 목적, 위험성, 어떤 학습 데이터를 입력했는지 등 데이터 수집 방법을 설명할 수 있도록 촉구함.
- 기업들은 학습 데이터 파악과 공개를 위해 기록을 남기고 관리 체계를 구축해야 할 가능성이 있음. 한편, 지침에 따라 대응하면 신용도를 높여 사업 기회를 넓힐 수 있을 것으로 보임.
- 일본정부는 외부감사를 통해 투명성이 유지되고 있는지 확인하는 체계도 검토.
- 생성형 AI의 기반이 되는 기반모델은 인터넷에 공개된 데이터를 학습하는 것으로 알려져 있음. 학습하는 데이터에 편향성이 있으면 AI가 만들어내는 콘텐츠에도 반영되어 인종차별 등 사회에 심각한 악영향을 미칠 수 있음.
- 고객에 대한 설명책임을 다하기 위해 미국과 EU는 생성형 AI가 만든 콘텐츠에 ‘AI 제작’을 명시하는 규칙을 검토. 일본의 골격안에도 제품·서비스와 콘텐츠에 ‘AI를 사용했음’을 명시하도록 하는 방안을 논의한다는 내용이 포함됨.