- 총무성은 7일 열린 AI 관련 전문가 회의에서 기업이 지켜야 할 사항을 담은 사업자 지침 갱신안을 제시. 기술 혁신과 활용의 최신 상황을 추가한 데 이어, AI에 대한 과도한 의존과 노동의 질적 변화로 인한 실업을 리스크로 추가.
- 지침은 ‘AI 사업자 가이드라인’으로 2024년 4월에 수립. 법적 구속력은 없지만, 가이드라인을 바탕으로 기업이나 업계 단체 등이 AI 개발이나 활용에 있어 규칙을 정하도록 촉구. 업데이트 버전은 경제산업성, 내각부 등과의 조정을 거쳐 이달 중으로 정부 차원에서 공식 결정할 방침.
- 기존에는 AI의 리스크로, 실수를 포함한 답변을 만드는 ‘할루시네이션’, 사기 등에 악용, 개인정보의 부적절한 취급, 허위/왜곡 정보 확산 등을 꼽음.
- 이번에는 새롭게 AI에 대한 ‘과도한 의존’을 추가. 일본국내에서도 채용 면접 등에서 AI 활용이 확대. 이러한 중요한 의사결정 시 AI를 부적절하게 사용하거나 판단을 그대로 사용하면 기업 측이 “설명책임을 요구받거나 비판을 받을 수 있다”고 지적.
- AI가 자동으로 질문에 답하는 챗봇 서비스에 대해서는, 이용자가 ‘AI에 대한 정신적 의존 상태’에 빠지는 사례도 언급. 해외에서는 상담 상대가 된 AI와 대화를 나눈 후, 이용자가 자살해 사회문제가 된 사례도 존재.
- 고용 측면에서는 실업자가 증가할 수 있다는 리스크를 추가. AI 보급으로 인간에게 요구되는 과업이 변화하고 있음. 오픈AI와 미국 펜실베이니아대 등이 ‘23년에 조사한 바에 따르면, 대규모 언어모델(LLM) 도입으로, 미국 노동자 80%에 대해 업무 내용의 10%가 변화하고, 20%에 대해서는 업무 내용의 50%가 바뀔 것으로 예상.
- 새로운 기술로 노동자의 업무 부담은 줄고 생산성은 높아지지만, 가이드라인은 “실업 위험과 격차 확대가 우려된다”고 지적.
- AI 개발에 대한 ‘데이터와 이익의 집중’도 새롭게 언급. 국제사회에서는 AI의 혜택이 선진국에 편중된다는 비판이 제기. 소수 언어에 대한 AI 모델이 존재하지 않는 점도 우려 사항으로 꼽음.
- 기업에는 일련의 리스크를 파악한 후 활용을 추진하도록 촉구. 총무성에 따르면 가이드라인의 인지도는 80%에 가깝지만, 실제로 가이드라인을 활용한 기업은 40%에 불과.
- 활용 동향으로는 이미지나 동영상 등도 다룰 수 있는 AI의 ‘멀티모달화’와 사내 데이터베이스 등과 생성형 AI를 연계해 답변 정확도를 높이는 ‘검색확장생성(RAG)’ 보급을 추가.
- 일본정부는 이번 국회에 AI 개발 촉진과 안전 확보를 위한 AI 법안을 제출. 사업자에게는 적정한 개발 및 활용을 요구. AI의 기술 혁신 속도는 빨라, 법적 테두리보다 빠르게 대응할 수 있는 가이드라인을 수시로 업데이트해 AI 산업 육성을 위한 적정 환경을 조성하겠다는 생각.