- 생성형 AI의 보급으로 데이터 관리의 중요성이 높아지고 있음. 경제산업성 관할 정보처리추진기구(IPA)의 조사에서, 품질 관리에 대한 대응이 부족한 일본 국내기업이 60% 이상에 달하는 것으로 확인. 학습 데이터를 조작해 AI를 오작동시키는 ‘데이터 포이즈닝’이 문제가 되고 있어, 대응이 시급.
- 조사는 2024년 12월부터 2025년 2월까지 일본 국내 기업 및 단체를 대상으로 실시. 약 800개 기업·단체로부터 답변을 얻었으며, IPA가 조만간 공개할 ‘정보 보안 백서’에 조사 결과를 수록할 예정.
- 데이터 보호 대응과 관련해 ‘정비 완료’, ‘정비 중’, ‘정비 예정’은 합계 54.9%를 기록.
- 데이터의 정확성과 신뢰성을 유지하는 품질 관리에서는 36.1%에 그쳤으며, 나머지 63.9%는 ‘예정 없음’, ‘모름’이라고 응답. 급수 인구나 수도관의 사용 연수 등의 데이터를 다루는 지자체의 수도사업자에 한정하면 90%를 넘어섬.
- AI는 부정확한 데이터를 학습할 경우, 사용 방법에 따라 허위 정보를 유포하거나 인권 침해 및 차별을 초래할 우려가 존재.
- 최근에는 사이버 공격의 일종으로 학습 데이터를 의도적으로 조작해 AI 등을 오작동시키는 '데이터 포이즈닝‘이 세계적으로 문제화. 데이터를 인질로 삼는 랜섬웨어 등도 존재.
- 백서는 “저장이나 전송 과정에서 변조되지 않았고, 누가 수집·작성했는지 알 수 없다면 안심하고 이용할 수 없다”며 정보 관리의 중요성을 강조.
- 정부 기관인 AI Safety Institute(AISI)는 3월, 신뢰할 수 있는 AI의 기초가 되는 데이터 품질 관리 방법을 정리한 가이드북을 공표. 관리가 필요한 상황을 명시하고, 이력정보 검증이나 중간단계 평가 등의 방법을 소개하고 있음.