- 총무성은 생성형 AI를 노린 사이버 공격 방지를 위한 지침을 마련할 방침. 악의적인 지시로 데이터 유출이나 오작동을 유발하는 공격을 상정해 기술적 대책을 제시. AI 개발 및 관련 서비스를 제공하는 기업의 대응 능력을 높이겠다는 생각.
- 총무성은 곧 분과회에 논점 정리안을 제시해 논의할 예정. 12월까지 세부 사항을 확정하고 2025년 말까지 지침을 마련.
- 지침에 따른 대책을 마련하면 공격으로 영업비밀이 유출된 기업이 법적 보호를 받기 쉬워진다고 명시. 충분한 대책을 취했다면 부정경쟁방지법 보호 요건 중 하나인 비밀관리성을 충족한 것으로 간주할 수 있다는 견해를 포함시킬 예정.
- 데이터 유출이나 오작동을 유발하는 명령문 ‘프롬프트 인젝션’과 방대한 처리가 필요한 지시로 AI 응답 지연이나 정지를 일으키는 ‘DoS 공격’에 대해 우선적으로 대책을 촉구.
- 생성형 AI의 기반이 되는 대규모 언어 모델(LLM)에 안전 기준을 학습시키도록 AI 개발자에게 요구. 지시의 우선순위를 명확히 하여 의도하지 않은 출력을 방지.
- 서비스 제공자에게는 ‘가드레일’이라 부르는 안전 기능을 갖추도록 요청. 부정이나 범죄 등을 목적으로 한 지시에 AI가 따르지 않도록 하는 기능이 악의적인 지시를 감지한 경우, 응답을 거부하거나 지시를 무효화시킬 수 있음.