- 3대 메가뱅크와 생명·손해보험사, 증권사 등 약 510개사·단체가 가입한 금융데이터활용추진협회(FDUA)는 생성형 AI 활용에 관한 지침을 개정. 예상치 못한 동작 및 권한 관리에 관한 대책을 제시하고, 금융기관 측의 체제 정비를 촉구.
- 금융기관의 생성형 AI 활용 사례와 법적·윤리적 주의사항 등을 제시한 가이드라인을 약 1년 만에 재검토. AI 에이전트 활용을 염두에 두고, AI가 본래 예상하지 못한 행동을 하거나 과도한 권한을 보유함으로써 정보 유출이나 부적절한 처리로 이어질 수 있는 위험을 명시.
- 대책으로 AI가 실행할 수 있는 범위나 금지된 조작을 사전에 정하도록 촉구. 이 외에도 사람의 승인이나 긴급 정지 장치를 마련할 것을 제시.
- 접속 대상 제한, 최소한의 권한 부여, 인증 정보 관리 강화 등의 구체적인 사례도 포함. 실행 이력을 기록하여 문제 발생 시 원인을 추적할 수 있는 체제 구축의 중요성도 지적함.
- 개발 중인 AI가 인간의 의도와 달리 타사에 사이버 공격을 가한 사고가 발생하는 등, AI가 초래하는 위험에 대한 우려가 확대. 금융 업계에서도 생성형 AI의 이용 확대에 따라 편의성 향상과 위험 관리의 양립이 과제로 대두되고 있음.