- NTT는 25일, 생성형 AI의 기반이 되는 독자개발 대규모언어모델(LLM) ‘tsuzumi’의 서비스 제공을 시작. 이미 500개 이상의 기업, 지자체에서 도입 상담이 들어옴. 일본어 문장의 유창함에 강점을 가지고 있으며, 성능의 지표가 되는 파라미터 수를 줄여 전력 소비 등 운영비용을 크게 낮춤.
- tsuzumi는 언어와 기능을 세분화해 소형화를 실현. 일본어와 영어를 지원하며, 파라미터 수는 우선 70억 개의 타입을 마련. ChatGPT의 기반인 ‘GPT-3’의 약 25분의 1에 해당함. 저비용으로 데이터 학습이 가능해 미국 IT 대기업 등에 대항하는 모델로 내세움.
- NTT가 40년 이상 쌓아온 자연어처리 기술을 살렸으며, 일본어 성능은 세계 최고 수준. 개인용이 아닌 기업과 단체 등의 수요를 발굴 예정. 슬라이드나 도표, 청구서 등의 이미지를 불러올 수도 있음. 설명회에 참석한 시마다 아키라 사장은 “사내 데이터를 학습시켜 자사에 특화된 LLM을 구축하고자 하는 니즈가 높다”고 설명.
- NTT에 따르면, 도입 상담이 들어온 500개 이상의 기업 및 지자체를 업종별로 보면 제조업이 18%, 금융업이 12%, IT업계가 11%, 지자체는 14%. 이용용도는 콜센터, 가상 컨시어지 등 고객 응대와 회의록 작성, 요약 등 업무 개선이 각각 약 30%를 차지.
- 이용 환경은 온프레미스(자사소유) 외에도 NTT 그룹의 클라우드에서 이용할 수 있어 기밀성이 높은 데이터도 보안을 확보할 수 있음. 그룹에서 기업용 IT 서비스 사업을 하는 NTT 커뮤니케이션즈와 NTT 데이터 등을 통해 제공하며, 27년에 연간 1000억 엔 이상의 매출이 목표.
- 향후에는 NTT가 개발 중인 통신 기반 ‘IOWN’으로 생성형 AI를 서로 연결해 대규모 모델에 필적하는 성능을 갖추는 것을 목표로 하고 있음.
- 일반적으로 파라미터 수가 많은 거대 모델은 폭넓은 지식을 습득할 수 있는 반면, 학습 등에 막대한 전력을 소비하는 문제가 존재. ChatGPT와 같은 거대 모델은 한 번의 학습으로 원자력 발전소 1기를 1시간 가동할 수 있는 발전량을 소비한다는 추산도 있음