- 도쿄공업대학과 후지쯔 등은 슈퍼컴퓨터 ‘후다케(富岳)’를 이용해 2023년도에 고도의 생성형 AI를 개발한다고 발표함. 일본어를 중심으로 한 기반 기술을 구축해 ‘24년도부터 일본 국내기업에 무상으로 제공. 오픈AI와 구글의 생성형 AI가 세계에서 앞서고 있어, 미국이 시장을 과점할 우려가 있는 상황에 일본의 산학이 협력하여 자체 기술로 대응하겠다는 생각임.
- 개발에는 이화학연구소와 도호쿠대학도 참여. 생성형 AI의 기반이 되는 대규모 언어 모델을 독자적으로 개발하며, AI의 학습에는 온라인 백과사전 '위키피디아'에 공개된 일본어 데이터 등을 활용해 일본어 대화 능력을 높임. 독자적인 생성형 AI 개발을 목표로 하는 사이버에이전트와도 협력할 방침.
- 일본에서 생성형 AI를 개발하려는 움직임이 시작됐지만, 성능을 좌우하는 파라미터 수가 수십억 개 정도인 경우가 많은 상황으로, 사이버에이전트가 17일 공개한 대규모 언어모델도 최대 68억 개 수준.
- 오픈AI의 ChatGPT의 기반인 ‘GPT-3’는 1750억 개로, 도쿄공대 등은 1000억 개 정도의 파라미터 수를 가진 대규모 언어모델을 구축하겠다는 생각임.
- 대규모 모델 구축에는 높은 연산 능력을 가진 슈퍼컴퓨터가 필요. 연산능력 세계 2위인 후타케를 운영하는 이화학연구소는 새롭게 생성형 AI 개발을 중점 테마로 삼았으며, 후다케를 활용해 대규모 언어 모델을 개발하여 산업계와 연구기관이 활용할 수 있도록 공개하기로 함.
- 후다케는 생성형 AI 학습에 적합한 영상처리 반도체(GPU)를 탑재하지 않았으나, 일본에 있는 AI 계산에 특화된 슈퍼컴퓨터와 비교해 봐도 ‘후타케는 고성능 CPU(중앙연산처리장치)를 많이 탑재하고 있어 AI 개발에도 성능이 높다’(후지쯔)고 판단해 활용을 결정함.