2024-02-24 22:05 (토)
구글 클라우드, TPU 활용해 엔씨소프트 AI 언어모델 개발 지원
상태바
구글 클라우드, TPU 활용해 엔씨소프트 AI 언어모델 개발 지원
  • 길민권 기자
  • 승인 2023.11.10 20:59
이 기사를 공유합니다

구글 클라우드 TPU 기반 ‘VARCO LLM’ 학습 속도 향상 및 성능-비용 최적화

구글 클라우드는 엔씨소프트가 구글 클라우드 TPU(Tensor Processing Unit)를 기반으로 ‘VARCO(바르코) LLM’을 개발하고 학습 환경을 구축했다고 밝혔다.

엔씨소프트는 지난 8월, 자체 개발한 AI 언어 모델 ‘VARCO LLM’을 공개했다. 개발 초기 단계부터 엔씨소프트가 직접 선별한 고품질 데이터로 학습된 VARCO LLM은 현재까지 공개된 유사한 크기의 한국어 언어 모델 대비 최고의 성능을 구현하며 Q&A, 챗봇, 요약, 정보 추출 등 다양한 자연어처리(NLP) 기반 AI 서비스 개발에 활용되고 있다.

엔씨소프트는 VARCO LLM을 개발하기 위해 클라우드 TPU를 도입하고 지난 1년 동안 AI 모델 학습을 진행했다. 클라우드 TPU는 대규모 AI 모델 학습과 추론에 최적화된 구글 클라우드의 맞춤형 머신러닝 가속기(ASIC)로 챗봇, 코드 생성, 미디어 콘텐츠 생성 등 다양한 사용 사례를 지원한다. 엔씨소프트는 클라우드 TPU가 제공하는 업계 최고 수준의 속도와 성능을 바탕으로 LLM 학습에 소요되는 시간을 효과적으로 단축하고 학습 생산성을 향상시킬 수 있었다.

생성형 AI 시대를 맞아 AI 관련 인프라 수요가 폭발적으로 증가하며 수급이 어려운 시대에도 탄력적인 운영이 가능한 점 또한 엔씨소프트가 구글 클라우드 TPU를 긍정적으로 평가한 이유 중 하나였다. 구글이 제공하는 업계 선도적인 AI 기술 역시 엔씨소프트 자체 AI 연구와 시너지를 낼 수 있을 것으로 판단했다. 특히 클라우드 TPU가 GPU 대비 달러 당 거의 2배 높은 성능을 제공하면서, 엔씨소프트는 대규모 AI 학습 워크로드의 성능과 비용을 최적화할 수 있었다.

엔씨소프트는 VARCO LLM을 기반으로 게임 콘텐츠 개발은 물론 디지털 휴먼, 생성형 AI 플랫폼, 대화형 언어 모델 등 다양한 AI 연구와 사업에 본격 나선다. 생성형 AI 기술을 통해 플레이어와 실시간으로 반응하고 자연스러운 인터랙션이 가능한 NPC 모델을 개발 중이며, 향후 플레이어의 행동에 따라 완전히 새로운 콘텐츠를 생성할 수 있는 게임 환경을 구현할 예정이다.

이외에 엔씨소프트는 교육, 금융, 바이오 등 다양한 분야의 파트너들과 협업해 전문지식을 결합한 도메인 전용 모델도 선보일 계획이다.

과거에도 엔씨소프트는 버텍스 AI, 빅쿼리, 컴퓨트 엔진 등 구글 클라우드 솔루션을 사용해 안정적인 글로벌 서비스 확장 및 기술 고도화를 지속해 왔다. 자체 AI 번역 엔진을 개발해 사용자 경험을 혁신해온 엔씨소프트는 구글 쿠버네티스 엔진을 도입해 AI 기반 글로벌 실시간 번역 시스템을 안정적으로 운영하고 있다.

양사는 이번 파트너십을 통해 AI 및 머신러닝(ML) 부문에서 협업을 더욱 강화하고 다양한 비즈니스 기회를 모색해 나갈 예정이다.

강형준 구글 클라우드 코리아 사장은 “구글 클라우드가 국내 게임 업계에서 AI 퍼스트 무버를 지켜온 엔씨소프트의 든든한 조력자로 함께 할 수 있어 기쁘게 생각한다. 앞으로도 구글 클라우드의 독보적인 AI 기술과 인프라를 바탕으로 엔씨소프트를 비롯한 국내 기업이 게임 체인저로 도약해 글로벌 경쟁력을 더욱 강화할 수 있도록 적극 지원할 예정이다”라고 말했다.

이연수 엔씨소프트 NLP 센터장은 “엔씨소프트는 이미 십수 년 전부터 AI 조직을 운영하며, 고객에게 새로운 가치를 제공하기 위해 기술 연구에 매진해 왔다. VARCO LLM은 이러한 노력의 결실이자 엔씨소프트의 새로운 비전이다”라며, “클라우드 TPU의 뛰어난 성능과 확장성, 국내외를 아우르는 구글 클라우드 엔지니어링 팀의 전방위적 지원 덕분에 LLM 개발을 빠르고 비용 효율적으로 수행할 수 있었다. 앞으로도 양사가 함께 성장을 도모하며 협력을 지속해 나갈 예정이다”라고 말했다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★

■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★