[디지털경제뉴스 박시현 기자] 그래프코어가 최신 AI 연산 시스템 ‘IPU-POD128’과 ‘IPU-POD256’을 출시했다.
각각 32페타플롭스(PFlops, 초당 32,000조번 연산), 64페타플롭스의 AI 연산속도를 지원하는 IPU-POD128과 IPU-POD256은 그래프코어가 지금까지 선보인 IPU-POD 시리즈 중 가장 높은 성능을 제공한다.
머신 인텔리전스 확장을 위해 특별 설계된 아키텍처로 혁신적인 기능을 제공하는 해당 제품으로 그래프코어는 AI 슈퍼컴퓨팅에 대한 기술 역량을 한층 확대할 수 있게 됐다.
새로운 IPU-POD 시리즈는 클라우드 하이퍼스케일러, 국립 과학 컴퓨팅 센터는 물론 금융 서비스나 제약 업계에서 대규모 AI 팀을 운영하는 기업에 이상적이다. 시스템 전반에 걸쳐 대형 트랜스포머 기반 언어 모델을 빠르게 훈련시키고, 프로덕션 환경에서 대규모 상용 AI 추론 애플리케이션을 구동하는 것이 특징이다.
여기에다 시스템을 더 작고 유연한 vPOD로 분할해 개발자들의 IPU 활용도를 높이고, GPT 및 그래프신경망(GNN) 같은 새로운 모델을 활용해 과학적 발견을 가속화하도록 지원한다.
IPU-POD128과 IPU-POD256은 BERT, ResNet-50 등 벤치마크 테스트에서 인상적인 훈련 성능과 매우 효율적인 확장 성능을 보여줬다.
KT는 그래프코어의 파트너로서 IPU-POD128을 가장 먼저 도입했다. 이미희 KT 클라우드·DX 사업본부장은 “KT는 국내 최초로 IDC 내에 고집적 AI 존을 구축하고 그래프코어 IPU를 활용해 ‘KT 하이퍼스케일 AI 서비스’를 제공하고 있다. 현재 다양한 기업과 연구기관에서 해당 서비스를 이용하고 있거나, GPU에서 IPU로의 전환을 위한 테스트를 진행하고 있다. KT는 시장에서 지속적으로 요구되는 초대규모 AI HPC 환경을 지원하고자 2개의 그래프코어 IPU-POD64를 확장 연결한 IPU-POD128로 ‘하이퍼스케일 AI 서비스’ 확대를 진행 중”이라고 설명했다.
이어 “IPU-POD128이 제공하는 획기적인 연산 성능의 이점을 AI 연구개발에 적용해 나가고 있으며, 그래프코어 및 메가존 클라우드와 협력해 B2B 시장 확대에도 나서고 있다”라며, “이를 통해 32페타플롭스 수준의 AI 연산 처리가 가능해져 더욱 많은 고객들이 대규모 AI 모델에 대한 학습 및 추론에 활용할 수 있으며, 전력소모량의 최적화로 친환경 AI 연구개발에도 기여할 것으로 보인다”고 덧붙였다.
IPU-POD128과 IPU-POD256은 여타 IPU-POD 시스템과 마찬가지로 AI 연산과 서버가 분리되어 여러 AI 워크로드에 가능한 최고의 성능을 제공하며, 이를 통해 최적의 총소유비용(TCO)을 실현한다. 또한, 그래프코어가 최근에 발표한 그래프코어 스토리지 파트너의 기술을 활용해 시스템 스토리지를 특정 AI 워크로드에 맞게 최적화할 수 있다.
IPU-POD128과 IPU-POD256은 모두 현재 아토스를 포함한 그래프코어의 시스템 통합 파트너나 그래프클라우드를 통해 이용 가능하다.
