엔비디아, 페타스케일급 워크그룹 서버 ‘DGX 스테이션 A100’ 발표
엔비디아, 페타스케일급 워크그룹 서버 ‘DGX 스테이션 A100’ 발표
  • 박시현 기자
  • 승인 2020.11.18 08:42
  • 댓글 0
이 기사를 공유합니다

4개의 엔비디아 A100 GPU와 최대 320GB의 GPU 메모리 탑재, 머신러닝 및 데이터 사이언스 워크로드 가속화
엔비디아 DGX 스테이션 A100
엔비디아 DGX 스테이션 A100

[디지털경제뉴스 박시현 기자] 엔비디아는 페타스케일급 워크그룹 서버 ‘엔비디아 DGX 스테이션 A100(DGX Station A100)’을 발표했다.

2.5페타플롭스(PF)의 AI 성능을 제공하는 DGX 스테이션 A100은 엔비디아 NV링크(NVLink)로 상호 연결된 4개의 최신 엔비디아 A100 텐서 코어 GPU를 탑재한 워크그룹 서버로, 최대 320GB의 GPU 메모리를 제공해 머신러닝 및 데이터 사이언스 워크로드를 가속화한다.

엔비디아 DGX 스테이션 A100은 또한 엔비디아 멀티 인스턴스 GPU(MIG) 기술을 지원한다. MIG 기술을 통해 단일 DGX 스테이션 A100은 최대 28개의 개별 GPU 인스턴스를 제공해 시스템 성능에 영향을 미치지 않으면서 병렬 작업을 수행하고, 여러 사용자를 지원한다.

DGX 스테이션 A100은 데이터센터급 전력이나 쿨링을 요구하지 않지만, 엔비디아 DGX A100 데이터센터 시스템과 동일한 수준의 원격 관리 기능을 갖춘 서버급 시스템이다.

시스템 관리자는 데이터 사이언티스트와 연구자가 가정 및 연구실에서 작업할 때 원격 연결을 통해 모든 관리 작업을 쉽게 수행할 수 있다.

DGX 스테이션 A100에는 80GB 또는 40GB의 엔비디아 A100 텐서 코어 GPU가 4개 탑재돼 있어 데이터 사이언스 및 AI 연구팀의 고유한 워크로드 및 예산에 맞춰 시스템을 선택할 수 있다.

DGX 스테이션 A100은 BERT 라지 인퍼런스(BERT Large inference)와 같은 복잡한 대화형 AI 모델을 지원하기 위해 이전 세대 DGX 스테이션 대비 4배 이상 빠른 속도를 제공한다. 또한, BERT 라지 AI 훈련에 있어 약 3배 향상된 성능을 제공한다.

새로운 엔비디아 A100 80GB GPU를 탑재해 GPU 메모리 용량을 시스템당 두 배인 640GB으로 늘려 대규모의 데이터셋과 모델로 정확성을 높일 수 있다.

엔비디아 DGX A100 640GB 시스템은 엔터프라이즈용 엔비디아 DGX 슈퍼POD 솔루션에도 통합될 수 있다. 조직들은 20개의 DGX A100 시스템 유닛으로 제공되는 턴키 방식의 AI 슈퍼컴퓨터를 통해 대규모 AI 모델을 구축할 수 있다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.