마이크로소프트, 애저 ND MI300X V5 인스턴스 공식 출시
마이크로소프트, 애저 ND MI300X V5 인스턴스 공식 출시
  • 박시현 기자
  • 승인 2024.05.23 18:46
  • 댓글 0
이 기사를 공유합니다

AMD 인스팅트 MI300X와 ROCm 개방형 소프트웨어 스택 채택
마이크로소프트는 최근 새로운 애저 ND MI300X V5 인스턴스를 공식 출시했다. 사진은 AMD 인스팅트 MI300X
마이크로소프트는 최근 새로운 애저 ND MI300X V5 인스턴스를 공식 출시했다. 사진은 AMD 인스팅트 MI300X

[디지털경제뉴스 박시현 기자] AMD는 ‘마이크로소프트 빌드’ 컨퍼런스에서 마이크로소프트가 AMD 인스팅트 MI300X 가속기, ROCm 개방형 소프트웨어, 라이젠 AI 프로세서 및 소프트웨어와 알베오 MA35D 미디어 가속기 등 AMD의 솔루션을 통해 광범위한 시장에 걸쳐 AI 기반을 구축할 수 있는 툴을 지원한다고 밝혔다.

마이크로소프트는 최근 새로운 애저 ND MI300X V5 인스턴스를 공식 출시했다. 2023년 11월, 프리뷰로 발표된 애저 ND MI300X V5 인스턴스는 우수한 HBM 용량과 메모리 대역폭을 제공함으로써 고객들이 GPU 메모리에 더 큰 모델을 탑재하거나 더 적은 GPU를 이용해 궁극적으로 전력, 비용 및 솔루션 구현 시간을 절감할 수 있도록 지원한다.

또한, 이러한 가상머신과 이를 지원하는 ROCm 소프트웨어는 애저 오픈AI 서비스를 비롯한 애저 AI 프로덕션 워크로드에도 사용되고 있다. 마이크로소프트는 AMD 인스팅트 MI300X와 검증된 ROCm 개방형 소프트웨어 스택을 통해 GPT 추론 워크로드에서 최상의 가격 대비 성능을 달성했다.

마이크로소프트의 애저 AI 프로덕션 워크로드 외 허깅 페이스도 이러한 가상머신을 이용하고 있다. 허깅 페이스는 1개월 만에 자사 모델을 ND MI300X 가상머신에 포팅했으며, 이를 통해 뛰어난 성능은 물론, 높은 가격 대비 성능을 달성했다.

AMD 라이젠 AI 소프트웨어는 개발자들이 AMD 라이젠 AI 기반 PC에서 AI 추론을 최적화하고 구축할 수 있도록 지원한다. 라이젠 AI 소프트웨어를 이용하면, AI 전용 프로세서인 AMD XDNA 아키텍처 기반 신경망 처리장치(NPU)를 통해 애플리케이션을 실행할 수 있다. AI 모델을 CPU 또는 GPU에서만 실행하면 배터리가 빠르게 소모될 수 있지만, 라이젠 AI 기반 노트북은 임베디드 NPU을 활용해 AI 모델이 구동하기 때문에 CPU 및 GPU 리소스를 다른 컴퓨팅 작업에 활용할 수 있다. 이를 통해 배터리 수명을 대폭 늘리는 것은 물론, 개발자가 온디바이스 LLM AI 워크로드와 애플리케이션을 로컬에서 동시에 효율적으로 실행할 수 있다.

마이크로소프트는 마이크로소프트 팀즈와 쉐어포인트 비디오 등 방대한 라이브 스트리밍 비디오 워크로드를 지원하기 위해 AMD 알베오 MA35D 미디어 가속기를 채택했다. 대규모 라이브 대화형 스트리밍 서비스를 지원하기 위해 특수 설계된 알베오 MA35D는 비디오 트랜스코딩, 디코딩, 인코딩 및 ABR(Adaptive Bitrate) 스트리밍을 포함한 비디오 프로세싱 워크로드를 간소화해 마이크로소프트가 고품질 비디오 경험을 보장할 수 있도록 지원한다.

현재 4세대 AMD 에픽 프로세서는 애저에서 사용되는 범용 가상머신을 비롯해 메모리 집약적, 컴퓨팅 최적화 및 가속 컴퓨팅 가상머신 등 수많은 솔루션을 지원하고 있다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.