AMD, 데이터센터용 AI 가속기 ‘AMD 인스팅트’ 채택 사례 발표
AMD, 데이터센터용 AI 가속기 ‘AMD 인스팅트’ 채택 사례 발표
  • 차수상 기자
  • 승인 2023.12.07 23:50
  • 댓글 0
이 기사를 공유합니다

AMD 인스팅트 GPU용 오픈 소스 소프트웨어 스택 ‘ROCm 6’의 최신 버전 공개
데이터센터 AI 가속기 ‘AMD 인스팅트 MI300 시리즈’
데이터센터 AI 가속기 ‘AMD 인스팅트 MI300 시리즈’

[디지털경제뉴스 차수상 기자] AMD는 최근 개최한 ‘어드밴싱 AI’ 행사에서 주요 파트너사와 함께 클라우드, 데이터센터, PC 등 다양한 부문에 AI 솔루션을 제공하는 협업 사례를 발표했다.

또, 데이터센터 AI 가속기 ‘AMD 인스팅트 MI300’ 시리즈, 대규모 언어 모델(LLM)을 지원하는 ROCm 6 개방형 소프트웨어 스택, 라이젠 AI가 탑재된 라이젠 8040 시리즈 프로세서 등 다양한 신제품도 출시했다.

AMD는 이번 행사 기간 동안 여러 파트너와 함께 AMD 인스팅트의 채택 사례를 발표했다.

마이크로소프트는 AI 워크로드에 최적화된 새로운 애저 ND MI300x v5 가상머신 시리즈 구동을 위해 AMD 인스팅트 MI300X 가속기를 활용하는 방안에 대해 설명했다.

메타는 AI 추론 워크로드를 강화하기 위해 ROCm 6과 함께 데이터센터에 AMD 인스팅트 MI300X 가속기를 추가하고 있으며, AMD가 라마 2 모델 제품군에 대한 ROCm 6 최적화를 수행한 것에 대해서도 인지하고 있다고 밝혔다.

오라클은 AMD 인스팅트 MI300X 가속기를 갖춘 OCI 베어 메탈 컴퓨팅 솔루션 공급 및 향후 자사 생성형 AI 서비스에 대한 AMD 인스팅트 MI300X 가속기를 포함하는 계획을 발표했다.

다수의 대형 데이터센터 인프라 제공업체는 자사 제품 포트폴리오 전반에 걸쳐 AMD 인스팅트 MI300 가속기를 탑재할 계획이라고 발표했다.

델은 AMD 인스팅트 MI300X 가속기와 파워엣지 XE9680 서버 솔루션을 통합해 생성형 AI 워크로드에 대한 획기적인 성능을 제공하는 확장 가능한 모듈식 제품을 공급한다. HPE는 엔터프라이즈 및 HPC 제품에 AMD 인스팅트 MI300 가속기를 도입한다는 계획을 발표했다. 레노버는 AMD 인스팅트 MI300X 가속기를 레노버 씽크시스템 플랫폼에 도입해 소매, 제조, 금융 서비스, 의료를 포함한 산업 전반에 AI 솔루션을 지원할 계획이다. 슈퍼마이크로는 자사의 AI 솔루션 포트폴리오 전반에 걸쳐 AMD 인스팅트 MI300 GPU를 제공할 예정이다. 이밖에 에이수스, 기가바이트, 인그라시스, 인벤텍, QCT, 위스트론, 위윈 등도 AMD 인스팅트 MI300 가속기 기반의 솔루션을 공급할 계획이다.

얼라인드, 아르콘 에너지, 시라스케일, 크루소, 덴버 데이터웍스, 텐서웨이브스 등의 전문 AI 클라우드 사업자 또한 개발자 및 AI 스타트업을 위해 AMD 인스팅트 MI300X GPU에 대한 액세스를 확장하는 제품을 제공할 예정이다.

AMD는 인스팅트 데이터센터 가속기를 지원하는 소프트웨어 생태계 확장에 대해서도 강조했다. AMD는 생성형 AI, 특히 대규모 언어 모델에 최적화된 AMD 인스팅트 GPU용 오픈 소스 소프트웨어 스택인 ROCm 6의 최신 버전을 공개했다. ROCm 6는 새로운 데이터 유형, 고급 그래프 및 커널 최적화, 최적화된 라이브러리 및 뛰어난 어텐션 알고리즘을 지원한다. 라마 2 기준 텍스트 생성 전체 대기 시간을 비교하면, ROCm6를 MI300X에서 구동 시 MI250에서 실행되는 ROCm 5 대비 최대 8배 향상된 성능을 제공한다.

최신 모델과 AI 솔루션을 개발하는 스타트업인 데이터브릭스, 에센셜 AI, 라미니는 AMD 인스팅트 MI300X 가속기와 개방형 ROCm 6 소프트웨어 스택을 활용해 고객에게 차별화된 AI 솔루션을 제공하는 방법에 논의했다.

오픈AI는 트리톤 3.0에 AMD 인스팅트 가속기에 대한 지원을 추가해 개발자가 AMD 하드웨어에서 더 높은 수준의 추상화 작업을 수행할 수 있도록 지원한다.

AMD는 이번 행사에서 더욱 다양한 AI 컴퓨팅 기능을 제공하는 최신 AMD 라이젠 8040 시리즈 프로세서도 출시했다. 또, 개발자가 사전 훈련된 모델을 사용해 윈도우 애플리케이션에 손쉽게 AI 기능을 추가하고 배포할 수 있도록 하는 소프트웨어 스택인 라이젠 AI 1.0을 출시했다.

AMD는 아울러 2024년 출시 예정인 차세대 ‘스트릭스 포인트’ CPU에 XDNA 2 아키텍처가 탑재되어 이전 세대에 대비 3배 이상 향상된 AI 컴퓨팅 성능을 제공하고 새로운 생성형 AI 경험을 지원할 것이라고 밝혔다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.