HPE-엔비디아, ‘프라이빗 클라우드 AI’ 공동 개발
HPE-엔비디아, ‘프라이빗 클라우드 AI’ 공동 개발
  • 박시현 기자
  • 승인 2024.06.20 09:17
  • 댓글 0
이 기사를 공유합니다

‘HPE 디스커버 2024’에서 ‘HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오’ 공개
‘HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오’는 HPE가 엔비디아와 협력해 공동 개발한 AI 솔루션으로 기업 고객들이 생성형 AI의 도입을 가속화할 수 있도록 해준다.
‘HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오’는 HPE가 엔비디아와 협력해 공동 개발한 AI 솔루션으로 기업 고객들이 생성형 AI의 도입을 가속화할 수 있도록 해준다.

[디지털경제뉴스 박시현 기자] HPE는 미국 라스베이거스에서 개최한 연례행사 ‘HPE 디스커버 2024’에서 새로운 ‘HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오’를 공개했다.

‘HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오’는 HPE가 엔비디아와 협력해 공동 개발한 AI 솔루션으로 기업 고객들이 생성형 AI의 도입을 가속화할 수 있도록 해준다.

포트폴리오의 하이라이트는 ‘HPE 프라이빗 클라우드 AI’다. HPE 프라이빗 클라우드 AI는 엔비디아의 AI 컴퓨팅, 네트워킹과 소프트웨어를 HPE의 AI 스토리지, 컴퓨팅 및 HPE 그린레이크 클라우드와 견고하게 통합한 솔루션으로, 모든 규모의 기업이 에너지 효율적이고, 빠르며 유연한 방식으로 생성형 AI 애플리케이션을 지속 가능하게 개발하고 배포할 수 있도록 한다.

HPE 프라이빗 클라우드 AI는 전체 수명주기 관리를 포함한 셀프 서비스 클라우드 경험을 제공하며, 다양한 AI 워크로드와 사용 사례를 지원하기 위해 4가지 크기로 구성된다.

HPE가 제공하는 모든 엔비디아 AI 컴퓨팅 제품 및 서비스는 양사의 공통 전략을 기반으로 제공되며, 이 전략에는 판매팀 및 채널 파트너, 교육, 그리고 딜로이트, HCL테크, 인포시스, TCS, 위프로 등 SI 업체를 아우르는 글로벌 네트워크가 포함된다. 딜로이트, HCL테크, 인포시스, TCS, 위프로는 HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오와 HPE 프라이빗 클라우드 AI를 자사의 전략적 AI 솔루션 및 서비스의 일환으로 지원한다고 발표했다.

HPE 프라이빗 클라우드 AI는 혁신을 가속화하고 투자 수익을 높이는 동시에 AI로 인한 기업의 리스크를 관리할 수 있는 독특한 클라우드 기반 경험을 제공한다. 이 솔루션의 주요 특징은 △고유 데이터를 활용한 추론, 미세 조정 및 RAG AI 워크로드 지원 △데이터 프라이버시, 보안, 투명성, 거버넌스 요건을 위한 엔터프라이즈급 제어 기능 △생산성 향상을 위한 ITOps 및 AIOps 기능이 포함된 클라우드 경험 △미래의 AI 기회와 성장을 충족하기 위한 유연한 소비 경로 제공 등이다.

AI 및 데이터 소프트웨어 스택의 기반은 엔비디아 NIM 추론 마이크로 서비스를 포함한 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼으로 시작된다. 엔비디아 AI 엔터프라이즈는 데이터 사이언스 파이프라인을 가속화하고, 프로덕션급 코파일럿 및 기타 생성형 AI 애플리케이션의 개발 및 배포를 간소화한다.

엔비디아 AI 엔터프라이즈에 포함된 엔비디아 NIM은 최적화된 AI 모델 추론을 위한 사용하기 쉬운 마이크로서비스를 제공해 다양한 사용 사례에 대해 프로토타입에서 안전한 AI 모델 배포로 원활하게 전환할 수 있도록 한다.

엔비디아 AI 엔터프라이즈 및 엔비디아 NIM을 보완하는 HPE AI 에센셜 소프트웨어를 적용함으로써 데이터 및 모델 준수, 확장 가능한 기능 등 AI 수명 주기 전반에 걸쳐 AI 파이프라인이 규정을 준수하도록 보장한다.

HPE 프라이빗 클라우드 AI는 엔비디아 스펙트럼-X 이더넷 네트워킹, HPE 알레트라 MP 파일 스토리지, 엔비디아 L40S, 엔비디아 H100 NVL 텐서 코어 GPU, 엔비디아 GH200 NVL2 플랫폼을 지원하는 HPE 프로라이언트 서버가 포함된 완전 통합형 AI 인프라 스택을 제공한다.

HPE 프라이빗 클라우드 AI는 HPE 그린레이크 클라우드 기반의 셀프 서비스 클라우드 환경을 제공한다. HPE 그린레이크 클라우드 서비스를 이용하는 고객들은 단일 플랫폼 기반 컨트롤 플레인을 통해 하이브리드 환경 전반에서 엔드포인트, 워크로드 및 데이터를 자동화, 조정 및 관리할 수 있는 관리 기능 및 옵저버빌리티를 제공받으며, 워크로드 및 엔드포인트의 지속 가능성 관련 지표도 확인할 수 있다.

‘HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오’의 주요 제품은 ▲HPE 크레이 XD670 서버 ▲HPE 프로라이언트 DL380a 젠12 서버 ▲HPE 프로라이언트 DL384 젠12 서버 등이다.

HPE 크레이 XD670 서버는 8개의 엔비디아 H200 NVL 텐서 코어 GPU를 지원하며 LLM 구축에 이상적이다. 최대 8개의 엔비디아 H200 NVL 텐서 코어 GPU를 지원하는 HPE 프로라이언트 DL380a 젠12 서버는 생성형 AI 워크로드를 유연하게 확장하고자 하는 LLM 이용자에게 적합하다. HPE 프로라이언트 DL384 젠12 서버는 엔비디아 GH200 NVL2를 탑재, 대형 모델에 이상적이다.

HPE는 엔비디아 GB200 NVL72/NVL2 뿐만 아니라 새로운 엔비디아 블랙웰, 엔비디아 루빈, 엔비디아 베라 아키텍처를 지원하는 제품을 곧 출시할 예정이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.