구글 클라우드-허깅페이스, 생성형 AI 및 ML 개발 가속화 파트너십 맺어
구글 클라우드-허깅페이스, 생성형 AI 및 ML 개발 가속화 파트너십 맺어
  • 박시현 기자
  • 승인 2024.01.26 21:12
  • 댓글 0
이 기사를 공유합니다

구글 클라우드에서 대규모 AI 모델 빠르고 비용 효율적으로 학습·튜닝·제공 협력

[디지털경제뉴스 박시현 기자] 구글 클라우드는 AI 스타트업 허깅페이스와 파트너십을 맺었다.

양사의 이번 파트너십은 개발자가 허깅페이스의 모든 서비스에서 구글 클라우드 인프라를 활용하고, 구글 클라우드에서 허깅페이스 모델을 학습 및 제공할 수 있도록 지원하는 것이 골자이다. 이를 통해 허깅페이스는 AI 대중화 비전을 가속화하고 구글 클라우드는 오픈소스 AI 생태계 발전을 위한 지원을 강화한다.

구글 클라우드는 허깅페이스의 전략적 클라우드 파트너이자 학습 및 추론 워크로드의 우선대상자로 선정됐다. 개발자는 컴퓨팅, 텐서 처리 장치(TPU), GPU 등 AI에 최적화된 구글 클라우드 인프라를 간편하게 이용해 오픈 모델을 학습 및 제공하고 새로운 생성형 AI 애플리케이션을 구축할 수 있다.

개발자는 허깅페이스 플랫폼에서 간단한 클릭만으로 버텍스 AI를 사용해 허깅페이스 모델을 학습, 튜닝 및 제공할 수 있다. 이를 통해 구글 클라우드의 특화된 엔드 투 엔드 MLOps 서비스를 쉽게 활용해 생성형 AI 애플리케이션을 구축할 수 있다.

또한 구글 쿠버네티스 엔진(GKE) 배포 지원으로 개발자는 허깅페이스에서 자체 설정한 인프라를 이용해 워크로드를 학습, 튜닝 및 제공하고, GKE에서 허깅페이스 전용 딥 러닝 컨테이너를 이용해 모델을 확장할 수 있다.

양사의 파트너십으로 더 많은 오픈소스 개발자가 클라우드 TPU v5e를 사용할 수 있게 된다. 클라우드 TPU v5e는 이전 버전에 비해 달러당 최대 2.5배 더 높은 성능을 제공하고 추론 지연 시간은 최대 1.7배 단축한다. 엔비디아의 H100 텐서 코어 GPU를 탑재해 이전 세대에 비해 3배 빠른 학습과 10배 증가한 네트워크 대역폭을 제공하는 A3 VM에 대한 지원 또한 향후 확대할 계획이다.

이밖에 인퍼런스, 엔드포인트, 스페이스, 오토트레인 등 허깅페이스 관리형 플랫폼에 대한 간단한 관리 및 과금 기능이 구글 클라우드 마켓플레이스를 통해 제공될 예정이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.