[디지털경제뉴스 박시현 기자] 스노우플레이크가 엔비디아와의 파트너십을 강화한다고 발표했다. 스노우플레이크의 AI 제품군에 엔비디아의 가속 컴퓨팅을 적용해 기업 전용 생성형 AI 애플리케이션의 구축·배포·관리를 포괄적으로 지원하겠다는 것이 골자이다.
지난해 6월, 스노우플레이크와 엔비디아는 ‘엔비디아 네모’ 통합 기능을 확대한다고 발표한 바 있다. 이번에 강화된 파트너십에서 스노우플레이크는 자사 플랫폼에서 데이터 보안, 개인정보보호 및 거버넌스를 원활하게 유지하면서 직접 엔비디아의 ‘네모 리트리버’를 활용할 수 있게 된다.
네모 리트리버는 기업이 맞춤형 LLM을 기업 데이터에 연결할 수 있는 생성형 AI 마이크로 서비스다. 이를 기반으로 챗봇 애플리케이션의 성능과 확장성을 개선하고 ‘스노우플레이크 코텍스(프리뷰 공개)’로 AI 애플리케이션을 구축한 400개 이상의 기업이 보다 빠르게 비즈니스 가치를 실현할 수 있도록 지원한다. 또한 딥 러닝 추론 애플리케이션에 짧은 지연 시간과 높은 처리량을 제공하는 ‘엔비디아 텐서RT’를 활용할 수 있어 기업 고객의 LLM 기반 검색 기능이 향상될 것으로 기대된다.
<그림>스노우플레이크의 AI 플랫폼 구조
엔비디아 가속 컴퓨팅은 ‘스노우파크 컨테이너 서비스’’를 포함해 다음과 같은 스노우플레이크의 AI 제품에 적용된다.
▪스노우플레이크 코텍스 LLM(퍼블릭 프리뷰): SQL 사용자들은 스노우플레이크 코텍스 LLM 기능을 통해 소규모 LLM을 활용해 감정 분석, 번역 및 요약 등의 특정 작업을 몇 초 만에 비용 효율적으로 처리할 수 있다. 미스트랄 AI, 메타 등의 고성능 모델을 활용한 AI 애플리케이션의 개발에도 적용할 수 있다.
▪스노우플레이크 코파일럿(프라이빗 프리뷰): 스노우플레이크의 새로운 LLM 기반 어시스턴트로, 자연어를 통해 스노우플레이크의 코딩 작업에 생성형 AI를 적용한다. 사용자들이 대화 형식으로 질문하면 관련 테이블을 활용해 SQL 쿼리를 작성해 주며 쿼리를 개선하고 인사이트를 필터링하는 등의 작업을 수행할 수 있다.
▪도큐먼트 AI(프라이빗 프리뷰): 도큐먼트 AI는 기업들이 LLM을 사용해 문서에서 청구 금액 또는 계약 약관 등의 내용을 쉽게 추출하고 시각화 인터페이스와 자연어를 사용해 결과를 섬세하게 조정할 수 있도록 지원한다. 고객은 도큐먼트 AI를 사용해 수작업으로 인한 오류를 줄이고 자동 문서 처리를 통해 효율성을 강화할 수 있다.
