스노우플레이크, 데이터 클라우드 플랫폼에 미스트랄 AI의 LLM ‘미스트랄 라지’ 적용
스노우플레이크, 데이터 클라우드 플랫폼에 미스트랄 AI의 LLM ‘미스트랄 라지’ 적용
  • 박시현 기자
  • 승인 2024.03.11 22:33
  • 댓글 0
이 기사를 공유합니다

기업 고유의 데이터 바탕으로 다양하게 AI 활용, 스노우플레이크 코텍스로 감정 분석, 번역, 요약 등 다양한 특수 작업 빠르고 쉽게 처리
스노우플레이크 산하 벤처 캐피탈인 스노우플레이크 벤처스는 미스트랄 AI에 시리즈 A 투자를 했다.

[디지털경제뉴스 박시현 기자] 스노우플레이크는 프랑스의 AI 솔루션 제공업체 ‘미스트랄 AI’와 파트너십을 체결했다고 밝혔다. 스노우플레이크 산하 벤처 캐피탈인 스노우플레이크 벤처스는 미스트랄 AI에 시리즈 A 투자를 했다.

양사의 협력으로 스노우플레이크 고객은 미스트랄 AI가 최근 선보인 플래그십 대규모 언어 모델(LLM)인 ‘미스트랄 라지’를 스노우플레이크 데이터 클라우드 플랫폼에서 적용할 수 있다. 또한, 미스트랄 AI의 최초 기본 모델인 ‘미스트랄 7B’와 오픈 소스 모델 ‘믹스트랄 8x7B’에도 액세스할 수 있다.

‘미스트랄 라지’는 고유한 추론 능력을 갖춘 LLM 모델로 코딩과 수학에 능숙하고 한번의 요청으로 수백 페이지에 달하는 문서를 처리할 수 있다. 프랑스어, 영어, 독일어, 스페인어, 이탈리아어 등 5개 언어 처리가 가능하다. 기존 생성형 AI 모델과 ‘대규모 다중 작업 언어 이해 측정(MMLU)’을 비교하는데 뛰어난 성능을 입증하며 챗GPT-4에 이어 API를 통해 사용 가능한 모델 중 2위를 차지하기도 했다.

‘미스트랄 7B’는 낮은 지연 시간과 메모리 요구사항에 비해 높은 처리량을 갖춘 것이 특징이다. ‘믹스트랄 8x7B’는 대부분의 성능 비교에서 챗GPT3.5보다 빠르고 품질이 우수한 것으로 나타났다.

미스트랄 AI의 모델들은 ‘스노우플레이크 코텍스’에서 프리뷰 공개 형태로 고객에게 제공된다. 스노우플레이크 코텍스는 스노우플레이크 플랫폼에서 생성형 AI를 활용할 수 있는 완전 관리형 LLM 및 벡터 검색 서비스이다. AI/ML 기술 없이도 쉽고 강화된 보안 환경에서 생성형 AI를 활용할 수 있는 서비스로, 기업은 데이터에 대한 보안, 개인 정보 보호 및 거버넌스는 유지하면서 데이터를 빠른 속도로 분석하고 AI 앱을 구축할 수 있다.

슈리다 라마스워미 스노우플레이크 CEO는 “스노우플레이크는 미스트랄 AI와의 파트너십으로 최정상급 성능의 LLM을 고객에게 직접 제공하고, 사용자는 간편하면서도 혁신적인 AI 앱을 구축할 수 있게 됐다”며 “스노우플레이크 코텍스를 통해 더 많은 기업이 데이터 클라우드의 보안과 개인 정보 보호는 강화하고 새롭고 경제적인 AI 사용 사례를 만들어 내기를 바란다”고 말했다.

스노우플레이크 지난해 감정 분석, 번역, 요약과 같은 특수 작업을 위한 LLM을 지원하는 코텍스를 처음 공개했다. 또한, 메타의 ‘라마2’ 모델을 시작으로 검색증강생성(RAG)을 포함한 기본 LLM 지원을 늘리고 있다. 스노우플레이크는 미스트랄 AI와의 파트너십으로 생성형 AI에 대한 투자를 이어가면서, 기본형 LLM을 스노우플레이크 코텍스에서 제공해 기업이 다방면 비즈니스에 최첨단 생성형 AI를 도입할 수 있도록 지원하고 있다.

스노우플레이크 코텍스 LLM 기능이 공개되면서 스노우플레이크 기업 고객은 기업 고유의 데이터를 바탕으로 다양하게 AI를 활용할 수 있게 됐다. SQL 기술을 갖춘 사용자라면 누구나 수 초 내에 감정 분석, 번역, 요약과 같은 특수 작업을 비용 효율적으로 진행할 수 있다. 파이썬 개발자라면 스노우플레이크 코텍스에서 제공하는 미스트랄 AI의 LLM은 물론, 곧 공개될 스노우플레이크 스트림릿의 대화형 기능을 통해 수 분 내에 챗봇과 같은 풀스택 AI 앱을 개발할 수 있다. 간편해진 경험과 높은 수준의 보안은 곧 공개될 스노우플레이크의 통합 벡터 기능과 벡터 데이터 유형을 통해 RAG에도 동일하게 적용될 예정이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.