오라클 “‘히트웨이브 생성형 AI’로 생성형 AI 앱 구축 빠르고 저렴하게 지원”
오라클 “‘히트웨이브 생성형 AI’로 생성형 AI 앱 구축 빠르고 저렴하게 지원”
  • 박시현 기자
  • 승인 2024.07.02 19:42
  • 댓글 0
이 기사를 공유합니다

인-데이터베이스 LLM 및 자동화된 인-데이터베이스 벡터 스토어 등 제공
니푼 아가르왈 오라클 MySQL 및 히트웨이브 개발 담당 수석 부사장이 2일 미디어 브리핑에서 발표하고 있다.
니푼 아가르왈 오라클 MySQL 및 히트웨이브 개발 담당 수석 부사장이 2일 온라인 미디어 브리핑에서 발표하고 있다.

[디지털경제뉴스 박시현 기자] 한국오라클은 2일 국내 미디어를 대상으로 온라인 브리핑을 열고 ‘히트웨이브 생성형 AI(HeatWave GenAI)’를 소개하는 자리를 가졌다.

이날 브리핑에는 오라클의 MySQL 및 히트웨이브 개발을 총괄하는 니푼 아가르왈(Nipun Agarwal) 수석 부사장이 나서 ‘히트웨이브 생성형 AI’의 특징과 타사 제품과의 BMT 결과를 발표했다.

니푼 아가르왈 부사장은 “히트웨이브는 오라클 클라우드 인프라(OCI)에서 제공되는 완전 관리형 데이터 프로세싱 서비스로, 그동안 MySQL, OLTP, OLAP, 오토ML, 레이크하우스에 이어 이번에 생성형 AI의 추가로 혁신을 거듭하고 있다”고 밝혔다.

‘인-데이터베이스 LLM’, 생성형 AI 애플리케이션 개발 간소화하고 비용 절감 = 오라클이 이번에 선보인 히트웨이브 생성형 AI의 특징은 ▲자동화된 인-데이터베이스 벡터 스토어 ▲인-데이터베이스 거대언어모델(LLM) ▲스케일 아웃 벡터 프로세싱 ▲비정형 콘텐츠 기반의 자연어 대화 기능을 제공하는 ‘히트웨이브 챗’ 등 4가지다.

먼저 자동화된 인-데이터베이스 벡터 스토어는 고객이 데이터를 별도의 벡터 데이터베이스로 이동하거나, AI 전문성을 갖추지 않고도 생성형 AI를 자체 비즈니스 문서와 함께 사용할 수 있도록 지원한다. 또 오브젝트 스토리지에서의 문서 검색, 파싱, 고도로 병렬화되고 최적화된 임베딩 생성, 벡터 스토어에 대한 임베딩 삽입 등 벡터 스토어 및 벡터 임베딩 생성을 위한 모든 과정이 자동화돼 있다. 그리고 데이터베이스 내에서 수행되므로 히트웨이브 벡터 스토어의 효율성과 쉬운 활용을 보장한다.

RAG용 벡터 스토어는 이 모델들이 보다 정확하고 유관한 답변 제공을 위해 적절한 맥락을 바탕으로 전문 데이터를 검색할 수 있도록 해 LLM의 환각 문제 해결에도 도움을 준다.

히트웨이브 생성형 AI의 두 번째 특징인 인-데이터베이스 LLM은 생성형 AI 애플리케이션의 개발을 간소화하고, 개발 비용을 절감한다. 고객은 외부 LLM 선정 및 통합의 복잡성 없이도 생성형 AI의 이점을 누릴 수 있고, 다양한 클라우드 제공업체 데이터센터의 LLM 가용성에 대해 걱정할 필요도 없다. 인-데이터베이스 LLM은 고객이 히트웨이브 벡터 스토어를 활용해 데이터 검색, 콘텐츠 생성 및 요약, 검색증강생성(RAG) 등을 수행할 수 있게 해 준다. 또한 고객은 오토ML과 같은 내장형 히트웨이브 기능을 생성형 AI와 결합해 보다 풍성한 애플리케이션을 구축할 수 있다. 히트웨이브 생성형 AI는 OCI 생성형 AI 서비스에도 통합돼 있으므로, 고객은 최고의 LLM 제공업체들이 제공하는 사전 훈련된 기본 모델을 활용할 수 있다.

이어 스케일 아웃 벡터 프로세싱은 일정한 정확도를 유지하면서 신속한 의미 검색 결과를 제공한다. 히트웨이브는 새로운 네이티브 벡터 데이터 유형 및 거리 함수의 최적화된 구현을 지원해 고객이 표준 SQL을 통해 의미 쿼리를 수행할 수 있도록 한다.

인-메모리 하이브리드 열 형식 표현 및 히트웨이브의 확장 아키텍처는 벡터 처리가 니어 메모리 대역폭에서 실행되고, 최대 512 히트웨이브 노드에서 병렬화될 수 있게 한다. 그 결과 고객의 질문에 대한 답을 신속히 제공할 수 있게 된다. 또한 사용자는 의미 검색과 기타 SQL 연산자를 결합해 여러 테이블을 다양한 문서로 조인하고, 모든 문서 전반에서 유사성 검색을 수행할 수 있다.

히트웨이브 챗은 MySQL 쉘용 비주얼 코드 플러그인으로 히트웨이브 생성형AI를 위한 그래픽 인터페이스를 제공하며, 개발자들이 자연어 또는 SQL로 질문을 할 수 있게 지원한다. 이 통합 레이크하우스 네비게이터는 사용자가 오브젝트 스토리지로부터 파일을 선택하고 벡터 스토어를 생성할 수 있도록 지원한다. 사용자는 데이터베이스 전반에서 검색을 수행하거나, 검색 영역을 폴더로 제한할 수도 있다.

히트웨이브는 질문 내역, 소스 문서 인용 및 LLM 프롬프트를 바탕으로 컨텍스트를 유지 관리한다. 이는 상황별 대화를 용이하게 하고, 사용자가 LLM이 생성한 답변의 출처를 검증할 수 있게 해 준다. 컨텍스트는 히트웨이브에서 유지 관리되며, 히트웨이브를 사용하는 모든 애플리케이션에서 사용 가능하다.

즉 히트웨이브 생성형 AI는 AI 전문가가 아니더라도 별도 벡터 데이터베이스로의 데이터 이동 없이 생성형 AI의 효과를 엔터프라이즈 데이터에 구현할 수 있도록 지원한다. 히트웨이브 고객이라면 오라클 클라우드 리전과 오라클 클라우드 인프라스트럭처 전용 리전, 다른 주요 클라우드 서비스 전반에서 추가 비용 없이 즉시 이용 가능하다.

히트웨이브 생성형AI는 개발자가 내장형 임베딩 모델을 사용해 단일 SQL 명령어로 기업의 비정형 콘텐츠를 위한 벡터 저장소를 생성할 수 있게 해 준다. 사용자는 인-데이터베이스 LLM 혹은 외부 LLM을 사용해 단일 동작으로 자연어 검색을 수행할 수 있다. 데이터는 데이터베이스 내에서 안전하게 유지되며, 히트웨이브의 뛰어난 확장성과 성능 덕분에 GPU를 프로비저닝할 필요도 없다. 개발자들은 결과적으로 애플리케이션의 복잡성을 최소화하는 동시에 성능 및 데이터 보안을 강화하고, 비용을 절감할 수 있다.

◆벡터 처리 속도 스노우플레이크 대비 30배, 구글 빅쿼리 대비 18배, 데이터브릭스 대비 15배 빨라 = 니푼 아가르왈 부사장의 설명에 의하면 히트웨이브 생성형AI는 아마존 베드록의 지식 기반을 사용할 때보다 PDF, PPT, 워드, HTML 형식 문서용 벡터 저장소 생성 속도는 23배 빠르며, 비용은 1/4 수준으로 저렴하다.

히트웨이브 생성형AI는 또 GB에서 300GB 크기의 테이블에서 다양한 유사성 검색 쿼리를 사용해 이루어진 서드파티 벤치마크에서 스노우플레이크 대비 30배 빠른 속도와 25% 저렴한 비용, 데이터브릭스 대비 15배 빠른 속도와 85% 저렴한 비용, 구글 빅쿼리 대비 18배 빠른 속도와 60% 저렴한 비용 등의 결과를 보였다.

니푼 아가르왈 부사장은 히트웨이브 생성형 AI의 고객 사례로 온라인 음식 주문 업체인 잇이지(EatEasy)를 소개했다. 잇이지는 기존 AWS에서 오라클 클라우드 인프라로 이전하고, 히트웨이브 오토ML과 생성형 AI를 결합해 음식 배달에 걸리는 시간을 예측하고 기존의 주문 내역을 기반으로 개인 맞춤형으로 추천하는 등의 서비스를 제공하고 있다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.