업스테이지, 노코드 LLM 평가 플랫폼 ‘이벨버스’ 무료 공개
업스테이지, 노코드 LLM 평가 플랫폼 ‘이벨버스’ 무료 공개
  • 박시현 기자
  • 승인 2024.04.03 17:21
  • 댓글 0
이 기사를 공유합니다

여러 벤치마크 테스트 동시 진행…H6, MT-벤치, EQ-벤치, IFEval 등 LLM 성능 평가 주요 벤치마크 통합
업스테이지의 노코드 LLM 종합 평가 플랫폼 ‘이벨버스’는 오픈소스 형태로 깃허브에 공개돼 누구나 쉽게 활용할 수 있다.
업스테이지의 노코드 LLM 종합 평가 플랫폼 ‘이벨버스’는 오픈소스 형태로 깃허브에 공개돼 누구나 쉽게 활용할 수 있다.

[디지털경제뉴스 박시현 기자] 이제 누구나 거대언어모델(LLM)을 자체적으로 평가하고 테스트해 볼 수 있다.

업스테이지는 자체 개발한 노코드 LLM 종합 평가 플랫폼 ‘이벨버스(Evalverse)’를 무료로 공개한다고 밝혔다. 오픈소스 형태로 깃허브에 공개돼 누구나 쉽게 활용할 수 있다.

통상 LLM 성능 평가에는 특정 데이터셋을 기준으로 응답 정확도를 기록한 ‘벤치마크’ 지표를 활용한다. 모델의 추론, 상식, 언어 이해 능력 등 6가지 부문을 측정하는 허깅페이스 ‘H6’ 지표를 포함, 대화 능력 지표 ‘MT-벤치’, 감성 평가 지표 ‘EQ-벤치’ 및 지시 이행 능력 지표 ‘IFEval’ 등이 주요 벤치마크로 꼽힌다.

업스테이지는 이러한 주요 벤치마크를 한 군데로 통합해, 언어모델 성능을 종합적으로 테스트할 수 있는 자체 평가 플랫폼을 개발했다. 기존에는 특정 벤치마크를 테스트하려면 해당 플랫폼에 모델을 제출해야 하는 번거로움이 있었지만, 이벨버스를 활용하면 여러 벤치마크 테스트를 동시에 진행할 수 있다.

업스테이지 이벨버스는 업무용 메신저 ‘슬랙’에 API 챗봇 형태로 연동해 사용성을 확대했다. 특히, 슬랙 안에서 이벨버스 챗봇과 1:1 대화를 통해 모든 평가 과정을 간소화한 것이 특징이다. 이용자들은 ‘호출’, ‘평가’ 등 채팅창에 단 2개의 명령어만 입력하면 바로 원하는 모델을 호출해 테스트할 수 있으며, 벤치마크별 점수에 대한 종합 리포트까지 확인할 수 있어 모델 간 비교 평가도 용이하다.

이번 업스테이지의 이벨버스 오픈소스 공개는 생성형 AI 생태계의 발전과 상생을 위한 노력의 일환이다. 업스테이지는 “한국어 LLM 평가 표준을 제시한 ‘Open Ko-LLM 리더보드’ 구축, 복잡한 데이터 전처리 기술을 전면 공개한 ‘데이터버스’에 이어 평가 플랫폼까지 전면 공개함으로써 오픈소스 세계관을 완성했다”고 강조했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.