[디지털경제뉴스 차수상 기자] 엔비디아가 현지시간 18일 미국 새너제이 컨벤션센터에서 AI 콘퍼런스 ‘GTC 2024’의 막을 올렸다. 이번 행사는 오는 21일까지 진행된다. 행사 첫날, 엔비디아가 발표한 내용은 다음과 같다.

▲대규모 AI를 위해 설계된 새로운 네트워킹 스위치인 X800 시리즈 발표

▲대규모 생성형 AI 슈퍼컴퓨팅을 위한 블랙웰 기반 DGX 슈퍼팟 발표

▲최대 10조 개의 파라미터로 확장되는 모델에 대한 AI 훈련과 실시간 LLM 추론을 지원하는 블랙웰 GPU 발표

▲클라우드 양자 컴퓨터 시뮬레이션 마이크로서비스 발표

▲일본의 ABCI-Q 슈퍼컴퓨터, 가속과 양자 컴퓨팅용 엔비디아 플랫폼에 의해 구동 예정

▲수십 개의 엔터프라이즈용 생성형 AI 마이크로서비스 발표

▲산업용 디지털 트윈 소프트웨어 위한 옴니버스 클라우드 API 발표

▲SAP, 엔비디아의 생성형 AI 파운드리 서비스 사용해 도메인별 시나리오에 맞게 LLM 미세 조정 예정

▲AI로 무선 통신 발전시킬 6G 리서치 클라우드 플랫폼 발표

▲엔비디아 옴니버스, 애플 비전 프로에 산업용 디지털 트윈 구현

▲AI 엔터프라이즈 5.0 출시로 기업 생성형 AI 개발 지원

▲HSBC 양자 머신 러닝 알고리즘, 엔비디아 GPU 사용해 165큐비트 시뮬레이션 실현 및 일본, 덴마크, 호주 등 양자 컴퓨팅 국가 연구에 엔비디아 기술 도입

◆젠슨 황 CEO, 기조연설에서 글로벌 기업과 협업 발표부터 데모 시연까지 = 젠슨 황 엔비디아 CEO는 약 12미터 높이의 8K 스크린의 거대한 영상 앞에서 기조연설을 했다.

젠슨 황은 수조 개의 파라미터로 구성된 대규모 언어 모델(LLM)에서 실시간 생성형 AI를 구현해 전 세계 AI 인프라에 대대적인 업그레이드를 제공할 엔비디아 블랙웰 플랫폼을 소개했다. 또 엔비디아 추론 마이크로서비스에 대한 레퍼런스인 엔비디아 NIM을 발표했다. 이는 개발자가 모든 종류의 맞춤형 AI를 배포할 수 있도록 수억 개의 GPU와 연결해주는 새로운 소프트웨어 패키징이자 제공 방식이다. 그리고 AI를 실제 세계에 접목해 고급 시뮬레이션 기능을 제공하는 옴니버스 클라우드 API를 소개했다.

젠슨 황은 “여러 모델에서 처리 가능하며 다양한 데이터 유형을 처리할 수 있는 멀티모달 AI의 등장으로 AI의 적응력과 성능이 향상됐다”고 설명했다. 이러한 모델은 매개변수를 늘림으로써 더 복잡한 분석을 처리할 수 있다. 하지만 이는 컴퓨팅 성능에 대한 필요성이 크게 증가한다는 것을 의미한다. 그리고 이러한 협업형 멀티모달 시스템이 1조 개에 달하는 매개변수로 더욱 복잡해짐에 따라 고급 컴퓨팅 인프라에 대한 수요도 증가한다.

젠슨 황은 "더 큰 모델이 필요하다. 이러한 모델은 인터넷의 텍스트뿐 아니라 텍스트와 이미지, 그래프와 차트, 그리고 TV를 보면서 배웠던 것처럼 수많은 영상을 시청하는 멀티모달 데이터로 훈련시킬 것"이라고 말했다. 그는 “간단히 말해 더 큰 GPU가 필요하다. 블랙웰 플랫폼은 이 과제를 해결하기 위해 만들어졌다”라고 말했다. 젠슨 황이 주머니에서 블랙웰 칩을 꺼내 호퍼 칩과 나란히 들어보이자 호퍼가 왜소해 보였다.

게임 이론과 통계학을 전공한 캘리포니아 버클리 대학교의 수학자이자 흑인 학자로는 최초로 미국국립과학원에 입회한 데이비드 해롤드 블랙웰의 이름을 딴 이 새로운 아키텍처는 2년 전 출시된 엔비디아 호퍼 아키텍처의 후속작이다.

◆“블랙웰 플랫폼은 엔비디아 역사상 가장 성공적인 출시” = 블랙웰은 훈련용 FP8에서 칩당 이전 세대 대비 2.5배, 추론용 FP4에서는 5배의 성능을 제공한다. 이 제품은 호퍼보다 두 배 빠른 5세대 NV링크 인터커넥트를 갖추고 있으며 최대 576개의 GPU까지 확장할 수 있다.

엔비디아 GB200 그레이스 블랙웰 슈퍼칩은 초당 900GB 초저전력 NV링크 칩투칩 인터커넥트를 통해 두 개의 블랙웰 엔비디아 B200 텐서 코어 GPU를 엔비디아 그레이스 CPU에 연결한다.

젠슨 황은 시스템이 탑재된 보드를 들어 보이며 "이 컴퓨터는 이 작은 공간에 이렇게 많은 컴퓨팅이 들어가는 최초의 컴퓨터다. 메모리 일관성이 있기 때문에 하나의 애플리케이션에서 함께 작동하는 하나의 행복한 가족과 같다"고 말했다.

젠슨 황은 "우리가 절약하는 에너지의 양, 절약하는 네트워킹 대역폭의 양, 절약되는 시간의 양은 엄청날 것이다. 생성형 AI가 바로 미래이기 때문에 이 분야는 완전히 새로운 산업이다. 우리의 컴퓨팅 방식은 근본적으로 다르다. 우리는 생성형 AI 시대를 위한 프로세서를 만들었다"고 말했다.

엔비디아는 블랙웰을 확장하기 위해 NV링크 스위치라는 새로운 칩을 개발했다. 이 칩은 초당 1.8TB 속도로 4개의 NV링크 인터커넥트를 연결하고 네트워크 내 감소를 수행해 트래픽을 제거할 수 있다.

엔비디아 스위치와 GB200은 젠슨 황이 ‘하나의 거대한 GPU’라고 부른 멀티노드의 수냉식 랙 규모 시스템인 엔비디아 GB200 NVL72의 핵심 구성요소이다. 이는 블랙웰을 활용해 단일 랙에서 720페타플롭의 AI 훈련 성능과 1.4 엑사플롭의 AI 추론 성능을 제공하는 조 단위 파라미터 모델을 위한 초강력 컴퓨팅을 제공한다.

젠슨 황은 60만 개의 부품으로 구성돼 있으며 무게가 3,000파운드(1,360kg)에 달하는 이 장비에 대해 "엑사플롭 장비는 현재 지구상에 두세 대 정도밖에 없다. 그래서 이것은 하나의 랙에 들어 있는 엑사플롭 AI 시스템이다“라고 말했다.

엔비디아는 차세대 AI 슈퍼컴퓨터인 엔비디아 GB200 그레이스 블랙웰 슈퍼칩 기반 DGX 슈퍼팟도 발표했다. 이 슈퍼컴퓨터는 수조 개의 파라미터 모델을 처리하고 초거대 생성형 AI 훈련과 추론 워크로드를 위한 지속적인 가동 시간을 보장한다.

고효율 수냉식 랙 스케일 아키텍처를 특징으로 하는 새로운 DGX 슈퍼팟은 엔비디아 DG GB200 시스템으로 구축됐다. 또한 FP4 정밀도에서 11.5 엑사플롭의 AI 슈퍼컴퓨팅과 240테라바이트의 고속 메모리를 제공하며, 랙을 추가하면 더 확장할 수 있다.

블랙웰은 모든 주요 글로벌 클라우드 서비스 제공업체, AI 기업, 시스템과 서버 공급업체, 전 세계 지역 클라우드 서비스 제공업체, 통신회사들이 도입할 예정이다. 젠슨 황은 "업계 전체가 블랙웰을 맞을 준비를 하고 있다. 블랙웰은 엔비디아 역사상 가장 성공적인 출시가 될 것”이라고 말했다.

◆미래의 소프트웨어 구축 방법은? = 젠슨 황은 “생성형 AI가 애플리케이션 작성 방식을 바꾼다”라면서 “기업이 소프트웨어를 작성하는 대신 AI 모델을 조립하고, 미션을 부여하고, 작업 결과물의 예시를 제시하고, 계획과 중간 결과를 검토한다”고 설명했다. 엔비디아 NIM은 이러한 패키지로, 엔비디아의 가속 컴퓨팅 라이브러리와 생성형 AI 모델을 기반으로 구축된다.

젠슨 황은 “미래에는 소프트웨어를 어떻게 구축할까? 처음부터 새로 작성하거나 파이썬 코드 같은 것을 작성하는 일은 거의 없을 것이다. 아마도 AI 팀을 구성할 가능성이 높다"고 말했다.

마이크로서비스는 업계 표준 API를 지원하므로 쉽게 연결할 수 있고, 엔비디아의 대규모 쿠다 설치 기반에서 작동한다. 또한, 새로운 GPU에 맞게 다시 최적화되고, 보안 취약점과 노출 여부를 지속적으로 검사한다.

젠슨 황은 고객이 기성품으로 제공되는 NIM 마이크로서비스를 사용하거나, 엔비디아의 도움으로 자체 AI와 코파일럿을 구축할 수도 있다고 말했다. 코파일럿은 특정 기업만이 알 수 있는 전문 기술을 모델에 학습시켜 가치 있는 새로운 서비스를 만들 수 있다.

젠슨 황은 "기업용 IT 업계는 금광 위에 앉아 있다. 그들은 수년에 걸쳐 구축한 놀라운 툴과 데이터를 모두 보유하고 있다. 이 금광을 코파일럿으로 만들 수 있다면, 우리의 업무에 도움을 줄 수 있다”고 말했다.

주요 기술 기업들은 이미 이를 활용하고 있다. 젠슨 황은 이미 코히시티, 넷앱, SAP, 서비스나우, 스노우플레이크가 코파일럿과 가상 비서를 구축하는 데 엔비디아가 어떻게 도움을 주고 있는지 자세히 설명했다.

통신 분야에서 젠슨 황은 차세대 통신 시대를 앞당기기 위한 생성형 AI와 옴니버스 기반 플랫폼인 ‘엔비디아 6G 리서치 클라우드’를 발표했다. 이 플랫폼은 엔비디아의 시오나 뉴럴 라디오 프레임워크, 엔비디아 에리얼 쿠다 가속 무선 액세스 네트워크, 6G용 엔비디아 에리얼 옴니버스 디지털 트윈으로 구축됐다.

반도체 설계와 제조 분야에서 젠슨 황은 TSMC, 시놉시스와의 협력으로 엔비디아가 혁신적인 컴퓨팅 리소그래피 플랫폼인 cu리소(cuLitho)의 생산을 시작한다고 발표했다. 이 플랫폼은 반도체 제조에서 가장 컴퓨팅 집약적인 워크로드를 40~60배까지 가속화할 것이다.

젠슨 황은 ‘엔비디아 지구 기후 디지털 트윈’도 발표했다. 현재 이용 가능한 이 클라우드 플랫폼은 대화형 고해상도 시뮬레이션을 통해 기후와 날씨 예측을 가속화한다.

젠슨 황은 AI의 가장 큰 영향력은 의료 분야에서 나타날 것이라고 전망했다. 엔비디아는 이미 영상 시스템, 유전자 염기서열 분석 기기 분야에서 작업 중이며 선도적인 수술 로봇 회사들과 협력하고 있다고 설명했다.

엔비디아는 새로운 유형의 생물학 소프트웨어를 출시할 계획이다. 이날 엔비디아는 전 세계 의료 기업이 어디서나 모든 클라우드에서 최첨단 생성형 AI를 활용할 수 있는 20여 개의 새로운 마이크로서비스를 출시했다. 이 서비스들은 고급 영상, 자연어와 음성 인식, 디지털 생물학 생성, 예측, 시뮬레이션을 제공한다.

◆“AI의 다음 물결은 실제 세계에 대해 학습하는 AI” = 젠슨 황은 AI의 다음 물결은 실제 세계에 대해 학습하는 AI가 될 것이라면서 "로봇이 로봇이 되는 방법을 배울 수 있도록 로봇을 위해 세계를 디지털로 표현하는 시뮬레이션 엔진이 필요하다. 우리는 이 가상 세계를 옴니버스라고 부른다"고 말했다.

이날 엔비디아는 엔비디아 옴니버스 클라우드를 API로 제공한다고 발표했다. 이를 통해 산업용 디지털 트윈 애플리케이션과 워크플로우를 제작하는 세계 최고의 플랫폼의 적용 범위를 소프트웨어 제조업체의 전체 에코시스템으로 확장해 나갈 방침이다.

개발자는 5가지 새로운 옴니버스 클라우드 API를 통해 옴니버스의 핵심 기술을 직접 쉽게 통합할 수 있다. 여기에는 디지털 트윈을 위한 기존 설계, 자동화 소프트웨어 애플리케이션 또는 로봇이나 자율주행차와 같은 자율 기계의 테스트와 검증을 위한 시뮬레이션 워크플로우가 포함된다.

엔비디아의 로봇 지게차는 멀티 카메라 인식과 추적 기능을 사용해 작업자를 감시하고 전체 로봇 스택이 작동하는 가운데 자율적으로 주행할 수 있다. 젠슨 황은 로봇 웨어하우스 데모를 통해 작동 방식을 직접 보여줬다.

젠슨 황은 엔비디아가 애플 비전 프로에 옴니버스를 제공한다고 발표했다. 새로운 옴니버스 클라우드 API를 통해 개발자는 대화형 산업용 디지털 트윈을 VR 헤드셋으로 스트리밍할 수 있게 된다.

세계적인 산업용 소프트웨어 제조업체들도 옴니버스 클라우드 API를 도입하고 있다. 앤시스, 케이던스, 다쏘시스템의 3D익사이트, 헥사곤, 마이크로소프트, 로크웰 오토메이션, 지멘스, 트림블 등이 대표적이다.

◆“움직이는 모든 것이 로봇이 될 것” = 젠슨 황은 움직이는 모든 것이 로봇이 될 것이라고 말했다. 대표적인 것이 바로 자동차 산업이다. 엔비디아 컴퓨터는 이미 자동차, 트럭, 배달 로봇, 로보 택시 등에 탑재돼 있다.

젠슨 황은 세계 최대 자율주행차 회사인 BYD가 자율주행차 개발을 위해 엔비디아의 차세대 컴퓨터를 선택해 드라이브 토르를 기반으로 차세대 전기차 플릿을 구축하고 있다고 발표했다. 또한 로봇이 주변 환경을 더 잘 볼 수 있도록 최첨단 멀티 카메라 시각 거리 측정, 3D 재구성과 점유 지도, 깊이 인식 기능을 갖춘 아이작 퍼셉터 소프트웨어 개발 키트도 선보였다.

엔비디아는 여기에다 로봇 팔인 매니퓰레이터의 적응성을 높이기 위해 최첨단 로봇 팔 인식, 경로 계획과 운동 제어 라이브러리인 아이작 매니퓰레이터를 발표했다. 마지막으로는 휴머노이드 로봇을 위한 범용 파운데이션 모델 GR00T를 발표했다. 젠슨 황은 엔비디아 토르 SoC 기반의 휴머노이드 로봇용 새로운 컴퓨터인 젯슨 토르와 엔비디아 아이작 로봇 플랫폼의 업그레이드 내용을 공개했다.

기조연설의 마지막 부분에 젠슨 황은 디즈니 리서치에서 제작한 엔비디아 기반의 소형 로봇 한 쌍을 무대에 올렸다. 그는 "컴퓨터 그래픽, 물리학, 인공지능의 교차점이 바로 엔비디아의 핵심이다. 이 모든 것이 지금 이 순간 이뤄졌다"고 말했다.