엔비디아(NVIDIA) 창립자 겸 CEO 젠슨 황(Jensen Huang) ⓒ엔비디아

엔비디아(NVIDIA) 창립자 겸 CEO 젠슨 황(Jensen Huang)이 31일 대만 타이베이에서 열린 컴퓨텍스(COMPUTEX)의 기조연설에서 기업이 광고에서 제조, 통신에 이르기까지 산업을 변화시키는 역사적인 생성형 AI 열풍에 편승할 수 있는 플랫폼을 발표했다.

젠슨 황은 기조연설 무대에 올라 “우리가 돌아왔다”고 외치며 등장했다. 이날 젠슨 황은 새로운 비즈니스 모델을 가능하게 하고 현재 비즈니스 모델의 효율성을 높이는 가속 컴퓨팅 서비스, 소프트웨어, 시스템에 대해 약 3500명의 청중 앞에서 2시간 동안 설명했다.

기조연설에서 젠슨 황은 “가속 컴퓨팅과 AI는 가속 컴퓨팅의 재창조(reinvention)를 의미한다”고 강조했다. 특히 자신이 연설하던 무대의 거대한 8K 벽면에 기조연설의 주제곡을 생성하는 텍스트 프롬프트를 띄워 그 위력을 보여줬다.

젠슨 황은 “우리는 이제 전 세계 거의 모든 컴퓨팅 및 클라우드 기업이 채택한 가속 컴퓨팅과 AI를 통해 새로운 컴퓨팅 시대의 전환점에 서 있다”며 “4만 개 대기업과 1만5000개 스타트업이 엔비디아 기술을 사용하고 있으며 작년에만 2500만 건의 CUDA 소프트웨어 다운로드가 이루어졌다”고 발표했다.

이어 “DGX GH200 AI 슈퍼컴퓨터는 엔비디아의 최고급 가속 컴퓨팅과 네트워킹 기술을 통합해 AI의 경계를 확장한다”고 말했다.

엔비디아는 자체 대규모 AI 슈퍼컴퓨터인 엔비디아 헬리오스(NVIDIA Helios)를 구축하고 올해 가동할 예정이다. 이 슈퍼컴퓨터는 엔비디아 퀀텀-2 인피니밴드(Quantum-2 InfiniBand) 네트워킹과 연결된 4개의 DGX GH200 시스템을 사용해 대규모 AI 모델 훈련을 위한 데이터 처리량을 강화한다.

이번 행사에서 발표된 수백 가지 시스템 중 정점을 이루는 것은 DGX GH200이다. 이 시스템들은 함께 수백만 명의 사용자에게 생성형 AI와 가속 컴퓨팅을 제공할 것으로 기대된다.

엔비디아의 최신 호퍼, 그레이스, 에이다 러브레이스(Ada Lovelace), 블루필드(BlueField) 아키텍처를 기반으로 하는 400개 이상의 시스템 구성이 출시될 예정이다. AI, 데이터 사이언스 및 고성능 컴퓨팅 분야에서 가장 복잡한 과제를 해결하기 위해서다.

모든 규모의 가속

엔비디아는 또한 모든 규모의 데이터센터 요구사항을 충족하기 위해 가속화된 서버를 만들기 위한 모듈식 참조 아키텍처인 엔비디아 MGX를 발표했다. 이를 통해 시스템 제조업체는 광범위한 AI, HPC, 엔비디아 옴니버스 애플리케이션에 적합한 100개 이상의 서로 다른 서버 구성을 비용 효율적으로 빠르게 구축할 수 있다.

MGX를 통해 제조업체는 공통 아키텍처와 모듈식 구성 요소를 사용하여 CPU와 가속 서버를 구축할 수 있다. 다양한 공냉식 및 수냉식 섀시에서 엔비디아의 GPU, CPU, 데이터 처리 장치(DPU), 네트워크 어댑터 전 라인과 x86 및 Arm 프로세서를 지원한다.

8월에 공개되는 MGX 설계를 적용한 제품을 처음으로 시장에 출시하는 회사는 QCT와 슈퍼마이크로(Supermicro)다. 컴퓨텍스에서 발표된 슈퍼마이크로의 ARS-221GL-NR 시스템은 그레이스 CPU를 사용하며, 마찬가지로 이번 행사에서 발표된 QCT의 S74G-2U 시스템은 그레이스 호퍼를 사용한다.

애즈락랙(ASRock Rack), 에이수스(ASUS), 기가바이트(GIGABYTE), 페가트론(Pegatron)도 MGX를 사용해 차세대 가속 컴퓨터를 구축한다.

5G/6G를 지원하는 그레이스 호퍼

젠슨 황은 “엔비디아가 미래의 5G 및 6G 무선 및 비디오 통신을 형성하는 데 도움을 주고 있다”고 말했다. 시연에서는 그레이스 호퍼에서 실행되는 AI가 어떻게 오늘날의 2D 화상 통화를 더욱 생생한 3D 경험으로 전환해 현장감을 제공하는지 설명했다.

또 엔비디아는 새로운 서비스 토대 마련을 위해 거대 통신사 소프트뱅크와 협력해 일본에 분산형 데이터센터 네트워크를 구축한다. 공통 클라우드 플랫폼에서 5G 서비스와 생성형 AI 애플리케이션을 제공하기 위한 초석으로 풀이된다.

데이터센터는 모듈식 MGX 시스템의 그레이스 호퍼, 엔비디아 블루필드-3 DPU와 엔비디아 스펙트럼(Spectrum) 이더넷 스위치를 사용해 5G 프로토콜에 필요한 매우 정확한 타이밍을 제공한다. 이 플랫폼은 에너지 소비를 줄이면서 스펙트럼 효율성을 높여 비용을 절감한다.

클라우드 네트워크 강화

젠슨 황은 이더넷 기반 AI 클라우드의 성능과 효율성 개선에 특화된 네트워킹 플랫폼인 엔비디아 스펙트럼-X(Spectrum-X)도 공개했다. 이 플랫폼은 스펙트럼-4 이더넷 스위치를 블루필드-3 DPU 및 소프트웨어와 결합해 AI 성능과 전력 효율성을 기존 이더넷 패브릭 대비 1.7배 향상시킨다.

엔비디아 스펙트럼-X, 스펙트럼-4 스위치, 블루필드-3 DPU는 현재 델 테크놀로지스(Dell Technologies), 레노버(Lenovo), 슈퍼마이크로 등의 시스템 제조업체에서 구입할 수 있다.

©(주) EBN 무단전재 및 재배포 금지