엔비디아, 맞춤형 AI 인프라 위한 NV링크 퓨전 출시

AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(CEO 젠슨 황)가 엔비디아 NV링크 퓨전(NVIDIA NVLink Fusion™)을 출시했다. 이는 전 세계적으로 가장 발전된 컴퓨팅 패브릭인 엔비디아 NV링크™ 생태계를 기반으로 산업계가 세미 커스텀(semi-custom) AI 인프라를 구축할 수 있도록 지원하는 새로운 실리콘 기술이다.

미디어텍(MediaTek), 마벨(Marvell), 알칩 테크놀로지(Alchip Technologies), 아스테라 랩스(Astera Labs), 시놉시스(Synopsys), 케이던스(Cadence)는 NV링크 퓨전을 최초로 채택한 기업들이다. 이들 기업은 맞춤형 실리콘 확장을 통해 모델 훈련과 에이전틱 AI 추론을 위한 까다로운 워크로드 요구 사항을 충족할 수 있게 됐다. 또한, NV링크 퓨전을 통해 후지쯔(Fujitsu)와 퀄컴 테크놀로지스(Qualcomm Technologies)의 CPU를 엔비디아 GPU와 통합하고 고성능 엔비디아 AI 팩토리를 구축할 수 있다.

엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “수십 년 만에 데이터센터를 근본적으로 재설계해야 하는 지각변동이 일어나고 있다. 모든 컴퓨팅 플랫폼에 AI가 융합되고 있다. NV링크 퓨전은 엔비디아의 AI 플랫폼과 풍부한 생태계를 파트너사에 개방해 맞춤형 AI 인프라 구축을 가능하게 한다”고 말했다.

NV링크 퓨전은 클라우드 제공업체에 AI 팩토리를 수백만 개의 GPU로 손쉽게 확장할 수 있는 경로를 제공한다. 이는 ASIC, 엔비디아의 랙 스케일 시스템, 엔비디아 엔드-투-엔드 네트워킹 플랫폼을 통해 실현된다. 이 플랫폼은 최대 800Gb/s의 처리량을 제공하며, 엔비디아 커넥트X-8 슈퍼NIC(ConnectXⓇ-8SuperNIC), 엔비디아 스펙트럼-X 이더넷(Spectrum-X™ Ethernet), 엔비디아 퀀텀-X800 인피니밴드(Quantum-X800 InfiniBand) 스위치를 지원한다. 또한, 공동 패키징 광학(co-packaged optics, CPO)도 제공될 예정이다.

상호 연결된 기술 생태계

하이퍼스케일러는 NV링크 퓨전으로 엔비디아 파트너 생태계와 협력해 데이터센터 인프라에 엔비디아 랙 스케일 솔루션을 통합함으로써 원활한 배포를 지원한다.

엔비디아 NV링크 퓨전을 이용해 배포 가능한 맞춤형 AI 컴퓨팅을 구축하는 AI 칩 제조 파트너로는 미디어텍, 마벨, 알칩, 아스테라 랩스, 시놉시스, 케이던스 등이 있다.

미디어텍 부회장 겸 CEO인 릭 차이(Rick Tsai)는 “우리는 세계 최고 수준의 ASIC 설계 서비스와 고속 인터커넥트 분야에서의 깊은 전문성을 바탕으로 엔비디아와 협력해 차세대 AI 인프라를 구축하고 있다. 자동차 부문에서 시작된 양사의 협력은 이제 더욱 확장됐다. 이를 통해 빠르게 진화하는 클라우드 규모의 AI 요구사항을 충족하는 확장 가능하고, 효율적이며, 유연한 기술을 제공할 수 있게 됐다”고 말했다.

마벨 회장 겸 CEO인 매트 머피(Matt Murphy)는 “마벨은 엔비디아와 협력해 AI 팩토리 통합의 가능성을 재정의하고 있다. NV링크 퓨전이 적용된 마벨의 맞춤형 실리콘은 고객에게 고급 AI 인프라를 구축할 수 있는 고성능의 유연한 기반을 제공한다. 이를 통해 차세대 조 단위 파라미터 AI 모델에 필요한 고대역폭, 안정성, 민첩성을 제공한다”고 말했다.

알칩 CEO인 조니 셴(Johnny Shen)은 “알칩은 고급 공정, 검증된 패키징 그리고 ASIC 산업에서 가장 유연한 협업 방식을 포함한 설계와 제조 생태계를 통해 NV링크 퓨전의 가용성을 확대함으로써 그 채택을 지원하고 있다. 우리는 차세대 AI 모델을 효율적으로 훈련하고 배포해, 미래 지능형 애플리케이션의 요구 사항을 충족하는 데 기여하고 있다”고 말했다.

아스테라 랩스 CEO인 지텐드라 모한(Jitendra Mohan)은 “엔비디아와의 오랜 협력을 바탕으로 NV링크 퓨전 생태계를 위한 전용 연결 솔루션을 추가하게 돼 매우 기쁘다. 메모리 시맨틱을 기본적으로 지원하는 저지연, 고대역폭 스케일업 인터커넥트는 AI 서버 활용률과 성능을 극대화하는 데 매우 중요하다. NV링크 솔루션으로 스케일업 연결 포트폴리오를 확장함으로써, 우리는 하이퍼스케일러와 엔터프라이즈 AI 고객에게 더 많은 옵션을 제공하고 시장 출시 시간을 단축하고 있다”고 말했다.

시놉시스 회장 겸 CEO인 새신 가지(Sassine Ghazi)는 “데이터센터는 AI 팩토리로 전환되고 있다. 업계를 선도하는 시놉시스의 AI 칩 설계 솔루션과 표준 기반 인터페이스 IP는 이를 가능하게 하는 핵심 요소이다. 엔비디아 NV링크 퓨전에 대한 우리의 지원은 차세대 AI와 고성능 컴퓨팅을 위한 개방적이고 확장 가능한 생태계를 육성하려는 우리의 노력을 보여준다”고 말했다.

케이던스의 실리콘 솔루션 그룹(Silicon Solutions Group) 수석 부사장 겸 총괄 매니저인 보이드 펠프스(Boyd Phelps)는 “HPC, AI 워크로드 수요는 독특하고 빠르게 진화하고 있다. 최첨단 맞춤형 AI 시스템을 설계하는 하이퍼스케일러는 데이터센터에서 엣지까지 구현 가능한 기술을 제공하기 위해 케이던스의 기술에 의존하고 있다. 설계 IP, 칩렛 인프라, 서브시스템, 기타 핵심 IP를 포함한 우리의 포괄적인 IP 포트폴리오는 엔비디아 NV링크 생태계를 보완한다. 이를 통해 보다 강력하고 에너지 효율적이며 대규모 생산이 가능한 AI 팩토리의 제공을 가속화한다”고 말했다.

한편, 후지쯔와 퀄컴 테크놀로지스와 같은 AI 혁신 기업은 NV링크 퓨전을 통해 각자의 맞춤형 CPU와 엔비디아 GPU를 랙 스케일 아키텍처에 결합해 AI 성능을 향상시킨다.

후지쯔 CTO인 비벡 마하잔(Vivek Mahajan)은 “후지쯔의 첨단 CPU 기술과 엔비디아의 풀스택 AI 인프라를 결합하면 새로운 차원의 성능을 제공할 수 있다. 후지쯔의 차세대 프로세서인 후지쯔-모나카(FUJITSU-MONAKA)는 극한의 전력 효율을 목표로 하는 2나노미터 Arm 기반 CPU이다. 우리의 기술을 엔비디아의 아키텍처에 직접 연결하는 것은 세계 최고 수준의 컴퓨팅 기술을 통해 AI의 진화를 주도하겠다는 우리의 비전을 실현하는 중요한 진전이다. 동시에 확장 가능하고 자주적이며, 지속 가능한 새로운 종류의 AI 시스템을 위한 길을 열었다”고 말했다.

퀄컴 테크놀로지스 회장 겸 CEO인 크리스티아노 아몬(Christiano Amon)은 “퀄컴 테크놀로지스의 첨단 맞춤형 CPU 기술과 엔비디아의 풀스택 AI 플랫폼은 데이터센터 인프라에 강력하고 효율적인 인텔리전스를 제공한다. 맞춤형 프로세서를 엔비디아의 랙 스케일 아키텍처에 연결할 수 있게 됨으로써, 우리의 미션인 고성능, 에너지 효율적 컴퓨팅을 데이터센터로 확장하고 있다”고 말했다.

엔비디아 NV링크, 업계에서 검증된 규모

AI 팩토리의 처리량과 성능을 가장 전력 효율적인 방식으로 극대화하기 위해, 5세대 엔비디아 NV링크 플랫폼은 엔비디아 GB200 NVL72와 GB300 NVL72를 포함한다. 이들은 GPU당 총 1.8TB/s의 대역폭을 제공하는 고밀도 컴퓨팅 랙을 지원하며, 이는 5세대 PCIe보다 14배 빠른 속도다.

선도적인 하이퍼스케일러들은 이미 엔비디아 NV링크 풀랙 솔루션 배포에 나섰다. 이들은 NV링크 퓨전을 통해 이질적인 실리콘 데이터센터를 엔비디아 랙 아키텍처로 표준화해 가용성 확보까지 걸리는 시간을 단축할 수 있다.

AI 팩토리를 위해 제작된 소프트웨어

엔비디아 NV링크 퓨전과 연결된 AI 팩토리는 엔비디아 미션 컨트롤(Mission Control™)에 의해 구동된다. 이는 AI 데이터센터와 워크로드의 복잡한 관리를 자동화하는 통합 운영, 오케스트레이션 소프트웨어 플랫폼이다.

엔비디아 미션 컨트롤은 배포 구성부터 인프라 검증, 중요한 워크로드의 오케스트레이션까지 AI 팩토리 운영의 모든 측면을 개선한다. 이를 통해 기업이 프론티어 모델을 더 빠르게 가동하고 실행할 수 있도록 지원한다.

이용 정보

엔비디아 NV링크 퓨전 실리콘 설계 서비스와 솔루션은 현재 미디어텍, 마벨, 알칩, 아스테라 랩스, 시놉시스, 케이던스를 통해 이용할 수 있다.