엔비디아가 최신 AI 기술을 적용하여 AI 인프라의 전력 효율성을 23% 끌어올리며, 새로운 솔루션을 공개했습니다. 산타클라라에서 열린 AI 인프라 서밋에서 발표된 '베라 루빈(Vera Rubin)'과 'DSX MaxLPS'는 메가와트당 최대 1.4배 더 많은 토큰을 처리할 수 있는 기술적 성과를 자랑합니다.

이번 발표에서 엔비디아는 풀스택 AI 팩토리 플랫폼을 통해 차세대 컴퓨팅과 서버 워크로드에 대한 전력 효율성 및 확장성 문제를 해결할 방침을 밝혔습니다. 이 플랫폼은 엔비디아 NV링크(NVLink), 스펙트럼-X 이더넷(Spectrum-X Ethernet), 커넥트X 슈퍼NIC(ConnectX SuperNIC) 등 다양한 최신 기술을 통합하고 있습니다.

특히, DSX MaxLPS는 전력 소비를 최적화하여 고성능 컴퓨팅 자원들을 연결하는 기능을 제공합니다. 이를 통해 전반적인 데이터 처리 성능과 전력 효율성에 대한 요구에 효과적으로 대응할 수 있게 됩니다.

현장에서 엔비디아의 파트너사들도 주요 성과를 발표했습니다. 람다는 DSX MaxLPS를 도입하여 와트당 성능을 23% 향상시켰습니다. 또한, 핀터레스트는 엔비디아 블랙웰 플랫폼과 다이나모 추론 소프트웨어의 결합을 통해 혁신적인 대화형 AI 기능을 시각적 탐색 서비스에 적용했습니다.

이와 함께, 엔비디아는 아마존의 안나푸르나 랩스(Annapurna Labs)와 함께 맞춤형 고대역폭 메모리 기술을 개발 중이며, d-매트릭스(d-Matrix)와의 협력을 통해 대규모 컴퓨팅 환경에서 초저지연 연산을 가능하게 하고 있습니다. 이러한 기술 협력 사례들은 AI 및 컴퓨팅 인프라의 미래를 더욱 밝게 하고 있습니다.