InfiniBand 및 RoCE 네트워킹의 포괄적 분석: GPU 애플리케이션을 중심으로

인공 지능(AI) 학습, 고성능 컴퓨팅(HPC), 과학 컴퓨팅 분야에서 GPU 컴퓨팅 클러스터의 성능은 매우 중요하며, 네트워킹 기술은 전체 성능에 영향을 미치는 핵심 요소입니다. 모델 크기의 확대와 컴퓨팅 수요 증가에 따라 그래픽 카드의 전체 잠재력을 활용하려면 적절한 네트워크 기술을 선택하는 것이 중요합니다. 본 문서는 두 가지 주류 고성능 네트워크 기술인 InfiniBand(IB)와 RoCE를 심층 분석하고, 다양한 GPU 환경에서의 적용 효과를 검토하여 컴퓨팅 클러스터 구축 시 최적의 선택을 돕고자 합니다.

1 IB와 RoCE: 고성능 컴퓨팅 네트워크의 핵심 기술

기존 이더넷이 고성능 컴퓨팅 수요를 충족시키기 어려워진 시대에 InfiniBand와 RoCE는 원격 직접 메모리 액세스(RDMA) 기술을 지원하는 주요 솔루션으로 등장하여 네트워크 지연 시간과 CPU 오버헤드라는 두 가지 주요 병목 현상을 해결했습니다.

1.1 InfiniBand: 고성능을 위해 태어난 네트워크 기술

InfiniBand는 고성능 컴퓨팅을 위해 특별히 설계된 개방형 표준 네트워크 상호 연결 기술입니다. 그 아키텍처는 기존 이더넷과 근본적으로 다르며, 독립적이고 완전한 종단 간 RDMA 네트워크 시스템을 구축합니다. IB는 RDMA를 기본적으로 지원하여 데이터가 상대방의 CPU나 운영 체제 커널을 거치지 않고 애플리케이션 메모리 공간 간에 직접 전송될 수 있도록 하여, 지연 시간과 CPU 오버헤드를 크게 줄입니다. IB 네트워크는 자체적인 물리층, 링크층, 네트워크층, 전송층 프로토콜과 전용 네트워크 카드, 스위치, 케이블을 보유하며 TCP/IP 프로토콜 스택에 의존하지 않습니다.

IB는 큐 페어(QP) 기반 통신 모델을 채택합니다. 애플리케이션은 QP에 작업 요청을 제출하며, 이는 네트워크 카드의 하드웨어에 의해 직접 처리되어 소프트웨어에서 하드웨어로의 "제로 카피" 통신 경로를 실현합니다. 더 나아가 IB 프로토콜에는 하드웨어에서 구현된 신용 기반의 종단 간 흐름 제어 및 홉별 혼잡 제어 메커니즘이 내장되어 있습니다. 이러한 메커니즘은 네트워크 혼잡에 빠르게 대응하여 높은 처리량과 공정성을 보장합니다. 간소화된 프로토콜 스택과 하드웨어 오프로딩 기능을 활용하여 IB 네트워크는 1마이크로초 미만의 종단 간 지연 시간과 400Gbps(현재 주류는 200G/400G) 대역폭을 제공할 수 있습니다.

1.2 RoCE: 이더넷 상의 RDMA 기술

RoCE(RDMA over Converged Ethernet)의 핵심 아이디어는 "이더넷 상에서 RDMA를 실행한다"는 것입니다. 이는 이더넷의 보편성과 비용 장점을 RDMA의 고성능과 결합하려는 시도입니다. RoCE에는 두 가지 주요 버전이 있습니다: RoCE v1은 이더넷 링크 계층(L2)을 기반으로 하며 단일 브로드캐스트 도메인(동일 VLAN) 내에서만 작동합니다. RoCE v2는 UDP/IP 프로토콜(L3)을 기반으로 하며 IP 서브넷 간 라우팅이 가능하여 배포 유연성이 크게 향상되었으며, 이로 인해 현재 주류가 되었습니다.

RoCE는 IB 전송층 프로토콜 패킷을 이더넷 프레임(v1) 또는 UDP/IP 패킷(v2) 내부에 캡슐화하여 표준 RDMA 작업이 일반적인 이더넷 인프라에서 실행될 수 있도록 합니다. RoCE의 성공을 위한 핵심 전제 조건은 무손실 이더넷 환경의 구축입니다. 이더넷 자체는 "최선의 노력" 방식이기 때문에 패킷 손실은 RoCE 성능에 치명적인 영향을 미칠 수 있습니다. 따라서 RoCE 네트워크는 우선순위 기반 흐름 제어(PFC) 및 명시적 혼잡 알림(ECN) 과 같은 기술을 활용하여 링크 혼잡 시 특정 우선순위(즉, RoCE 트래픽)의 전송을 일시 중지하여 패킷 손실을 방지하도록 구성되어야 합니다.

IB와 유사하게 RoCE 또한 RDMA 프로토콜 스택을 오프로드하고 커널 관여를 피하기 위해 RoCE를 지원하는 전용 네트워크 카드가 필요합니다. 그 가장 큰 장점은 (PFC/ECN를 지원해야 하는) 기존 데이터센터 이더넷 스위치를 배포에 활용할 수 있어 기존 투자를 보호할 수 있다는 점입니다.

2 GPU와 네트워킹 기술의匹配

성능과 위치 지정이 다른 다양한 GPU는 네트워크 기술과 결합하여 다른 결과를 가져옵니다. 비용과 성능을 최적화하려면 적절한 네트워킹 솔루션을 선택하는 것이 매우 중요합니다.

2.1 하이엔드 GPU와 IB 네트워킹의 이상적인 조합

NVIDIA A100, H100, H200과 같은 하이엔드 데이터센터 GPU의 경우, IB 네트워킹은 골드 스탠다드로 간주됩니다. 이러한 GPU는 대규모 AI 학습 및 HPC 애플리케이션을 위해 설계되었으며, 강력한 컴퓨팅 능력과 고속 NVLink 상호 연결 기술을 갖추고 있습니다. 이러한 GPU가 수천억 개의 매개변수를 가진 대규모 모델을 처리할 때, 노드 간에 대량의 기울기 매개변수를 자주 교환해야 하며, 네트워크 대역폭과 지연 시간은 전체 성능의 주요 병목 현상이 됩니다.

NVIDIA A100 GPU를 탑재한 클라우드 서버를 예로 들면, g2na100_ib 모델은 특히 IB 네트워크 카드를 내장하고 있으며 12.5Gbps부터 100Gbps까지의 내부 네트워크 대역폭을 지원하며, "고속 데이터 전송이 필요한 AI, 딥러닝, HPC 비즈니스 시나리오"를 대상으로 합니다. 이러한 고성능 환경에서 IB 네트워크는 하이엔드 GPU의 컴퓨팅 잠재력을 최대한 발휘하게 하며, 분산 학습 과정 중에 네트워크가 성능 병목 현상이 되지 않도록 보장합니다.

NVIDIA의 최신 Blackwell 아키텍처 GPU(B200, GB200 등)의 경우, 그 모델 규모와 상호 연결 필요성이 더욱 거대하기 때문에 IB 네트워크의 우위는 더욱 두드러집니다. 이러한 하이엔드 애플리케이션 시나리오에서 IB 네트워크의 극한 성능과 안정성 이점은 높은 초기 투자 비용을 완전히 정당화하며, 대규모 클러스터의 선택이 됩니다.

2.2 비용 효율적인 선택: 미드~하이엔드 GPU와 RoCE

NVIDIA A100(일부 시나리오), A800, H20, L40S 등과 같은 미드~하이엔드 그래픽 카드 및 NVIDIA V100과 같은 이전 세대 플래그십 GPU의 경우, RoCE 네트워킹은 뛰어난 비용 효율성을 제공합니다. 이러한 GPU는 일반적으로 중간 규모의 AI 학습, 추론 작업 및 부문 수준의 HPC 클러스터에 사용되며, 네트워크 수요는 여전히 높지만 예산이 중요한 고려 사항이 될 수 있습니다.

실제로 64개의 GPU AI 컴퓨팅 환경에서 H3C S9827 시리즈 스위치를 사용하는 RoCE 네트워크와 NVIDIA QM9700 스위치를 사용하는 IB 네트워크는 NCCL collective 통신 라이브러리 및 Llama3 대규모 모델 테스트에서 "비슷한 성능과 일관된 사용자 경험"을 보여주었습니다. 마찬가지로, H3C S9825-G 및 S9855-G 시리즈 스위치를 사용하는 RoCE 네트워크도 IB 네트워크에 필적하는 성능 수준을 달성했습니다.

국내 GPU(Moore Threads, Biren Technology, Enflame 등의 제품)의 경우, RoCE 네트워크도 강력한 적응성을 보여줍니다. BaiRui Data의 국내 GPU 서버 32대 클러스터(256 카드)에서의 하이브리드 네트워킹에서 RoCE 솔루션이 우수한 성능을 보여주었으며, 해외 기술 독점을 깨고 국내 대체 솔루션에 강력한 지원을 제공했습니다. 비용 측면에서 BaiRui Data의 RoCE 네트워킹 솔루션은 100Gbps 속도에서 InfiniBand 네트워킹 솔루션 대비 약 36%의 비용 절감을 실현했으며, 400Gbps 속도에서도 약 14.3%의 비용 절감을 달성했습니다.

2.3 컨슈머 급 GPU의 네트워킹 고려 사항

NVIDIA RTX 4090, 4090D와 같은 컨슈머 급 플래그십 GPU를 사용하는 소규모 연구 팀이나 스타트업, 또는 개발/테스트 환경의 경우 네트워크 선택은 더 복잡해지는 경우가 많습니다. 이러한 그래픽 카드는 일반적으로 공식적인 다중 노드 상호 연결 지원이 부족하지만 타사 솔루션을 통해 클러스터화된 배포가 가능합니다.

이러한 시나리오에서는 RoCE 네트워크의 경제적 이점이 더욱 두드러집니다. RoCE 지원 이더넷 네트워크 카드(NVIDIA ConnectX-6 또는 ConnectX-7 시리즈 등)를 설치하고 PFC 지원 이더넷 스위치를 구성하여 저비용 고성능 학습 클러스터를 구축할 수 있습니다. 이러한 구성에서는 네트워크 성능이 요구 사항을 충족하는지 보장하기 위해 더 많은 조정과 테스트가 필요할 수 있다는 점에 유의해야 합니다.

표: 다양한 GPU와 네트워킹 기술 조합 권장사항

3 네트워킹 성능에 영향을 미치는 주요 요소 분석

네트워크 기술을 선택할 때는 GPU의 전체 성능 잠재력을 충분히 발휘할 수 있도록 성능에 영향을 미치는 다양한 요소를 종합적으로 고려하는 것이 필수적입니다.

3.1 PCIe 병목 현상: 무시할 수 없는 제한 요소

IB와 RoCE 네트워킹 중 어느 것을 선택하든 PCIe 대역폭이라는 잠재적인 병목 현상에 주의를 기울여야 합니다. 8개의 A100 GPU를 탑재한 단일 서버를 예로 들면, 주요 링크의 대역폭에는 현저한 차이가 있습니다:

• 동일 호스트 내 GPU 간: NVLink 사용, 양방향 대역폭 600 GB/s, 단방향 대역폭 300 GB/s.

• 동일 호스트 내 GPU와 각자의 네트워크 인터페이스 카드(NIC) 간: PCIe Gen4 스위치 칩 활용, 양방향 대역폭 64 GB/s, 단방향 대역폭 32 GB/s.

• 서로 다른 호스트 간 GPU 간: 데이터 전송은 NIC에 의존, 대역폭은 사용된 특정 NIC에 따라 다름. 현재 국내에서 일반적으로 사용되는 A100/A800 모델 NIC의 주류 단방향 대역폭은 100 Gbps (12.5 GB/s).

이는 호스트 간 통신 성능이 호스트 내 통신에 비해 크게 저하됨을 나타냅니다. 200 Gbps (25 GB/s)는 이미 PCIe Gen4의 단방향 대역폭 제한에 근접합니다. 따라서 PCIe Gen4 구성에서 400 Gbps NIC를 사용해도 뚜렷한 이점을 얻지 못하며, 400 Gbps 대역폭을 완전히 활용하려면 PCIe Gen5 성능이 필요합니다. 네트워크 솔루션을 선택할 때는 네트워크 대역폭이 PCIe 대역폭과 일치하는지 확인하여 자원 낭비를 피하는 것이 중요합니다.

3.2 네트워크 아키텍처 및 혼잡 제어

네트워크 아키텍처 설계와 혼잡 제어 메커니즘은 성능에 중대한 영향을 미칩니다. IB 네트워크는 기본적인 혼잡 제어 메커니즘을 채택하여 하드웨어에서 구현되므로 네트워크 상태 변화에 빠르게 대응할 수 있습니다. 반면 RoCE 네트워크는 PFC(Priority-based Flow Control) 및 ECN(Explicit Congestion Notification)과 같은 메커니즘에 의존하여 무손실 네트워크를 구축합니다. 부적절한 구성은 "헤드-오브-라인 블로킹" 및 "PFC 데드락"과 같은 문제를 일으킬 수 있습니다.

DDC(Distributed Disaggregated Chassis) 기술과 같은 새로운 네트워크 아키텍처는 VOQ(Virtual Output Queue)/CELL 스위칭과 같은 고급 하드웨어 기술을 활용하여 링크 활용률과 처리량을 향상시키고, HPC 및 AI 서비스가 전송 네트워크에 대해 제시하는 낮은 전송 지연 시간과 낮은 패킷 손실률 요구 사항을 완전히 충족시킵니다. 테스트 결과는 RoCE 네트워크에서 DDC가 기존 ECMP hash 방식에 비해 총 버스 대역폭에서 큰 이점이 있음을 보여줍니다.

네트워크 아키텍처 선택 또한 클러스터 규모에 따라 다릅니다. 소규모 네트워킹의 경우 단일 박스 또는 단일 섀시 솔루션이 권장되며, GPU 서버의 모든 파라미터 네트워크 카드는 스위치에 연결됩니다. 다른 서버의 동일한 시퀀스 번호를 가진 네트워크 카드는 동일한 VLAN에 구성되어 통신 홉 수 및 통신 지연 시간을 줄입니다. 중간 및 대규모 네트워킹의 경우 국내 GPU 서버는 다중 레일 접속 방식을 채택할 수 있으며, Leaf-Spine 네트워크 아키텍처를 통해 효율적인 데이터 전송을 실현합니다.

3.3 소프트웨어 생태계 및 운영 고려 사항

소프트웨어 생태계와 운영 복잡성 또한 선택의 중요한 요소입니다. IB 네트워킹은 기술적으로 더 성숙되어 있으며 복잡한 매개변수 조정이 필요 없고 더 빠른 배포가 가능하지만, 그 생태계는 비교적 단일하며 NVIDIA가 지배적입니다. RoCE는 이더넷 기반이며 생태계가 더 개방되어 있으며 여러 공급업체(华为, H3C, ZTE, Ruijie Networks 등)가 존재하지만 더 복잡한 매개변수 조정이 필요합니다.

운영 및 유지보수 측면에서, IB 네트워크는 그 특수성으로 인해 전담 팀의 관리가 필요합니다. RoCE 네트워크는 기존 이더넷 운영 경험과 도구 체인을 활용할 수 있지만, 무손실 네트워크 구성 및 문제 해결에는 심도 있는 학습이 필요합니다. 네트워킹 규모 측면에서, IB 네트워크는 수만 개의 GPU 규모 클러스터를 지원할 수 있는 반면, RoCEv2는 수천 개의 GPU 규모 클러스터에서 잘 작동하며, 그 네트워킹 성능은 지속적으로 최적화되고 있습니다.

4 실제 애플리케이션 시나리오 및 선택 가이드

위 분석을 바탕으로 다양한 애플리케이션 시나리오에 대한 구체적인 네트워킹 권장 사항을 제공할 수 있습니다.

4.1 대규모 클러스터 및 첨단 연구

국가급 슈퍼컴퓨팅 센터, 최고 수준의 AI 연구 기관, 대형 클라우드 서비스 제공업체의 경우, 지연 시간의 마이크로초 단위, 효율성의 와트 단위가 모두 중요하기 때문에 InfiniBand는 의심의 여지없는 선택입니다. 특히 NVIDIA H100, H200 또는 Blackwell 아키텍처 GPU와 같은 최고 수준의 하드웨어를 사용할 경우, IB 네트워크는 네트워크가 전체 성능의 병목 현상이 되지 않도록 보장합니다.

이러한 시나리오는 일반적으로 다음과 같은 특징을 가집니다:

• 대규모 컴퓨팅 클러스터(수천 개의 GPU 이상)

• 충분한 예산, 극한 성능 추구

• 전문적인 IB 네트워크 운영 팀 보유

• 수천억 개의 매개변수를 가진 초대형 모델 처리

이러한 환경에서 IB 네트워크의 극한 성능과 성숙한 안정성 이점이 가장 명확하게 나타나며, 그较高的 초기 투자를 완전히 정당화합니다.

4.2 중간 규모 및 기업 애플리케이션

기업 데이터센터, 중간 규모 AI 랩, 부문 수준 HPC 클러스터의 경우, RoCE 네트워킹은 성능과 TCO(총 소유 비용) 사이의 이상적인 균형을 제공합니다. 이러한 시나리오는 일반적으로:

• 수백에서 수천 개의 GPU에 이르는 클러스터 규모

• 성능과 TCO의 균형 필요성

• 이더넷 기술에 더 익숙한 운영 팀

• A100, A800, H20 등과 같은 미드~하이엔드 그래픽 카드 사용

이러한 애플리케이션의 경우 고밀도 400GE/100GE 포트를 지원하는 H3C S9825/9855-G 시리즈와 같은 이더넷 스위치를 선택하고 RoCE 네트워크 카드와 결합하여 고성능 네트워크를 구축할 수 있습니다. 실제로 이러한 구성은 비용을 통제하면서 IB 네트워크에 필적하는 성능 경험을 제공할 수 있습니다.

4.3 소규모 및 실험 환경

스타트업, 학술 연구 팀, 개발/테스트 환경에서 컨슈머 급 그래픽 카드 또는 소량의 데이터센터 GPU를 사용하여 클러스터를 구축하는 경우, RoCE 또는 경우에 따라서는 고속 TCP/IP 네트워크도 합리적인 선택이 될 수 있습니다. 이러한 시나리오는 일반적으로:

• 수십 개의 GPU 이내의 클러스터 규모

• 엄격하게 제한된 예산

• 신속한 배포 및 쉬운 유지보수 필요성

• 국내 GPU 또는 컨슈머 급 GPU 포함 가능성

이러한 환경에서는 기존 이더넷 인프라를 우선 활용하고 RoCE 지원 네트워크 카드와 결합하여 비용 효율적인 고성능 컴퓨팅 클러스터를 구축할 수 있습니다. BaiRui Data의 소규모 네트워킹 솔루션은 배포 및 관리 프로세스를 단순화하는 단일 박스 또는 단일 섀시 옵션을 제공합니다.

5 향후 기술 동향

컴퓨팅 수요의 지속적인 진화에 따라 IB와 RoCE 기술도 계속 발전하고 있으며, 몇 가지 뚜렷한 추세를 보여줍니다.

한편으로, IB 기술은 성능 정점을 계속 선도하고 있으며, 다음 세대 IB 제품은 더 높은 대역폭과 더 낮은 지연 시간을 지원하여 미래의 조 단위 매개변수 모델 학습 수요를 충족시킬 것입니다. 다른 한편으로, RoCE 기술은 빠르게 성숙되고 있으며, DDC, SmartNIC 등 더 많은 최적화 기술이 RoCE와 IB의 극한 성능 간 격차를 좁히고 있습니다.

표준화 및 상호 운용성 측면에서 RoCE는 그 이더넷 기반을 통해 더 개방적인 생태계 발전을 촉진하며 기존 IB 분야의 폐쇄성을 깨고 있습니다. Wuzhen Institute의 전문가는 다음과 같이 지적합니다: "RoCE 네트워크는 순수 분산형 네트워크이며, RDMA 기술을 기존 이더넷에 적용한 것으로, 본질적으로 네트워크 카드 캡슐화 기술입니다." 이 특성으로 인해 RoCE는 업계의 광범위한 지원을 더 쉽게 얻을 수 있습니다.

더 나아가 국산화 추세 또한 RoCE 기술 발전을 추진하고 있습니다. 국내 GPU와 스위치 기술의 진보에 따라 RoCE는 더 개방적인 기술 표준으로서 자연스럽게 국내 솔루션의 선택이 되고 있습니다. 국내 데이터센터 스위치 제조사(华为, H3C, ZTE, Ruijie Networks 등) 모두 RoCE 관련 제품을 적극적으로 배포하고 있습니다.

6 결론

AI 및 HPC 분야에서 InfiniBand와 RoCE 네트워킹 중 어느 것을 선택할지는 단순한 기술 선택이 아니라, GPU 유형, 애플리케이션 시나리오, 클러스터 규모, 총 소유 비용을 종합적으로 고려한 다차원적인 결정입니다.

하이엔드 데이터센터 GPU(H100, A100 등)를 사용하고 극한의 성능을 추구하는 대규모 클러스터의 경우, InfiniBand가 여전히 선호되는 솔루션입니다. 그 우수한 지연 시간 성능과 성숙한 생태계는 임무 중요한 작업에 신뢰할 수 있는 보장을 제공합니다.

미드~하이엔드 GPU(A800, L40S 등) 또는 국내 GPU를 사용하는 중간 규모 클러스터의 경우, RoCE는 매력적인 비용 대비 성능을 제공하며 비용을 통제하면서 대부분의 애플리케이션 시나리오의 성능 요구 사항을 충족할 수 있습니다.

어떤 기술을 선택하든 PCIe 대역폭, 네트워크 아키텍처, 소프트웨어 조정과 같은 핵심 요소에 주의를 기울이고 네트워크가 컴퓨팅 클러스터 전체의 병목 현상이 되지 않도록 확인해야 합니다. 기술이 끊임없이 발전함에 따라 IB와 RoCE의 경쟁 환경은 변화할 수 있지만, 목표는 일관됩니다: 모든 그래픽 카드의 컴퓨팅 잠재력을 최대한 활용하고 과학적 발견과 기술 혁신을 가속화하는 것입니다.