InfiniBand와 Ethernet의 차이

둘 다 서버를 연결하는 네트워크이지만 목표가 다릅니다. Ethernet은 범용성과 거대한 생태계가 강점이고, InfiniBand는 HPC와 고성능 집단 통신에 오랫동안 최적화되어 왔습니다.

3줄 요약
InfiniBand와 Ethernet을 AI 클러스터 관점에서 지연시간, RDMA, 운영성, 생태계 기준으로 비교합니다.
이 글은 개념뿐 아니라 실제 인프라에서 어디에 쓰이는지까지 연결해 설명합니다.

이 글에서 다루는 내용

기본 철학의 차이

Ethernet은 기업 네트워크와 데이터센터 전체에서 쓰이는 범용 기술입니다. InfiniBand는 낮은 지연시간과 RDMA, 고성능 메시지 전달을 중요하게 설계된 인터커넥트입니다.

분산 학습은 서버 간에 gradient와 activation을 대량으로 주고받습니다. 네트워크가 느리면 GPU가 계산을 끝내고 통신을 기다리게 됩니다. 따라서 GPU 수가 많아질수록 패브릭 성능이 중요해집니다.

정답은 하나가 아닙니다. 기존 운영 인력, 클러스터 규모, 성능 목표, 스위치와 NIC 생태계, 비용을 함께 봐야 합니다. Ethernet이라도 혼잡 제어가 잘못되면 RoCE 성능이 떨어질 수 있습니다.

그렇게 단정할 수 없습니다. 현대 AI용 Ethernet은 고속 링크와 RDMA, 혼잡 제어를 통해 매우 높은 성능을 낼 수 있습니다.

주 용도는 데이터센터 내부의 HPC/AI 패브릭입니다. 일반 인터넷 접속망 역할과는 다릅니다.