개방형 Ethernet: AI 패브릭 종속을 판단하는 5가지 기준

개방형 Ethernet: AI 패브릭 종속을 판단하는 5가지 기준 개방형 Ethernet 장비가 늘면 네트워크 공급자를 쉽게 바꿀 수 있다는 기대가 생깁니다. 포트 규격이 같고 운영체제가 여러 스위치…

개방형 Ethernet: AI 패브릭 종속을 판단하는 5가지 기준

개방형 Ethernet 장비가 늘면 네트워크 공급자를 쉽게 바꿀 수 있다는 기대가 생깁니다. 포트 규격이 같고 운영체제가 여러 스위치 ASIC을 지원한다면 특정 업체에 묶일 이유가 없어 보입니다. 그런데 실제 AI 클러스터에서는 표준 채택과 동시에 혼잡제어, 통신 라이브러리, 텔레메트리와 인증조직에 대한 투자가 커지고 있습니다. 하드웨어 인터페이스가 열리는데 운영 스택은 더 복잡해지는 모순입니다.

앞선 글은 "두 계층이 공존한다면 개방형 Ethernet과 독점 패브릭 중 누가 제어권을 갖는가?"라는 질문을 남겼습니다. 뒤에서 검토할 운영자료가 보여주는 의미는 개방형이 제어권을 없애기보다 위치를 바꾼다는 데 있습니다. 표준 포트는 장비 공급자의 진입을 넓히지만, 실제 유효 처리량은 혼잡정책, 집단통신, 드라이버, 관측도구와 장애책임의 결합으로 정해집니다. 고객이 이 결합을 직접 운영하지 못하면 종속은 스위치 상표에서 소프트웨어와 통합서비스로 이동합니다.

표준화의 가치를 낮게 볼 필요는 없습니다. 공급자 수가 늘고 공통 API가 자리 잡으면 장비가격과 공급집중 위험을 낮출 수 있습니다. 다만 견적을 받을 수 있다는 사실과 생산 트래픽을 중단 없이 옮길 수 있다는 사실은 다릅니다. 개방형의 성과는 사양서보다 대체장비를 넣고 같은 완료시간, 장애율과 운영비용을 회복하는 데 걸린 시간으로 측정해야 합니다.

개방형 Ethernet의 선택권

개방형 Ethernet은 포트와 스위치의 공급자 선택권을 넓힙니다. Ethernet PHY와 프레임, 라우팅 규격을 공유하면 고객은 하나의 독점 링크에 맞춘 장비만 구매할 필요가 줄어듭니다. 여기에 스위치 ASIC과 네트워크 운영체제를 분리하는 추상화 계층이 더해지면 하드웨어와 소프트웨어를 각각 선택할 수 있습니다.

SONiC 프로젝트는 Linux 기반 네트워크 운영체제가 여러 공급자의 스위치와 ASIC에서 동작하도록 설계됐다고 명시합니다. Open Compute Project의 SAI는 운영체제가 서로 다른 스위치 ASIC의 forwarding element를 공통 API로 제어하도록 합니다. 두 계층이 결합하면 고객은 네트워크 정책과 자동화 코드를 유지한 채 하드웨어 후보를 늘릴 수 있습니다.

경제적 이익은 세 곳에서 발생합니다. 첫째, 입찰에 참여하는 공급자가 늘면 장비가격과 유지보수 조건을 비교하기 쉬워집니다. 둘째, 한 업체의 납기나 생산차질을 다른 공급자로 보완할 수 있습니다. 셋째, 운영체제와 자동화 코드를 장비교체 때마다 처음부터 만들 필요가 줄어듭니다. 공급자 선택권은 가격뿐 아니라 조달의 연속성을 높입니다.

선택권에는 범위가 있습니다. SONiC 이미지는 ASIC과 플랫폼에 맞춰 빌드되고, 실제 드라이버와 SAI 구현은 하드웨어 공급자가 제공합니다. SONiC FAQ는 공급자의 라이선스 정책에 따라 SAI 구현이 공개되지 않을 수 있으며, 프로젝트를 시작한 Microsoft도 사용자에게 네트워크 엔지니어링 지원을 판매하지 않는다고 설명합니다. 소스가 공개됐다는 사실만으로 생산지원과 원인규명 책임까지 공공재가 되지는 않습니다.

따라서 개방형이 먼저 낮추는 것은 하드웨어 후보를 추가하는 비용입니다. 후보를 실제 대체재로 만드는 검증, 성능튜닝과 운영지원은 별도입니다. 이 차이를 무시하면 장비가격은 낮아져도 전환 프로젝트의 인력과 가동중단 비용이 더 커질 수 있습니다.

표준과 상호운용성

표준 인터페이스는 장비를 연결하지만 생산환경의 상호운용성을 자동으로 보장하지 않습니다. 사양 준수는 패킷 형식과 API 호출이 약속대로 동작한다는 뜻입니다. 상호운용성은 특정 NIC, 스위치, 케이블, 광모듈, 펌웨어와 통신 라이브러리를 묶었을 때 목표 부하에서 성능과 복구가 유지된다는 더 넓은 조건입니다.

조합의 수가 늘면 검증범위도 빠르게 커집니다. 스위치 3종, NIC 3종, 광모듈 2종, 운영체제 이미지 2종만 있어도 단순 조합은 36개입니다. 여기에 펌웨어 버전, 케이블 길이, 토폴로지와 워크로드가 추가됩니다. 모든 조합을 같은 깊이로 시험할 수 없으므로 고객은 검증된 부품목록을 만들고 지원 가능한 구성을 제한합니다. 열린 생태계 안에서 다시 작은 인증 생태계가 생기는 이유입니다.

다른 개방형 패브릭도 같은 문제를 인정합니다. UALink의 공식 FAQ는 사양을 비회원도 내려받아 구현할 수 있다고 밝히면서, 회원에게 준수시험과 상호운용 시험표준을 제공한다고 설명합니다. 공개 사양과 검증된 상호운용성이 별도 자산이라는 뜻입니다. Ethernet 생태계가 더 오래되고 넓더라도 AI용 RDMA, 집단통신과 장애복구를 함께 검증하는 부담은 남습니다.

시험은 연결 성공으로 끝나지 않습니다. 낮은 부하에서는 모든 조합이 비슷하게 보일 수 있지만, 다수 가속기가 동시에 데이터를 보낼 때 incast와 경로편중이 나타납니다. 링크 장애 후 재라우팅, 펌웨어 교체, 장시간 학습의 메모리 누수와 드문 패킷순서 문제도 확인해야 합니다. 생산 상호운용성은 정상상태 성능보다 예외상태의 일관성에 더 가깝습니다.

인증체계가 성숙하면 이 비용은 낮아질 수 있습니다. 공통 시험도구, 기준 토폴로지, 버전 호환표와 자동 회귀시험이 넓어지면 고객마다 같은 검증을 반복할 필요가 없습니다. 하지만 인증이 실제 워크로드의 통신패턴과 장애복구를 포함하지 않고 링크 적합성에 머문다면 선택권은 여전히 제한적입니다. 공급자 수가 아니라 인증된 조합의 수를 세어야 합니다.

혼잡제어와 집단통신

AI 패브릭의 성능은 혼잡제어와 집단통신 튜닝에서 다시 분화됩니다. 같은 속도의 Ethernet 포트를 사용해도 패킷이 어떤 경로로 분산되는지, 혼잡을 얼마나 빨리 감지하는지, 송신률을 어떤 단위로 낮추는지에 따라 job completion time이 달라집니다. all-reduce와 all-to-all은 여러 흐름이 동시에 시작되므로 평균 대역폭보다 느린 경로와 tail latency의 영향을 크게 받습니다.

Ultra Ethernet 1.1 발표는 Congestion Signaling, 프로그래머블 혼잡관리, in-network collectives와 scale-up endpoint 지원을 포함합니다. 표준 Ethernet 위에 AI 작업에 필요한 전송·혼잡·집단통신 기능을 공통화하려는 시도입니다. 표준의 범위가 포트와 패킷을 넘어 성능제어 API까지 확대되고 있음을 보여줍니다.

이 확대는 역설적으로 기존 표준만으로 충분하지 않았다는 증거이기도 합니다. AI 트래픽은 짧은 시간에 다수 송신자가 한 수신자로 몰리고, 한 흐름의 지연이 전체 collective를 늦춥니다. ECMP가 경로를 분산해도 해시충돌로 일부 링크가 붐빌 수 있고, 과도한 backpressure는 혼잡을 다른 흐름으로 전파합니다. 혼잡정책은 NIC, 스위치 버퍼, 라우팅과 통신 라이브러리를 함께 조정해야 합니다.

Meta의 생산경험은 개방형이 성능을 낼 수 있다는 강한 근거와 운영비용이 남는다는 근거를 동시에 제공합니다. Llama 3 학습 분석은 InfiniBand와 RoCE 클러스터를 모두 튜닝해 대형 생성형 AI 작업에서 동등한 성능을 달성했다고 밝혔습니다. RoCE는 가장 큰 모델 학습에도 사용됐습니다. Ethernet이 고성능 AI 패브릭이 될 수 없다는 주장은 이 사례와 맞지 않습니다.

그러나 결과를 만든 것은 포트규격만이 아닙니다. Meta의 RoCE 운영 보고서는 라우팅, 혼잡제어와 RDMA 네트워크의 지연을 지속적으로 튜닝했다고 설명합니다. 스위치, NIC, PCIe 스위치와 GPU의 하드웨어 카운터를 함께 수집하는 텔레메트리도 구축했습니다. 표준 하드웨어의 가격경쟁을 얻는 대신 운영자는 성능 공동최적화 역량을 내부에 쌓았습니다.

이 역량을 직접 보유한 대형 운영자는 개방형의 이익을 크게 가져갈 수 있습니다. 반대로 동일한 인력, 트래픽 규모와 시험환경이 없는 고객은 장비를 바꾼 뒤 성능을 복구하지 못할 위험이 있습니다. 이 경우 종속은 특정 포트에서 혼잡 알고리즘, NIC 펌웨어와 collective library를 함께 제공하는 플랫폼으로 옮겨갑니다.

프로그래머블 혼잡관리와 공통 API가 성숙하면 종속은 다시 낮아질 수 있습니다. 알고리즘을 하드웨어 공급자별 언어로 다시 쓰지 않고 여러 NIC에 배포할 수 있기 때문입니다. 다만 API 호환만으로 같은 결과가 보장되지는 않습니다. 버퍼 구조, 측정정밀도와 업데이트 주기가 다르면 동일 정책도 다른 tail latency를 만듭니다. 성능 이식성은 코드 이식성보다 높은 기준입니다.

운영 소프트웨어와 텔레메트리

운영 소프트웨어와 텔레메트리는 장애 원인과 복구시간을 결정합니다. Meta 운영자료와 Google 연구가 함께 뒷받침하듯 AI 학습이 느려졌을 때 증상은 GPU utilization 하락 하나로 나타날 수 있습니다. 원인은 스위치 혼잡, NIC 재전송, PCIe 대기, 호스트 메모리, 특정 GPU 또는 collective 설정일 수 있습니다. 어느 계층이 병목인지 빠르게 가르지 못하면 공급자가 여러 명이어도 작업은 멈춥니다.

텔레메트리는 단순 모니터링 화면이 아닙니다. 흐름별 지연, 큐 점유, ECN 표시, 재전송, NIC 카운터와 GPU stall을 같은 시간축에서 연결해야 합니다. 그래야 혼잡이 스위치에서 시작됐는지, 수신 호스트가 처리하지 못해 생겼는지, 작업배치가 특정 ToR에 몰렸는지 구분할 수 있습니다. 데이터 형식이 같아도 타임스탬프 정확도와 수집주기가 다르면 원인순서를 놓칩니다.

Google Research의 CSIG 연구는 마이크로초 단위의 병목정보를 Ethernet 헤더로 종단에 전달했습니다. 생산환경에서 이를 활용한 Fast Ramp-Up은 중앙값 RPC 지연을 20%, 사용되지 않은 대역폭을 60% 줄였다고 보고했습니다. 다섯 세대 스위치, 네 세대 NIC와 다섯 전송스택에서 검증했습니다. 이 수치는 AI 학습의 직접 성능치가 아니지만, 세밀한 신호가 혼잡제어와 원인진단을 함께 개선할 수 있음을 보여주는 독립 근거입니다.

관측데이터가 가치로 바뀌려면 운영도구가 조치를 내려야 합니다. 문제 링크를 격리하고, 작업을 다른 랙으로 옮기며, 임계값을 조정하고, 펌웨어 변경 전후의 성능을 비교해야 합니다. 이 자동화에는 토폴로지, 작업스케줄러와 장애이력의 맥락이 필요합니다. 범용 대시보드보다 고객 환경에 축적된 규칙과 데이터가 전환비용을 만듭니다.

플랫폼 제어권은 부품 선택, 소프트웨어 호환, 성능 튜닝, 검증과 장애책임을 통해 고객의 전환비용과 공급자 협상력을 결정하는 권한입니다. 개방형 Ethernet에서는 이 권한이 스위치 ASIC 한 곳에만 있지 않습니다. 운영체제 배포판, NIC 소프트웨어, collective library, 텔레메트리 데이터모델과 지원조직이 나눠 가집니다.

공통 관리사양과 텔레메트리 스키마가 넓어지면 이 락인은 약해질 수 있습니다. 고객은 데이터를 자체 저장하고 자동화 규칙을 장비와 분리해야 합니다. 장비를 바꿔도 동일한 지표와 장애절차가 유지된다면 운영도구는 공급자 교체를 돕습니다. 반대로 관측데이터의 의미와 복구명령이 특정 플랫폼에 묶이면 열린 포트 위에 새로운 관리 락인이 생깁니다.

인증과 장애책임

멀티벤더 조달은 부품 가격을 낮추는 대신 인증과 장애책임 비용을 고객에게 옮길 수 있습니다. 단일 플랫폼에서는 성능저하가 발생하면 한 지원창구가 전체 구성을 조사합니다. 스위치, NIC, 운영체제와 광모듈 공급자가 나뉘면 각 업체는 자기 부품이 사양 안에서 동작했다고 답할 수 있습니다. 시스템 전체의 job completion time이 나빠진 책임은 남습니다.

Open Compute Project의 OSPA 발표는 SAI와 SONiC가 데이터플레인 소프트웨어의 이식성을 높였지만 스위치 플랫폼 계층은 여전히 독점적 파편화의 마지막 영역이라고 진단했습니다. 보드 관리, 센서, 전원, 팬, LED와 부팅 같은 플랫폼 기능이 공급자마다 달라 새 장비 온보딩에 별도 작업이 필요하다는 의미입니다. 표준화가 한 계층을 열면 남은 비표준 계층의 비용이 더 선명해집니다.

최신 AI 네트워크에서도 간극은 남아 있습니다. Meta의 2026년 OCP Summit 정리는 공급자별 시험·인증, RDMA 전송과 혼잡동작, 텔레메트리가 여전히 다르며 각 차이가 엔지니어링 작업이 된다고 설명했습니다. 개방형 사양의 존재와 대규모 운영이 가능한 제품 조합 사이에 통합노동이 있음을 운영자가 직접 확인한 셈입니다.

그 노동을 누가 부담하는지가 경제성을 가릅니다. 대형 클라우드 사업자는 검증랩, 네트워크 엔지니어와 자체 운영체제를 여러 세대에 재사용할 수 있습니다. 내부역량이 규모의 경제를 만들면 공급자 프리미엄을 줄이고 제품로드맵에도 영향력을 행사합니다. 소수 클러스터만 운영하는 기업은 같은 고정비를 적은 장비에 나눠 부담하므로 완성형 플랫폼이나 관리서비스가 더 저렴할 수 있습니다.

장애책임은 계약으로 구체화해야 합니다. 지원대상 조합, 성능저하의 재현절차, 로그 공유범위, 원인분리의 기한, 대체품 승인과 비용부담을 정하지 않으면 선택권이 분쟁으로 바뀝니다. 장비가격을 비교할 때 통합시험 인력, 예비부품, 장애 중 가속기 유휴시간과 재검증기간을 함께 계산해야 합니다.

전환비용과 협상력

개방형의 성과는 공급자 수가 아니라 실제 전환시간과 완료 작업당 비용으로 판정해야 합니다. 견적서에 세 업체가 있어도 한 업체만 현재 워크로드의 성능과 장애기준을 통과했다면 대체경로는 하나입니다. 고객 협상력은 명목 공급자 수보다 검증된 대체재를 생산에 투입하는 데 걸리는 시간에서 나옵니다.

전환비용은 네 구간으로 나눌 수 있습니다. 첫째는 장비와 소프트웨어를 들여오는 조달비용, 둘째는 기존 자동화·텔레메트리와 연결하는 통합비용입니다. 셋째는 실제 collective와 장애상황을 재현하는 검증비용이며, 넷째는 전환 중 성능저하와 가동중단으로 잃는 작업량입니다. 포트가격 절감은 이 네 비용보다 커야 합니다.

경영진 입장에서 실제로 봐야 하는 지표도 달라집니다. 멀티벤더 견적 수보다 인증된 NIC·스위치·소프트웨어 조합 수, 신규 장비 온보딩 기간, 회귀시험 통과율, 동일 워크로드의 p99 완료시간과 장애평균복구시간을 봐야 합니다. 교체 뒤 GPU stall time과 운영인력이 유지되면 개방형이 실질적 선택권으로 전환된 것입니다.

공급자 측에서는 제어권의 위치를 추적해야 합니다. 하드웨어 마진이 낮아져도 운영체제 배포판, 혼잡정책, 통신 라이브러리, 인증과 지원계약이 반복매출을 만들 수 있습니다. 고객이 장비는 바꾸되 같은 관리·튜닝 계층을 유지한다면 락인은 약해진 것이 아니라 수익모델이 이동한 것입니다.

반대로 고객이 텔레메트리 데이터, 시험도구와 장애절차를 소유하고 공통 API로 여러 공급자를 운용한다면 플랫폼 제어권은 고객 쪽으로 이동합니다. 이때 표준은 가격경쟁 이상의 가치를 냅니다. 공급자 교체가 협상용 위협이 아니라 실제 운영선택이 되기 때문입니다.

판정은 간단합니다. 대체장비를 도입한 날부터 기존 완료 작업당 비용과 장애복구 수준을 회복한 날까지 걸린 시간, 투입인력과 손실작업량을 기록합니다. 이 값이 세대가 바뀔수록 낮아지고 검증된 조합이 늘면 개방형의 학습곡선이 쌓이고 있습니다. 반대로 사양은 같아도 매번 통합을 처음부터 반복한다면 종속은 여전히 플랫폼 계층에 남습니다.

이 판단이 빗나갈 수 있는 경우

첫째, UEC, SONiC, SAI와 관리사양이 빠르게 성숙해 혼잡정책, 텔레메트리와 플랫폼 온보딩까지 공통화되면 소프트웨어 락인은 크게 낮아질 수 있습니다. 프로그래머블 API와 인증자동화가 장비별 차이를 흡수한다면 대형 사업자만 누리던 통합역량이 상품화됩니다.

둘째, AI 워크로드가 소수의 안정된 통신패턴으로 수렴하면 검증조합의 수가 줄어듭니다. 공통 collective와 기준 토폴로지가 대부분의 수요를 처리할 수 있다면 장비 교체 때 필요한 회귀시험도 단순해집니다. 이 경우 표준 포트와 공개 운영체제만으로도 실질적 가격경쟁이 생길 수 있습니다.

셋째, 단일 플랫폼의 성능과 지원프리미엄이 개방형 통합비용보다 계속 낮을 수 있습니다. 클러스터 규모가 작고 장애 한 건의 손실이 크며 내부 엔지니어가 부족한 고객에게 단일 책임창구는 합리적입니다. 이때 종속은 비용이 아니라 위험을 외부화하기 위한 선택입니다.

넷째, 공개된 대규모 운영사례는 자체 네트워크 소프트웨어와 엔지니어링 조직을 가진 사업자에 편중돼 있습니다. 이들의 RoCE 성능과 전환속도를 일반 기업에 그대로 적용하면 개방형의 경제성을 과대평가할 수 있습니다. 반대로 공급업체의 완성형 플랫폼 자료만 보면 내부통합이 가능한 고객의 협상력을 과소평가하게 됩니다.

앞선 자료와 운영사례를 종합하면 개방형 Ethernet은 하드웨어 선택권을 분명히 넓히지만 종속을 자동으로 없애지는 않습니다. 혼잡제어, 집단통신, 텔레메트리, 인증과 장애책임이 이식돼야 포트의 개방성이 운영의 개방성으로 이어집니다. 고객이 측정해야 할 값은 공급자 로고의 수가 아니라 전환시간과 완료 작업당 비용입니다. 이제 패브릭이 더 넓고 빨라질 때 남는 물리적 제약을 봐야 합니다. 패브릭이 커질수록 전기신호의 한계는 광학 전환을 어디까지 앞당기는가?