Scale-up과 Scale-out: AI 클러스터를 나누는 5가지 판단 기준
Scale-up과 Scale-out 투자는 한 방향으로 수렴하지 않고 있습니다. 가속기 가까이에서는 더 낮은 지연과 더 넓은 대역폭을 제공하는 전용 패브릭이 커지는 반면, 랙 바깥에서는 Ethernet과 InfiniBand를 이용한 대규모 네트워크가 함께 확장됩니다. 더 빠른 기술 하나가 다른 기술을 대체한다면 이런 동시 투자는 설명하기 어렵습니다.
앞선 글에서 남긴 질문은 "랙이 경쟁단위라면 scale-up과 scale-out은 어떤 경제성을 각각 만드는가?"였습니다. 답은 두 연결계층이 같은 성능지표를 놓고 경쟁하지 않는다는 데 있습니다. Scale-up은 짧은 시간 안에 같은 계산상태를 맞춰야 하는 가속기 묶음의 대기시간을 줄입니다. Scale-out은 랙 수를 늘리고, 장애를 격리하며, 서로 다른 작업이 자원을 나눠 쓰게 합니다. 하나는 동기화 비용을, 다른 하나는 확장과 운영 비용을 먼저 줄입니다.
Scale-up과 Scale-out은 같은 네트워크의 빠른 버전과 느린 버전이 아닙니다. 대역폭 수치만 비교하면 전용 패브릭을 모든 곳에 깔거나, 표준 네트워크로 모든 통신을 통합하려는 결론에 도달합니다. 두 선택 모두 비쌉니다. 전자는 사용하지 않는 저지연 성능에 돈을 쓰고 고장도메인을 키우며, 후자는 비싼 가속기를 동기화 대기 상태로 남길 수 있습니다. 필요한 것은 제품 순위가 아니라 워크로드의 통신주기와 장애비용에 맞춰 경계를 긋는 일입니다.
Scale-up과 Scale-out의 경계
이 글에서 Scale-up은 하나의 긴밀한 연산도메인 안에서 가속기들이 낮은 지연과 높은 대역폭으로 메모리·작업을 공유하도록 확장하는 연결계층을 뜻합니다. Scale-out은 여러 랙·노드·클러스터를 표준 네트워크로 연결해 용량·장애격리·자원공유를 확장하는 연결계층입니다. 구분 기준은 케이블 색이나 프로토콜 이름이 아니라 어느 장치들이 같은 계산단계와 장애영향을 공유하는가입니다.
NVIDIA의 데이터센터 참조설계는 이 경계를 물리적으로 보여줍니다. NVLink는 한 랙 안의 GPU를 연결하는 scale-up 도메인이고, Cluster Interconnect Network는 NVL72 랙들을 잇는 scale-out 네트워크입니다. 전자는 랙마다 하나의 고대역폭 도메인을 구성합니다. 후자는 Ethernet 또는 InfiniBand로 여러 랙을 연결합니다. 사용자 안내서와 참조설계라는 두 원자료를 비교하면 같은 데이터센터 안에서도 관리망, 스토리지망, 랙 간 연산망과 랙 내부 패브릭이 분리된다는 사실을 확인할 수 있습니다.
물리적 거리가 짧아서만 나누는 것은 아닙니다. Scale-up 도메인의 가속기는 load/store에 가까운 의미론과 빈번한 collective operation을 공유합니다. 한 장치가 늦으면 같은 계산단계에 참여한 다른 장치도 기다립니다. 반면 scale-out은 패킷을 여러 경로로 보내고 혼잡을 피하며, 장애가 난 서버나 랙을 우회하는 운영능력이 중요합니다. 지연예산과 복구방식이 다르므로 같은 제어방식으로 최적화하기 어렵습니다.
경계는 고정된 랙 외형과도 일치하지 않습니다. UALink 1.0 사양은 200G/lane 연결로 최대 1,024개 가속기를 하나의 AI 포드 안에서 연결하는 scale-up 구조를 제시합니다. 사양 원자료와 컨소시엄 백서에서 같은 포드 범위를 확인했으며, 전통적으로 랙 내부에 있던 긴밀한 연산도메인이 몇 개 랙으로 확대될 수 있음을 의미합니다. 반대로 운영자가 장애를 작은 단위로 격리하려면 물리적으로 가까운 장치도 서로 다른 도메인으로 나눌 수 있습니다.
따라서 scale-up과 scale-out의 경계는 거리보다 결합도에서 출발합니다. 같은 iteration 안에서 얼마나 자주 데이터를 주고받는지, 한 장치의 지연이 몇 개 가속기를 멈추는지, 실패 후 부분복구가 가능한지가 판단 기준입니다. 이 셋이 높을수록 scale-up의 가치가 커집니다. 독립 작업의 비중과 자원공유 필요가 높을수록 scale-out에 더 많은 역할을 맡길 수 있습니다.
집단통신과 동기화 비용
Scale-up은 하나의 연산도메인 안에서 동기화 지연과 메모리 이동을 줄입니다. 대규모 모델은 한 가속기의 메모리에 들어가지 않거나, 필요한 시간 안에 한 장치로 계산할 수 없기 때문에 모델과 데이터를 나눕니다. tensor parallelism은 한 연산을 여러 가속기에 분할하고, expert parallelism은 토큰을 서로 다른 전문가 장치로 보냅니다. 이때 all-reduce, all-gather, reduce-scatter, all-to-all이 계산과 계산 사이에 반복됩니다.
집단통신의 비용은 전송할 데이터 양만으로 결정되지 않습니다. 작은 메시지를 자주 교환하면 링크의 최고 대역폭보다 시작 지연과 소프트웨어 호출비용이 중요합니다. 여러 장치가 같은 barrier를 통과해야 하는 작업에서는 가장 늦은 장치가 전체 단계의 속도를 정합니다. 스위치가 충분히 빨라도 경로가 길고 단계가 많거나, 혼잡 때문에 tail latency가 벌어지면 가속기 수를 늘린 효과가 줄어듭니다.
Scale-up 패브릭은 이 손실을 세 방식으로 줄입니다. 첫째, GPU 사이의 경로를 짧고 예측 가능하게 만듭니다. 둘째, all-to-all에 가까운 높은 연결성을 제공해 우회단계를 줄입니다. 셋째, reduction이나 multicast 일부를 스위치에서 처리해 같은 데이터를 여러 번 옮기는 일을 줄입니다. NVIDIA DGX GB 사용자 안내서는 NVLink가 랙 안의 72개 GPU를 하나의 메모리 일관성 도메인처럼 연결하고 NVSwitch가 collective operation을 가속하는 구조를 설명합니다.
경제적 효과는 포트당 대역폭이 아니라 가속기 대기시간에서 발생합니다. 예를 들어 계산 70밀리초와 통신 30밀리초로 구성된 한 단계를 1만 번 반복한다면 총 1,000초가 걸립니다. 통신시간을 20밀리초로 줄이면 전체시간은 900초로 10% 단축됩니다. 가속기를 더 사지 않고 같은 장비에서 하루 완료 작업량이 늘어나는 셈입니다. 반대로 통신이 계산 뒤에 완전히 가려지는 워크로드라면 같은 패브릭 투자는 처리량을 거의 높이지 못합니다.
통신은 소프트웨어로도 줄일 수 있습니다. Microsoft Research의 ZeRO++ 연구는 통신 정밀도와 데이터 배치를 바꿔 ZeRO의 통신량을 4분의 1로 줄였고, 384개 GPU 환경에서 최대 2.16배의 처리량 개선을 보고했습니다. 모든 워크로드에 같은 결과가 적용되지는 않지만, scale-up 패브릭의 경제성이 하드웨어만으로 정해지지 않는다는 반대 근거는 됩니다.
이 반론은 전용 패브릭이 불필요하다는 뜻이 아닙니다. 통신압축은 계산량, 메모리 사용량 또는 정확도 검증비용을 늘릴 수 있습니다. 통신과 계산의 겹치기도 계산구간이 충분히 길 때만 효과가 있습니다. 모델 병렬화로 짧은 메시지를 자주 주고받거나 메모리 용량 때문에 분할이 강제되면 낮은 지연은 다시 지배변수가 됩니다. 하드웨어 프리미엄과 소프트웨어 최적화 비용을 같은 완료시간 기준으로 비교해야 합니다.
장애 도메인과 가용성
Scale-out은 여러 랙의 용량을 늘리면서 장애를 격리하고 자원을 공유합니다. 한 랙의 scale-up 도메인을 아무리 크게 만들어도 데이터센터 전체의 수요를 한 고장도메인에 넣는 것은 위험합니다. 장치 수가 늘면 GPU, HBM, NIC, 스위치, 케이블과 펌웨어 중 하나가 문제를 일으킬 확률도 높아집니다. 긴밀하게 묶인 장치가 많을수록 한 부품의 실패가 멈추게 하는 가속기 수도 늘어납니다.
Scale-out 네트워크의 첫 번째 역할은 용량입니다. 수백 개 랙을 다단 Clos 구조로 연결하면 포트 수와 경로를 단계적으로 늘릴 수 있습니다. 모든 가속기를 한 스위치에 직접 연결할 필요가 없습니다. Arista의 AI 네트워크 백서는 16,384개 서버와 131,072개 가속기를 가정한 scale-out 설계에서 51.2Tbps 스위치를 여러 단계로 구성하는 방식을 설명합니다. 이 숫자는 실제 고객 배치를 공개한 것이 아니라 설계 예시지만, 단일 랙 도메인과 다른 확장원리를 보여줍니다.
두 번째 역할은 자원공유입니다. 모든 작업이 같은 시간에 같은 수의 가속기를 쓰지 않습니다. Scale-out 계층이 랙을 공통 자원풀로 묶으면 스케줄러는 학습, 추론, 데이터 전처리와 점검 작업에 용량을 다시 배분할 수 있습니다. 특정 모델의 동기화 도메인은 작게 유지하면서 전체 클러스터의 설치용량은 크게 늘릴 수 있습니다. 이때 경제성은 최대 작업 하나의 속도뿐 아니라 클러스터 평균가동률에서 나옵니다.
세 번째 역할은 장애격리입니다. 라우팅은 고장난 링크를 우회하고, 스케줄러는 문제가 있는 노드를 격리하며, 체크포인트는 작업을 건강한 자원에서 다시 시작하게 합니다. 그러나 격리가 자동으로 보장되는 것은 아닙니다. 동기식 학습이 수천 개 가속기를 하나의 작업에 묶으면 scale-out 계층의 노드 하나가 느려져도 전체 집단통신의 임계경로에 남을 수 있습니다.
Meta의 대규모 AI 하드웨어 신뢰성 분석은 Llama 3 계열 운영경험에서 하드웨어 실패가 학습중단의 66% 이상과 관련됐다고 밝혔습니다. 회사는 고장 노드를 찾아 격리하고 건강한 서버에서 재시작하는 절차를 핵심 운영과제로 제시했습니다. 공개 수치는 Meta의 장비와 운영환경에 한정되지만, 네트워크 설계를 평균 대역폭만으로 평가해선 안 된다는 사실은 분명합니다.
따라서 scale-out의 가용성은 "장애가 나지 않는 네트워크"보다 "장애가 났을 때 영향범위를 줄이는 네트워크"에 가깝습니다. 경로 다양성, 재라우팅 시간, 체크포인트 간격, 노드 교체시간과 작업 재배치 정책을 함께 봐야 합니다. 저지연 도메인을 크게 만들수록 동기화 효율은 개선될 수 있지만 장애 시 잃는 작업량도 커집니다. 이 교환관계가 두 계층을 하나로 합치기 어려운 이유입니다.
학습과 추론의 토폴로지
학습과 추론은 계산·통신·메모리 비중이 달라 서로 다른 토폴로지를 요구합니다. 다만 "학습은 scale-up, 추론은 scale-out"이라는 구분만으로는 충분하지 않습니다. 같은 학습 안에서도 tensor, pipeline, data parallelism의 통신패턴이 다르고, 같은 추론 안에서도 prefill과 decode가 요구하는 계산밀도와 메모리 접근이 다릅니다.
Tensor parallelism은 한 층의 행렬연산을 여러 가속기에 나누므로 짧은 주기로 결과를 합쳐야 합니다. 지연에 민감해 가능한 한 긴밀한 scale-up 도메인 안에 두는 편이 유리합니다. Pipeline parallelism은 모델 층을 구간별로 나눕니다. 인접 단계 사이에 activations를 전달하지만 모든 장치가 같은 데이터를 동시에 교환하지는 않습니다. Data parallelism은 모델 사본이 서로 다른 배치를 처리한 뒤 gradient를 합치므로 메시지가 크더라도 통신빈도와 위치를 조정할 여지가 있습니다.
Megatron-LM 연구는 tensor, pipeline, data parallelism을 결합해 수천 개 GPU로 확장할 때 랙 간 통신과 장치 대기가 설계제약이 된다고 설명합니다. 어느 병렬화가 우월한 것이 아니라, 모델 크기·메모리·배치와 네트워크 구조가 허용하는 조합을 찾아야 합니다. 통신이 잦은 축을 가까운 도메인에 넣고, 비교적 독립적인 축을 랙 사이로 펼치는 계층설계가 여기서 나옵니다.
Microsoft Azure의 8K+ GPU Llama 3.1 학습 분석도 랙 내부 NVLink와 랙 간 네트워크를 별도 통신도메인으로 운용했습니다. 이 사례에서는 병렬화 조합을 조정한 뒤 8,000개가 넘는 GPU에서도 계산구간이 지배적이었습니다. 이 공개자료는 통신비용을 충분히 낮추면 더 큰 클러스터에서도 네트워크가 항상 최종 병목은 아니라는 판단을 뒷받침합니다.
추론에서는 사용자 요청을 서로 독립적으로 분산할 수 있어 scale-out의 자원공유가 중요합니다. 트래픽이 변할 때 여러 랙에 복제본을 늘리고, 장애가 난 랙의 요청을 다른 복제본으로 보낼 수 있습니다. 그러나 모델 하나가 단일 가속기나 한 랙의 메모리에 들어가지 않거나, 긴 문맥과 mixture-of-experts 때문에 토큰마다 원격 통신이 필요하면 추론도 scale-up 지연에 민감해집니다.
Prefill은 긴 입력을 병렬로 계산해 계산밀도가 높고, decode는 토큰을 순차적으로 생성해 메모리 대역폭과 요청별 tail latency의 영향을 크게 받습니다. Prefill과 decode를 분리하면 서로 다른 랙이나 가속기 유형에 배치할 수 있지만, 두 단계 사이의 상태전송이 새 네트워크 비용을 만듭니다. 따라서 서비스의 평균 토큰 처리량만 높이고 p99 지연이 나빠지는 구성은 좋은 추론 토폴로지가 아닙니다.
실제 통신 프로파일은 비공개인 경우가 많습니다. 그래서 구매 전에는 워크로드 이름 대신 네 가지 값을 측정해야 합니다. 단계당 collective 횟수, 메시지 크기 분포, 통신과 계산의 겹침 비율, 장애 후 재시작으로 잃는 시간을 봅니다. 이 값이 있어야 scale-up 도메인의 크기와 scale-out 단계 수를 비용으로 환산할 수 있습니다.
대역폭·지연·비용의 교환
최적 경계는 대역폭보다 지연·가용성·비용을 함께 비교해 정해야 합니다. 최고 대역폭은 링크가 충분히 오래 포화될 때 유용한 지표입니다. 실제 작업에서는 작은 메시지의 시작 지연, 여러 스위치를 지나는 hop 수, 혼잡 때의 tail latency, 재전송과 소프트웨어 처리시간이 유효 처리량을 낮춥니다.
Scale-up 범위를 넓히면 긴밀한 병렬화가 가능한 가속기 수가 늘어납니다. 대신 고대역폭 스위치와 케이블, 전력, 냉각, 관리소프트웨어와 검증비용이 증가합니다. 도메인 안의 장치 하나가 실패했을 때 영향을 받는 작업량도 커질 수 있습니다. 비용을 정당화하려면 추가 패브릭 지출보다 가속기 대기시간 감소와 더 큰 모델을 실행하는 가치가 커야 합니다.
Scale-out은 표준 포트와 다단 스위치를 이용해 용량을 단계적으로 늘리기 쉽습니다. 장애경로를 우회하고 여러 공급자 장비를 조달할 여지도 생깁니다. 그 대가로 hop 수와 혼잡관리 복잡성이 늘고, 매우 잦은 동기화에서는 지연분산이 전체 작업을 늦출 수 있습니다. 포트당 가격이 낮아도 가속기 유휴시간이 길면 총비용은 오히려 높습니다.
판정식은 단순해야 합니다. 패브릭 투자의 연간비용을 추가로 완료하는 학습작업 수나 추론토큰 수로 나눕니다. 여기에 장애로 잃는 가속기 시간, 운영인력, 전력과 교체비용을 더합니다. 같은 워크로드와 부하조건에서 이 단가가 낮아질 때만 경계를 넓힙니다. 벤더가 제시한 최고 대역폭을 서로 다른 토폴로지에서 직접 비교하는 방식은 피해야 합니다.
관찰지표도 계층별로 나눌 필요가 있습니다. Scale-up에는 collective latency, fabric utilization, GPU stall time, 메모리 원격접근 비중과 도메인 장애영향을 봅니다. Scale-out에는 oversubscription, 경로별 혼잡, 패킷 재전송, job completion time, 체크포인트 복구시간과 클러스터 평균가동률이 중요합니다. 공통지표는 완료 작업당 총비용과 가속기 유휴시간입니다.
경계의 이동
두 계층의 경계는 워크로드와 장애비용이 바뀔 때 함께 이동합니다. 모델이 커지고 tensor·expert parallelism의 통신빈도가 높아지면 scale-up 도메인을 넓힐 유인이 생깁니다. 반대로 소프트웨어가 통신을 더 잘 겹치고 압축하거나, 독립적인 추론요청의 비중이 커지면 scale-out의 자원공유가 더 중요해집니다.
기술도 서로의 기능을 흡수합니다. Ultra Ethernet Consortium의 2026년 10월 1.1 사양 발표는 혼잡신호, in-network collectives와 함께 scale-up endpoint를 위한 Unified Local profile을 추가했습니다. UALink 2.0도 in-network compute와 중앙 관리기능을 강화했습니다. 전용과 표준, scale-up과 scale-out 사이의 기능경계가 일부 겹치고 있다는 증거입니다.
기능수렴이 경제적 목적까지 하나로 만들지는 않습니다. Ethernet이 더 낮은 지연을 제공해도 모든 랙을 하나의 동기화·장애 도메인으로 묶을 이유는 없습니다. 전용 패브릭이 복구기능을 강화해도 데이터센터 전체의 자원공유와 다중경로 운영을 대신하지는 못합니다. 통신규약보다 어떤 지연을 줄이고 어떤 실패를 격리할 것인지가 경계를 남깁니다.
구매자는 세 단계로 설계할 수 있습니다. 먼저 실제 작업의 통신 그래프를 측정해 가장 빈번하고 지연에 민감한 통신을 찾습니다. 다음으로 그 통신을 수용할 최소 scale-up 도메인을 정합니다. 마지막으로 도메인 바깥의 용량, 장애격리와 자원공유를 scale-out으로 설계합니다. 경영진 입장에서 실제로 봐야 하는 것은 최고 포트사양이 아니라 이 순서가 완료 작업당 비용과 장애손실을 낮추는지입니다. 처음부터 제품군을 고르면 워크로드가 아키텍처에 종속되고, 이 순서를 따르면 제품을 요구조건에 맞춰 비교할 수 있습니다.
공급자의 경쟁력도 같은 기준으로 봐야 합니다. scale-up 업체는 최고 대역폭보다 collective가 많은 실제 모델에서 GPU stall time을 얼마나 줄였는지 보여줘야 합니다. scale-out 업체는 포트 수보다 혼잡과 장애 상황에서 job completion time과 클러스터 가동률을 얼마나 지켰는지 증명해야 합니다. 서로 다른 목적을 하나의 벤치마크로 순위화하면 수익풀의 위치도 잘못 읽게 됩니다.
이 판단이 빗나갈 수 있는 경우
첫째, Ethernet과 전용 패브릭의 기능·지연·관리체계가 빠르게 수렴해 동일한 하드웨어와 소프트웨어로 두 목적을 경제적으로 충족할 수 있다면 계층구분은 약해집니다. UEC 1.1의 scale-up 기능은 그 가능성을 보여줍니다. 다만 표준 기능의 존재와 대규모 생산환경에서 예측 가능한 tail latency를 제공하는 것은 별개의 검증과제입니다.
둘째, 모델 구조와 학습알고리즘이 통신량을 크게 줄이면 scale-up의 프리미엄은 낮아집니다. 희소연산, 더 큰 로컬 배치, 통신압축과 계산·통신 겹치기가 발전하면 같은 유효 처리량을 더 느슨한 네트워크에서 얻을 수 있습니다. 이 경우 저지연 도메인의 확대보다 메모리 용량과 소프트웨어 효율에 투자하는 편이 낫습니다.
셋째, 장애복구가 충분히 세분화되면 큰 scale-up 도메인의 고장비용이 낮아질 수 있습니다. 부분재시작, 가속기 hot swap, 병렬화 인식형 격리가 성숙하면 한 장치의 실패가 전체 작업을 멈추지 않습니다. 반대로 동기식 작업의 규모가 커지고 체크포인트 비용이 늘면 scale-out 네트워크가 있어도 실제 장애격리는 기대보다 약할 수 있습니다.
넷째, 공개자료는 공급업체가 선택한 구성과 연구환경을 반영합니다. NVLink, UALink, Ultra Ethernet과 Clos 설계의 수치를 서로 다른 워크로드에서 직접 비교할 수 없습니다. 실제 고객의 collective profile, p99 지연, 복구시간과 총소유비용이 공개되지 않는 한 이 글의 결론은 방향성 판단이며 개별 제품의 우열 판정이 아닙니다.
현재 증거로는 두 계층을 합치는 것보다 경계를 정확히 정하는 편이 경제적입니다. Scale-up은 긴밀한 연산도메인의 동기화 손실을 줄이고, scale-out은 여러 도메인의 용량·장애·자원배분을 관리합니다. 워크로드의 통신밀도와 장애비용이 달라지면 경계도 옮겨야 합니다. 다음 판단은 이 공존구조에서 누가 규칙을 정하는가입니다. 두 계층이 공존한다면 개방형 Ethernet과 독점 패브릭 중 누가 제어권을 갖는가?