AMD, 에이전틱 AI 전용 랙 설계 청사진 Helion 공개

AMD가 CPU 코어 밀도를 크게 높인 에이전틱 AI 전용 데이터센터 랙 설계 Helion을 공개하고 OCP 표준화를 추진합니다.

왜 지금 이 주제인가

AMD가 10월 12일 에이전틱 AI 전용 데이터센터 랙 설계 청사진 Helion을 공개했습니다. 에이전트가 단순 응답 생성을 넘어 코드 실행, 멀티스텝 워크플로우, 백그라운드 작업까지 맡게 되면서, GPU 추론에 맞춰 설계된 기존 랙 구조로는 비용과 전력 효율을 맞추기 어렵다는 지적이 업계에서 계속 나왔습니다. NVIDIA가 에이전트 강화학습용 인프라를, Cerebras가 추론 처리량 개선 방안을 잇달아 내놓은 가운데, AMD는 랙 단위에서 CPU와 GPU 비율을 작업 성격에 맞게 조정할 수 있는 개방형 설계로 맞섰습니다. 하이퍼스케일러뿐 아니라 일반 엔터프라이즈 고객까지 겨냥한 점이 눈에 띕니다.

핵심 내용

Helion은 Open Compute Project(OCP, 하이퍼스케일 데이터센터 하드웨어 표준을 만드는 개방형 커뮤니티) 규격을 기반으로 설계된 랙 단위 블루프린트입니다. AMD는 발표에서 “에이전틱 AI는 단일 워크로드가 아니다. 개인 에이전트, 엔터프라이즈 애플리케이션, 코드 실행, 복잡한 워크플로우를 포괄한다”고 밝혔습니다. 서로 다른 컴퓨팅 요구를 가진 작업들을 하나의 고정된 랙 설계로 처리하기 어렵다는 문제의식을 전면에 내세운 것입니다.

두 가지 랙 구성

Helion은 두 가지 기준 구성을 제시합니다. 첫째는 6세대 AMD EPYC 프로세서만으로 구성한 CPU 전용 랙으로, 최대 32,768개의 CPU 코어를 하나의 랙에 담습니다. 이 구성은 GPU 연산이 크게 필요하지 않은 다수의 경량 에이전트를 동시에 실행하는 하이퍼스케일 환경을 겨냥합니다. 둘째는 EPYC CPU 노드와 Instinct MI350P GPU 노드, 범용 컴퓨트 노드를 한 랙에 함께 배치한 올인원 구성으로, 추론과 전처리·후처리 로직이 섞인 엔터프라이즈 에이전트 배포를 대상으로 합니다. 두 구성 모두 공기냉각과 액체냉각을 함께 지원해, 기존 데이터센터 설비를 크게 바꾸지 않고도 도입할 수 있도록 설계됐습니다.

개방형 표준과 생태계

AMD는 Helion 사양을 자사 전용 설계로 남기지 않고 OCP 커뮤니티에 기여할 계획이라고 밝혔습니다. 규격이 공개되면 여러 서버 제조사가 이를 기반으로 각자의 제품을 만들 수 있습니다. 이미 Cisco Compute, Dell Technologies, Hon Hai Technology Group(폭스콘), HPE, Lenovo, QCT, Supermicro, Wiwynn 등 주요 서버·네트워크 장비 업체가 생태계 파트너로 참여한다고 밝혔습니다. Cisco는 “아키텍처는 컴퓨팅 성능뿐 아니라 연결, 관리, 보안 방식까지 포괄하는 문제”라고 언급하며 네트워킹·보안 계층에서의 협력 가능성을 시사했습니다. Helion 기반 랙 구성은 2026년 11월부터 파트너사를 통해 이용할 수 있을 예정입니다.

의미와 한계

지금까지 AI 데이터센터 투자는 GPU 확보 경쟁에 초점이 맞춰져 왔습니다. 반면 Helion은 에이전트 워크로드 중 상당수가 GPU보다 CPU 코어 밀도와 동시 실행 능력에 더 의존한다는 점을 인프라 설계 차원에서 공식화한 사례입니다. 규격을 OCP에 기여하는 방식은 하나의 업체가 플랫폼을 수직 통합해 주도하는 구조와 달리, 여러 서버 제조사가 동일 표준 위에서 경쟁하는 개방형 생태계를 만들려는 전략으로 읽힙니다.

다만 이번 발표에 담긴 구체적 수치는 CPU 코어 수 하나뿐입니다. 전력 소비량, 메모리 대역폭, 네트워킹 처리량처럼 실제 도입 여부를 가르는 성능 지표는 아직 공개되지 않았습니다. 또한 실제 가용성은 2026년 11월 이후 파트너사를 통해서만 확인할 수 있어, 이 설계가 기존 GPU 중심 랙과 비교해 비용과 전력 효율을 얼마나 끌어올리는지는 추측에 가깝습니다. 실제 구축 사례와 벤치마크가 나온 뒤에야 판단할 수 있는 부분입니다.

한 줄 정리

AMD가 CPU 코어 밀도를 키운 에이전틱 AI 전용 개방형 랙 설계 Helion을 공개했지만, 성능을 가늠할 수치는 코어 수 외에 아직 나오지 않았습니다.

출처

  1. Introducing AMD Helion, Agentic AI Compute at Rack Scale
  2. Introducing AMD Helion, Agentic AI Compute at Rack Scale (Press Release)