[디지털데일리 김문기기자] AMD가 대규모 인프라 교체 없이 기존 데이터센터 환경에서 엔터프라이즈 인공지능(AI) 워크로드를 처리할 수 있는 PCIe 카드 형태의 신규 가속기를 선보였다고 8일 밝혔다.

AMD는 표준 공랭식 서버에 장착 가능한 듀얼 슬롯 형태의 'AMD 인스팅트(Instinct) MI350P PCIe' 카드를 공개했다. 이 제품은 전력 및 냉각 시설의 대대적인 재설계가 필요한 전용 가속기 플랫폼과 달리, 기업이 이미 보유한 데이터센터 인프라에 즉시 투입해 AI 추론 및 검색증강생성(RAG) 파이프라인을 구동할 수 있도록 설계된 것이 특징이다.

성능 측면에서도 업계 최고 수준의 지표를 달성했다. MI350P PCIe 카드는 MXFP4 정밀도 기준 최대 4,600 테라플롭스(TFLOPS)의 피크 성능을 제공하며, 이는 현재 엔터프라이즈용 PCIe 카드 중 가장 높은 수준이다. 또한 4TB/s 대역폭의 144GB 고대역폭메모리 3e(HBM3E)를 탑재해 데이터 처리 효율을 극대화했다.

특히 이번 제품은 저정밀도 포맷인 MXFP6 및 MXFP4를 네이티브로 지원해 높은 처리량을 구현한다. 메인스트림 8비트 및 16비트 정밀도에 대해서는 희소성(Sparsity) 가속 기술을 적용해 효율성을 높였다. 이러한 저전력 정밀도 포맷 지원 덕분에 추가적인 냉각 설비 없이 일반적인 데이터센터 환경 내에서도 최신 AI 워크로드를 안정적으로 처리할 수 있다.

소프트웨어 생태계 역시 개방형 표준을 지향한다. AMD는 파트너사들에게 라이선스 비용 없는 '엔터프라이즈 AI 레퍼런스 스택'을 제공한다. 여기에는 쿠버네티스 GPU 오퍼레이터, 클라우드 네이티브 추론 마이크로서비스, 파이토치(PyTorch) 네이티브 지원 등이 포함되어 있어, 개발자는 최소한의 코드 수정만으로 추론 워크로드를 온프레미스 환경으로 마이그레이션할 수 있다.

AMD 관계자는 "AI 도입이 반드시 인프라의 전면적인 재구축을 의미하는 것은 아니다"라며 "AMD 인스팅트 MI350P PCIe 카드를 통해 기업들은 기존 데이터센터 내에서 더 많은 모델을 구동하고 더 많은 사용자에게 서비스를 제공함으로써 투자 대비 수익(ROI)을 극대화할 수 있을 것"이라고 밝혔다.