인텔 아크 프로 B 시리즈 [사진=김문기 기자]

[디지털데일리 김문기기자] 래블업이 자사의 인공지능(AI) 인프라 솔루션 플랫폼 백엔드AI(Backend.AI)에 인텔의 최신 워크스테이션용 그래픽처리장치(GPU)인 인텔 아크 프로 B70(Intel Arc Pro B70) 지원을 추가하면서 그에 따른 벤치마크 결과를 공개했다.

16일(현지시간) 래블업은 기존 인텔 가우디 2·3 AI 가속기 지원에 이어 아크 그래픽 라인업으로 지원 범위를 확장했다. 아크 프로 B70은 인텔의 에스이투(Xe2) 아키텍처를 기반으로 설계됐으며, 대규모언어모델(LLM) 서빙과 에이전틱 AI 워크로드에 최적화됐다. 하드웨어 스펙은 32GB 용량의 GDDR6 오류교정코드(ECC) 메모리, 608 GB/s 메모리 대역폭, 256비트 메모리 인터페이스를 갖췄으며 단 정밀도(FP32) 연산 성능은 22.94 TFLOPS, INT8 연산 성능은 최대 367 TOPS다. 보드 총전력은 230W이며 가격(MSRP)은 1099달러다.

이 제품은 LLM 서빙 시 추론 엔진이 이전 연산 결과를 재활용하는 키-값(KV) 캐시를 저장할 수 있는 메모리 공간을 확보해 성능 저하를 방지한다. 래블업과 인텔이 진행한 vLLM 벤치마크 테스트에 따르면 아크 프로 B70은 퀜3(Qwen3) 8B 모델 기준 동시 요청 수가 16개일 때 188.2 tok/s의 출력 처리량을 기록했다. 이는 동일 조건에서 메모리 한계로 인해 83.9 tok/s로 처리량이 저하된 엔비디아(NVIDIA) RTX 프로 4000 블랙웰 대비 2.24배 높은 수치다. GPT-OSS 20B 모델 테스트에서도 동시 요청 32개 환경에서 엔비디아 대비 1.25배 높은 처리 속도를 나타냈다.

벤치마크 비교 결과 [사진=인텔-레블업]

벤치마크 비교 결과 [사진=인텔-레블업]

벤치마크 비교 결과 [사진=인텔-레블업]

테스트 결과 아크 프로 B70은 엔비디아 제품과 비교해 사용 가능한 KV 캐시 용량을 평균 약 2.1배 더 많이 확보하는 것으로 확인됐다. 모델 가중치가 차지하는 고정 슬라이스 외에 남는 여유 메모리 풀이 크기 때문에 컨텍스트 길이와 동시 요청 수가 급증하는 에이전틱 워크플로우에서 안정적인 지속 처리량을 유지한다는 설명이다. 이는 백엔드AI의 세션 기반 격리 환경과 결합 시 워크스테이션 단일 노드에서도 고밀도 가상화 운영을 지원한다.

가격 및 전력 효율성 측면에서는 아크 프로 B70의 출시 가격이 1099달러로 엔비디아 제품(2199달러)의 절반 수준이어서 동시 요청 환경의 달러당 토큰 출력 효율이 최소 4.48배에서 최대 8.78배 높다. 전력 소모의 경우 단일 사용자 저부하 환경에서는 140W를 쓰는 엔비디아 제품이 우세하지만, 다중 사용자 고부하 환경에서는 B70의 처리량이 높아지며 와트당 토큰 효율에서 우위를 점한다.

한편 백엔드AI 플랫폼은 에지 디바이스부터 공유되는 인프라 클러스터, 데이터센터 플릿까지 단일 제어 평면과 모델 서빙 스택으로 통합 관리된다. 래블업은 인텔 하드웨어 지원 자산을 확장함에 따라 개발 팀이 인프라 재구축 없이 하드웨어를 선택할 수 있는 유연성을 제공할 방침이다.