[디지털데일리 이건한 기자] "고객사들이 투게더AI나 파이어웍스AI 같은 경쟁사들을 다 만나 보아도 결국 저희에게 오곤 합니다." 국내 AI 서빙 인프라 전문기업 프렌들리AI의 김창엽 이사는 14일 서울 코엑스에서 개최된 AI 엑스포 코리아 2025에서 자사 기술 경쟁력에 대해 이처럼 강한 자신감을 드러냈다.

2021년 설립된 프렌들리AI는 독자적인 생성형 AI 모델 서빙, GPU를 비롯한 인프라 자원 최적화 기술을 보유한 스타트업이다. 동일 AI 서비스에 대한 더 빠른 추론 속도, 높은 응답률과 낮은 GPU 비용을 강점으로 앞세워 최근 업계 내 주목도가 높다. 올해 1월에는 세계 최대 AI 모델 및 데이터셋 플랫폼인 '허깅페이스'에 '프렌들리 데디케이트 앤드포인트(Friendli Dedicated Endpoints)'로 명명된 AI 모델 배포 옵션을 한국 기업 최초로 공급하기도 했다.

프렌들리AI가 이번 AI 엑스포에서 내세우는 주력 솔루션도 데디케이트 앤드포인트다. 기업의 AI 서비스 운영에 필요한 GPU 자원과 모델 응답시간을 대폭 줄일 수 있는 '완전 관리형 서빙 인프라'다. 높은 GPU 비용이 부담스러운 기업들, 인프라 비용은 줄이고 서비스 품질은 개선하고 싶은 기업들에게 인기가 높다.

김 이사는 "LG AI연구원, 업스테이지, 트웰브랩스를 비롯해 AI 모델을 자체 개발하는 한국 기업은 이미 대부분 우리 고객사이거나 비즈니스 논의 중"이라며 "뤼튼이나 스캐터랩 같은 AI 서비스 기업들에게도 우리 서비스의 인기가 높다"고 설명했다. AI 개발 및 서비스 형태와 무관하게 공통적으로 사용되는 인프라 자원의 효율화는 수치가 개선될수록 모든 기업에게 이익으로 돌아오기 때문이다.

또한 멀티 LLM, 다중 에이전트, 고급 추론 기능의 도입 등 최근 AI 모델이나 서비스 구조도 점점 복잡해지는 추세다. 그러나 기업은 인프라 관리보다 기술 및 서비스 품질 개선에 더 관심이 많다. 자연히 자사 AI 인프라 효율을 지속 개선하고, 안정적으로 지원할 수 있는 프렌들리AI 같은 기업의 수요가 점차 늘어날 수밖에 없는 구조다.

김 이사는 "결국 모든 AI 서비스 기업이 우리의 잠재고객이자, 이번 전시를 통해 만나고자 하는 이들"이라며 "인프라 고민에서 벗어나 제품에만 온전히 집중하고 싶다면 꼭 우리 부스(B26)를 방문해보라"고 강조했다.