제레미 레그(Jeremy Legg) AT&T 최고기술책임자(CTO)는 23일(현지 시각) 미국 샌프란시스코 모스콘 웨스트에서 열린 AMD의 '어드벤싱 AI(Advancing AI) 2026' 키노트 세션 무대에 오른 모습 [사진=김문기 기자]

[샌프란시스코(미국)=디지털데일리 김문기기자] "글로벌 통신기업 AT&T는 현재 월 1조 개 이상의 AI 토큰을 소비하며 기업 전반에 AI를 대대적으로 적용하고 있다. 특정 폐쇄형 칩셋이나 모델에 종속되지 않는 '데이터 주권'을 지키기 위해 AMD GPU 인프라상에서 차세대 통신 특화 AI 모델 '오텔 2.0(OTel 2.0)'을 사후학습시켜 오픈소스로 전 세계에 공개했다."

제레미 레그(Jeremy Legg) AT&T 최고기술책임자(CTO)는 23일(현지 시각) 미국 샌프란시스코 모스콘 웨스트에서 열린 AMD의 '어드벤싱 AI(Advancing AI) 2026' 키노트 세션 무대에 올라 댄 맥나마라(Dan McNamara) AMD 컴퓨팅 및 엔터프라이즈 AI 담당 수석부사장(SVP)과 대담을 나누며 글로벌 통신 공룡 AT&T의 AI 대전환 성과를 발표했다.

◆ 월 1조 토큰 소비 및 100개 이상 AI 모델 가동… "통신 업무 전체를 에이전트화"

제레미 레그 CTO는 AT&T 내부에서 일어나는 기하급수적인 AI 소비량 폭증 현황을 제시했다.

그는 "현재 AT&T 사내에서 소비되는 AI 토큰 양은 매월 1조 개를 넘어서며 두 자릿수 성장을 이어가고 있다"며 "이미 고객 케어, 사기 방지, 셀 타워 및 기지국(RAN) 최적 배치 등에 100개 이상의 생성형 AI 모델이 실전 배치되어 있다"고 밝혔다.

이어 "매일 30만 건 이상 걸려 오는 고객 통화 음성을 실시간 전사하고 인사이트를 도출하는 대규모 워크로드를 처리하고 있다"며 "단순 단품 유즈케이스를 넘어 인사, 재무, 현금 흐름 예측, 신규 직원 온보딩 등 기업 내부의 전체 워크로드를 에이전트화하는 작업에 속도를 내고 있다"고 설명했다.

◆ "특정 칩셋·모델 종속 탈피"… AMD GPU 활용한 '머니볼' 전략으로 토큰 비용 급감

AT&T가 대규모 AI 전환 과정에서 가장 강조한 원칙은 특정 반도체나 모델에 귀속되지 않는 '데이터 주권'의 확보다.

레그 CTO는 "데이터 주권이란 특정 칩셋이나 특정 닫힌 모델, 특정 개발 툴에 얽매이지 않고 기업이 자체 데이터를 직접 통제하는 것을 의미한다"며 "AT&T는 AMD와의 긴밀한 파트너십을 통해 오픈소스 모델과 AMD 칩셋을 활용하고 직접 자체 모델을 훈련시켰다"고 설명했다.

특히 AT&T는 글로벌 통신사 최초로 AMD 가속기 인프라상에서 AI 모델의 사후학습을 성공리에 완수했다. 레그 CTO는 "AMD 인프라에서 사후학습을 진행한 결과, 시장의 훨씬 더 비싼 칩셋과 동등한 수준의 성능과 정확도를 확보했다"며 "다양한 모델을 효율적으로 결합하는 '머니볼(Moneyballing)' 접근법을 통해 토큰 소비량이 폭증하는 가운데서도 토큰당 단가를 대폭 낮추는 데 성공했다"고 강조했다.

◆ 차세대 오픈소스 통신 AI '오텔 2.0(OTel 2.0)' 전격 공개

이날 현장에서는 세계 통신 업계를 위해 AMD 인프라 기반으로 훈련된 차세대 통신 특화 오픈소스 AI 모델 '오텔 2.0(OTel 2.0, Open Telco AI Model 2.0)'의 공식 출시가 선언됐다.

레그 CTO는 "약 1년 전 출시했던 1세대 모델 '오텔 1.0'은 지금까지 전 세계에서 1800만 건 이상의 다운로드를 기록하며 업계에 거대한 파급력을 미쳤다"며 "오늘 전격 공개하는 '오텔 2.0'은 AMD 가속기상에서 4000억 개 이상의 토큰으로 고도화 사후학습을 마친 고성능 통신 전용 모델"이라고 발표했다.

이어 "업계가 닫힌 모델만 사용하는 외길로 나아가는 것을 막고, 오픈소스 통신 AI의 가능성을 제시하고자 오픈 생태계에 이를 완전히 공개한다"고 덧붙였다.

댄 맥나마라 AMD 수석부사장은 "글로벌 1위 통신사인 AT&T가 AMD의 개방형 기술을 활용해 토큰 경제성과 데이터 주권을 동시에 달성한 것은 매우 상징적인 사례"라며 "엔터프라이즈 AI 시장 전반에 AMD의 오픈 컴퓨팅 파워를 확장해 나갈 것"이라고 확답했다.