[디지털데일리 오병훈기자] KT가 최근 마이크로소프트(MS)와 협력해 개발한 인공지능(AI) 모델 ‘SOTA K’를 공개한데 이어 이번엔 오픈소스 ‘라마(Llama)’를 기반으로 개발한 모델 ‘라마 K(Llama K)’를 선보인다.

KT(대표 김영섭)는 글로벌 빅테크 메타의 오픈소스 모델 ‘라마 3.3(Llama-3.3)’을 기반으로 한국어 성능을 강화한 언어모델 라마 K를 출시했다고 30일 밝혔다.

이번에 선보인 ‘Llama K 74B’는 740억 파라미터 규모의 언어모델로 기존 라마 모델에서 공식 지원하지 않았던 한국어 기능을 강화한 것이 특징이다. 특히 한국어 지시 이행(Instruction Following) 능력과 추론(Reasoning) 능력을 개선해 복잡한 한국어 명령어도 이해하고 실행할 수 있도록 했다.

KT는 독자적으로 개발한 한국어 리워드 모델 기반 학습 기법을 도입했다. 한국어 고유 문맥과 뉘앙스를 정밀하게 반영했다. 그 결과 코딩과 수학 등 한국어 기반 논리 추론이 가능해졌다는 설명이다.

KT는 라마 K의 다양한 양자화 모델(FP8, INT4)도 준비했다. 함께 제공한다. AI 양자화는 모델 수치(가중치 및 활성값) 조정을 통해 메모리 연산량을 줄이는 기술을 말한다. 이를 통해 사용자는 그래픽처리장치(GPU) 자원과 성능 요구에 따라 최적의 모델을 선택할 수 있다는 장점이 있다. 즉, 제한된 하드웨어 환경에서도 고품질의 AI 서비스를 경제적으로 구현할 수 있다.

라마 K는 KT의 ‘한국적 AI’ 철학을 반영해 한국어·문화·사회 맥락을 세밀하게 내재화했다는 것이 KT 측 설명이다. 이를 통해 KT는 국내 AI 기술 주권 확보와 글로벌 AI 생태계 발전에 집중한다는 계획이다.

윤경아 KT 에이전틱AI 랩장 상무는 “이번 출시로 독자모델 ‘믿:음 K’부터 중대형 라마 K, 초대형 ‘SOTA K’까지 KT의 한국적 AI 라인업을 확장해 공공과 민간 전반에서 더 다양한 선택지를 제공하게 됐다”며 “특히 한국어 지시 이행은 단순 명령 처리에 그치지 않고, 높임말과 종결어미를 정확히 구사하며 공공문서 포맷까지 충실히 반영해 실무에서 바로 활용할 수 있는 AI 서비스를 구현했다”고 말했다.