AI 확산에 뜨는 ‘동형암호’…글로벌 경쟁 불붙었다

천정희 크립토랩 대표(서울대 수리과학부 교수)는 3일(현지시각) 스페인 바르셀로나에서 열린 ‘모바일월드콩그레스(MWC) 2026’에서 기자들과 만났다.
[바르셀로나(스페인)=디지털데일리 강소현기자] “동형암호는 이제 연구실 기술이 아니라 상용화 단계로 넘어왔다고 생각합니다. 올해가 확산이 시작되는 시점이 될 것 같습니다.”
천정희 크립토랩 대표(서울대 수리과학부 교수)는 지난 3일(현지시각) 스페인 바르셀로나에서 열린 ‘모바일월드콩그레스(MWC) 2026’에서 기자들과 만나 동형암호 시장에 대해 이같이 전망했다.
오랫동안 ‘암호학의 성배’로 불릴 만큼 구현 난도가 높았던 동형암호가 최근 속도와 성능 측면에서 상용화 문턱을 넘어서며 금융·국방·통신 분야를 중심으로 실제 적용이 본격화하고 있다는 설명이다.
◆ “암호 풀지 않고 활용”…느려서 못 쓰던 기술, 상용화 문턱 넘었다
차세대 암호기술 스타트업 크립토랩을 이끌고 있는 천 대표는 세계적으로 알려진 동형암호 전문가다. 천 대표 연구팀은 2016년 동형암호의 한계로 지적돼 온 실수 연산 문제를 해결하는 수학 알고리즘을 세계 최초로 개발하며 동형암호 상용화 가능성을 크게 높였다는 평가를 받는다.
암호 기술은 특성에 따라 세대가 구분된다. 이 중 ‘4세대 암호’로 불리는 동형암호는 데이터를 암호화한 상태에서도 연산을 수행할 수 있도록 하는 기술이다. 과거에는 데이터를 가공하려면 암호를 복호화한 뒤 처리하고 다시 암호화해야 했는데 이 과정에서 해킹 위험이 발생하는 경우가 적지 않았다.
예컨대 데이터를 보석, 데이터가 저장된 공간을 금고에 비유한다면 기존 암호 기술은 보석을 가공하기 위해 금고에서 꺼내야 했다. 반면 동형암호는 금고를 열지 않은 상태에서도 보석 가공이 가능한 셈이다.
문제는 속도였다. 동형암호는 개념 자체는 오래됐지만 처리 속도가 지나치게 느려 실제 서비스에 적용하기 어려운 기술로 인식돼 왔다.
천 대표는 “2009년 처음 실현됐을 때는 1비트를 처리하는 데 30분이 걸렸다”며 “이건 물리적인 한계라기보다 수학적 구조의 문제였고 지난 10년 동안 약 10억배 정도 빨라졌다”고 설명했다. 이어 “예전에는 30분 걸리던 작업이 이제는 10밀리세컨드(ms) 수준까지 내려왔다”고 덧붙였다.
이어 “마이크로소프트나 애플 같은 기업들도 동형암호 자체는 도입했지만 4세대가 아닌 2세대를 사용하고 있다”며 “속도가 느리다 보니 서비스 확장이 쉽지 않은 상황이고 저희 기술은 현재 NDA 아래 검증이 진행되고 있다”고 설명했다.
◆ AI 확산에 동형암호 재주목…대규모 데이터 처리환경서 보안 강점
그럼에도 최근 동형암호가 다시 주목받는 배경에는 AI 확산이 있다. 저장장치와 전송 구간은 이미 암호화가 일반화됐지만 실제 데이터가 메모리에 올라와 활용되는 순간은 여전히 취약하다는 문제의식에서다.
기업들이 AI 서비스를 도입하면서 내부 데이터와 고객 정보를 벡터 형태로 메모리에 올려두고 검색증강생성(RAG)이나 추론에 활용하는 구조가 빠르게 확산하고 있다는 점도 영향을 미쳤다.
천 대표는 “예전에는 메모리 용량이 작아 한 번 털려도 해커가 가져갈 수 있는 정보가 제한적이었지만 지금은 수백 기가, 수 테라 단위 데이터가 메모리에 올라간다”며 “이 상태에서 해커가 한 번만 덤프해 가도 피해 규모는 완전히 달라진다”고 말했다.
그러면서 “AI에서 가장 위험한 건 사고 자체보다 기억”이라며 “LLM이 참고하는 데이터, 즉 AI의 기억이 털리면 회사가 그대로 치명상을 입을 수 있다”고 강조했다.
동형암호가 AI 시대에 다시 주목받는 또 다른 이유는 데이터 구조의 변화와도 맞닿아 있다. AI는 텍스트, 이미지, 음성처럼 서로 다른 형태의 데이터를 결국 벡터 형태로 변환해 저장하고 활용하는데, 동형암호는 이 ‘AI의 언어’인 벡터를 암호화된 상태 그대로 처리할 수 있기 때문이다. 즉 대규모 데이터 처리 환경에서 보안 측면의 강점을 가진 기술이라는 설명이다.
천 대표는 “예전에는 사진을 암호화할 때와 음성을 암호화할 때 방식이 달랐지만 지금은 AI가 모든 데이터를 벡터라는 표준 포맷으로 변환한다”며 “암호를 적용하는 데 있어서는 오히려 훨씬 단순해졌다”고 설명했다.
이어 “동형암호는 삽이 아니라 포크레인에 가깝다”며 “조금만 처리할 때는 비효율적일 수 있지만 대용량 연산에서는 확실한 강점이 있다”고 덧붙였다.
◆ 시장은 이미 열렸다…크립토랩 경쟁력 ‘4.5세대 동형암호’
시장 수요도 조금씩 현실화하고 있다. 천 대표에 따르면 국내에서는 금융과 국방을 중심으로 계약이 이뤄지며 이미 도입 단계에 들어섰다.
미국에서는 바이오와 바이오메디컬 분야에서 동형암호에 대한 관심이 높은 것으로 나타났다. 데이터 유출 시 기업이 감당해야 할 법적·재무적 피해가 막대한 만큼 보안 기술 수요가 빠르게 커지고 있다는 설명이다.
그는 “국내의 경우 금융, 국방 순으로 계약이 이뤄졌기 때문에 시작은 된 것 같다”며 “다만 보호해야 할 데이터가 워낙 많기 때문에 실제 확대 시기는 올해가 될 것”이라고 내다봤다.
또 “동형암호 기술은 미국도 개발했고 프랑스도 개발했지만 지금은 서울대에서 개발한 CKKS 방식이 많이 사용된다”며 “성능 차이가 크다 보니 글로벌 기업들이 기술 검증을 진행하고 있지만 어디서 개발됐는지를 따지는 분위기도 분명히 있다”고 말했다.
이러한 흐름 속에서 천 대표는 크립토랩의 경쟁력으로 ‘4.5세대 동형암호’를 언급했다. 4.5세대는 기존 4세대 알고리즘에 연산을 가속화할 수 있는 수학적 기술이 추가된 구조다.
특히 이는 통신 서비스에서 요구되는 응답 속도 기준도 충족했다고 강조했다. 예컨대 10만개의 얼굴 벡터 중 특정 얼굴을 찾거나 의료 데이터를 벡터화해 관련 정보를 추출하는 작업도 이 정도 속도에서 가능하다는 설명이다.
천 대표는 “직관적으로 말하면 2세대는 초당 킬로바이트(KB), 3세대는 메가바이트(MB) 수준이었고 지금은 기가바이트(GB) 수준까지 올라왔다”며 “처음에는 실시간 통신이면 0.5초 정도라고 생각했는데 LG유플러스와 협력해 보니 그 정도로는 부족했고 약 10밀리세컨드 수준이 필요하다는 걸 알게 됐고 현재 그 수준까지 도달한 상태”라고 말했다.
◆ LGU+과 협업…“AI 경쟁력, 결국 데이터 보호에서 갈릴 것”
현재 크립토랩은 LG유플러스와 함께 익시오, AICC, 인증 솔루션 등에서 동형암호 적용을 추진하고 있다. 익시오는 온디바이스 AI 기반으로 통화 내용과 문자, 대화 정보 등을 텍스트화해 저장·활용하는 LG유플러스의 콜 에이전트다.
AICC 역시 주요 활용처다. 상담 기록과 기업 정보가 대규모로 오가는 환경에서는 접근 인력이 많아질수록 보안 위험이 커질 수 있는데 동형암호를 적용하면 데이터를 암호화된 상태 그대로 검색하고 처리할 수 있어 고객 프라이버시 보호에 도움이 된다는 설명이다. 이에 LG유플러스도 이번 협업을 AI 서비스 경쟁력 강화 차원에서 보고 있다.
장재현 LG유플러스 CTO 테크인텔리전스팀 팀장은 “동형암호가 굉장히 좋은 기술이라는 점은 분명하고 이를 어떻게 고객에게 가치로 전달할 수 있을지 함께 고민하는 것이 저희 역할”이라며 “LG유플러스는 음성 기반 AI 서비스와 이통사 색깔을 가진 AI 서비스 영역에 선택과 집중을 하고 있는 만큼 이런 부분에서 잠재력과 확장성을 보고 협력하고 있다”고 말했다.
천 대표도 향후 AI 경쟁력이 데이터 보호 역량에서 갈릴 것이라고 보고 있다. 동형암호는 단순히 데이터를 감추는 기술이 아니라 데이터를 안전하게 활용하기 위한 기술이라는 설명이다.
그는 “지금은 AI 확산이 먼저 보이지만 시간이 지나면 데이터 유출과 메모리 보안 문제가 훨씬 크게 드러날 것”이라며 “보호하지 못하는 데이터는 결국 제대로 활용하기도 어려워질 것”이라고 강조했다.
KT스카이라이프, 기자협회 축구대회에 ‘AI 중계’ 도입
2026-04-16 10:32:16여기어때, 관광공사 맞손…"해양 관광 레저·티켓 할인"
2026-04-16 09:42:53글로벌 AI 통역 딥엘 “화자 목소리 본뜬 음성 솔루션 선뵐 것”…韓시장 공략 본격화
2026-04-16 09:00:00