소버린 AI는 국산 모델을 만드는 일이 아니다
소버린 AI를 국산 LLM 개발로만 이해하면 정작 중요한 것을 놓친다. 주권은 모델 소유가 아니라 인프라·데이터·프로세스·운영권을 스스로 쥐고 있느냐의 문제다.
소버린 AI라는 말이 나오면 대화는 대체로 한 방향으로 흐릅니다. 우리도 국산 대형언어모델을 가져야 한다는 이야기입니다. 정부 발표도, 언론 기사도 대개 모델 개발 경쟁에 초점을 맞춥니다.
그런데 기업 현장에서 이 정의는 잘 작동하지 않습니다. 국산 모델을 도입한 회사가 여전히 자기 데이터를 통제하지 못하는 상황이 흔하기 때문입니다.
정의부터 다시 세워야 한다
소버린 AI를 이렇게 정의합니다.
소버린 AI란 특정 국가 또는 기업이 AI 서비스의 인프라, 모델, 데이터, 프로세스, 서비스 운영권을 스스로 통제할 수 있는 상태다.
이 정의가 필요한 이유는 간단합니다. 국산 LLM을 쓰더라도 다음 세 가지가 남아 있으면 통제권은 외부에 있습니다.
- 데이터베이스가 외국 클라우드에 있다
- 웹서비스가 외부 플랫폼에 종속돼 있다
- 업무 프로세스가 외부 SaaS에 묶여 있다
모델만 국산으로 바꾸는 것은 다섯 개의 층 중 하나를 바꾸는 일입니다. 나머지 네 층이 그대로면 계약 조건이 바뀌거나 정책이 변할 때 기업이 할 수 있는 일은 여전히 없습니다.
주권의 실체는 교체 가능성이다
AI 전환에서 목표로 삼아야 할 것은 특정 모델의 소유가 아닙니다.
기업이 언제든 최적의 LLM으로 교체할 수 있는 독립적 AI 운영체계를 갖는 것.
이 관점이 중요한 이유는 모델 시장의 변화 속도 때문입니다. 성능 순위는 몇 달 단위로 뒤집히고, 가격 정책도 계속 바뀝니다. 어제 최적이던 선택이 오늘 최적이라는 보장이 없습니다.
그래서 실무에서 먼저 손대야 할 곳은 모델 자체가 아니라 모델을 갈아 끼우는 자리입니다. 호출부에 모델 이름이 하드코딩돼 있으면 교체할 때마다 코드를 고쳐야 하고, 코드를 고쳐야 한다는 사실이 곧 교체하지 않는 이유가 됩니다.
중소기업에게는 원가 문제다
여기서부터는 직접 운영하며 측정한 숫자입니다.
중소기업용 경영 플랫폼을 만들어 운영하면서 화면 하나의 비용을 뜯어본 적이 있습니다. 협력사 정보를 조회하는 기능이었고, 한 번 호출에 403원이 나갔습니다. 내역을 보니 이렇습니다.
| 구성 요소 | 비용 |
|---|---|
| 데이터베이스 조회 | 0원 |
| LLM 왕복(입력 약 20만 토큰) | 403원 |
데이터베이스는 한 푼도 쓰지 않았고 전액이 모델 호출이었습니다. 조회 결과를 자연어로 정리하기 위해 컨텍스트를 통째로 밀어 넣은 구조였기 때문입니다.
문제는 이 값이 앞으로 내려가지 않는다는 데 있습니다. 추론 모델은 답을 내기 전에 더 오래 생각하고, 에이전트는 한 번의 요청에 여러 번 호출합니다. 단가가 떨어져도 호출 횟수와 토큰이 늘면 총액은 오릅니다.
직원 열 명 규모의 회사가 이 비용을 매일 감당할 수 있느냐. 이 질문 앞에서 소버린 AI는 안보 담론이 아니라 생존 조건이 됩니다. 더 싼 모델이 나왔을 때 즉시 갈아탈 수 있어야 하고, 국산 모델이 쓸 만해지면 바로 넘어갈 수 있어야 합니다.
비용을 세 층으로 나눈다
같은 측정에서 얻은 결론이 하나 더 있습니다. AI를 어디에 쓸지 정하지 않으면 비용은 반드시 샙니다.
- 정형 조회 — 조회 화면으로 끝낸다. 비용 0원, 개발 수고만 든다
- 비정형·자연어 처리 — 저가 모델에 맡긴다
- 판단·실행 — 여기에 좋은 모델을 쓴다
"거래처가 몇 곳입니까"라는 질문에 AI를 부르는 것은 낭비입니다. 화면이 0원으로 보여주면 됩니다. AI가 해야 할 말은 따로 있습니다. "세 곳이 6개월째 거래가 없습니다. 정리할까요?" 조회가 아니라 판단과 실행에 쓰는 것입니다.
그래서 무엇을 먼저 하나
세 가지를 권합니다. 셋 다 오늘 시작할 수 있고, 국산 모델이 준비되기를 기다릴 필요가 없습니다.
- 모델 이름을 설정으로 뺀다. 호출부에서 모델을 직접 지정하지 말고 환경변수나 라우팅 테이블을 거치게 만듭니다. 교체가 코드 수정이 아니라 설정 변경이 되면, 그때부터 선택권이 생깁니다.
- 조회를 AI에서 걷어낸다. 답이 정해진 질의는 화면과 데이터베이스에서 끝냅니다. 이것만으로 호출 건수가 눈에 띄게 줄어듭니다.
- 데이터가 어디 있는지부터 확인한다. 모델을 고민하기 전에 우리 데이터가 어느 나라 어느 회사의 저장소에 있는지, 계약이 끝나면 어떻게 가져올 수 있는지를 문서로 남깁니다.
소버린 AI는 큰 예산이 있어야 시작하는 일이 아닙니다. 통제권을 하나씩 되찾는 일이고, 그 첫 칸은 대개 코드 한 줄을 설정으로 옮기는 작업에서 시작됩니다.
자주 묻는 질문
- 소버린 AI는 국산 LLM을 만드는 것과 같은 말인가요?
- 아닙니다. 국산 LLM은 소버린 AI의 한 요소일 뿐입니다. 모델이 국산이어도 데이터베이스가 외국 클라우드에 있고 업무 프로세스가 외부 SaaS에 종속돼 있다면 서비스 운영권은 여전히 외부에 있습니다. 소버린 AI는 인프라·모델·데이터·프로세스·운영권을 함께 통제하는 상태를 뜻합니다.
- 중소기업도 소버린 AI를 고민해야 하나요?
- 고민의 이유가 다를 뿐 필요합니다. 대기업과 공공이 규제와 안보 때문에 본다면, 중소기업에게는 원가와 지속가능성 문제입니다. 추론 모델과 에이전트 사용이 늘수록 호출 비용이 구조적으로 오르기 때문에, 더 저렴한 모델로 갈아탈 수 있는 상태를 만들어 두는 것이 곧 비용 방어입니다.
- 지금 당장 할 수 있는 첫 조치는 무엇인가요?
- 모델 이름을 코드에 하드코딩하지 않고 환경변수나 설정으로 분리하는 것입니다. 그다음은 조회성 질의를 AI에 보내지 않고 화면과 데이터베이스에서 끝내는 것입니다. 이 두 가지만으로 교체 가능성과 비용이 동시에 개선됩니다.