한국재난안전뉴스 박광춘 기자 |

 

국산 인공지능(AI) 모델을 하나 확보했다고 해서 국가의 ‘AI 주권’이 지켜지는 시대는 끝나가고 있다는 진단이 나왔다.  AI가 질문에 답하거나 콘텐츠를 만드는 수준을 넘어 스스로 판단하고 도구를 사용해 업무를 수행하는 ‘에이전트 AI(Agentic AI)’로 진화하면서다. 앞으로 국가 AI 경쟁력을 좌우할 기준은 어떤 모델을 ‘갖고 있느냐’보다 해외 AI나 클라우드 서비스의 공급이 끊겨도 국가와 산업의 핵심 기능을 계속 가동할 수 있느냐가 될 것이란 분석이다.

 

최종현학술원(이사장 최태원 SK그룹 회장)은 서울대 미래전연구센터와 함께 이 같은 내용을 담은 ‘보유에서 운용으로: 에이전트 AI 시대의 국가안보와 소버린 AI 2.0’ 보고서를 발간했다고 23일 밝혔다.

‘소버린(Sovereign) AI 2.0’이란 독자적인 인공지능(AI) 거대언어모델(LLM) 개발을 넘어 AI 반도체, 클라우드, 응용 서비스에 이르는 '풀스택(Full-stack)' 기술 생태계를 구축하고, 이를 실제 산업 현장 이식 및 해외 시장 진출로 확장하는 국산 AI 자립 전략을 의미한다.

 

보고서는 지난달 30일 두 기관이 공동 개최한 ‘에이전트 AI 시대 新국가안보: 글로벌 기술 패권과 한국’ 전문가 라운드테이블의 논의를 토대로 작성됐다. 성낙호 네이버클라우드 하이퍼스케일 AI 총괄과 박세준 티오리 대표, 김상배 서울대 정치외교학부 교수, 백서인 한양대 ERICA 교수, 이원태 국가AI전략위원회 보안특별위원장, 하정우 전 청와대 AI미래기획수석비서관 등이 논의에 참여했다.

 

보고서가 던진 핵심 화두는 ‘AI 주권의 재정의’다. 모든 기술을 국내에서 개발하고 국산 모델을 보유해야만 AI 주권을 확보할 수 있다는 기존 관점에서 벗어나야 한다는 것이다. 대신 필요한 AI 기술과 서비스를 안정적으로 이용할 수 있는 ‘접근 주권’, 특정 모델이나 클라우드가 차단되더라도 다른 체계로 전환해 핵심 기능을 유지하는 ‘운용 주권’​을 확보해야 한다고 제안했다.

 

한마디로 ‘우리 AI를 갖고 있느냐’보다 ‘AI가 끊겨도 국가가 돌아갈 수 있느냐’가 중요해진다는 얘기다.

 

김유석 최종현학술원 대표는 발간사에서 “기술 역량이 높은 동시에 대외 의존도 역시 큰 한국에서 이러한 변화는 특히 중요한 의미를 갖는다”며 “소버린 AI 2.0은 소버린 AI의 개념을 단순한 기술·모델 보유에서 운용 역량과 규범 설계의 문제로 확장해야 한다는 문제의식을 담고 있다”고 밝혔다.

 

그는 또 “대한민국이 규범 형성 과정의 관찰자가 아닌 참여자가 되기 위해서는 지금부터 필요한 역량과 경험을 축적해 나가야 한다”고 강조했다.

 

AI가 혼자 일하는 시간 길어졌다.. ‘모델 성능’보다 운용체계 중요

 

이 같은 변화의 배경에는 AI의 급격한 ‘에이전트화’가 자리 잡고 있다. 성낙호 네이버클라우드 하이퍼스케일 AI 총괄은 AI가 사람의 지속적인 개입 없이 수행할 수 있는 업무의 범위, 이른바 ‘작업 지평(task horizon)’이 빠른 속도로 늘어나고 있다고 설명했다.

 

AI 평가기관 'METR'은 ‘50% 성공률’을 기준으로 일정 난도의 작업을 AI가 어느 정도까지 수행할 수 있는지를 ‘타임 호라이즌(time horizon)’으로 측정한다. METR의 최신 자료에서도 최첨단 AI 에이전트가 수행할 수 있는 작업의 난도와 범위가 최근 수년간 빠르게 증가한 것으로 나타난다. 다만 METR은 이 지표가 “AI가 실제 그 시간 동안 사람의 개입 없이 독립적으로 일한다”는 의미는 아니며, 현재 평가체계에서 16시간을 넘는 측정치는 신뢰도가 낮다는 점도 명시하고 있다.

 

중요한 것은 AI 모델만 똑똑해지는 것이 아니다. 성 총괄은 에이전트 AI가 사실상 ‘모델+하네스(harness)’ 구조로 작동한다고 설명했다. 하네스는 AI가 외부 도구를 사용하도록 연결하고 메모리를 관리하며, 어떤 정보와 시스템에 접근할 수 있는지 권한을 통제하고, 결과를 검증하거나 오류 발생 시 복구하는 일종의 ‘운용 골격’이다.

 

AI가 몇 단계짜리 간단한 일을 할 때는 모델 자체의 성능이 중요하지만 수십·수백 단계의 업무를 장시간 수행하게 되면 사소한 오류 하나가 연쇄적으로 누적될 수 있다. 결국 벤치마크 점수가 높은 AI를 확보하는 것보다 실제 산업과 행정, 안보 시스템 안에서 AI를 얼마나 안정적으로 작동시키느냐가 더 중요해진다는 것이다.

 

AI 경쟁의 기준도 자연스럽게 ‘최고 모델을 누가 갖고 있나’에서 ‘누가 AI를 가장 안정적으로 운용할 수 있나’로 이동​할 수밖에 없다는 설명이다.

 

에이전트 AI, 사이버 공격도 자동화.. “한 번 뚫으면 되는 공격자가 유리”

 

에이전트 AI의 부상은 국가 사이버 안보에도 새로운 부담을 안기고 있다. 박세준 티오리 대표는 최근 사이버 침해 현장에서 AI가 개입한 것으로 추정되는 새로운 공격 양상이 나타나고 있다고 분석했다. 과거 AI가 취약점을 발견하거나 악성코드 작성을 보조하는 수준이었다면 앞으로는 여러 취약점을 찾아 서로 연결하고 실제 침투까지 이어지는 전 과정을 자동화할 가능성이 커지고 있다는 것이다.

 

문제는 공격자와 방어자 간의 ‘비용 비대칭’이다. 공격자는 수천 번 공격해 한 번만 성공해도 목표를 달성할 수 있지만 방어자는 시스템 전체를 계속 지켜야 한다. AI를 이용하면 공격자는 적은 비용으로 공격 횟수와 대상을 대폭 늘릴 수 있다. 반면 방어자는 보안 패치 하나를 적용할 때조차 기존 업무 시스템에 장애를 일으키지는 않는지 검증해야 한다.

 

이에 따라 향후 사이버 안보의 핵심은 AI 보안 솔루션 하나의 탐지 정확도를 높이는 데 그치지 않고, AI 기반 방어체계를 얼마나 많은 기관과 시스템에 적용할 수 있느냐는 ‘커버리지’ 경쟁​으로 옮겨갈 것이란 전망도 나왔다.

 

보고서는 사이버 안보와 데이터 안보, 공급망 안보, 기술 주권을 서로 다른 문제로 접근하기보다 ‘국가가 AI를 지속적으로 운용할 수 있는 능력’이라는 하나의 전략적 자산으로 통합 관리해야 한다​고 주문했다.

 

 

“AI 접근권이 새로운 디지털 국경”.. 미·중은 생태계 ‘설계권’ 경쟁

 

AI 시대의 미·중 패권 경쟁을 바라보는 시각도 달라져야 한다는 분석이다.  김상배 서울대 정치외교학부 교수는 AI가 국방·안보와 산업·통상, 기술표준, 플랫폼을 동시에 연결하면서 이른바 ‘국제질서의 AI 전환’​이 나타나고 있다고 진단했다.

 

특히 미국이 첨단 반도체뿐 아니라 AI 모델과 서비스 등에 대한 접근을 통제하는 움직임은 국가 간 물리적 국경과 별개로 새로운 ‘디지털 국경선’​이 만들어지고 있다는 의미라고 봤다.

 

중요한 것은 국경선이 어디에 그어지는지가 아니다. 누가 국경선을 긋고, 누가 어떤 AI에 접근할 수 있는지를 결정하느냐​가 힘의 원천이 되고 있다는 것이다. 동맹국이라고 해도 최첨단 AI 기술에 대한 접근이 언제나 자동적으로 보장되는 것은 아니라는 지적이다.

 

미국과 중국의 경쟁 전략도 다르다. 미국이 최첨단 AI 모델과 GPU, 글로벌 클라우드를 앞세워 최고 성능과 안전성, 신뢰성을 갖춘 시장을 장악하는 ‘품질(Quality)’ 전략​을 구사한다면 중국은 오픈웨이트 모델과 상대적으로 저렴한 비용을 앞세워 이용자와 개발자 생태계를 최대한 확대하는 ‘네트워크(Network)’ 전략​에 무게를 두고 있다는 분석이다.

 

김 교수는 이를 단순한 ‘폐쇄 대 개방’ 경쟁이 아니라 서로 다른 방식으로 연결과 차단을 조절하는 ‘네트워크 통제의 게임’​으로 규정했다. AI 패권 경쟁도 개별 모델이나 반도체 하나의 성능 경쟁을 넘어선다. 전력과 데이터센터→반도체→AI 모델·소프트웨어→클라우드·플랫폼→서비스→로봇 등 피지컬 AI까지 연결되는 ‘풀스택(full stack)’ 생태계 경쟁​으로 확대되고 있어서다.

 

결국 어느 국가의 인프라 위에서 AI가 작동하고, 어떤 표준과 비용 구조를 적용하며, 어느 나라 플랫폼과 서비스가 각국 행정·산업·안보 시스템에 들어가느냐가 국가 영향력을 좌우할 수 있다는 얘기다.  보고서는 이를 향후 ‘국제질서의 설계권’을 둘러싼 경쟁​으로 규정했다. 

 

“다 잘할 수 없다”.. 한국 AI도 ‘선택과 집중’

 

우리나라에는 더욱 어려운 선택이 요구된다. 백서인 한양대 ERICA 글로벌문화통상학부 교수는 미국과 중국보다 자원이 제한된 한국이 AI와 양자정보기술, 첨단바이오, 차세대 에너지 등 모든 전략기술에서 최고 수준의 독자 기술을 확보하겠다는 전략은 현실성이 떨어진다고 진단했다.

 

‘모든 것을 조금씩’ 지원하기보다 글로벌 가치사슬에서 다른 나라가 쉽게 대체하기 어려운 분야를 골라 집중 투자해야 한다는 것이다. 제조업과 헬스케어, 문화 콘텐츠처럼 한국이 이미 경쟁력을 갖고 있는 산업에 AI를 결합하거나 고령화·양극화·환경·재난 등 한국 사회가 직면한 문제를 AI로 해결하면서 차별화된 역량을 확보하는 방안도 제시됐다.

 

대규모언어모델(LLM)과 시각언어모델(VLM), 피지컬 AI, 월드모델처럼 서로 긴밀하게 연결되는 기술에 대해서도 사업별로 GPU를 조금씩 나눠주는 기존 방식 대신 국가 차원의 우선순위를 세워야 한다는 지적이다.

 

이원태 국가AI전략위원회 보안특별위원장은 이런 관점에서 기존 ‘소버린 AI’ 개념을 접근 주권과 운용 주권이라는 두 축으로 확대해야 한다고 제안했다. 목표는 모든 기술을 국내에서 만드는 ‘AI 쇄국’도, 해외 기술에 전적으로 의존하는 것도 아니다.

 

글로벌 AI 생태계에는 적극적으로 연결하되 특정 국가나 기업이 서비스를 끊는 순간 국가 핵심 시스템까지 멈추지는 않는 구조, 즉 ‘연결하되 종속되지 않는 AI’를 구축해야 한다는 것이다.

 

반도체·데이터센터가 한국의 ‘딜 카드’.. “AI 원자재 공급국 돼선 안돼”

 

한국이 가진 반도체와 제조업 경쟁력은 이 과정에서 강력한 협상 카드가 될 수 있다는 평가도 나왔다.

 

하정우 전 청와대 AI미래기획수석비서관은 한국이 AI 패권 경쟁에서 활용할 수 있는 대표적인 ‘딜 카드’로 메모리 반도체와 데이터센터를 꼽았다. 에이전트 AI가 스마트폰과 자동차, 로봇, 각종 디바이스로 확산할수록 D램 등 메모리 수요가 커지고, 학습뿐 아니라 추론을 위한 데이터센터 수요도 급증할 가능성이 높기 때문이다.

 

글로벌 빅테크가 대규모 AI 연산시설인 이른바 ‘토큰 팩토리’ 확보 경쟁을 벌이고 있지만 미국 내에서는 전력망과 인허가, 지역 주민 반발 등 데이터센터 증설을 제약하는 요소도 적지 않다.

 

한국의 반도체 생산 능력과 전력·통신 인프라, 제조 역량을 전략적으로 활용하면 글로벌 AI 생태계에서 한국의 협상력을 높일 수 있다는 분석이다.

 

이에 이어 보고서는 여기서 한 걸음 더 나갔다. 한국이 HBM과 D램을 공급하고 데이터센터 부지를 제공하는 ‘AI 시대의 원자재 공급자’에 머물러서는 안 된다​는 것이다.

 

반도체와 인프라 경쟁력을 지렛대로 삼아 글로벌 AI 기술과 서비스의 설계 과정에 참여하고, AI가 만들어내는 지식과 서비스, 플랫폼 등 고부가가치가 국내에 축적되는 구조를 만들어야 한다고 강조했다.

 

국산 AI 모델도 ‘외국 모델 대 국산 모델’이라는 이분법에서 벗어나야 한다고 봤다. 복잡하고 고난도인 작업에는 세계 최고 수준의 해외 모델을 이용하되 일상적 업무나 특정 산업에서는 국내 모델과 소형 모델을 함께 쓰는 ‘모델 믹스(Model Mix)’ 전략을 통해 비용과 해외 의존도를 동시에 낮출 수 있다는 것이다. 국산 모델 자체가 해외 AI 기업과 가격 및 서비스 조건을 협상하는 수단이 될 수 있다는 의미이기도 하다.

 

“‘착한 대한민국 천동설’에서 벗어나야”.. 결국, 실행이 중요

 

정부 AI 정책을 향한 날 선 주문도 나왔다. 백 교수는 민주주의와 제조·기술 역량을 갖춘 한국을 세계가 결국 필요로 할 것이라는 막연한 낙관론을 ‘착한 대한민국 천동설’​이라고 표현했다.

 

현재의 정책을 계속 유지해도 언젠가 한국에 기회가 찾아올 것이라고 기대하기보다 미국의 빠른 전략 전환과 중국의 공격적이고 지속적인 산업정책에서 위기감을 읽어야 한다는 것이다. 특히 부처별로 비슷한 사업을 반복하고 연구개발(R&D) 중심으로 정책을 설계한 뒤 또 다른 이니셔티브를 추가하는 방식에서 벗어나야 한다고 지적했다.

 

'기술 개발→제품·서비스 출시→시장 평가→수익 창출→재투자'라는 순환 구조를 실제로 작동시키는 것이 더 중요하다는 얘기다.

 

정준화 국회입법조사처 입법조사관도 정책을 실행한 뒤 성과를 평가하고 문제점을 보완해 다시 정책과 입법에 반영하는 ‘빠른 피드백 루프’ 구축을 주문했다. AI 외교에서도 국제규범과 기술표준이 모두 만들어진 뒤 뒤따라가서는 안 된다고 보고서는 강조했다. 규칙이 완성되기 전 설계 단계부터 참여해야 향후 한국 기업과 기술에 유리한 환경을 만들 수 있다는 것이다.

 

“가장 좋은 AI 만드는 나라보다 대체 못할 나라 돼야”

 

최종현학술원은 이번 논의를 토대로 한국형 ‘소버린 AI 2.0’의 과제로 △국가안보와 소버린 AI 개념 재정의 △선택과 집중 분야 설정 △국가 차원의 자원배분 원칙 수립 △산업 레버리지와 AI 투자 회수 전략 △AI 외교와 국제규범 대응 △실행 중심 AI 정책체계 △인재·데이터 기반 강화 △국가 AI 프로젝트의 전략적 판단기준 마련 등을 제시했다.

 

보고서가 내놓은 결론은 역설적이다. AI 패권 경쟁에서 살아남기 위해 반드시 세계에서 가장 뛰어난 AI 모델을 만들어야 하는 것은 아니라는 것이다. 대신 세계가 쉽게 대체할 수 없는 기술과 산업적 역할을 확보하고 글로벌 AI 생태계와 긴밀하게 연결되면서도 외부의 결정 한 번에 국가 핵심 기능이 흔들리지 않는 ‘전략적 자율성’을 구축해야 한다고 강조했다.

 

여기에 다른 나라가 만든 기술 규칙을 받아들이는 국가가 아니라 AI 국제질서와 기술표준을 만드는 과정에 참여하는 국가가 돼야 한다고 주문했다.

 

보고서는 “향후 AI 패권경쟁의 관건은 가장 뛰어난 모델을 만드는 국가가 되는 것이 아니다”며 “어떤 분야에서 대체하기 어려운 역할을 확보하고, 글로벌 생태계와 연결되면서도 전략적 자율성을 유지하며, 국제질서와 기술규범의 설계 과정에 얼마나 참여할 수 있는지가 중요하다”고 밝혔다.

 

특히, 이같은 전략의 핵심에는 빠른 판단을 통한 선택이며, 우물쭈물하다가 모든 걸 내줘서는 안된는  '시한의 절박성'이 있는 만큼, 한국형 소버린 AI 2.0 전략 수립을 서둘러야 한다는 점도 강조했다.