한국재난안전뉴스 박광춘 기자 |
인공지능(AI) 기술이 빠르게 발전하면서 이를 악용한 범죄도 갈수록 정교해지고 있다. 다른 사람의 얼굴을 합성한 딥페이크 성범죄는 물론 실제 인물의 목소리와 영상을 조작한 보이스피싱, 투자사기, 명예훼손 등으로 범죄 영역이 넓어지는 추세다. 육안으로는 진위를 가리기 어려운 조작물이 확산하면서 경찰의 수사 방식에도 변화가 불가피해졌다.
경찰이 AI로 만든 가짜 영상과 음성을 찾아내는 수준을 넘어 조작물이 어떤 프로그램으로 만들어졌고 어떤 과정을 거쳐 유포됐는지까지 추적하는 수사체계를 구축하기로 했다. 첨단 기술을 이용한 범죄에 맞서 탐지 기술과 디지털포렌식 역량, 전문 수사인력을 동시에 강화하겠다는 것이다.
경찰청 국가수사본부는 16일 AI 악용 범죄에 대한 수사 역량을 높이기 위해 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 마련하고 본격적인 시행에 들어갔다고 밝혔다.
이번 계획은 기술·시스템 분야 4개, 인력·조직 분야 4개 등 모두 8개 과제로 구성됐다. AI 조작물의 진위를 신속하게 판별하는 것은 물론 제작과 유포 과정에서 남겨진 디지털 흔적을 분석해 범죄 입증에 필요한 증거를 확보하는 데 초점을 맞췄다.
영상만 봐서는 구별 어렵다.. 목소리·문자까지 함께 분석
가장 눈에 띄는 변화는 차세대 딥페이크 탐지 기술의 도입이다. 지금까지 딥페이크 탐지는 주로 영상이나 사진 속 얼굴의 움직임, 이미지의 부자연스러운 부분 등을 분석하는 방식으로 이뤄졌다. 그러나 생성형 AI 기술이 발전하면서 영상만으로 조작 여부를 판단하기가 점점 어려워지고 있다.
경찰은 이런 한계를 보완하기 위해 영상과 음성, 문자를 동시에 분석하는 '멀티모달(Multimodal)' 기술을 도입한다. 예를 들어 영상 속 인물의 입술 움직임과 실제 들리는 음성이 일치하는지, 말하는 내용과 화면에 표시되는 자막이 서로 맞는지 등을 종합적으로 분석하는 방식이다. 서로 다른 형태의 정보를 교차 검증해 조작 흔적을 찾아내겠다는 것이다.
이를 위해 2025년부터 2027년까지 3년간 91억원을 투입하는 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 사업을 진행하고 있다. 연구개발이 완료되면 경찰뿐 아니라 다른 수사기관도 함께 활용할 수 있는 시스템을 구축할 계획이다.
경찰은 앞서 2024년부터 해외에서 사용되는 딥페이크 탐지 시스템을 도입해 수사에 활용하고 있다. 여기에 한국인의 얼굴과 음성 등 국내 환경에 적합한 학습자료를 보강해 탐지 성능을 개선하는 작업도 병행하고 있다.
AI가 만든 조작물의 정교함이 높아지는 만큼 한국어와 국내 인물의 특성을 반영한 탐지 기술을 확보하는 것이 중요하다는 판단이다.
가짜 영상 만든 프로그램까지 추적.. AI 포렌식 기술 강화
경찰이 추진하는 또 다른 핵심 과제는 AI를 이용한 범행 과정의 추적이다. 딥페이크 영상이나 음성이 조작됐다는 사실을 밝혀내는 것만으로는 범죄 수사에 한계가 있다. 실제 범인을 특정하고 범행을 입증하려면 어떤 AI 프로그램을 사용했는지, 어떤 명령을 입력했는지, 제작된 조작물이 어떻게 수정되고 유포됐는지 등을 확인해야 하기 때문이다.
이에 따라 경찰은 이용자가 많은 주요 생성형 AI 서비스를 대상으로 프로그램 실행 기록과 입력 명령어, 데이터 변형 흔적 등을 분석하는 기술을 개발하고 있다.
범행에 사용된 특정 프로그램을 식별하고 조작물 제작 과정에서 남은 디지털 증거를 찾아내는 수사기법도 고도화한다. 새로운 AI 서비스가 등장하면 관련 분석 방법을 연구해 현장 수사관들이 활용할 수 있도록 안내할 계획이다.
특히 인터넷에 연결하지 않고 개인 컴퓨터 등에서 직접 구동하는 AI 모델에 대한 포렌식 기술도 개발한다. 이를 위해 올해부터 2029년까지 4년간 100억원을 투입하는 '로컬환경 인공지능 모델 대상 포렌식 기술개발' 사업을 추진하고 있다.
로컬 AI는 이용자의 기기에서 직접 작동할 수 있어 외부 서비스에 범행 기록이 남지 않거나 확인하기 어려운 경우가 생길 수 있다. 따라서 컴퓨터 내부에 남아 있는 실행 흔적과 생성·변형 자료 등을 분석하는 기술이 중요해질 것으로 보인다.
경찰은 조작물의 제작부터 수정, 유포에 이르는 과정을 분석하고 필요한 증거를 자동으로 추출할 수 있는 도구도 개발할 방침이다. 수사관이 일일이 자료를 확인하는 부담을 줄이고 사건 분석의 속도와 정확성을 높이려는 취지다.
전국 시도경찰청에 AI 전문분석관.. 수사 전문성 높인다
첨단 탐지 장비와 분석 프로그램을 갖추는 것만큼 이를 실제 수사에 활용할 전문인력 확보도 중요하다.경찰은 전국 시도경찰청에 AI 조작물 분석을 전담하는 전문분석관을 배치해 운영키로 했다. 이들은 AI로 제작된 영상과 음성 등의 조작 여부를 정밀하게 분석하고 현장 수사관의 디지털 증거 확보를 지원하는 역할을 맡게 된다.
일반 수사관과 디지털포렌식 분석관을 대상으로 한 AI 범죄 전문교육도 확대한다. AI 기술은 변화 속도가 빠르고 범죄에 활용되는 프로그램도 다양하다. 특정 탐지 기술을 익혔다고 하더라도 새로운 생성형 AI 모델이 등장하면 기존 분석 방식이 충분하지 않을 수 있다.
경찰이 전문교육과 함께 민간 기업, 정부기관, 대학 등과 협력하는 전문가 그룹을 운영하기로 한 것도 이런 이유에서다. 전문가들은 최신 AI 기술의 발전 방향과 새로운 범죄 수법, 탐지 사례, 분석 프로그램의 성능 등을 공유하고 수사기법 개선에 협력하게 된다.
경찰은 수사기관마다 분석 방식이 달라지는 문제를 줄이기 위해 AI 조작물 탐지·분석 절차도 표준화할 계획이다. AI 포렌식 분야의 국제표준 인증을 확보하는 방안도 추진할 예정이다. 디지털 증거의 신뢰성을 높이고 분석 결과가 실제 수사와 재판 과정에서 활용될 수 있도록 과학적 분석체계를 정비하겠다는 취지다.
딥페이크 성범죄 넘어 금융사기까지.. AI 범죄 대응 전환점
이번 대책은 AI 악용 범죄가 특정 유형의 범죄를 넘어 사회 전반의 안전을 위협할 수 있다는 문제의식에서 출발했다.
과거 딥페이크 범죄가 주로 얼굴을 합성한 불법 성적 영상물 제작과 유포 문제로 주목받았다면 최근에는 타인의 얼굴과 목소리를 흉내 내 금융사기를 시도하거나 허위 영상을 이용해 명예를 훼손하는 등 범죄 수법이 다양해지고 있다.
AI를 이용하면 과거보다 적은 시간과 비용으로 그럴듯한 조작물을 제작할 수 있다는 점도 위험요인이다. 기술 발전으로 조작물의 완성도가 높아질수록 일반 시민이 가짜 정보를 구별하기는 더욱 어려워질 수 있다.
이런 상황에서 경찰이 단순한 조작 여부 판별을 넘어 범행 전 과정을 추적하는 방향으로 수사체계를 전환한 것은 의미가 있다.
다만 AI 탐지 기술이 고도화되더라도 모든 조작물을 완벽하게 구별할 수 있는 것은 아니다. 새로운 생성형 AI 기술이 등장할 때마다 탐지 기술 역시 개선해야 하는 과제가 남는다.
AI 탐지 결과를 다른 디지털 증거와 교차 검증하고 분석 과정의 객관성과 재현성을 확보하는 일도 중요하다. 조작물 판별의 정확성을 높이는 동시에 정상적인 콘텐츠를 범죄 관련 조작물로 잘못 판단하지 않도록 하는 기술적·절차적 장치도 필요하다.
결국 AI 악용 범죄에 대한 대응력은 첨단 분석 기술뿐 아니라 전문인력의 숙련도, 기관 간 정보 공유, 새로운 범죄 수법에 대한 신속한 대응체계가 얼마나 유기적으로 작동하느냐에 달려 있다는 평가다.
김종철 경찰청장 직무대행은 “AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다. 경찰은 AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖춰 국민이 안심하고 AI 기술을 이용할 수 있도록 하겠다”고 말했다.
AI 기술이 범죄의 도구로 악용되는 현실에서 경찰의 수사 역량도 기술 발전 속도를 따라잡아야 하는 상황이다. 이번 대책이 실제 범죄자 추적과 피해 확산 방지로 이어질 수 있을지가 앞으로의 관건이다.















