AI 영상 '출처 추적' 도구 공개…한국형 딥페이크 통제체계 구축 착수

AI 영상 추적 도구 상용화…한국형 ‘딥페이크 출처관리 체계’ 구축 착수 필요

미국 스타트업 ‘Mistral AI’와 연구진이 딥페이크 등 AI 생성 영상을 원본 소스·편집 경로까지 역추적하는 새로운 포렌식 도구를 공개했으며, 이는 영상 위변조를 단순 탐지에서 ‘생산·유통 전 과정을 통제하는 체계’로 확장하는 계기가 된다.
도구는 영상 내 프레임 패턴과 생성 AI 모델별 고유 흔적을 분석해 어떤 모델·서비스에서 생성됐는지, 어떤 편집 툴을 거쳤는지를 재구성하는 방식으로 작동하며, SNS·메신저·스트리밍 플랫폼 로그와 결합될 경우 선거 조작·여론전 등 국가안보 급 위협을 사후가 아니라 실시간 차단하는 기반이 된다.
해당 연구는 False Positive(오탐)와 False Negative(미탐) 비율을 줄이기 위해 10만 건 이상 AI·실사 영상 데이터셋을 사용해 학습했고, 특정 모델군에서는 90% 이상 출처 식별 정확도를 기록했다고 언급되며, 이는 한국 방송·포털·SNS 사업자에 ‘출처 검증 의무화’를 논의할 수 있는 정량 근거가 된다.
미국과 EU는 선거·국방·금융 영역에서 딥페이크 탐지·출처 식별 기술을 공공 인프라에 편입하는 움직임을 보이고 있어, 한국이 KISA·방송통신위원회·중앙선관위 중심의 ‘국가 딥페이크 상황실’을 조기에 구축하지 않을 경우 외국발 여론 조작 영상 유입에 수동 대응만 하게 되는 구조적 취약성이 커진다.
AI 영상 출처 추적은 국내 AI 보안 스타트업·영상포렌식 기업에게 글로벌 수요가 보장된 신시장으로, 정부가 공공 조달·규제 샌드박스·국제 공동연구를 결합한 ‘한국형 딥페이크 출처관리 플랫폼’을 선도하면 국방·정보·선거·금융 등 필수 서비스에 국산 솔루션을 내재화하고 동시에 수출 산업으로 육성할 수 있는 전략적 기회가 된다.