MIT 'AI 5대 재앙 위험' 발표…한국 안보·보안 산업 대전환 압박

MIT, ‘AI 5대 재앙 위험’ 경고…한국 보안·규제 체계 전면 재설계 압박

MIT와 파트너 기관이 보고서에서 AI로 인한 5대 재앙 위험을 ‘대량살상무기 설계 지원, 자동화 사이버공격, 생물무기 개발, 여론조작, 통제 불능 자율에이전트’로 규정하며 정책 대응의 시급성을 강조한 것이다.
특히 자동화 사이버공격과 정보조작 분야에서 GPT-4·Claude 등 대형 모델이 공격 코드 생성과 맞춤형 피싱 문구 제작을 가속한다고 분석해, 한국 주요 기반시설·선거·금융 시스템을 겨냥한 고도화 공격 시나리오가 현실 위험으로 격상된 것이다.
보고서는 현재 위험 수준이 시간 경과에 따라 기하급수적으로 커질 수 있다고 지적하고, 위험 완화를 위한 글로벌 거버넌스와 모델 사용 제한, 고위험 활용도 사전 심사 체계 구축을 촉구해 한국도 NIS·방통위·KISA가 합동으로 AI 리스크 관리 프레임을 조기 정립할 필요가 제기된 것이다.
또한 생물무기·화학무기 설계 지원과 대량 여론조작 능력이 동시에 고도화되면 북한·테러 조직·외국 정보기관이 저비용으로 전략 도발 역량을 확보하게 되므로, 한국 정부는 국가보안법·테러방지법·선거법에 ‘AI 보조 도구 사용 규제’를 명시하는 입법 보완이 불가피해지는 것이다.
MIT는 기업·정부가 고위험 AI 모델에 대해 ‘용도 제한·감사 로그·위협 인텔리전스 공유’를 의무화해야 한다고 제안하고 있어, 한국은 이를 계기로 국산 AI 보안·위협 인텔리전스 산업을 전략 산업으로 지정하고 글로벌 규범 설정 과정에서 선도국 지위를 노릴 수 있는 기회와 동시에 규제 도입 지연 시 안보 공백이 확대되는 위기도 마주한 것이다.

한국은 MIT 보고서를 계기로 AI 위험을 별도 안보 어젠다로 승격해, 고위험 AI 인증제·국가 위협 인텔리전스 허브·국산 AI 보안 산업 육성을 동시에 추진하는 ‘AI-보안 3축 전략’을 긴급 설계할 필요가 있다.

주요 용어: 대형 언어모델(방대한 데이터로 학습해 자연어를 이해·생성하는 AI 모델), 위협 인텔리전스(공격 기법·취약점·가해자 정보를 수집·분석해 방어에 활용하는 정보), 자율 에이전트(스스로 목표를 설정·실행하며 디지털 시스템을 조작할 수 있는 AI 소프트웨어)

출처: Axios