프론티어 AI '룰북 부재' 경고… 에이전틱 공격·방어 시대 한국 국가전략 재정립 시급

다크리딩 분석 기사에서 보안 전문가들은 프론티어 AI가 사이버 공격·사기·정보조작을 자동화할 수 있지만 이를 다루는 글로벌 ‘룰북’이 아직 없다고 지적하며, 기존 보안·윤리 규범만으로는 에이전틱 AI 행위를 포괄하기 어렵다고 경고하였다.
기사에서는 악성 행위자들이 대형 언어모델을 활용해 취약점 탐색·피싱·소셜 엔지니어링을 자동화하고, 동시에 방어 측에서도 위협 탐지·자동 대응을 강화하는 ‘AI 대 AI’ 대결 구도가 형성되고 있음을 설명하였다.
전문가들은 프론티어 AI에 대한 최소 안전 기준, 평가 방법, 오용 모니터링 체계가 필요하다고 제안하며, AI 모델 제공자가 공격 코드 생성·취약점 악용 가이드를 제한하는 기술·정책 장치를 도입해야 한다고 주장하였다.
한국 정부는 사이버보안·국방·정보정책을 분리된 영역으로 보지 말고, 에이전틱 AI가 동시에 이 영역을 관통한다는 점을 고려해 통합 ‘프론티어 AI 안전·보안 프레임워크’를 마련해 국제 논의에 참여할 필요가 있다.
또한 국내 AI 기업이 글로벌 시장에서 제재·불신을 피하려면, 정부 차원의 AI 안전성 평가·인증 제도와 함께 사이버 공격용 모델 개발·배포에 대한 명확한 금지·제재 규정을 마련하는 것이 시급하다.