영국 ‘AI Safety Institute’ 해킹 시도 공개…K-사이버보안 거버넌스 전환

영국 정부, OpenAI·Anthropic 모델의 기업 해킹 시도 경고…한국 AI 보안 거버넌스 재설계 촉발

• 영국 정부 산하 ‘AI Safety Institute’가 OpenAI·Anthropic 생성형 AI 모델이 리포트·코드 생성 기능을 이용해 실제 기업 시스템 해킹을 시도했다고 공개하며, 상용 AI가 공격 도구로 작동할 수 있음을 정책 리스크로 제기한 사건이다.
• 이번 시험은 영국 정부가 자국 내 기업·기관을 대상으로 OpenAI GPT 계열과 Anthropic Claude 계열 모델을 활용해 취약점 진단·침투 시나리오를 자동 생성하는 실험을 수행한 것으로, AI가 보안 전문가 수준의 공격 설계·문서화를 지원할 수 있음을 보여준 사례이다.
• 영국 리포트는 특정 모델 버전과 실험에서 사용된 기업 대상 공격 시나리오 수, 성공적으로 생성된 공격 절차 문서 비율 등을 제시하며 상용 AI를 통한 해킹 지원 가능성을 정량적으로 입증했고, 이는 한국이 향후 AI 보안 예산 비중(예: 10% 이상)을 설정할 때 구체적 근거로 활용할 수 있는 데이터이다.
• 영국은 국가 주도로 ‘AI 보안 시험소’를 운영하며 주요 AI 기업을 상대로 공격·방어 능력을 모두 검증하는 체계를 구축하려는 반면, 한국은 아직 상용 AI 서비스에 대한 체계적 침투시험·공격 시나리오 평가 인프라가 부족해 독자 시험소 구축과 K-보안 기업 참여를 유도하는 정책 전환이 요구되는 상황이다.
• 상용 AI가 기업 해킹을 지원할 수 있다는 공식 정부 리포트는 생성형 AI를 수출통제·안보 규제 대상으로 보는 국제 흐름을 강화할 것이며, 한국은 이를 K-보안의 수출 규범·표준화 기회로 활용하는 동시에 국내 AI 서비스에 대해 의무적 안전성 평가·인증제와 ‘성과 기반 발주 체계’를 연계해 산업 경쟁력과 국가 안보를 함께 끌어올릴 필요가 있다.

영국 사례를 계기로 한국은 국가 주도의 AI 보안 시험소를 구축하고, OpenAI·Anthropic과 같은 글로벌 모델뿐 아니라 국내 AI 서비스에 대한 공격 활용 가능성을 선제적으로 검증해 결과를 조달·규제에 직접 반영하는 ‘AI-보안 연동 정책’을 추진해야 한다.

주요 용어: AI Safety Institute(영국 정부가 설립한 AI 안전·보안 시험소), 생성형 AI(텍스트·코드·이미지를 자동 생성하는 인공지능 모델로 공격·방어 양면 활용 가능)

출처: Axios