백악관, AI 안전성 리뷰를 개방형 프런티어 모델까지 확대 검토

백악관, 자율 AI 안전성 리뷰를 강력 모델에서 개방형 모델까지 확대 검토

백악관은 현재 OpenAI와 Anthropic 등 소수 기업의 폐쇄형 최첨단 인공지능 모델만 대상으로 운영하던 비공개 자율 안전성 리뷰 프레임워크를, 향후 Anthropic의 ‘Mythos’급이나 OpenAI의 ‘GPT-5.6’에 상응하는 성능을 갖춘 개방형 AI 모델까지 포함하는 방향으로 확장 검토하고 있어, 모델 공개 방식과 관계없이 국가가 위험도 기준으로 선별 평가하는 체계를 만들려는 움직임이다.
현행 자율 안전성 검토 체계는 미국 행정부가 주도해 ‘사이버 공격·해킹 역량’이 일정 기준을 넘는 폐쇄형 AI 모델을 개발하는 OpenAI, Anthropic, Google 등과 협의해 설계된 것으로, 개발사가 가장 강력한 모델을 일반에 공개하기 최소 30일 전에 정부에 제출해 공격 시나리오, 취약성, 악용 가능성을 시험하는 사전 검증 방식이며, 현재까지 구체적인 평가 기준과 결과는 대외에 공개되지 않은 상태다.
정책 방향을 설명한 백악관 관계자는 개방형 또는 오픈 웨이트 AI 모델이라도 Anthropic ‘Mythos’급이나 OpenAI ‘GPT-5.6’과 같은 프런티어 수준의 능력을 보유할 경우 동일한 사전 테스트 대상이 될 수 있다고 언급하면서, 이는 ‘비공개·폐쇄형 vs 공개·오픈소스’ 구분보다 모델이 수행할 수 있는 대규모 침투 테스트 자동화, 취약점 대량 탐색, 고급 사회공학 지원 등 실제 역량을 기준으로 위험도를 판단하겠다는 신호이다.
미국 행정부는 2026년 6월 도널드 트럼프 대통령이 서명한 AI 안전성 관련 행정명령을 통해 연방 정부가 프런티어 AI 모델의 사이버 역량을 평가하기 위한 표준 벤치마크를 개발하고, 자율 리뷰 프레임워크 하에서 개발사들이 가장 강력한 모델을 일반 공개 30일 전에 제출하도록 요청하는 구조를 제시했으며, 8월 4일을 전후해 OpenAI, Google, Anthropic 등 주요 AI 기업 기술진을 백악관에 초청해 이 프레임워크의 구체적 절차와 향후 개방형 모델 포함 가능성을 협의했다.
백악관은 초기에는 오픈소스 또는 오픈 웨이트 AI 모델을 새로운 안전성 리뷰 대상에서 제외해 혁신과 저비용 활용을 보장하려 했으나, 2026년 상반기 동안 Anthropic과 OpenAI에서 각각 최첨단 모델이 해킹 공격과 침투 테스트에 악용된 사례가 확인되고 중국 Alibaba와 DeepSeek 등 해외 기업의 개방형 모델 성능이 미국 모델에 근접했다는 평가가 나오면서, 개방형 모델이 국경을 넘어 확산될 경우 사이버 공격 자동화와 정보 유출 위험을 통제하기 어렵다는 우려가 커져 개방형 모델에 대한 안전성 검토 확대 필요성이 부각됐다.
미국의 자율 AI 안전성 리뷰 체계가 개방형 프런티어 모델까지 포괄하면 글로벌 기술 기업이 미국 기준을 사실상 국제 표준으로 받아들이는 상황이 될 수 있어, 한국은 국내 AI 기업이 미국과 유럽 시장에 진출할 때 요구받게 될 ‘사전 안전성 테스트’ 수준과 사이버 공격·취약점 탐지 역량 관련 벤치마크를 조기에 파악해 국산 모델의 보안 평가 인프라를 준비하고, 동시에 미국이 개방형 모델을 국가안보 프레임워크에 묶어 규제할 경우 국내 연구·오픈소스 활동에 미칠 영향을 검토해 디지털 주권과 사이버 방어력을 균형 있게 설계하는 정책 논의를 시작할 필요가 있다.

미국의 자율 AI 안전성 리뷰 확대는 향후 개방형 프런티어 모델까지 글로벌 규제 레이더에 올릴 가능성을 시사하므로, 한국은 국산 AI 모델을 위한 독자적 보안 평가 체계를 마련해 미국 기준과의 정합성을 확보하는 한편, 개방형 모델 규제 논의가 국내 연구 생태계와 사이버안보 전략에 미칠 파장을 선제적으로 분석해 법·제도 정비 로드맵을 준비할 필요가 있다.

주요 용어: 프런티어 모델(사이버 공격·고위험 기능 등 최첨단 역량을 가진 대형 AI 모델), 오픈 웨이트 모델(모델 파라미터를 공개해 누구나 내려받아 수정·재사용할 수 있는 AI 모델)

출처: TechRepublic