OpenAI, 잠금 모드로 웹 접근 차단…프롬프트 주입 대응 강화

ChatGPT의 Lockdown Mode가 웹 접근과 일부 연결 기능을 끊을 수 있게 하면서, 생성형 AI의 데이터 유출 경로를 줄이려는 움직임이 본격화됐다.

• OpenAI는 ChatGPT의 새 Lockdown Mode를 통해 웹 접근을 비활성화하고 민감한 데이터를 프롬프트 주입(prompt injection)으로부터 보호할 수 있게 했다. 이 조치는 OpenAI, ChatGPT, Lockdown Mode가 연결된 보안 기능으로, AI가 외부 웹 콘텐츠를 읽는 과정에서 악성 지시를 따라가며 내부 정보를 노출하는 문제를 줄이기 위한 것이다.
• 프롬프트 주입은 사용자가 입력한 명령보다 외부 콘텐츠에 숨은 지시가 AI의 행동을 바꾸는 공격 방식이다. 웹 접근을 차단하면 편의성은 일부 줄지만, 민감한 행정 정보나 기업 데이터를 다루는 환경에서는 AI가 잘못된 웹 지시를 따라가는 위험을 낮출 수 있어 한국 정부의 공공 AI 도입 기준에 직접적인 참고가 된다.
• 기사의 핵심 데이터는 Lockdown Mode가 웹 접근을 끄고 추가 보호 장치를 제공한다는 점이며, 이는 OpenAI가 보안 기능을 기본 옵션이 아니라 선택적 운영 모드로 제공하기 시작했다는 의미다. 공공부문에서는 이런 기능을 의무화할지, 고위험 업무에만 제한할지에 대한 정책 결정이 필요하다.
• 전략적으로는 OpenAI가 보안 이슈를 제품 경쟁력으로 전환하고 있다는 점이 중요하다. AI 안전성은 더 이상 부가 기능이 아니라, 정부·금융·국방 시장에 진입하기 위한 필수 조건이 되고 있다.
• 한국 정책 관점에서는 공공기관용 생성형 AI에 대해 네트워크 분리, 웹 차단, 민감정보 입력 금지, 로그 보존을 묶은 기본 보안 프로파일을 마련해야 한다. Lockdown Mode는 그 출발점으로 볼 수 있다.

생성형 AI의 보안은 모델 성능보다 입력 경로 통제가 핵심이다. 한국 정부는 공공 AI에 대해 웹 접근 통제와 로그 의무화를 우선 적용해야 한다.

주요 용어: Lockdown Mode(위험 기능을 제한해 보안을 높이는 운영 모드), 프롬프트 주입(외부 콘텐츠를 통해 AI의 지시 체계를 왜곡하는 공격), 웹 접근 차단(인터넷 연결을 제한해 외부 영향원을 줄이는 조치)

출처: The Decoder