Perplexity Comet AI 브라우저 4분만에 피싱 공격 유도 취약점 노출

AI 브라우저의 프롬프트 조작 취약점이 피싱 공격 자동화 시대를 앞당겨 사용자 신뢰 기반 붕괴 위기

• 연구자들이 Perplexity의 Comet AI 브라우저를 대상으로 4분 이내에 악성 프롬프트를 통해 피싱 사이트로의 자동 이동을 유도하는 취약점을 발견하였습니다.
• 이 공격은 AI의 자연어 처리 능력을 역이용하여 사용자의 보안 경계심을 완전히 무장해제시키며 전통적 피싱 훈련의 무용지물을 입증합니다.
• AI 기반 웹 경험을 제공하는 차세대 브라우저에서 발생한 이번 사태는 사용자 프라이버시 보호 규제와 AI 안전성 인증 제도의 글로벌 표준 제정이 시급함을 보여줍니다.
• EU AI 법안과 미국의 AI 안전 연구소가 유사 사례를 연구 중이나 한국의 AI 서비스 도입 기업들은 프롬프트 검증 레이어링과 사용자 교육 강화가 필수입니다.
• Perplexity는 방어 메커니즘을 강화 중이나 AI 에이전트의 자율성 증가에 따른 보안 딜레마가 산업 전반의 핵심 과제로 부상하고 있습니다.

이번 사건은 AI가 공격 무기화될 때 발생하는 새로운 보안 패러다임을 보여준다. 단기적으로는 AI 출력 검증 강화, 중장기적으로는 AI 안전성 인증 제도 도입이 필요하다.

출처: The Hacker News