100만개 이상 이메일, 숨겨진 텍스트로 AI 보안 필터 회피… 생성형 이메일 보안 체계 재설계 비상
스팸·피싱 공격이 대규모로 AI 필터 우회하면서 한국 공공·기업 메일 인프라 방어 전략 전면 점검 압박
- DarkReading은 100만개가 넘는 스팸·피싱 이메일이 HTML 내 숨겨진 텍스트를 활용해 AI 기반 보안 필터를 속이고 통과하는 캠페인이 발견되었다고 보도하였다.
- 공격자는 인간 수신자에게는 보이지 않지만 AI 필터가 읽을 수 있는 숨겨진 문장을 삽입해, 정상적인 콘텐츠로 오인하도록 유도하고 Microsoft 365·기업 게이트웨이의 탐지를 피하는 기법을 사용한 것으로 설명된다.
- 기사에 따르면 이 캠페인은 여러 글로벌 기업·기관을 대상으로 진행되었으며, 탐지 회피율·클릭률 등의 정량 지표를 기반으로 공격 기법을 지속적으로 조정하는 ‘데이터 주도형 피싱 최적화’ 양상을 보였다.
- 이는 한국 공공·금융·대기업 이메일 방어 체계가 단순 텍스트 분석형 AI 필터에 의존할 경우, 숨겨진 콘텐츠·HTML 구조·행위 기반을 아우르는 복합 탐지·정책이 없으면 대규모 피싱에 속수무책으로 노출될 수 있음을 의미한다.
- 한국은 메일 게이트웨이에 HTML 렌더링 기반 분석·링크 행위 추적·사용자 교육을 결합한 통합 방어 전략을 도입하고, AI 필터 사용 시 ‘우회 기법’ 연구·검증을 정기적으로 수행하는 규제·가이드라인을 마련할 필요가 있다.
한국 정책 담당자는 공공·기업 메일 시스템에서 AI 필터 도입을 단순 효율화 수단이 아니라 새로운 공격 표면으로 인식하고, 숨겨진 텍스트·렌더링 차이를 악용한 피싱을 탐지하는 기술·교육 투자를 병행해야 한다.
주요 용어: AI 보안 필터(머신러닝·생성형 모델을 사용해 악성 이메일을 자동 분류하는 보안 기능), 피싱(사용자를 속여 계정 정보·금융 정보를 탈취하는 사회공학 기반 공격)
출처: DarkReading
