AI 플랫폼, 사기범을 속여 시간과 정보를 빼앗다

AI가 사기범을 붙잡아 두고 공격 정보를 수집하는 시대

• 호주 기업 Apate는 2년간 AI 봇이 전화 사기범을 실제 피해자처럼 응대하게 해 통화를 늘리고 사기 정보를 수집하는 체계를 구축했다.
• Apate 봇은 전화뿐 아니라 온라인 사기 채팅방과 문자에도 침투하며, 성격·언어·프로필을 달리해 AI임을 숨기고 사기범의 대응을 지연시킨다.
• ETH 취리히 연구진은 LLM 기반 허니팟이 예측 가능한 가상 시스템보다 AI 공격 에이전트를 훨씬 오래 붙잡아 방어자의 정보 수집을 강화한다고 분석했다.
• Apate는 약 350,000개 봇으로 은행·통신사와 운영되며 사기 URL·자금세탁 계좌·은행정보 등 실시간 정보 250,000건 이상을 수집했다.
• 사기 통화가 2시간 넘게 이어지고 연간 수십억 건의 메시지·전화가 발생하는 환경에서 AI는 범죄자의 시간과 자원을 소모시키는 대응 수단이 된다.
• 한국은 은행·통신사·플랫폼이 Apate식 봇과 정보 공유망을 공동 운영하고, 수집정보의 합법적 활용과 오인 대응을 함께 정하는 정책이 필요하다.

금융·통신·플랫폼이 분절된 사기 정보를 실시간 연계하고, AI 미끼의 권한·기록·오작동 기준을 국가 공통 규칙으로 마련해야 한다.

주요 용어: 생성형 AI(대화·콘텐츠를 만드는 인공지능), 허니팟(공격자를 유인해 행동을 관찰하는 가짜 시스템), LLM(대규모 언어모델)

출처: Wired