AI 음성 피싱(Vishing) 플랫폼 ATHR의 등장으로 생성형 AI 기반 대규모 자동화 공격 시대 개막

ATHR 플랫폼이 생성형 AI 음성 에이전트를 활용하여 대규모 자동화된 보이스 피싱 공격을 수행할 수 있도록 구성됨에 따라, AI 기술이 전통적 사기 범죄의 대규모 자동화를 통해 사회적 위해를 야기하는 새로운 국면이 도래하고 있습니다

• ATHR 보이스 피싱 플랫폼은 AI 기반 음성 생성 및 대화 기술을 활용하여 정상적인 은행원, 정부 기관 담당자, 기술 지원팀 등으로 위장하고 수천 건 이상의 자동화된 음성 통화를 동시에 수행할 수 있으며, 이는 기존의 수동 피싱 방식보다 기하급수적으로 확대된 규모와 효율성을 제공함으로써 국내 금융 소비자 및 기업을 대규모 사기 위협에 노출시키고 있습니다.
• 한국의 금융감독 기관(금융위원회, 금융감시원) 및 경찰청은 ATHR 등 AI 음성 피싱 도구의 국내 유입 및 활용 사례에 대한 즉각적인 위협 평가를 실시하고, 금융기관 및 통신사에 대해 AI 음성 사기 탐지 기술 도입 및 보이스 인증 강화에 관한 긴급 지침을 발령해야 합니다.
• 생성형 AI 기술의 악용을 사전에 차단하기 위해 과학기술정보통신부는 국내 AI 기업에 대한 윤리 심사 강화, 음성 위변조 탐지 기술 R&D 지원 확대, 및 AI 음성 생성 도구의 의도적 오용 방지를 위한 기술 표준 수립을 추진해야 합니다.
• 이번 ATHR 플랫폼의 등장은 생성형 AI가 군사, 정보보호 부문을 넘어 소비자 기만 및 금융 사기의 대규모 자동화 도구로 악용되고 있음을 실증하며, 국가 수준의 AI 안전 거버넌스 및 규제 체계의 구축이 더 이상 미루어질 수 없는 긴급 과제임을 명확히 하고 있습니다.
• 금융기관, 정부 기관, 통신사 등 공공 부문은 AI 음성 사기에 대비하기 위해 사용자 음성 인증(Voice Biometrics), 다중 인증(Multi-Factor Authentication), 및 AI 기반 위협 탐지 기술의 도입을 우선적으로 추진하되, 동시에 소비자 교육 프로그램을 통해 AI 음성 위변조 기술에 대한 인식을 제고해야 합니다.

금융위원회 및 과학기술정보통신부는 AI 음성 피싱 위협을 국가 보안 이슈로 공식 지정하고, 긴급 대응 태스크포스를 구성하여 ATHR 및 유사 도구의 국내 유입 현황을 파악하며, 금융기관 및 통신사와 협력하여 AI 음성 사기 탐지 기술 표준을 수립하고 신속히 배포해야 합니다.

주요 용어: 보이스 피싱(Vishing, 음성 통화를 통한 사기), ATHR(AI 기반 자동화 음성 피싱 플랫폼), 생성형 AI 음성(자연스러운 인간 음성을 모방하는 AI 기술)

출처: BleepingComputer