Meta, 무동의 AI 사진 기능 중단… 플랫폼 안전·초상권 비상

무단 생성형 이미지 기능이 플랫폼 신뢰와 규제 리스크를 동시에 자극하다

Meta는 Instagram 사용자의 동의 없이 AI 사진을 생성할 수 있게 했던 ‘Muse’ 이미지 기능을 중단했다. Meta, Muse, Instagram이 얽힌 이 사건은 생성형 AI 기능이 편의성보다 초상권 침해, 딥페이크 악용, 플랫폼 책임 논란을 먼저 불러올 수 있음을 보여준다.
기능 중단의 핵심은 기술 자체보다 승인 절차의 부재다. 사용자의 얼굴과 계정 정보가 자동 생성 모델에 결합되면, 콘텐츠 생성 권한이 곧 신원 악용 권한이 될 수 있으므로 한국의 플랫폼 규제도 사전 동의와 사용 제한을 더 엄격히 요구해야 한다.
The Decoder는 해당 기능이 인스타그램 사용자 누구나 동의 없이 AI 사진을 만들 수 있게 했다고 보도했으며, Meta가 이를 종료했다고 전했다. 별도의 숫자보다 중요한 것은 플랫폼 규모가 큰 만큼 오남용이 발생하면 피해 확산 속도도 빠르다는 점이다.
전략적으로 이 사례는 Google, OpenAI, Anthropic뿐 아니라 SNS 사업자도 AI 안전성 책임에서 예외가 아님을 시사한다. 한국 정부는 생성형 AI를 탑재한 소셜 플랫폼에 대해 표시 의무, 허위합성 탐지, 신고·삭제 절차를 정책 도구로 검토해야 한다.
국가안보 관점에서는 이미지 생성 기능이 선전, 사칭, 사회공학 공격의 입력값이 될 수 있다. 공공기관과 정당, 언론사는 AI 생성 이미지가 민원, 선거, 재난 정보에 미칠 왜곡 가능성을 고려해야 한다.