Shadow AI, 헬스케어 분야에서 통제 불능 확산 지속

헬스케어 Shadow AI가 규제 밖에서 급속 확산되며 환자 데이터 보호와 규제 공백 위기 증대

• Shadow AI 즉 IT 부서의 통제 없이 직원들이 개인적으로 도입하는 생성 AI 도구가 헬스케어 분야에서 만연하며 HIPAA 등 규제 준수와 환자 프라이버시를 위협하고 있습니다.
• 의료진이 ChatGPT나 Claude를 진단 보조와 연구에 무단 사용하면서 민감 건강 데이터를 클라우드로 유출하고 랜섬웨어 타깃으로 노출되는 사례가 급증합니다.
• 미국 병원 70% 이상에서 Shadow AI 사용이 확인됐으며 EU GDPR와 연계된 데이터 유출 리스크가 글로벌 헬스케어 공급망 보안 정책을 재편할 전망입니다.
• 이 현상은 AI 도입 속도와 보안 거버넌스 간 괴리를 드러내고 Microsoft와 Google의 엔터프라이즈 AI 솔루션이 Shadow AI 억제 정책으로 업그레이드될 필요성을 강조합니다.
• 헬스케어 Shadow AI는 국가 단위 의료 데이터 주권 문제를 제기하며 한국의 스마트 헬스케어 정책에서 AI 사용 감사 제도와 직원 교육을 필수화해야 합니다.

이번 사건은 Shadow AI가 규제 사각지대라는 점에서 주목할 필요가 있다. 단기적으로는 헬스케어 기관 AI 정책 수립, 중장기적으로는 AI 거버넌스 법제화가 필요하다.

출처: Dark Reading