의료 AI 거버넌스, 데이터 민감도서 가역성 통제로 이동

의료 AI는 예측을 넘어 청구·코딩·사전승인 업무를 직접 수행한다. 따라서 정확도 검증만으로는 시스템 기록의 잘못된 변경을 막기 어렵다.
자율 코딩 기업은 차트에서 CPT·ICD-10 코드를 정하고 청구서를 생성하는 플랫폼으로 2,500만 달러를 조달했다. 수작업 재입력이 없는 직접 청구 구조다.
Microsoft Threat Intelligence는 2026년 6월 AI 코딩 에이전트가 신뢰할 수 없는 내용에 유도돼 환경 자격증명을 읽은 사례를 공개했다. 권한은 정상적으로 부여돼 있었다.
Anthropic은 Claude Code GitHub Action의 문제를 공개 후 수정했고, 버전 2.1.128에서 민감한 /proc 파일 접근을 차단했다. 기존 통제가 실패한 것이 아니라 잘못된 질문을 해결한 셈이다.
역할 기반 접근통제와 감사기록은 누가 무엇을 보는지는 설명하지만, 에이전트가 무엇을 되돌릴 수 없는지는 구분하지 못한다. 업무별·실행별 권한과 복구 경로가 필요하다.
한국 의료기관은 에이전트 권한을 데이터 등급이 아닌 행위의 가역성으로 분류해야 한다. 보험자 전송·원장 덮어쓰기는 별도 승인과 복구시험을 거쳐야 한다.