법정에 들어온 생성형 AI…미 법원, 변호사·판사 활용 기준 모색

미 연방법원·주법원, AI 작성 서면 제출·증거 검토에 가이드라인 도입…사법 보안·신뢰성 쟁점 부상

• Axios는 미국 여러 연방법원과 주법원이 변호사의 ChatGPT·Claude 등 생성형 AI 활용을 허용하되, 사용 사실 공개·인간 검토 의무·기밀 데이터 입력 제한 등을 명시한 로컬 규칙을 제정하고 있다고 전했다.
• 일부 판사들은 판결문 초안 작성·법리 조사에 AI 도입을 시도하면서도, 허위 판례(할루시네이션)·개인정보 유출·저작권 침해 우려를 이유로 엄격한 검증 절차와 교육 프로그램을 병행하고 있다.
• 미국 사법부의 이러한 움직임은 AI가 법률 영역의 생산성을 높이는 한편, 잘못된 정보와 편향이 판결 과정에 스며들 위험을 제도적으로 관리하려는 시도로, 변호사 윤리·직업 책임 규범 개정 논의로 이어지고 있다.
• 한국 사법·행정부가 입법 검토·규제 심사에 LLM 보조를 도입할 경우, 미국과 유사한 ‘사용 고지·검증 책임·기밀 데이터 통제’ 3원칙을 명문화하지 않으면, 행정 신뢰도와 판결의 정당성을 둘러싼 분쟁이 증가할 수 있다.
• 또한 법원·검찰·경찰의 디지털 포렌식과 증거 분석에 AI 활용이 확산될 경우를 대비해, 알고리즘 투명성·감사 가능성 기준을 선제적으로 설정하는 것이 향후 디지털 권리 보호와 국가 신뢰 확보의 핵심이 된다.

사법부의 AI 활용은 단순 효율 개선이 아니라 국가 권력 행사 방식의 구조 변화를 의미하므로, 한국은 법원·행정부용 별도 AI 윤리 규정과 기술 검증 체계를 마련해 민주적 통제를 확보해야 한다.

주요 용어: 로컬 규칙(각 법원이 자체적으로 정하는 절차·운영 규칙), 할루시네이션(AI가 존재하지 않는 판례·사실을 그럴듯하게 생성하는 오류 현상)

출처: Axios