Anthropic, 극단적 위험에만 AI 모델 차단 허용 법안 제안

Anthropic의 법안은 AI 모델 차단을 극단적 위험으로 제한

• Anthropic은 미 의회에 AI 안전 법안 초안을 제시해 정부의 모델 출시·사용 차단 조건을 극단적 위험으로 한정했다.
• 이 초안은 사이버공격·생물무기 제작·개발자 통제 회피에서 비롯된 예측 가능하고 임박한 위험만 사법 절차에 넘긴다.
• 그 위험은 10억 달러 초과 피해 또는 50명 초과 사망·중상으로 산정하며, 독립 평가자는 72시간 안에 상무부에 보고한다.
• 해당 절차의 대상은 Anthropic의 프런티어 모델과 AI 연구소이며, 상무부·독립 평가자·워싱턴DC 연방법원이 단계별 판단을 맡는다.
• 그 결과 상무부는 법원에 모델 중지를 청구할 수 있지만, 다른 부처·기관·공무원은 개발·배포·내부 사용을 중단시킬 수 없다.
• 이에 따라 한국은 고위험 AI를 사전 차단하기보다 피해액·인명 기준과 독립평가를 결합하는 산업 규율 모델을 검토할 정책 선택지를 얻는다.

정책 담당자는 Anthropic 초안처럼 독립 평가자 등록, 72시간 보고, 법원 심사를 묶되 한국의 사이버·바이오 위험 기준은 별도로 정교화해야 한다.

주요 용어: 프런티어 모델(최고 수준의 범용 AI 모델), 독립 평가자(개발사와 분리돼 위험을 검증하는 기관)

출처: Modern Ghana