Anthropic, 고위험 AI 차단 권한 담은 미국 법안 제안

Anthropic의 고위험 AI 차단 법안, 미국 정부 권한 제한적 허용

• Anthropic은 10월 16일 미 의회에 첨단 AI 감독 법안을 제안했으며, 공공안전에 즉각적 위협일 때만 연방 개입을 허용한다.
• 법안은 생물무기·통제 이탈·사이버공격 위험을 독립 평가자가 확인하고, 중대 위험을 상무부에 보고하도록 설계됐다.
• 개입 기준은 10억 달러 초과 피해 또는 50명 초과 사망·중상이며, 평가자는 완료 후 72시간 안에 상무부에 통보해야 한다.
• 적용 대상은 생물무기 개발·공격을 유발하는 모델, 개발자 통제를 벗어난 AI, 사이버공격에 쓰이는 첨단 모델이다.
• 상무부는 워싱턴DC 연방법원에 중지를 신청할 수 있지만 독자 집행은 불가해, 법원 심사가 고위험 AI 통제의 관문이 된다.
• Anthropic의 산업 주도형 규칙은 개발 지속과 재앙 위험 감시를 병행해, 한국에는 독립평가 역량과 사법 연계 기준이 산업 경쟁력이 된다.

한국은 고위험 AI 평가기관의 독립성·보고기한·법원 심사 기준을 선제적으로 설계하고, 국내 보안기업이 평가와 증적 분야에 참여하도록 지원해야 한다.

주요 용어: 프런티어 AI(가장 고도화된 첨단 AI), 독립 평가(개발사와 분리된 전문기관의 위험 검증)

출처: PYMNTS.com