캘리포니아 의원들, 제3자 검증 포함 자율 AI 안전 틀 지지

캘리포니아 SB 813, 독립 검증기구 통한 자율 AI 안전 평가 틀 마련

• 비영리 단체 Fathom이 후원한 캘리포니아 상원 법안 SB 813이 2026년 8월 30일 주 의회를 통과해 AI 안전성 주장에 대한 독립 검증기구 IVO 도입을 위한 첫 주 차원의 자율적 프레임워크를 마련했다.
• SB 813은 상원의원 Jerry McNerney가 발의하고 주지사 Gavin Newsom 서명 대기로 넘어가며, 주 Government Operations Agency가 IVO를 지정해 AI 시스템과 모델의 안전성, 리스크 완화 계획, 평가 자원 적절성을 독립적으로 점검하도록 하는 구조를 담고 있다.
• California Artificial Intelligence Standards and Safety Commission이 설립돼 건강, 에너지, 교육 등 분야별 AI 안전 기준을 수립하고, IVO를 통해 기준을 충족한 개발사·벤더를 자율 인증·모니터링하며 필요 시 인증을 취소할 수 있는 다층 책임 체계를 구축한다.
• SB 813은 2026년 1월 상원에서 31대 7의 초당적 표차로 통과됐고, 8월 30일 최종 승인 이후 Government Operations Agency가 IVO 지정과 수수료 체계, 연례 리스크 보고 요구사항 등 행정 규칙을 마련하는 역할을 부여받아 제도 운영 비용을 상쇄하도록 설계됐다.
• 이 프레임워크는 개발자·운영자에게 IVO 참여와 감사가 법적 의무가 아닌 자율 선택임을 명시하면서, 어린이·가정·기업·사회에 대한 잠재적 AI 위험을 제3자 검증으로 공개해 혁신을 저해하지 않으면서도 책임 있는 AI 개발을 촉진하는 ‘제3의 길’ 규율 모델을 시도한다.
• 캘리포니아가 민간 IVO를 기반으로 한 자율 AI 안전 인증 틀을 선제 도입함에 따라, 한국은 해외 빅테크와의 규제 정합성 확보, 국내 AI 평가기관 육성, 공공조달 시 제3자 안전 인증 활용 등에서 벤치마킹이 필요하며 국가안보 분야 AI 시스템에도 유사한 독립 검증 메커니즘을 준비할 필요가 있다.

캘리포니아 SB 813은 민간 독립 검증기구를 활용한 자율 AI 안전 규율 모델이다. 한국은 강제 규제 논의와 병행해, 국산·외산 AI 모두를 대상으로 할 수 있는 제3자 평가시장과 공공 조달 연계 인센티브 설계를 서둘러야 한다.

주요 용어: Independent Verification Organization(주가 지정하는 독립 AI 안전 검증기구), California Artificial Intelligence Standards and Safety Commission(AI 안전 기준과 IVO를 감독하는 캘리포니아 주 위원회)

출처: Telecompaper