워싱턴, 내부 경고 후 초강력 AI 안전 법안 논의 재점화

미 연방 AI 안전 규제 법안 재부상과 연방·주 권한 재조정 가능성

• OpenAI와 Anthropic 전 직원 Jacob Coxon이 초지능 경쟁을 두고 “우리 삶을 도박한다”고 경고하며 사임하고, Anthropic의 Evan Hubinger 등 연구자가 동조해 워싱턴에서 AI 안전 규제 논의가 급격히 재점화되고 있다.
• Ted Cruz, Amy Klobuchar, John Thune 등 초당파 상원의원이 상무부와 국토안보부에 초강력 AI 모델의 시험·출시를 감독하는 권한을 부여하는 새로운 안전 법안을 논의하며, 위험 평가와 모델 출시 차단 권한을 포함하는 구조를 모색하고 있다.
• 새 법안은 생물무기나 핵 위협 등 ‘재앙적 위험’을 야기할 수 있는 모델에 안전 시험과 사고 보고를 의무화하고, 위험 판단 시 출시를 막을 수 있게 해 AI 개발사에 법적 책임과 감독 체계를 부과하는 방향으로 설계되고 있다.
• 2017년 FUTURE of AI Act, 2019년 DEEP FAKES Accountability Act는 안전 규제로 이어지지 않았고, 2020년 National Artificial Intelligence Initiative Act는 연구·인력 지원에 집중했다. 2022년 11월 ChatGPT 출시, 2023년 5월 Sam Altman 상원 증언 이후에도 구체 입법은 지연됐다.
• 새 초당파 안은 상무부·국토안보부에 규제 권한을 집중해 캘리포니아, 뉴욕, 콜로라도 등 주 법·뉴욕시 알고리즘 편향 감사 규정을 연방 기준으로 대체할 가능성이 있어 연방·주 간 AI 감독 권한 재조정 논쟁을 심화시키고 있다.
• 2023년 Joe Biden 대통령의 주요 개발사 안전 시험 결과 제출 요구 행정명령은 이후 Donald Trump 대통령에 의해 폐기됐고, 2026년 콜로라도 AI 법 소송 지원 등 규제 완화 기조가 이어진 가운데, 이번 안전 법안 논의는 한국도 초거대 모델 안전 감독과 중앙·지방 규제 역할 분담을 재설계할 기회와 부담을 동시에 시사한다.

미국의 초강력 AI 안전 법안은 모델 시험·출시를 중앙정부가 직접 통제하는 방향이다. 한국은 초거대 AI 안전 기준과 사고 보고 의무를 선제 도입하고, 중앙·지방·민간의 역할 분담을 설계해 글로벌 규제 경쟁에서 정책 공백을 최소화할 필요가 있다.

주요 용어: 초지능(superintelligence)(인간 인지능력을 압도하는 가상의 고도 AI), AI 안전 규제(AI 모델의 위험 평가·시험·출시를 법·제도로 관리하는 체계)

출처: Traders Union