트럼프와 6대 기술기업, 자율 AI 안전협약 체결
6대 AI 기업, 자율 안전협약으로 프런티어 AI 감독체계 구축
- 도널드 트럼프 대통령과 OpenAI·Google·Meta·Nvidia·xAI·Anthropic 수장이 ‘슈퍼인텔리전스 백악관 협약’에 서명했다. 기업들은 프런티어 AI의 개발·배포 안전통제를 강화하기로 했다.
- 협약은 학습·배포 중 사이버보안·바이오보안·화학 위협을 감시하는 내부통제를 요구한다. 전담 내부팀, 외부 독립감사인, 이사회 독립위원회가 문제 시정까지 감독한다.
- 참여 기업은 법정 기한이나 의무 이행일 없이 자율적으로 약속했다. 트럼프 행정부는 중국과의 기술 경쟁을 이유로 강제 규제보다 기업 자체 안전관리와 속도 유지를 우선했다.
- 협약의 감독체계는 4개 층으로 구성되며, METR은 OpenAI 자료 약 1,300건을 6일간 검토했다. 그러나 평가 범위·접근권·공개 기준은 기업별 선택에 맡겨졌다.
- Keyfactor의 Ellen Boehm은 위험관리와 감사를 선제 도입할 출발점으로 평가했지만, Approv의 Ted Miracco는 강제력 없는 자체감사를 ‘보안 연극’으로 비판했다. 독립성·시정 의무가 실효성을 좌우한다.
- 한국은 AI 안전감사 산업과 평가기준 수출 기회를 확보할 수 있지만, 자율협약만 모방하면 핵심 인프라·화학 분야 오용을 놓칠 수 있다. 정부는 독립성·접근권·공개·시정기한을 조달 기준에 반영해야 한다.
한국은 협약 참여 기업의 자율 약속을 그대로 수용하기보다, 독립 평가기관 인증과 감사 접근권·결과 공개·시정기한을 포함한 국가 AI 안전기준으로 전환해야 한다.
주요 용어: 프런티어 AI(최첨단 범용 AI), 독립 외부감사(개발사와 분리된 검증), 이사회 감독(최고 의사결정기구의 안전 책임), AI 안전통제(위험 행동을 탐지·차단하는 관리체계)
출처: Dark Reading
