Mathematical A.I. Safety Institute, 암호 수준 수학 증명으로 AI 안전성 입증 추진

암호 연구 수준의 수학적 증명으로 AI 안전성을 입증하려는 신규 연구소 출범

• 캐나다 수학자 제이콥 치머만이 샌프란시스코 베이 에어리어에 독립 연구소 ‘Mathematical A.I. Safety Institute’를 설립해 AI 안전성 문제를 전담하는 수학 연구를 2027년 1월부터 시작한다고 밝혔다.
• MAISI는 10~30명의 수학자를 투입해 단일 AI 시스템이 책임 있게 작동하고 결과를 정확하게 내는지, 여러 AI 에이전트가 상호작용해도 의도치 않은 집단 행동이나 위험한 결과가 발생하지 않는지를 이론적으로 검증하는 것을 목표로 한다.
• 제이콥 치머만은 암호체계가 ‘해독 불가능함’을 수학적으로 증명하듯, 지금까지는 실사용 중 문제 발생 여부로만 확인되던 AI 안전성을 추상적 개념이 아닌 명확한 정의와 증명 가능한 기준으로 끌어올리겠다고 밝히며, 안전 기준 수준을 현재보다 크게 높여야 한다고 강조했다.
• MAISI는 2027년 1월 출범 시점을 제시하고, 수학자 10~30명을 모집해 AI 안전을 전담 연구하는 독립 기관으로 운영될 예정이며, 창립자인 치머만은 필즈상 수상자이자 OpenAI 안전팀 합류 인물로 연구소의 전문성과 산업 연계를 동시에 확보하고 있다.
• 연구소는 아직 이론적으로도 합의되지 않은 ‘안전한 AI’ 정의를 만들고, 향후 발견될 취약점에도 시스템이 견딜 수 있는 구조를 수학적으로 증명하려 하며, 영지식 증명 등으로 AI가 내부 알고리즘을 공개하지 않고도 ‘속이지 않는다’는 점을 제3자에게 입증하는 신뢰 검증 도구를 모색한다.
• 암호 연구 수준의 수학적 AI 안전 검증이 현실화되면 글로벌 기술기업이 공통 기준을 갖추게 되고, AI의 집단 행동 위험과 미발견 취약점을 선제 관리하는 규범이 형성되므로, 고도 AI 활용을 확대하는 국가에서는 자국 표준과 인력 양성 전략을 MAISI가 제시할 수학적 기준과 연동해 설계할 필요가 있다.

AI 안전성을 수학적 증명으로 다루려는 MAISI의 시도는 향후 국제 규범과 산업 표준의 방향을 좌우할 가능성이 크므로, 정책 담당자는 이 연구 흐름을 모니터링하며 국가 AI 안전 기준·인증 제도 설계에 수리적 검증 요소를 단계적으로 도입하는 방안을 검토해야 한다.

주요 용어: MAISI(수학 기반 AI 안전 연구를 목표로 하는 독립 연구소), 영지식 증명(내부 비밀을 드러내지 않고도 특정 주장이 참임을 증명하는 암호학 기법)

출처: The Decoder