GPUThor Rowhammer, NVIDIA RTX A6000 ECC 우회해 루트 권한 탈취

토론토대 연구진, NVIDIA ‘RTX A6000’ 계열에서 ‘GPUThor’ Rowhammer로 ECC 우회

• 토론토대 연구진은 NVIDIA 워크스테이션 GPU의 GDDR6 메모리에서 ‘GPUThor’를 공개했다. 공격은 ECC를 무력화해 DoS와 루트 셸 권한 상승을 유도한다.
• 공격은 32개 스레드가 한 번에 움직이는 ‘warp’와 DRAM 은행 배치를 이용한다. 비대칭 해머링으로 TRR 방어를 지나치며, 무권한 CUDA 커널만 있으면 가능하다.
• 권한 상승은 GPUBreach 코드를 재사용해 페이지 테이블을 훼손하는 방식이다. IOMMU가 켜지면 SDC로, 꺼지면 DUE로 루트 권한을 얻어 호스트 제어로 이어진다.
• 연구진은 4개 Ampere 카드에서 각 DRAM 은행을 24시간씩 두드려 72,000~377,000개 비트를 뒤집었다. RTX A5000은 377,552 flips/GiB, GPUHammer의 16보다 23,597배 높았다.
• 이 결과는 한 GPU를 여러 테넌트가 나눠 쓰는 환경의 위험을 키운다. ECC 경보와 CUDA 작업 통제가 없으면 AI·가상화 인프라가 서비스 중단과 데이터 훼손에 노출된다.
• 한국도 공공 AI와 국방 연구망에서 NVIDIA 워크스테이션 GPU 공유 정책을 재점검해야 한다. 무신뢰 CUDA 차단, ECC 로그 감시, IOMMU 강제는 즉시 적용할 방어선이다.

토론토대의 GPUThor는 ECC가 있어도 GPU 메모리 공격이 권한 상승으로 이어질 수 있음을 보여준다. GPU를 공유하는 AI·연구 환경은 무신뢰 작업 차단과 ECC 감시를 즉시 기본 정책으로 둬야 한다.

주요 용어: Rowhammer(DRAM을 반복 접근해 비트를 뒤집는 공격), ECC(메모리 오류를 자동 검출·수정하는 보호 장치), IOMMU(장치의 메모리 접근을 통제하는 격리 기능)

출처: The Hacker News