직장 감시용 ‘감정 AI’가 과학적 근거 없이 확산… 근로자 개인정보 보호 및 노동 윤리 위기

기업들이 보급 중인 감정인식 AI 기술, 신뢰성 및 윤리적 근거 부재… Atlantic 보고서 경고

• 직장 모니터링 및 직원 평가를 위해 기업들이 도입하고 있는 감정인식(Emotion Recognition) AI 기술이 과학적으로 입증되지 않은 사이비과학 기반 솔루션임이 Atlantic 매체의 심층 보도를 통해 드러났으며, 이는 얼굴 표정, 음성 톤, 눈 운동 같은 신체 신호로부터 감정 상태를 추론한다고 주장하지만 신경과학적 타당성이 없는 것으로 평가되고 있습니다.
• 이러한 감정 AI 기술(예: Affectiva, Realeyes 같은 업체)은 실제로는 편향된 데이터셋, 문화적 차이 무시, 신경다양성(neurodiversity) 미고려 등의 구조적 결함을 가지고 있으면서도, HR 관리, 고객 서비스 평가, 보안 심사 같은 중요 의사결정에 광범위하게 사용되고 있어 근로자의 프라이버시 침해 및 차별 위험이 상당합니다.
• 미국 EEOC(평등고용기회위원회)나 EU의 AI Act에서는 생물측정 정보(biometric data)의 감시적 사용에 대해 엄격한 규제를 시작했으나, 한국 기업들 중에서도 유사 솔루션을 도입하려는 움직임이 관찰되고 있으며, 근로기준법, 개인정보보호법, 노동조합 및 노동관계조정법의 현행 규제 체계가 이러한 신종 감시 기술을 사전에 제어할 수 있는 법적 근거를 갖추지 못하고 있습니다.
• 생물측정 정보의 직장 내 수집 및 활용에 대한 명확한 금지 규정, 직원 동의 절차의 강화, 알고리즘 투명성(Algorithmic Transparency) 요구, 독립적 감시위원회의 설치 등이 미국 및 유럽 기업들의 규제 준수 현황에 비해 한국은 상당히 뒤처져 있는 상태입니다.
• 한국의 근로자 보호 정책이 AI 시대의 새로운 감시 기술에 대응하지 못할 경우, 직장 내 프라이버시 침해 사건의 대규모 확산과 함께 근로자의 기본적 인권 훼손이 심화될 우려가 있으며, 동시에 과학적 근거 없는 감정 AI의 도입으로 인해 기업의 인사 결정이 실질적 부정확성에 기반하게 될 수 있습니다.

한국 정부는 생물측정 정보(얼굴 인식, 음성 분석 등)의 직장 내 감시 활용을 금지하거나 엄격히 제한하는 법제를 신속히 마련하고, 기업의 HR 시스템 도입 단계에서 알고리즘 감사(Algorithm Audit) 및 윤리 검토 의무를 법제화하며, 근로자 대표 기구의 참여권을 보장하는 정책 개입이 긴급히 필요합니다.

주요 용어: 감정인식 AI(얼굴 표정, 음성, 생리 신호 등으로부터 감정 상태를 추론하려는 AI 기술), 생물측정 정보(얼굴, 홍채, 지문, 음성 같은 생물학적 신원 정보), 알고리즘 투명성(AI 시스템의 의사결정 과정과 기준을 설명 가능하게 하는 요구사항)

출처: The Decoder