공정 표현 학습은 모델이 성별, 민족성, 성적 지향, 장애 같은 민감 변수에 과도하게 의존하지 않도록 데이터를 새로운 표현으로 바꾸려는 접근입니다.1 더 넓게는 자동화된 의사결정에서 알고리즘 편향을 줄이려는 머신러닝 공정성의 한 방법입니다.
핵심 아이디어는 직관적입니다. 모델이 민감 변수에 기반해 결정을 내리면 불공정하다고 볼 수 있으므로, 입력에서 그런 정보를 제거하거나 약화한 표현을 학습하자는 것입니다.1 하지만 이 접근에는 중요한 한계가 있습니다. 민감 정보를 지운다고 해서 항상 더 공정하고 유용한 모델이 만들어지는 것은 아닙니다.
핵심 변수는 기본 비율이다
기본 비율은 집단별로 정답 레이블이 나타나는 비율입니다. 예를 들어 어떤 결과가 A집단에서는 70%, B집단에서는 30% 발생한다면 두 집단의 기본 비율은 다릅니다.
이 차이가 있을 때 “집단 정보를 쓰지 말라”는 요구는 단순하지 않습니다. 민감 변수와 관련된 정보 안에는 차별적 신호도 있을 수 있지만, 예측에 실제로 필요한 신호도 함께 섞여 있을 수 있기 때문입니다.
특히 통계적 동등성처럼 집단별 예측 비율을 맞추는 기준을 강하게 적용하면 문제가 생길 수 있습니다. 기본 비율이 다른 상황에서는 예측 비율을 억지로 맞추는 과정에서 적어도 한 집단의 오류가 커질 수 있다는 이론적 결과가 있습니다.2
따라서 쟁점은 “공정성이 필요한가”가 아닙니다. 당연히 필요합니다. 더 중요한 질문은 “어떤 데이터 구조에서 어떤 공정성 기준을 적용할 것인가”입니다.
민감 정보를 지우는 것만으로는 부족하다
공정 표현 학습은 민감 변수와 독립적인 표현을 만들려 합니다. 하지만 현실의 데이터에서는 민감 변수, 사회적 조건, 측정 방식, 목표값이 서로 얽혀 있습니다.
이때 민감 정보를 제거하는 과정이 차별적 신호만 없앤다면 이상적입니다. 그러나 목표 예측에 필요한 정보까지 함께 사라지면 모델의 성능은 약해집니다. 결국 “공정한 표현”이 “충분한 표현”이라는 보장은 없습니다.
Alex Smola가 소개한 글도 이 지점을 강조합니다. 그룹 간 기본 비율이 다를 때 공정 표현 학습이 어떤 제약을 받는지 다루며, 관련 논의는 선형대수 기반 증명으로도 이어집니다.3 이는 공정성 목표와 예측 가능성 사이의 긴장을 이해하는 데 유용한 관점을 제공합니다.
실무에서는 무엇을 확인해야 하나
공정 표현 학습을 적용할 때는 먼저 집단별 기본 비율을 확인해야 합니다. 차이가 있다면 그 원인을 따져야 합니다. 측정 편향 때문인지, 역사적 차별의 결과인지, 또는 문제 정의상 고려해야 할 실제 차이인지 구분하지 않으면 공정성 기준을 잘못 선택할 수 있습니다.
다음으로 공정성 기준을 명확히 해야 합니다. 집단별 예측 비율을 맞출 것인지, 오류율을 맞출 것인지, 실제 정답 조건에서의 성능을 맞출 것인지에 따라 모델의 동작과 평가 결과는 달라집니다.
마지막으로 표현이 무엇을 제거하고 무엇을 보존하는지 점검해야 합니다. 민감 변수와의 독립성만 볼 것이 아니라, 목표 예측에 필요한 정보가 충분히 남아 있는지도 함께 평가해야 합니다.
결론
공정 표현 학습은 자동화된 의사결정의 편향을 줄이기 위한 중요한 도구입니다. 그러나 만능 해법은 아닙니다.
특히 집단 간 기본 비율이 다른 문제에서는 “민감 정보를 얼마나 지울 것인가”만으로는 충분하지 않습니다. “무엇을 지워야 하며, 무엇을 남겨야 하는가”를 함께 판단해야 합니다. 공정한 모델을 만들려면 공정성 기준, 데이터의 기본 비율, 예측에 필요한 정보 사이의 균형을 명확히 이해해야 합니다.
1Fairness (machine learning) - Wikipedia
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.