공정성의 거짓말: '이제 차별하지 않는다'고 했는데, 실제로는?

약속

'AI는 객관적이고, 인간의 편견 없이 공정하게 결정한다.'
대형 AI 기업들의 이 주장은 그럴듯했다. 알고리즘은 논리적이고, 수학은 거짓말하지 않는다고 했다.

현실

그런데 2026년, 우리가 보는 건 다르다:
대출·채용 AI: 여전히 성별·인종 데이터를 노출하지 않은 변수도 간접적으로 차별한다. 과거 데이터의 불공정이 미래 결정에 복제된다.
생성 AI의 대표성: Claude, GPT가 생성하는 이미지나 설명에서 특정 집단이 과도하게 나타나거나, 특정 집단은 누락된다. 학습 데이터의 편향을 그대로 반영했다.
해석 불가능성: "이건 공정해요"라고 증명할 수 없다. 딥러닝 블랙박스 안에서 어떤 특성이 중요한지 알 수 없고, 어디서 차별이 일어나는지 추적할 수 없다.

왜 그럴까?

1. 데이터는 과거의 거울: 과거 불공정을 학습한 AI는 그걸 재현한다.
2. "공정성"의 정의 자체가 주관적: 통계적 평등? 개인 공정성? 각 진영이 다르게 정의한다.
3. 마케팅 vs 엔지니어링: 회사는 "공정해졌다"고 선언하지만, 실제 감사(audit)는 제한적이다.

앞으로

공정한 AI는 기술만으로 불가능하다. 법적 규제, 투명성 강제, 독립적 감시가 필요하다. 그런데 지금 우리가 보는 건 그 반대 방향이다.