AI 채용 도구는 역사적 편향을 자동화·확대 재생산하며, 고용주와 벤더 모두 법적 책임에서 자유롭지 않다. 편향 감사와 설명 가능한 AI 도입을 통해 투명성을 확보하고, 최종 채용 판단은 반드시 사람이 내리는 구조를 갖추는 것이 핵심 대응 방안이다.

글쓴이: 버지니아 배케이티스(), 번역: 클로드(Claude)

한 구직자가 150개의 IT 직무에 지원했다. 그리고 150번 모두 탈락했다. 아숀 하퍼(Arshon Harper)는 시리어스 XM 라디오(Sirius XM Radio)의 AI 채용 스크리닝 시스템이 우편번호와 출신 학교 같은 간접 데이터를 근거로 자신의 지원서를 인종에 따라 낮게 평가했다고 주장하며 . 단 한 명의 인사 담당자도 그의 이력서를 보지 않았을 가능성이 높다. 그리고 이런 사례는 결코 예외가 아니다.

왜 이런 문제가 생기는가

AI 채용 도구가 급속도로 확산되면서, 알고리즘에 의한 차별 소송이 폭발적으로 증가하고 있다. 이 문제는 단순한 기술적 결함이 아니라, 사회 구조적 불평등이 디지털화되는 현상이다. 채용 AI는 과거 데이터를 학습해 판단을 내린다. 문제는 그 역사적 데이터 자체가 수십 년간의 차별을 고스란히 담고 있다는 점이다.

에서 세 가지 최신 대형 언어 모델을 테스트한 결과, AI 시스템은 백인 연상 이름을 85%의 빈도로 선호한 반면, 흑인 연상 이름은 단 9%에 그쳤다. 더욱 충격적인 것은 교차성 분석 결과였다. 흑인 남성 연상 이름은 단 한 번도 백인 남성 연상 이름보다 선호되지 않았다. AI가 편견을 제거하는 것이 아니라, 오히려 자동화하고 규모를 키우고 있는 셈이다. 우편번호, 출신 학교 같은 간접 데이터가 인종이나 계층의 대리 변수로 작동하고, 장애인은 낮은 ‘낙관성 점수’를 이유로 탈락하기도 ��다.

누가 어떻게 책임져야 하는가

법적 책임의 구도는 복잡하지만, 결론은 명확하다. “AI가 한 일이라는 변명은 통하지 않는다. AI가 그 결정을 내렸다면, 고용주가 직접 내린 것과 동일하다”는 것이 법조계의 일관된 입장이다. , 등 연방 반차별법은 인간이 결정하든 알고리즘이 결정하든 동일하게 적용된다. ‘벤더를 믿었다’는 말은 법적 방어가 되지 않는다. 오히려 사전 실사를 하지 않았다는 자백으로 간주된다.

한편으로는 벤더 역시 직접 책임에서 자유롭지 않다. 은 AI 벤더가 민권법상 ‘고용 기관’에 해당할 수 있는지를 다투고 있으며, 은 FTC에 기만적 마케팅 혐의로 제소됐다. 즉, 고용주와 벤더 모두 법적·도덕적 책임에서 벗어날 수 없다.

블랙박스 문제와 설명 가능한 AI

현재 많은 AI 시스템은 로 작동��다. 고용주들은 AI 도구가 어떻게 작동하는지 이해해야 하며, 투명성이 확보되어야 ��다. 이를 위한 핵심 개념이 ‘설명 가능한 AI(XAI)’다.

XAI는 머신러닝 알고리즘의 결과와 출력을 인간이 이해하고 신뢰할 수 있도록 하는 프로세스와 방법의 집합으로, 단순히 점수나 추천 결과만 내놓는 것이 아니라 어떤 요소를 얼마나 반영했는지를 보여준다. 정기적인 편향 감사(bias audit)와 함께, 결과에 영향을 미친 변수를 투명하게 공개하는 것이 필수적이다.

가장 인간적인 AI 적용 방안

기술적 해법만으로는 충분하지 않다. 가장 근본적인 해결책은 AI를 ‘최종 결정자’가 아닌 ‘보조 도구’로 자리매김하는 것이다. AI는 대량의 서류를 1차 정리하는 데 활용하되, 최종 합격 여부는 반드시 사람이 판단해야 ��다. 알고리즘이 탈락시킨 지원자에 대해서도 인간 검토자가 일정 비율 이상을 다시 살펴보는 안전망을 두어야 ��다. 또한 장애인 지원자에 대한 합리적 편의 제공, 다양한 배경의 지원자를 포용하는 평가 기준 설계가 병행되어야 ��다.

AI는 채용의 효율을 높이는 강력한 도구다. 그러나 효율이 공정성을 희생하는 순간, 그것은 기술의 진보가 아니라 차별의 자동화일 뿐이다. 투명성, 정기 감사,�� 인간의 최종 판단. 이 세 가지가 갖춰질 때 비로소 AI는 채용 현장에서 신뢰받을 수 있다.

• 원문: ,

The post 채용 AI의 그늘: 편향, 책임, 그리고 인간적인 해법 appeared first on 51����Korea 뉴스센터.