▲사진=클립아트코리아 [노동법률] 박정택ㆍ구다해 김앤장 법률사무소 변호사ㆍ외국변호사

1. 들어가며

국내외 공공기관 및 기업들의 채용 절차에서 인공지능(AI)의 활용도가 높아지면서 관련 업무의 효율화 및 편의가 향상되고 있다. 그러나 다른 한편으론 채용 AI 도구 활용으로 인한 투명성, 설명 가능성, 공정성, 책임성 등 윤리적, 법적 측면에서 새로운 문제도 발생하고 있다. 세계 각국의 AI 관련 제재나 규제가 활발한 가운데 인사노무 분야 AI 시스템에 관한 규제나 분쟁은 아직 초기 단계인 것으로 보인다. 

다만, 채용 절차에 관련된 AI 시스템의 활용에 관해서는 규제 및 사례가 증가하고 있다. 이에 아래에서는 특히 채용 AI 도구에 대한 국내외 입법 동향 및 미국의 분쟁 사례에 대해 개괄해 보고자 한다.

2. 국내 입법 동향

최근 대기업과 공기업 등의 기관에서 AI 기술을 활용해 채용 여부를 결정하는 새로운 채용 방식의 도입이 많아지고 있다. 이는 채용 프로세스의 효율화를 도모하는 긍정적인 면도 있으나 구직자에게 채용 과정에서 AI 기술을 활용한다는 안내 없이 평가가 이루어지거나, AI 채용 결정 방식이 장애인 등 정보기술 활용이 어려운 구직자들에게 불이익을 줄 수 있다는 우려도 있다. 

이에 21대 국회에서는 채용 과정에 AI를 활용하는 고용주에 대한 규제를 강화하는 채용 절차의 공정화에 관한 법률 개정안이 다수 발의됐다. 또한 22대 국회에서는 비슷한 취지의 개정안이 2건 발의됐다.

개정안 주요 내용을 살펴보면 고용주가 AI 관련 기술을 활용해 채용하는 경우 지원자에게 해당 AI 시스템의 활용, 평가 방식, 알고리즘의 작동 방법 등을 사전에 고지하도록 하고 있다. 또한 동법 대통령령으로 정하는 정보통신 취약 계층에 속하는 지원자 대상으로는 AI 채용 시스템을 적용하지 않도록 함으로써 '채용 절차의 공정성 및 투명성을 제고하고 지원자의 권익 보호'에 기여하고자 한다. 한편, 개정안은 채용 AI에 활용되는 기술이 인종·성별·연령 등에 대해 편향되지 않도록 하기 위해 대통령령으로 정하는 요건을 갖춘 전문 기관에 주기적으로 점검을 받아야 한다는 내용도 담고 있다. 

3. 해외 규제 동향

2024년 3월 25일, 영국 과학혁신기술부(Department for Science, Innovation & Technology, 이하 DSIT)는 채용 관련 책임 있는 AI 가이드(Responsible AI in Recruitment Guide)를 발표했다. 본 가이드에서는 채용 절차 전반(구인 광고·서류전형·영상면접·채용 결정)에 걸쳐 AI가 활용될 수 있고 모든 단계에서 지원자에 대한 부당한 편견, 차별의 위험 등이 내포돼 있다고 경고했다. 그러면서 채용 AI 도구의 도입 전후, 실제 사용 이후 단계까지 수명 주기를 정하고 각 단계별 고려 사항과 대처 방법, 예시를 보여 준다.

예를 들어 채용 AI 도입 전에는 도입 목적, 예측되는 결과물, 차별 등 지원자에 대한 불이익 여부, 개인정보보호 여부를 점검하도록 한다. AI 채용 도구를 실제 사용하기 전에는 공급업체와 성능, 공정성, 영향 평가 등에 대한 확인이 필요하다. 

서류전형이나 영상면접에서 실제로 AI 도구를 사용할 때는 채용 담당자, 면접자 등 관련 직원들을 교육해야 하고, 지원자에게는 해당 도구의 사용 여부에 대한 선택을 할 수 있도록 사전 안내를 해야 한다. 또한 정기적으로 해당 AI 채용 도구에 대한 감사, 성능평가, 지원자로부터의 피드백 수집을 시행해 개선 작업을 하는 것이 바람직하다고 보고 있다.

미국 연방고용평등위원회(Equal Employment Oppo-rtunity Commission, 이하 EEOC)는 2023년 5월 18일에 채용 결정에 사용되는 AI의 부당한 평가에 대한 가이드를 발표했다. 이 가이드는 1964년 민권법 제7편을 근거로 고용주가 채용 및 인사 평가에서 AI 도구를 사용할 때 알고리즘에 의한 의사결정이 선발 절차에 해당하므로 인종·성별·연령 등의 차별로 인해 지원자들에게 불리한 영향을 주지 않도록 조치·자가 분석·감시를 해야 한다고 강조하고 있다. 이 가이드는 법적 구속력은 없지만 이후 각 주별로 비슷한 취지의 주법의 입법에 영향을 주고 있는 것으로 보인다.

2019년 일리노이주는 미국 최초로 채용 관련 주법인 AI 영상 면접법(Artificial Intelligence Video Interview Act)을 제정했다. 이 주법에 따르면 AI 영상 면접을 이용하는 경우 고용주에게 5가지 의무를 부과하고 있는데 사전 통지 의무, 정보 공개 의무, 사전 동의 의무, 면접 영상의 제3자 공유 제한, 삭제 의무 등이다.

아울러 뉴욕시는 현재 자동화된 채용 결정 도구법(Auto-mated Employment Decision Tools, 이하 AEDT)을 시행하고 있다. 이 법에 따르면 고용주 및 채용 대행 기관이 자동화 채용 결정 도구를 사용하는 경우, 사용 후 1년 이내에 편향성 감사를 실시하고, 결과는 정보 공개를 통해 공개하도록 했다. 또한 AEDT 활용에 대한 사전 통지가 직원 또는 지원자에게 제공되지 않는 한 이를 사용할 수 없도록 금지하고 있다.

2024년 3월 13일에 통과된 EU AI 법에서도 교육 및 직업 훈련, 고용 및 직원 관리에 관련된 AI 시스템을 고위험 AI로 분류하고 있다. 일례로 채용공고, 지원자 선별, 면접·시험 등 후보자 평가 등 고용 절차에 사용되는 AI 시스템 등은 모두 고위험 AI에 해당돼 이에 따라 위험관리 시스템 구축·실행·유지, 기술문서 작성 및 업데이트, 고용주에 대한 투명성 확보 및 정보제공 의무 등의 규정을 적용받는다.

4. 관련 미국 분쟁 사례

미국의 빅테크 기업 중 하나인 아마존은 2014년에 자체 개발한 AI 기반 서류 평가 시스템을 도입했지만 3년 뒤인 2017년 해당 시스템의 사용을 전면 중단하고 폐기했다. 이 시스템은 이전 10년 치 이력서 데이터를 기반으로 알고리즘 훈련을 통해 지원자가 제출하는 이력서를 분석하고 평가하는 데 활용됐다. 그러나 기존 지원자들 대다수가 남성이었고 '여성'이라는 단어가 언급된 이력서를 부정적으로 평가함으로써 여성 후보자들이 대거 탈락하게 됐다. 이는 테크 산업 특성상 성별에 따른 고용 격차를 보여주고, AI 채용 도구의 편향성(Bias) 문제를 대표하는 사례로 꼽힌다.

2022년 5월 미국 EEOC는 중국의 영어 과외 기업인 ITutor그룹 및 그 계열사를 상대로 제기한 소송에서 회사가 미국 내 강사 채용 절차에서 55세 이상 여성과 60세 이상 남성을 자동으로 거부하는 온라인 채용 AI 도구를 사용해 고용 연령 차별법(Age Discrimination in Employment Act, 이하 ADEA)을 위반했다고 주장했다. 

회사는 이를 계속 부인했지만 이후 법원에 제출된 합의안에는 자사 채용 소프트웨어에 의해 자동으로 걸러진 200명 이상의 지원자들에게 36만5000달러의 금전적 보상과 더불어 채용 기회를 박탈한 지원자들에 대한 재지원 허용, 차별 방지 대책 마련 등의 의무가 포함돼 있었다. 위 EEOC 사례 이후 미국에서 채용 AI 활용에 따른 차별법 위반에 관한 법적 분쟁들이 계속 이어지고 있다. 

2023년 2월 21일 미국의 인적자원관리 시스템 공급업체인 Workday를 상대로 아프리카계 40대 미국인 남성을 포함한 원고들이 집단 소송을 제기했다. 이는 AI 채용 관련 기업·지원자 간 최초의 소송 사례로 그 결과가 주목받고 있는 사건이다. 원고의 주장에 따르면 피고 회사의 AI 지원자 스크리닝 도구를 사용하는 80여 개의 기업에 지원했지만 전부 탈락했고, 이것이 차별법 위반에 해당한다고 주장했다. 

이에 대해 피고 측은 해당 소프트웨어가 고객사의 채용 후보자 선정에 관여·통제할 수 없다고 하면서 만약 그렇다 하더라도 고용주가 아니므로 당사자적격이 없다고 주장했다. 이에 2024년 7월 법원은 비록 피고가 직접 고용주 또는 채용 대행 기관은 아니지만 고용주가 해야 할 업무의 일부를 위임받은 Agency로는 인정할 수 있다고 판단하면서 계속해서 소송이 진행될 전망이다.

5. 마치며 

국내에서는 아직 AI 법이 제정되기 전이고, 미국과 같은 AI 채용 시스템에 관한 분쟁도 거의 없는 단계로 보인다. 그러나 각 국가에서 AI 관련 법률을 입법하거나 시행 중이며, 채용에 활용되는 AI 도구의 사용에 있어서도 투명성, 책임성, 지원자의 권리 보호 등을 특히 강조하고 있다. 또한 국내에서도 채용절차법의 개정 움직임이 지속적으로 보이며 개인정보보호법의 최근 개정(사람의 개입 없이 완전히 자동화된 시스템으로 개인정보를 처리해 결정이 내려지는 경우 정보 주체에게 일정한 권리를 부여)을 고려하면 앞서 살펴본 해외의 가이드 및 분쟁 사례는 국내 기업들에게도 시사하는 바가 클 것으로 보인다. 이에 대처하기 위해 채용이나 인사관리에 AI를 활용하고자 하는 기업들은 공개된 지침이나 법규를 준수해 공정하고 안전한 채용 프로세스를 구축하고 운영할 필요가 있다.