▲이미지=클립아트코리아
[노동법률] 박정택ㆍ류지효 김앤장 법률사무소 변호사
1. 들어가며
최근 전 세계적으로 인공지능(Artificial Intelligence, 이하 'AI') 기술이 산업 전반에 도입되고 있고, AI를 사용하는 경우 업무의 효율성 증대뿐만 아니라 다양한 데이터를 활용해 인사 결정의 예측성, 정확성 또한 제고할 수 있어 인사노무 분야에서도 AI가 다양하게 활용되고 있다. 실제로 다수의 기업들이 채용 과정에서 입사 지원자의 서류와 인터뷰 내용을 평가하는 스크리닝의 목적으로 AI를 활용하고 있고, 향후 인력 운영 및 배치, 평가와 보상 등 인사노무의 다양한 영역으로 AI 사용이 확대될 것으로 예상되고 있다.
AI 활용이 기업에 많은 편익을 가져다줌과 동시에 AI를 통한 의사결정 과정에서 차별적 요소에 관한 정보가 수집되고 이에 따라 편향된 결정이 내려질 수 있는 점, AI의 기술적 오류 등으로 인해 AI에 기반한 결정의 오류 내지 개인정보 보호 문제가 발생할 수 있는 점 등 AI 활용에 따른 부작용에 대한 우려도 지속적으로 제기되고 있다.
이에, 유럽연합(EU)은 2024년 8월 AI법(EU Artificial Intelligence Act)을 발효했고, 한국에서도 AI 활용에 관한 기본법인 '인공지능 발전과 신뢰 조성에 관한 기본법(이하 '인공지능기본법')'이 국회에서 지난 2024. 12. 26.에 통과돼, 2025. 1. 21. 공포됐고, 1년의 유예기간을 거쳐 2026. 1. 22.부터 시행될 예정이다. 비록 1년의 유예기간이 남아 있고 향후 시행령 제정을 통해 규제의 구체적인 내용이 확정될 것이나, AI법을 먼저 도입한 EU의 사례에 비춰 향후 규제 동향을 예측할 수 있을 것으로 보인다.
이하에서는 이번에 제정된 인공지능기본법 및 EU의 AI법의 규제 사항 중 인사노무 분야에서 적용될 수 있는 주요 내용을 살펴보고, 향후 인사노무 분야에서의 AI 활용 시 유의할 사항에 대해 살펴보고자 한다.
2. 한국의 인공지능기본법의 주요 내용
가. 법의 적용 대상
인공지능기본법은 법의 적용 대상인 인공지능 개발 사업자(이하 '개발 사업자')뿐만 아니라 개발 사업자로부터 제공받은 인공지능 서비스를 활용하는 인공지능 이용 사업자(이하 '이용 사업자')도 포함하고 있다. 즉, 개발 사업자의 인공지능 프로그램을 사용하는 이용 사업자 역시 법의 적용대상에 해당하고, 이용 사업자가 개발 사업자의 프로그램을 신뢰하고 사용했다는 점만을 들어, 인공지능기본법에서 규정하고 있는 AI 관련 규제 위반 시 면책되지 않는다는 점을 유의할 필요가 있다. 실제로 채용, 해고와 같은 주요 인사상 결정에서 활용된 AI 평가 시스템이 편향된 결정을 내렸음을 이유로 손해배상을 구하는 해외 분쟁 사례들을 보면, 개발 사업자뿐만 아니라 AI 시스템의 알고리즘 개발 등에 직접 관여하지 않은 이용 사업자를 상대로 한 분쟁도 지속적으로 증가하고 있다.
다음으로, 인공지능기본법은 사람의 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템 중 법 제2조 제4호 각목에서 정하는 영역에서 활용되는 AI를 고영향 인공지능으로 별도로 정의한다. 그러면서 이에 대해서는 보다 강화된 규제를 적용하고 있다. 인공지능기본법은 '채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가'를 고영향 인공지능의 예시로 들고 있고, EU의 AI 법 역시 채용, 업무 배치, 성과 평가와 같은 인사상 결정 등에 활용되는 AI 시스템을 '고위험 AI 시스템'으로 분류하고 있는바, 채용 이외에도 인사 평가, 해고 등 주요한 인사상 결정 역시 개인의 권리, 의무 관계에 중대한 영향을 미친다는 점에서 고영향 인공지능에 해당할 가능성이 높을 것으로 판단된다.
나. 주요 규제 내용
앞서 언급한 고영향 인공지능에 해당하는 경우 이용 사업자가 준수해야 하는 여러 의무 중 가장 주된 의무로는 투명성 확보 의무 및 안전성, 신뢰성 확보 조치 이행 의무를 들 수 있다.
(1) 투명성 확보 의무
이용 사업자가 고영향 인공지능을 이용한 서비스를 제공하는 경우 우선 해당 서비스가 고영향 인공지능에 기반해 이루어진다는 점을 사전에 고지해야 한다. 예를 들어, 채용이나 인사 평가 등에 있어 인공지능을 활용하는 경우 이러한 결정이 AI를 활용해 이루어진다는 점에 대해 사전에 입사 지원자나 직원들에게 안내할 필요가 있다. 이와 관련해, 고지를 함에 있어 AI 시스템에 대해 어느 정도의 설명을 같이 제공해야 하는지가 문제될 수 있다. 향후 시행령이 이에 대해 구체적으로 규정할 것으로 보인다. 다만 개인정보보호법이 자동화된 결정에 대한 정보 주체의 설명요구권에 대해 간결하고 의미 있는 설명을 요구하고 있다는 점에서 인공지능기본법 시행령도 AI 알고리즘의 구체적인 내용을 공개할 필요까지 인정되지는 않을 것으로 예상된다.
(2) 안전성, 신뢰성 확보 조치 의무
인공지능기본법은 고영향 인공지능의 안정성, 신뢰성을 확보하기 위한 조치로서 ▲위험관리 방안의 수립·운영, ▲인공지능이 도출한 최종결과 도출에 활용된 주요 기준 등에 대한 설명 방안의 수립·시행, ▲이용자 보호 방안의 수립·운영, ▲고영향 인공지능에 대한 사람의 관리·감독, ▲안전성·신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관 등 다양한 조치를 취하도록 요구하고 있는데, 이는 EU의 AI법의 규제와 상당히 유사한 측면이 많다.
EU의 AI법은 AI 시스템 활용에 따라 발생할 수 있는 위험 요인을 주기적으로 점검하고 개선하기 위한 위험 관리 시스템 구축을 요구하고, 향후 검증을 위해 최소 6개월 이상의 AI 시스템의 로그 기록을 보관하도록 요구하고 있다. 이러한 규제는 한국의 인공지능기본법이 위험관리방안의 수립 및 안전성·신뢰성 확보를 위한 조치 내용을 확인할 수 있는 문서의 작성과 보관을 요구하고 있다는 점과 일맥상통하다. 향후 인공지능기본법 역시 이러한 규제의 실효성 확보를 위해 AI 시스템에 대한 정기적인 감사 의무가 도입될 가능성도 있을 것으로 보인다.
또한, EU의 AI법은 AI 시스템에 의한 완전히 자동화된 결정으로만 이루어지기보다는 사람의 개입이 가능하도록 설계하고 AI 시스템에 의한 결정을 이용 사업자가 변경 가능할 것을 요구하고 있다. 한국의 인공지능기본법 역시 고영향 인공지능에 대한 사람의 관리·감독을 요구하고 있는바, 향후 인사노무 분야에 있어서 해고와 같은 주요 의사결정에 대한 완전히 자동화된 결정이 제한되거나, 직원들의 거부권 내지 이의제기권이 허용되는 방향의 규제가 도입될 수 있을 것으로 예상된다.
3. 마치며
인공지능기본법 시행까지는 1년의 시간이 남아있고, 인사노무 분야에서의 AI 규제 방향 역시 향후 제정될 시행령의 내용을 살펴볼 필요가 있다. 다만, 인사노무 분야의 경우 다른 분야에 비해 직원들에게 미치는 영향이 상당하다는 점에서 보다 엄격한 규제가 필요하다는 공감대는 형성돼 있는 것으로 판단된다. 따라서, 향후 인사노무 분야에 AI를 활용함에 있어 불필요한 오해와 갈등을 사전에 예방하고, 그 효과를 극대화하기 위해서는 AI 도입 단계부터 직원들과 협의하고, AI 시스템의 결정 기준 등을 구체적으로 안내할 필요가 있고, AI를 통한 전적인 결정보다는 사람의 관리, 감독을 보장하는 등 AI 시스템의 부작용을 최소화하면서 활용하는 방안을 유념할 필요가 있을 것이다.
