▲이미지=클립아트코리아

[노동법률] 강정희 법무법인 태평양 변호사

Ⅰ. 서설

2025년 6월 출범한 새 정부는 'AI 대전환(AX, AI Transformation)' 비전을 제시하며 2027년까지 한국을 세계 3대 인공지능(AI) 강국으로 도약시키겠다는 목표를 밝혔다. 이러한 비전 아래 정부는 인프라, 핵심 기술, 인재, 시장 조성을 아우르는 종합계획을 추진하고 있다. 인프라 측면에서는 'AI 컴퓨팅 인프라 마스터플랜'을 수립해 즉시·단기·중장기 단계별 GPU(Graphics Processing Unit) 및 NPU(Neural Processing Unit) 확보 전략을 마련했고, 기술 측면에서는 AI 반도체의 국산화를 통한 공급망 안정화를 핵심 과제로 설정했다. 또한 과학기술정보통신부와 교육부가 협력해 AI 특화 교육 강화, 해외 인재 유치, 산업 맞춤형 인재 양성 등 인재·활용 정책을 병행하고 있다. 이와 함께 정부는 윤리적이고 책임 있는 AI 생태계 구축을 위한 제도 정비에 속도를 내고 있다. AI의 신뢰성과 안전성을 보장하기 위해 AI 윤리기준과 안전 규제 체계를 마련하고, 공정성과 책임성을 제도적으로 담보할 '인공지능의 발전과 신뢰 기반 조성 등에 관한 법률(이하 인공지능기본법)'을 제정하고 하위 법령을 마련해 입법 예고할 예정이다. 

인공지능기본법은 AI에 관한 기술혁신과 위험관리의 균형을 지향하는 한국형 규제 모델의 출발점이 되고 있다. 이하에서는 인공지능기본법과 그 하위 법령의 주요 내용을 중심으로, 기업이 준비해야 할 실무적 대응 전략을 살펴본다. 특히 고영향 인공지능 분야 중 하나인 HR(인사·노무) 분야를 중심으로, 고영향 인공지능의 법적 의미와 실무상 유의점에 대해 보다 구체적으로 검토하고자 한다.

Ⅱ. 인공지능기본법 및 하위 법령 개관

인공지능기본법은 2026년 1월 22일 시행 예정으로, AI의 건전한 발전과 신뢰 기반 조성을 목적으로 하는 대한민국 최초의 포괄적 AI 규제법이다. 2024년까지 국회에는 19건의 AI 관련 법안이 발의됐으나, 정부가 이를 통합·조정해 단일 법률 체계로 정비했으며, 이 법은 유럽 연합(EU) 'AI Act'에 이어 세계에서 두 번째로 포괄적인 AI 규제 입법으로 평가된다. 이 법은 대통령이 의장을 맡는 국가인공지능전략위원회를 설치하고, 3년마다 국가 차원의 인공지능 기본계획을 수립하도록 의무화했다(법 제3·7·8조). 이는 부처 간 정책의 일관성을 확보하고, 민관 협력을 기반으로 한 거버넌스를 구축하려는 의도가 반영된 것이다. 또한, 인공지능 특화단지 지정(제23조), 인공지능 데이터센터 구축(제25조), 인공지능 활용 촉진(제26조) 등 산업 지원 근거를 명문화해 진흥과 규제의 균형을 도모했다.

인공지능기본법은 규율 대상 측면에서 '고영향 인공지능'과 '생성형 인공지능', 그리고 '고성능 인공지능'으로 구분한다. 고영향 인공지능은 사람의 생명·신체·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템으로 정의되고, 생성형 인공지능은 텍스트, 음성, 이미지, 영상 등 다양한 유형의 결과물을 생성하는 시스템을 의미하며, 고성능 인공지능은 누적 연산량이 대통령령이 정하는 기준 이상인 인공지능 시스템을 의미한다(법 제2조, 제32조). 인공지능 사업자는 이러한 시스템을 개발·운영할 때 투명성과 안전성을 확보할 의무를 진다. 특히 생성형 인공지능의 경우, 결과물이 인공지능에 의해 생성됐음을 사전 고지 또는 표시해야 하며, 고영향 인공지능은 위험관리체계를 갖추는 등 안전성을 입증해야 한다(법 제31조, 제34조). 인공지능기본법은 국내외 사업자 모두에게 동일한 규제를 적용하고, 해외 기업이라도 한국 시장에서 AI 제품·서비스를 제공하려면 국내 대리인을 지정해 책임을 부담하도록 했다(법 제36조). 위반 시에는 최대 3000만 원 이하의 과태료 규정을 두고 있다(법 제43조).

인공지능기본법의 하위 법령은 국내 AI 산업의 성장과 글로벌 규범 경쟁 속에서 규제와 함께 산업 진흥에 초점을 맞춘 '한국형 균형 모델' 구축을 기조로 하고 있으며, 미국·EU·일본 등 주요국의 입법 동향과 업계의 의견수렴을 반영해 기업 부담을 줄이고 예측 가능성을 제고하는 유연한 규제 프레임워크를 지향한다. 시행령 초안은 본문 32개 조항, 부칙 2개 조항 등 총 34개 조항으로 구성돼 있으며, 과태료 계도기간 운영 방침이 특징적이다. 또한, 2개의 고시(안전성 확보 의무 고시와 사업자책무 고시)와 5개의 가이드라인(투명성 확보 가이드라인, 안전성 확보 가이드라인, 고영향 인공지능 확인 가이드라인, 영향평가 가이드라인)은 사업자가 준수해야 할 의무와 책임의 범위를 구체화하는 핵심 기준으로 작용할 것으로 기대된다. 

Ⅲ. 투명성 의무

인공지능기본법은 AI 활용의 신뢰성을 확보하기 위해 사업자에게 '투명성 의무'를 부과하고 있다. 이는 AI가 개입된 서비스나 결과물임을 이용자에게 사전에 알리고, 생성된 결과물에는 표시함으로써 인간의 판단과 책임의 경계를 분명히 하려는 취지다. 시행령 초안에 따르면 인공지능 사업자는 고영향 인공지능 또는 생성형 인공지능을 이용한 제품이나 서비스를 제공하는 경우 그 운용이 AI에 기반함을 사전에 고지해야 한다. 고지 방식은 ①제품이나 서비스 자체, 계약서, 사용설명서, 이용약관 등에 기재하거나, ②이용자 화면 또는 단말기에 표시하거나, ③제공 장소에 게시하는 등의 방법으로 이루어진다. 이는 기업이 서비스 단계에서 명확한 표시 체계를 갖추도록 요구하는 실무상 중요한 준법 기준이 된다.

또한, 생성형 인공지능 결과물에 대해서는 사람이든 기계든 판독할 수 있는 형식으로 'AI 생성'임을 표시해야 하며, 이는 비가시적 워터마크(Invisible Watermark) 방식도 허용된다. 특히 딥페이크(Deepfake) 결과물의 경우 이용자가 시각·청각적으로 명확히 인식할 수 있는 방법으로 고지해야 하며, 예술적 표현물의 경우에는 그 향유를 저해하지 않는 범위에서 표시할 수 있도록 예외를 인정했다. 투명성 의무는 모든 AI 시스템에 일률적으로 적용되는 것은 아니며 내부 업무용 AI, 인공지능 사용이 명백한 제품·서비스에는 적용이 면제된다. 

Ⅳ. 고영향 인공지능과 HR

인공지능기본법은 특정 영역에서 활용되는 AI 시스템이 사람의 생명, 신체, 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 경우 고영향 인공지능으로 정의한다. 에너지, 식수, 보건의료, 의료기기 등 10가지 영역을 고영향 인공지능으로 열거하고 있다(법 제2조 제4호). 특히 채용 분야에서 인공지능이 지원자 평가나 채용 여부 결정에 실질적 영향을 미치는 경우 고영향 인공지능으로 분류된다(고영향 인공지능 확인 가이드라인). 특히 AI가 사람의 개입 없이 지원자 정보를 분석·평가하거나, 자동으로 필기·면접 결과를 도출하거나, 구직자 정보를 프로파일링해 채용 판단에 활용하는 경우에는 고영향 인공지능에 해당할 수 있다. 이는 AI가 인사 결정 과정에서 인간의 개입이 형식적이거나 결과에 실질적 영향을 미치는 경우, 인권·평등권 등 기본권 침해 위험이 크다고 보기 때문이다.

고영향 인공지능 사업자는 AI의 안전성과 신뢰성을 확보하기 위한 위험관리·설명·이용자 보호·인간 감독·문서관리 체계를 종합적으로 갖춰야 한다. 구체적으로는 위험관리 정책과 조직 체계를 수립·운영하고, 인공지능 시스템 전 주기에 걸쳐 이를 점검·갱신해야 한다. 또한 학습용 데이터와 알고리즘의 투명성을 확보하기 위해 설명 방안을 마련·공개하고, 개발·운영 단계에서 안전한 데이터 관리, 이용자 의견 반영, 피해보상 절차 등을 포함한 이용자 보호 방안을 운영해야 한다. 더불어 사람의 개입 기준과 긴급 정지 절차를 명확히 하고, 성능 점검 및 교육을 통해 감독 역량을 유지해야 하며, 이러한 조치 내용을 '안전 신뢰 문서'로 작성·보관해 최신 기술 기준에 맞게 지속적으로 갱신해야 한다(법 제34조 및 사업자책무 고시).

특히 채용이나 평가에 활용되는 AI의 경우 편향된 데이터나 불공정한 의사결정이 발생하지 않도록 사전에 점검하고 이를 최소화하기 위한 내부 통제 방안을 운영해야 한다. 또한 AI의 판단 근거를 설명할 수 있는 수준의 '설명 가능성'을 확보하고 지원자 또는 근로자에게 AI가 의사결정 과정에 사용된 사실을 명확히 고지해야 한다. 아울러 사업자는 이용자 보호를 위한 설명 방안을 수립하고 이를 실제 인사 프로세스에서 이행해야 한다. 이는 단순히 기술적 조치를 의미하는 것이 아니라, 인사 담당자 교육, 내부 지침 제정, 검증 절차 기록 등 조직적 대응체계를 포함한다. 

Ⅴ. 기업의 대응과 향후 과제

인공지능기본법의 시행은 기업에 단순히 새로운 기술 규제에 대응하라는 과제를 넘어, AI를 안전하고 책임 있게 운영하기 위한 전사적 거버넌스 체계 구축을 요구하고 있다. AI는 이제 기업의 생산성 향상이나 고객 서비스 혁신을 위한 도구를 넘어, 경영 전반의 의사결정 구조와 법적 책임의 영역에까지 영향을 미치는 핵심 인프라가 됐다. 특히 HR, 금융, 의료, 제조 등 AI의 사회적 파급력이 큰 산업군에서는 법 시행 초기부터의 대응 수준이 향후 AI 리스크 관리 체계의 신뢰도를 좌우하게 될 것이다.

무엇보다 기업은 자사에서 활용 중인 AI의 현황을 정확히 파악하고, 이를 법적 기준에 따라 분류하는 절차를 선제적으로 마련해야 한다. 고영향 인공지능 확인 가이드라인에 따라 기업은 자사 제품이나 서비스에 사용되는 AI 시스템이 법 제2조에 따른 고영향 인공지능에 해당하는지를 자체적으로 진단해야 하며, 판단이 어려운 경우 과학기술정보통신부에 공식적으로 확인을 요청할 수 있다(법 제33조). 이러한 자율 진단 절차(AI 인벤토리 구축)는 단순한 행정 대응을 넘어 향후 감사·점검 시 기업의 선제적 준수 노력을 입증하는 핵심 자료로 기능할 것이다.

고영향 인공지능에 해당할 때는 법 제34조에서 규정한 위험관리 방안, 이용자 보호 방안, 설명 가능성 확보, 인간의 개입 기준을 충족하기 위한 내부 정책을 마련해야 한다. 특히 사업자책무 고시 및 고영향 인공지능 사업자책무 가이드라인에서 명시한 바와 같이 기업은 위험관리 조직 체계를 수립하고 AI의 수명주기 전 과정에 걸쳐 주기적 점검과 갱신을 수행해야 한다. 또한 학습용 데이터의 품질과 설명 가능성을 확보하고, 홈페이지나 공지 등을 통해 구체적인 설명 방안을 공개해야 한다. 이용자 보호 측면에서는 안전한 데이터 수집 및 관리, 알고리즘의 편향 방지, 이용자 의견 수렴 및 피해보상 절차 마련 등이 필수적이다. 

이와 같은 의무 이행을 위해서는 AI 컴플라이언스 체계의 내재화가 필수적이다. 기업은 법무, IT, HR, ESG(환경·사회·지배구조) 등 관련 부서가 참여하는 AI 준법·리스크 관리위원회를 설치해 역할과 책임을 명확히 하고, 내부 감사와 문서화 절차를 정례화해야 한다. 데이터 편향성 검증과 오류 탐지를 위한 점검 절차를 구축하고, AI의 판단 근거와 데이터 출처를 기록·보관하는 것이 중요하다. 외부 솔루션을 활용할 때는 공급업체와의 계약 단계에서 위험관리, 투명성, 이용자 보호, 책임 분담 조항을 명시해야 하며, 향후 감독기관의 점검에 대비해 투명성 고지 및 영향 평가 결과를 체계적으로 관리해야 할 것이다. 또한 과기정통부는 법 집행과 사실조사를 전담할 '안전 신뢰 지원과'를 신설해 기업의 위험관리 이행 여부와 고영향 인공지능의 적정 운영 실태를 점검할 계획이다. 이는 단순한 사후 제재가 아니라 기업의 위험관리 체계가 실제로 작동하는지를 확인하고 자율적 개선을 유도하기 위한 구조로, 향후 기업의 내부 컴플라이언스 수준이 감독 리스크를 직접적으로 좌우하게 될 것으로 보인다. 

향후 정부는 2025년 하반기까지 관계 부처 및 이해관계자의 의견 수렴을 거쳐 시행령 및 7개 세부 가이드라인의 완성본을 확정하고 공개할 예정이다. 시행 초기에는 기업의 혼란을 줄이기 위해 과태료 계도기간이 운영되며 이후에도 해외 규제 동향과 산업계 의견을 반영해 지속적으로 보완될 예정이다. 따라서 기업은 단순히 법령 시행 이후의 대응에 그치지 않고 입법과 행정 절차 전 과정에서 적극적으로 의견을 개진해 제도 개선 과정에 참여할 필요가 있다. 나아가 기업이 법적 의무를 형식적으로 이행하는 수준을 넘어 AI의 투명성·공정성·책임성을 조직문화 속에 내재화할 때 지속 가능한 경쟁력으로 이어질 것이다. AI가 기업 운영의 중심축으로 자리 잡는 지금, 조기에 내부 거버넌스와 문서화 시스템을 정비하고 기술과 법이 조화를 이루는 한국형 AI 거버넌스 모델을 구축하는 것이 모든 기업의 필수 과제라고 생각한다.