채용 AI와 AI 기본법

채용 과정에 AI를 쓰는 회사가 늘고 있습니다. 지원서를 자동으로 분류하고, 자기소개서를 요약하고, 면접 영상을 분석하고, 지원자의 직무 적합도를 점수화하는 방식입니다. 기업 입장에서는 시간과 비용을 줄일 수 있고, 많은 지원자를 빠르게 검토할 수 있다는 장점이 있습니다.

하지만 채용 AI는 단순한 업무 자동화로만 보기 어렵습니다. 채용은 한 사람의 일자리, 커리어, 소득, 기회와 직접 연결됩니다. 그래서 AI 기본법 관점에서도 채용 AI는 특히 조심해서 봐야 하는 영역입니다. 채용 AI는 사람의 직업선택의 자유와 평등권에 영향을 줄 수 있기 때문입니다.

채용 AI가 고영향 AI로 가는 지점

AI 기본법에서 말하는 고영향 AI는 사람의 생명, 신체 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 말합니다. 그리고 고영향 AI 판단 가이드라인은 채용, 대출 심사 등 개인의 권리, 의무 관계에 중대한 영향을 미치는 판단 또는 평가를 중요한 영역으로 봅니다.

쉽게 말하면 AI가 지원자를 평가하거나, 점수화하거나, 선별하거나, 합격, 탈락 결정에 영향을 준다면 고영향 AI 가능성을 검토해야 합니다. 단순히 채용 업무에 AI가 들어갔다고 모두 고영향 AI가 되는 것은 아니지만, 지원자의 채용 기회에 실질적인 영향을 주는 순간 이야기가 달라집니다.

단순 보조와 실질 평가의 경계

예를 들어 AI가 지원자의 이력서를 요약해 인사담당자에게 보여주는 정도라면 단순 보조 기능에 가까울 수 있습니다. 하지만 AI가 지원자를 점수화하고, 등급을 매기고, 상위 후보자만 추천하고, 그 결과가 면접 대상자 선정이나 합격 여부에 영향을 준다면 고영향 AI 가능성이 커집니다.

AI 면접이 더 민감한 이유

특히 AI 면접 시스템은 더 민감합니다. 영상, 음성, 언어 패턴, 표정, 시선, 답변 내용을 분석해 지원자를 평가하는 방식이라면 지원자 입장에서는 AI 결과가 매우 중요해질 수 있습니다. AI 면접은 편리한 채용 도구이면서 동시에 지원자의 권리와 공정성 문제를 만들 수 있는 도구입니다.

고영향 인공지능 판단 가이드라인에서는 채용 과정에서 쓰이는 AI를 볼 때 지원자 채용에 미치는 영향과 실질적인 사람의 개입 여부를 함께 봅니다. 사람이 형식적으로만 확인하고 사실상 AI 결과에 의존한다면, 단순히 사람이 최종 결정을 했다고 말하기 어렵습니다.

사람이 최종 결정한다는 말의 함정

사람이 최종 버튼을 누른다는 사실만으로 충분하지 않습니다. 중요한 것은 사람이 AI 결과를 실제로 검토하고, 수정, 보완할 수 있고, 필요하면 AI 판단과 다른 결정을 할 수 있는 구조가 있느냐입니다. 이 차이가 채용 AI에서는 매우 중요합니다.

가능성이 커지는 네 가지 경우

고영향 AI 가능성이 커지는 대표적인 경우는 몇 가지입니다. 첫째, 지원자 정보를 프로파일링해 점수나 등급으로 만드는 경우입니다. 둘째, AI 면접에서 영상, 음성, 언어 패턴 등을 분석해 평가하는 경우입니다. 셋째, 생체정보를 면접이나 실기 평가에 활용하는 경우입니다. 넷째, AI 결과만으로 합격, 탈락이나 후보자 선정이 이루어지는 경우입니다.

반대로 채용 과정에 AI가 들어가더라도 사람의 실질적 검토가 충분히 있고, AI가 만든 결과가 단순 참고자료로만 쓰이며, 최종 판단 권한이 사람에게 명확히 남아 있다면 고영향 AI 해당 가능성이 낮아질 수 있습니다. 다만 이 경우에도 그 판단 근거는 문서로 남겨두는 것이 좋습니다.

차별과 편향 문제

채용 AI에서 또 중요한 것은 차별과 편향입니다. AI가 과거 채용 데이터를 학습했다면, 그 데이터 안에 이미 존재하던 편향이 결과에 반영될 수 있습니다. 특정 학교, 성별, 연령, 경력 공백, 지역, 말투, 표정 등을 부당하게 평가하는 방식이 생길 수 있습니다. AI가 객관적으로 보인다고 해서 항상 공정한 것은 아닙니다.

기업이 “AI가 평가했으니 더 공정하다”고 말하려면 근거가 필요합니다. 어떤 데이터를 썼는지, 어떤 기준으로 평가하는지, 편향 가능성을 점검했는지, 오류가 생겼을 때 사람이 개입할 수 있는지 설명할 수 있어야 합니다. 채용 AI는 효율성만으로 설명하기 어려운 영역입니다.

해당한다면 준비할 것들

만약 채용 AI가 고영향 AI에 해당할 가능성이 있다면 사업자는 준비해야 할 것이 많아집니다. 위험관리방안, 설명 방안, 이용자 보호 방안, 사람의 관리, 감독, 안전성과 신뢰성을 확인할 수 있는 문서 작성과 보관이 중요해집니다. 채용 AI는 기능 출시보다 운영 체계가 더 중요해질 수 있습니다.

위험관리방안

위험관리방안은 채용 AI가 어떤 위험을 만들 수 있는지 미리 식별하고 관리하는 체계입니다. 예를 들어 특정 집단에 불리한 결과가 반복되는지, 면접 영상 분석이 실제 역량과 관련 있는지, 입력 데이터 품질이 낮을 때 어떤 경고를 줄지 등을 정해야 합니다.

설명 방안

설명 방안도 필요합니다. 지원자나 고객사가 “왜 이런 결과가 나왔는지” 묻는다면 최소한의 설명이 가능해야 합니다. AI가 도출한 최종 결과, 주요 판단 기준, 학습용 데이터의 개요 등을 기술적으로 가능한 범위에서 설명할 수 있어야 합니다. 채용 AI 결과는 블랙박스로 남겨두기 어렵습니다.

이용자 보호 방안

이용자 보호 방안도 중요합니다. 지원자가 AI 평가 결과에 대해 이의를 제기하거나 설명을 요구할 수 있는 절차가 있어야 합니다. 단순히 “AI가 평가했습니다”로 끝나면 안 됩니다. 사람이 재검토하거나, 판단 근거를 확인하거나, 오류 가능성을 검토하는 절차가 필요합니다.

사람의 관리와 감독

사람의 관리, 감독은 채용 AI에서 특히 중요합니다. AI가 추천한 후보자만 보고 끝내는 구조인지, 인사담당자가 AI 결과를 검토하고 수정할 수 있는 구조인지, 이상 징후가 있을 때 사용을 중단하거나 조정할 수 있는 기준이 있는지 확인해야 합니다. 채용 AI에는 사람의 실질적 개입이 설계되어 있어야 합니다.

문서 보관

문서 보관도 빠질 수 없습니다. 고영향 AI 사업자 책무 가이드라인은 안전신뢰문서와 이행 근거 자료의 중요성을 강조합니다. 채용 AI라면 AI 기능 설명, 평가 기준, 위험관리계획, 편향성 관리 기록, 모델 버전 관리, 데이터 관리, 운영 모니터링, 이의제기 처리 절차 같은 자료가 필요할 수 있습니다.

출시 전 확인할 다섯 가지

채용 AI를 출시하거나 도입하기 전에는 먼저 기능 범위를 정의해야 합니다. 이 AI가 단순 요약을 하는지, 후보자를 추천하는지, 점수를 매기는지, 면접을 평가하는지 명확히 나눠야 합니다. 채용 AI의 위험은 기능 이름이 아니라 기능 범위에서 시작됩니다.

두 번째는 평가 영향 확인입니다. AI 결과가 채용 여부, 서류 통과, 면접 기회, 배치, 순위 결정에 영향을 주는지 봐야 합니다. 세 번째는 사람 검토 설계입니다. 사람이 언제, 어떤 기준으로, 어떤 권한을 가지고 AI 결과를 검토할지 정해야 합니다.

네 번째는 이의제기 절차입니다. 지원자가 결과에 대해 설명을 요구하거나 오류를 제기할 수 있는 통로가 있는지 확인해야 합니다. 다섯 번째는 안전신뢰문서와 증빙 보관입니다. 어떤 기준으로 AI를 운영했고, 어떤 위험을 점검했으며, 어떤 조치를 했는지 남겨야 합니다.

공급사와 사용사의 책임 분담

채용 AI를 만드는 스타트업이라면 특히 고객사와 책임 분담도 봐야 합니다. AI 면접 시스템이나 지원자 평가 SaaS를 제공하는 회사와, 그 서비스를 실제 채용에 사용하는 회사는 각각 다른 역할을 가질 수 있습니다. AI 개발사업자와 AI 이용사업자가 모두 책임에서 자유롭지 않을 수 있습니다.

예를 들어 AI 면접 시스템 제공사는 모델과 시스템의 기능, 한계, 위험, 사용 방법을 설명해야 할 수 있습니다. 채용기업은 그 시스템을 실제 채용 절차에서 어떻게 쓰는지, 사람이 어떻게 검토하는지, 지원자에게 어떤 절차를 제공하는지 관리해야 할 수 있습니다. 결국 채용 AI는 공급사와 사용사가 함께 관리해야 합니다.

정리하면

정리하면, 채용 AI는 AI 기본법에서 특히 주의해야 할 영역입니다. 지원자의 직업선택의 자유, 평등권, 채용 기회와 직접 연결되기 때문입니다. AI가 지원자를 평가하거나 선별하거나 채용 여부에 영향을 준다면 고영향 AI 가능성을 반드시 검토해야 합니다.

기업이 지금 해야 할 일은 복잡한 법률 검토 이전에, 우리 채용 AI가 어떤 기능을 하는지 정확히 정리하는 것입니다. 지원자를 점수화하는지, AI 면접을 하는지, 생체정보를 분석하는지, 사람의 실질적 검토가 있는지, 이의제기 절차가 있는지부터 확인해야 합니다.

Kompli는 이런 채용 AI의 판단과 기록 문제를 중요하게 보고 있습니다. AI 자산을 정리하고, 고영향 AI 가능성을 점검하고, 위험관리, 설명, 이용자 보호, 사람 감독, 문서 보관을 체계화해야 실제 대응이 가능해집니다. 채용 AI 규제 대응은 AI를 덜 쓰자는 이야기가 아니라, 지원자에게 설명 가능한 방식으로 쓰자는 이야기입니다.