AI 채용 도구를 도입할 때 무엇을 먼저 확인해야 하나요?
AI 채용 도구 도입의 출발점은 기능 비교가 아니라 이 시스템이 규제상 어떤 등급인지 확인하는 일입니다. EU AI Act는 이력서 선별, 지원자 순위화, 면접 영상 분석처럼 채용과 인사 평가에 쓰이는 AI를 부속서 III의 고위험으로 분류합니다. 고위험 의무 적용은 2026년 6월 유럽의회와 이사회의 잠정 합의로 2027년 12월 2일로 미뤄졌습니다. 유예가 생긴 것은 맞지만 금지 규정은 별개입니다. 면접 중 감정 인식과 지원자 사회적 점수화는 허용 불가 위험으로 분류되어 이미 금지됩니다. 국내에서도 2026년 1월 시행된 AI 기본법이 채용을 고영향 인공지능 영역으로 다룹니다.
목차
- AI 채용 도구를 도입할 때 무엇을 먼저 확인해야 하나요?
- 서류 선별 자동화를 검토하다 멈춘 지점
- 채용이 왜 고위험으로 분류됐나요?
- EU AI Act는 무엇을 언제까지 요구하나요?
- 국내 AI 기본법의 고영향 인공지능은 무엇인가요?
- 처음부터 쓸 수 없는 기능도 있습니다
- 편향 감사는 실제로 어떻게 하나요?
- 벤더 계약서에 넣어야 하는 조항
- FAQ
- 같이 읽으면 좋은 것들
서류 선별 자동화를 검토하다 멈춘 지점
지난해 한 중견 제조기업의 채용 담당 조직과 AI 서류 선별 도구 도입을 검토한 적이 있습니다. 연간 지원서가 1만 2천 건이고 인사팀이 세 명이라 서류 검토에만 6주가 걸리는 상황이었습니다. 도구를 넣으면 3일로 줄어든다는 벤더 설명은 사실이었습니다.
문제는 시범 운영 2주차에 나왔습니다. 모델이 추천한 상위 100명의 구성을 보니 특정 대학군과 특정 자격증 보유자의 비중이 과거 합격자 데이터보다 더 높게 쏠려 있었습니다. 과거 채용 데이터로 학습했으니 과거의 선택을 더 뾰족하게 재현한 것이었습니다. 담당자가 물었습니다. 이걸 어떻게 설명하면 되느냐고.
그때 정리한 질문이 세 가지였습니다. 모델이 어떤 변수를 쓰는지 벤더가 문서로 제공하는가, 탈락한 지원자에게 사유를 설명할수 있는가, 사람이 최종 판단한다는 사실을 어떻게 기록으로 남길 것인가. 세 질문 중 어느 것에도 답이 준비되지 않아서 도입은 1차 선별 보조로 범위를 좁혀 다시 설계했습니다. 이 과정을 겪고 나면 규제 문서가 추상적인 요구로 보이지 않습니다. 실무에서 먼저 막히는 지점이 규제가 요구하는 지점과 거의 같습니다.
채용이 왜 고위험으로 분류됐나요?
위험 등급은 결정의 영향으로 정해집니다. 기술의 복잡도는 기준이 아닙니다. 채용과 승진, 업무 배정은 개인의 소득과 경력에 직접 영향을 주고 탈락한 사람은 왜 탈락했는지 알기 어렵습니다. 추천 알고리즘이 틀리면 다른 영상을 보면 되지만 채용 알고리즘이 틀리면 지원자는 그 사실조차 모릅니다.
두 번째 이유는 데이터의 성격입니다. 채용 모델의 학습 데이터는 과거 합격자와 재직자 기록입니다. 과거에 특정 집단이 적게 뽑혔다면 모델은 그 집단을 부적합으로 학습합니다. 성별이나 연령 변수를 빼도 대리 변수가 남습니다. 출신 학교, 경력 공백 기간, 거주 지역, 취미 활동 같은 항목이 간접 신호로 작동합니다.
세 번째는 규모입니다. 사람이 심사하면 편향이 심사자마다 달라 어느 정도 상쇄됩니다. 하나의 모델이 지원서 1만 건을 처리하면 같은 편향이 1만 번 일관되게 적용됩니다. 개별 오류가 체계적 차별로 바뀌는 지점이 여기입니다.
반대로 잘 설계된 도구가 편향을 줄이는 경우도 있습니다. 사람 심사자는 지원서를 읽는 순서, 직전 지원자와의 비교, 시간대에 따른 피로에 영향을 받습니다. 같은 지원서를 다른 날 평가하면 결과가 달라지는 현상은 여러 연구에서 확인됐습니다. 기준을 문서로 고정하고 모든 지원서에 같은 기준을 적용하는 일은 기계가 더 잘합니다. 그래서 규제도 AI 사용을 막기보다 측정과 기록을 요구하는 쪽으로 설계됐습니다. 자동화 자체보다 측정하지 않은 자동화가 문제입니다.
EU AI Act는 무엇을 언제까지 요구하나요?
적용 대상은 EU에 서비스를 제공하거나 EU 내 사람을 대상으로 AI 결과를 사용하는 조직입니다. 국내 기업도 유럽 법인 채용이나 현지 지원자 평가에 쓰면 적용 범위에 들어갑니다.
| 구분 | 내용 | 시점 |
|---|---|---|
| 허용 불가 위험 | 면접 중 감정 인식, 지원자 사회적 점수화 금지 | 이미 적용 |
| 고위험(부속서 III) | 이력서 선별, 순위화, 면접 영상 분석, 승진·배치 결정 | 2027년 12월 2일 |
| 고위험 의무 | 위험관리체계, 데이터 품질·대표성·편향 점검, 기술문서, 로그 보존, 사람의 감독, 정확성·견고성 | 고위험 시점과 동일 |
| 투명성 | AI 사용 사실 고지 | 단계별 적용 |
데이터 요건은 문구만 보면 평범하지만 실무 부담이 큽니다. 학습 데이터가 대표성을 갖추고 명백한 오류가 없으며 편향 검사를 거쳐야 한다는 요구입니다. 이를 증명하려면 데이터 출처와 전처리 이력을 문서로 남겨 두어야 합니다. 벤더 제품을 그대로 쓰는 기업은 이 문서를 스스로 만들 수 없으므로 계약 단계에서 확보해야 합니다.
16개월 유예를 준비 기간으로 쓸 수 있는지는 조직마다 다릅니다. 데이터 이력이 남아 있지 않은 상태라면 그 기간이 짧습니다. 지금 준비할수 있는 일은 세 가지입니다. 현재 쓰고 있는 도구 목록을 만드는 일, 각 도구가 어떤 결정 단계에 개입하는지 적는 일, 그리고 결정 로그가 어디에 얼마나 남는지 확인하는 일입니다. 이 세 가지가 끝나 있으면 이후 요구 사항은 문서 작업으로 처리됩니다.
국내 AI 기본법의 고영향 인공지능은 무엇인가요?
2026년 1월 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 법률은 사람의 생명이나 신체 안전, 기본권에 중대한 영향을 주는 영역을 고영향 인공지능으로 정합니다. 채용과 인사 평가가 여기 들어갑니다.
| 항목 | 요구 사항 |
|---|---|
| 고영향 여부 확인 | 해당 영역에 쓰는지 사업자가 먼저 판단, 필요 시 확인 요청 |
| 이용자 고지 | 고영향 AI를 쓴다는 사실과 범위를 알림 |
| 위험관리 | 위험 관리 방안 수립과 이행, 설명 가능성 확보 노력 |
| 생성물 표시 | 생성형 AI 산출물에 대한 표시 |
| 국내 대리인 | 일정 규모 이상 해외 사업자의 국내 대리인 지정 |
EU 규정과 비교하면 요구의 밀도는 낮지만 방향은 같습니다. 쓰는 사실을 알리고 위험을 관리하고 설명할수 있게 하라는 것입니다. 실무에서는 두 규정을 따로 준비하는 대신 더 엄격한 쪽을 기준으로 문서 체계를 한 번 만들어 두는 편이 효율적입니다.
처음부터 쓸 수 없는 기능도 있습니다
벤더 제안서에서 자주 보이는 기능 중 일부는 유예 기간과 무관하게 금지 영역에 들어갑니다.
- 면접 영상에서 표정과 목소리로 감정이나 성향을 추정하는 기능: 고용 맥락의 감정 인식은 허용 불가 위험으로 분류됩니다.
- 지원자의 사생활 정보나 행동을 모아 종합 점수를 매기는 기능: 사회적 점수화에 해당합니다.
- 성격 특성을 추정해 적합도 점수로 환산하는 기능: 과학적 근거와 설명 가능성이 쟁점이 되며 감정 인식과 경계가 모호한 경우가 많습니다.
여기서 실무 판단이 필요한 지점은 세 번째 입니다. 적성검사를 자동 채점하는 것과 영상에서 성향을 추정하는 것은 다릅니다. 지원자가 직접 응답한 문항을 채점하는 방식은 기존 검사와 성격이 같지만 비언어 신호를 분석해 성향을 매기는 방식은 근거를 제시하기 어렵습니다. 제안서에 '표정 분석', '음성 톤 기반 평가', '마이크로 표정'이라는 표현이 있으면 기능 설명을 요구하고 사용하지 않는 쪽으로 정리하는 편이 안전합니다.
편향 감사는 실제로 어떻게 하나요?
뉴욕시는 2023년부터 자동 고용 결정 도구에 연 1회 독립 편향 감사를 의무화하고 결과를 공개하도록 했습니다. 지원자에게는 사용 사실을 미리 알려야 합니다. 이 조례가 만든 실무 절차는 다른 지역에서도 참고 틀로 쓰입니다.
1단계는 결정 지점 정의입니다. 모델이 어디서 결과를 바꾸는지 정합니다. 서류 통과 여부, 순위, 면접 추천 중 무엇을 측정할지 정해야 비율을 계산할 수 있습니다.
2단계에서는 집단별 통과율을 계산합니다. 성별과 인종 또는 연령대별로 선발 비율을 구하고 가장 높은 집단 대비 비율을 봅니다. 이른바 4/5 규칙은 특정 집단의 통과율이 최고 집단의 80% 아래로 떨어지면 점검 대상으로 보는 기준입니다.
3단계는 원인 추적입니다. 비율 차이가 확인되면 어떤 변수가 기여했는지 봅니다. 출신 학교, 경력 공백, 지역 정보가 간접 신호로 쓰이고 있는지 확인하는 작업입니다.
4단계에서는 조치하고 기록합니다. 변수를 제거하거나 가중치를 조정하고 재측정합니다. 기록이 특히 중요합니다. 언제 무엇을 측정해 어떤 조치를 했는지가 남아야 규제 대응과 분쟁 대응에 쓸 수 있습니다. 감사 결과가 완벽할 필요는 없고 측정하고 조치한 이력이 있는지가 평가 대상입니다.
벤더 계약서에 넣어야 하는 조항
AI 채용 도구는 대부분 외부 솔루션입니다. 책임은 사용하는 기업에 남지만 자료는 벤더가 갖고 있습니다. 이 어긋남을 계약으로 메워야 합니다.
- 기술문서 제공: 모델이 사용하는 입력 변수 목록, 학습 데이터 성격, 성능 지표, 한계를 문서로 받습니다.
- 편향 검사 자료: 집단별 성능 차이 측정 결과와 측정 방법을 정기적으로 제공받습니다.
- 로그와 데이터 반출: 결정 로그를 받아 보관할 수 있어야 합니다. 벤더 서버에만 남으면 계약 종료 후 설명 의무를 이행할 수 없습니다.
- 변경 통지: 모델 업데이트 시 사전 통지와 영향 평가를 요구합니다. 같은 제품이라도 모델이 바뀌면 결과 분포가 달라집니다.
- 규제 대응 협조: 감독기관 조사나 지원자 이의 제기 시 자료 제공 의무를 명시합니다.
- 책임 배분: 모델 결함으로 생긴 분쟁의 비용 부담 기준을 적습니다.
마지막으로 기업 내부에 남겨 둘 장치가 하나 더 있습니다. 사람의 최종 판단을 형식이 아니라 실질로 만드는 일입니다. 모델 점수를 그대로 수용한 비율과 뒤집은 비율을 기록해 두면 감독이 실제로 작동하는지 확인할 수 있습니다. 100% 수용으로 나타나면 그 절차는 사람의 감독이라고 보기 어렵습니다.
도입 범위를 정하는 방식도 위험을 크게 줄입니다. 지원 자격 충족 여부 확인, 중복 지원 정리, 서류 요약처럼 판단이 아닌 작업에 먼저 쓰면 효과는 대부분 확보되고 규제 부담은 낮게 유지됩니다. 순위를 만들고 탈락을 결정하는 단계로 넘어가는 시점에 고위험 요건이 본격적으로 따라붙습니다. 실제로 도입 효과의 상당 부분은 반복 작업 제거에서 나오고 그 영역은 설명 부담이 가볍습니다.