ISO/IEC 42001 인증은 기업의 AI 거버넌스를 어떻게 증명하나요?
핵심은 모델의 성능이 아니라 조직의 절차를 심사한다는 점입니다. ISO/IEC 42001은 ISO와 IEC가 2023년에 함께 내놓은 AI 경영시스템 국제표준으로, AI를 개발하거나 제공하거나 가져다 쓰는 조직이 위험을 식별하고 통제하는 체계를 갖췄는지를 봅니다. 부속서 A에는 9개 통제목적 아래 38개 통제가 들어 있습니다. 조직은 적용선언서로 어떤 통제를 쓰고 어떤 통제를 왜 제외했는지를 문서로 밝혀야 합니다. 인증은 1단계와 2단계 심사를 거쳐 3년간 유효하고 해마다 사후심사를 받습니다. 2026년 1월 22일 AI 기본법이 시행된 뒤 국내 기업이 이 인증에 몰리는 이유도 여기에 있습니다. 법이 요구하는 "안전성·신뢰성 확보 조치"를 입증할 공통 언어가 필요해졌기 때문입니다.
목차
- AI 윤리 선언문 한 장으로 심사를 받으러 간 회사
- 무엇을 심사하는 표준인가요
- 부속서 A의 9개 통제목적과 38개 통제
- 적용선언서가 인증의 실제 무게중심입니다
- 심사 절차와 비용 구조
- AI 기본법 의무와 어떻게 연결되나요
- 도입 순서 네 단계
- FAQ
- 같이 읽으면 좋은 것들
AI 윤리 선언문 한 장으로 심사를 받으러 간 회사
작년에 어느 중견 소프트웨어 기업의 인증 준비 자문에 참여했는데 이 표준의 성격이 잘 드러난 사례였습니다. 사내 생성형 AI 기능을 제품에 넣은 뒤 고객사 보안 심사에서 AI 거버넌스 자료를 요구받은 일이 계기였습니다.
첫 미팅에서 준비 자료로 받은 건 홈페이지에 올려 둔 AI 윤리 원칙 다섯 줄과 개인정보 처리방침이었습니다. 담당자는 "원칙은 이미 공표했으니 절차만 정리하면 될 것"이라고 보고 있었습니다.
실제로 확인해 보니 간격이 컸습니다. 제품에 들어간 모델이 몇 개인지 목록이 없었습니다. 외부 API를 쓰는 기능과 자체 파인튜닝한 모델이 섞여 있었는데 어느 팀이 어떤 책임을 지는지 정해져 있지 않았습니다. 학습·평가에 쓴 데이터의 출처를 기록한 문서도 없었습니다. 고객 문의에 AI가 답한 뒤 사람이 검토하는 절차는 있었지만 검토 기준이 담당자 머릿속에만 있었습니다.
여기서 표준이 요구하는 것과 선언문의 차이가 드러납니다. 42001은 "우리는 공정한 AI를 추구한다"는 문장을 보지 않습니다. 어떤 시스템이 있는지, 누가 책임지는지, 영향 평가를 언제 했는지, 그 결과가 설계를 어떻게 바꿨는지를 기록으로 봅니다. 결국 이 회사는 AI 시스템 목록을 만드는 데서 시작해 열 달을 들였습니다. 담당자가 나중에 한 말이 정확했습니다. "인증을 준비한 게 아니라 우리가 뭘 쓰고 있는지 처음 알게 됐다."
무엇을 심사하는 표준인가요
42001은 경영시스템 표준(MSS) 계열입니다. 정보보안의 ISO/IEC 27001, 품질의 ISO 9001과 같은 구조를 씁니다. 상위 구조가 같아서 이미 27001을 운영하는 조직은 문서 체계를 상당 부분 재사용할 수 있습니다.
경영시스템 표준의 공통 골격은 계획·실행·점검·개선의 순환입니다. 조직 상황 파악, 리더십과 방침, 목표 설정, 자원과 역량, 운영 통제, 성과 평가, 내부 심사, 경영 검토, 부적합 시정이 본문에 들어갑니다. AI에 특화된 내용은 부속서와 영향 평가 요구에 몰려 있습니다.
| 표준 | 다루는 대상 | 42001과의 관계 |
|---|---|---|
| ISO/IEC 42001 | AI 경영시스템(인증 가능) | 본체 |
| ISO/IEC 23894 | AI 위험관리 지침 | 위험 식별·평가 방법론 제공 |
| ISO/IEC 22989 | AI 용어·개념 | 용어 정의의 기준 |
| NIST AI RMF | AI 위험관리 프레임워크 | 인증 대상 아님, 매핑해 함께 씀 |
| EU AI Act | 법규(고위험 분류·의무) | 적합성 입증 수단으로 42001 활용 |
마지막 줄이 실무에서 중요합니다. 42001 인증이 EU AI Act 준수를 자동으로 증명하지는 않습니다. 법이 요구하는 항목과 표준의 통제가 겹치는 부분이 많아 작업량을 줄여 주는 관계입니다.
부속서 A의 9개 통제목적과 38개 통제
부속서 A는 A.2부터 A.10까지 아홉 개 통제목적으로 나뉘고 그 아래 38개 통제가 배치됩니다.
- A.2 AI 관련 방침: AI 방침 수립과 다른 방침과의 정합성
- A.3 내부 조직: 역할과 책임, 보고 경로
- A.4 AI 시스템을 위한 자원: 데이터, 컴퓨팅, 도구, 인적 역량
- A.5 AI 시스템 영향 평가: 개인과 사회에 미치는 영향 평가와 문서화
- A.6 AI 시스템 생애주기: 요구사항 정의, 설계, 검증, 배포, 운영, 폐기
- A.7 AI 시스템용 데이터: 출처, 품질, 전처리, 데이터 준비 기록
- A.8 이해관계자에 대한 정보 제공: 사용자 문서, 사고 보고 설명 제공
- A.9 AI 시스템 사용: 조직이 가져다 쓰는 AI의 책임 있는 사용
- A.10 제3자와 고객 관계: 공급자 관리와 책임 분담
이 목록을 보면 이 표준의 대상이 개발사에 한정되지 않습니다. A.9와 A.10은 AI를 직접 만들지 않고 구매해 쓰는 조직을 위한 통제입니다. 외부 모델 API를 업무에 붙여 쓰는 회사도 인증 대상이 될 수 있습니다.
A.5 영향 평가가 다른 통제와 성격이 다릅니다. 보안 표준의 위험 평가는 조직이 입는 피해를 봅니다. AI 영향 평가는 조직 밖에 있는 사람과 사회가 받는 영향을 봅니다. 채용 추천 모델이 특정 집단에 불리하게 작동할 가능성, 신용 평가 모델의 설명 가능성, 생성 기능의 오정보 위험을 여기서 다룹니다. 심사에서 가장 자주 지적되는 영역이기도 합니다.
적용선언서가 인증의 실제 무게중심입니다
38개 통제를 전부 구현해야 하는 것은 아닙니다. 조직은 위험 평가와 영향 평가 결과를 근거로 적용할 통제를 고릅니다. 제외한 통제에는 제외 사유를 적습니다. 이 문서가 적용선언서입니다.
여기가 인증의 난이도를 결정합니다. 통제를 많이 제외하면 구현 부담이 줄지만 심사에서 사유를 다퉈야 합니다. 반대로 전부 적용하겠다고 선언하면 증거를 전부 만들어야 합니다. 실무에서 흔한 실패는 "일단 다 적용"으로 적어 놓고 증거를 못 만들어 2단계 심사에서 부적합이 쏟아지는 경우입니다.
제외 사유를 쓸 때는 통하는 논리와 통하지 않는 논리가 갈립니다. "우리는 모델을 직접 학습시키지 않고 외부 API만 쓰므로 학습 데이터 준비 통제는 적용하지 않는다"는 사실관계에 근거한 제외라 받아들여집니다. "자원이 부족해 아직 못 한다"는 제외 사유로 통하지 않습니다. 미이행이라서 부적합이 됩니다.
적용 범위 설정도 함께 결정합니다. 전사로 잡을지 특정 제품이나 서비스로 한정할지입니다. KT DS가 인증을 받을 때 AI 플랫폼과 게이트웨이, 관련 개발·운영·거버넌스 프로세스가 심사 대상에 포함된 것처럼, 범위를 명시하는 방식이 일반적입니다. 범위를 좁게 잡으면 빨리 받을 수 있지만 고객사가 요구하는 영역이 범위 밖이면 증명 효과가 떨어집니다.
심사 절차와 비용 구조
인증은 두 단계로 진행됩니다. 1단계 심사는 문서 심사에 가깝습니다. 방침, 적용선언서, 위험·영향 평가, 절차서가 표준 요구사항을 덮고 있는지 확인합니다. 2단계 심사에서 실제 운영 증거를 봅니다. 영향 평가를 정말 수행했는지, 기록이 있는지, 내부 심사와 경영 검토가 돌았는지를 확인합니다.
인증서는 3년간 유효하고 1년마다 사후심사를 받습니다. 3년 뒤에는 갱신 심사를 받습니다. 그래서 42001은 한 번 받고 끝나지 않습니다. 운영 비용이 계속 붙는 체계입니다.
비용은 네 갈래로 나뉩니다. 심사기관에 내는 심사 비용, 컨설팅 비용, 내부 인건비, 그리고 운영 유지 비용입니다. 조직 규모와 적용 범위에 따라 폭이 커서 일반화된 금액을 말하기는 어렵습니다. 다만 비중으로 보면 심사 비용보다 내부 인건비와 운영 유지 비용이 큰 경우가 많습니다. 영향 평가와 기록 관리가 사람의 시간을 계속 쓰는 활동이기 때문입니다.
준비 기간은 27001 같은 경영시스템을 이미 운영하는 조직이라면 짧아집니다. AI 시스템 목록조차 없는 상태에서 시작하면 반년을 넘기는 경우가 흔합니다.
AI 기본법 의무와 어떻게 연결되나요
AI 기본법과 시행령은 2026년 1월 22일 함께 시행됐습니다. 사업자에게 붙는 핵심 의무는 네 가지입니다. 생성형 AI 결과물 표시, 고영향 AI 사전 고지, 안전성·신뢰성 확보 조치, 그리고 국외 사업자의 국내 대리인 지정입니다. 고지 의무를 지키지 않으면 3천만 원 이하의 과태료가 부과됩니다. 정부는 사실조사와 과태료 부과에 1년 이상의 계도기간을 두었지만 의무 자체는 시행일부터 발생했습니다.
여기서 42001과 맞물리는 지점은 세 번째 의무입니다. "안전성·신뢰성 확보 조치"는 문언만 보면 범위가 넓습니다. 무엇을 해야 이행했다고 볼지 기업이 스스로 설계해야 합니다. 42001의 통제 목록과 영향 평가 기록이 그 설계의 뼈대로 쓰입니다. 고영향 AI에 해당하는지 판단한 근거, 판단 과정의 문서, 사전 고지 방식을 기록으로 남기는 구조가 표준의 A.5와 A.8에 들어 있습니다.
다만 둘은 등가가 아닙니다. 인증을 받았다고 법적 의무를 면하지 않습니다. 법 의무만 지켰다고 인증 요구사항을 충족하지도 않습니다. 둘을 겹쳐 놓고 빈칸을 찾는 방식이 실무적으로 효율적입니다.
고객사 대응 측면도 무시할 수 없습니다. B2B에서 AI 기능이 들어간 제품을 팔면 고객사 보안·구매 심사에서 AI 거버넌스 자료를 요구받는 빈도가 빠르게 늘었습니다. 삼성SDS가 IT서비스 업계에서 먼저 인증을 받고 KT DS가 뒤이어 받은 흐름도 이 수요와 무관하지 않습니다.
도입 순서 네 단계
1단계 — AI 시스템 목록을 만듭니다
가장 지루하고 가장 중요한 작업입니다. 사내에서 쓰이는 AI를 전부 적습니다. 제품에 들어간 기능, 업무에 쓰는 외부 서비스, 팀이 자체적으로 붙인 스크립트까지 포함합니다. 미승인 상태로 쓰이는 도구가 이 단계에서 드러나는 경우가 많습니다.
2단계 — 책임과 범위를 정합니다
시스템마다 책임자를 지정하고 인증 적용 범위를 결정합니다. 범위는 고객사가 요구하는 영역을 기준으로 잡는 편이 실용적입니다.
3단계 — 위험·영향 평가를 돌립니다
ISO/IEC 23894의 방법론을 참고해 위험을 식별하고 영향 평가는 조직 밖의 개인과 사회를 대상으로 수행합니다. 평가 결과가 설계나 운영을 실제로 바꾼 기록이 가장 중요합니다. 평가서만 있고 변경 이력이 없으면 심사에서 형식적 운영으로 평가됩니다.
4단계 — 적용선언서를 쓰고 증거를 모읍니다
38개 통제를 하나씩 보며 적용 여부와 사유를 적습니다. 적용한 통제에는 운영 증거를 연결합니다. 내부 심사와 경영 검토를 최소 한 번 돌린 뒤 1단계 심사를 신청하는 순서가 안전합니다.