핵심 요약: 중소기업 근로자 절반은 AI를 쓰지만 기업 도입은 6.2%입니다
중소기업 AI 도입률은 직원 개인 단계에서 이미 절반을 넘었지만 회사가 업무와 시스템에 AI를 넣는 조직 도입 단계에서는 한 자릿수에 머뭅니다. 대한상공회의소 지속성장이니셔티브(SGI)가 2025년 9~10월 임금근로자 3,000명을 조사한 결과 중소기업 근로자의 생성형 AI 업무 활용률은 52.7%였습니다. 한국직업능력연구원(직능연)이 국가데이터처 기업활동조사를 분석한 결과 100인 미만 기업의 AI 활용률은 2024년 6.2%였고 300인 이상 기업과의 격차는 2017년 2.8%p에서 11.8%p로 4.2배가 됐습니다.
격차는 세 지점에서 벌어집니다. 회사의 지원 체계, 데이터와 공정 기반, 아낀 시간을 산출로 바꾸는 업무 구조입니다.
목차
- 핵심 요약: 중소기업 근로자 절반은 AI를 쓰지만 기업 도입은 6.2%입니다
- 기술 확산과 도입 현황: AI 활용률은 7년 새 6.6배, 대·중소 격차는 4.2배가 됐습니다
- 도입 방식과 비용 구조: 스마트공장 구축비는 희망 투자액 상한의 7.5배입니다
- 성과 데이터와 사례 비교: AI로 아낀 시간은 왜 산출로 이어지지 않나요
- 규제·보안·인력 변수: 대·중소 AI 격차의 약 7할은 조직 환경에서 나옵니다
- 시사점: 중소기업 AI 도입률 50% 목표보다 추적해야 할 여섯 가지 지표
- 자주 묻는 질문
- 같이 읽으면 좋은 것들
기술 확산과 도입 현황: AI 활용률은 7년 새 6.6배, 대·중소 격차는 4.2배가 됐습니다
같은 정의로 해마다 측정하는 기업활동조사(50인 이상 법인)에서 전체 AI 활용률은 2017년 1.4%에서 2024년 9.2%로 6.6배가 됐습니다. 생성형 AI가 퍼진 2022~2024년 2년 동안 오른 폭(4.9%p)이 그 전 5년(2.9%p)보다 컸는데요. 2017년부터 2024년까지 300인 이상 기업은 3.5%에서 18.0%로, 100인 미만 기업은 0.7%에서 6.2%로 올랐습니다.
배율로는 300인 이상 기업이 100인 미만 기업의 5.0배에서 2.9배로 좁혀졌지만 퍼센트포인트 격차는 4배 넘게 커졌습니다. 확산 초기에는 비용과 위험을 감당할 수 있는 대기업이 먼저 속도를 내기 때문입니다. 직능연은 중소기업이 도입 비용, 정보 부족, 인력난이라는 '삼중 제약'을 안고 있다고 분석했습니다. 업종별로는 정보통신업(34.5%)과 금융·보험업(21.3%)이 높았고 기업 수가 가장 많은 제조업은 5.7%로 평균을 밑돌았습니다.
중소기업 AI 도입률이 조사마다 0.1~57.5%로 갈리는 이유
조사 단위(근로자인지 기업인지)와 대상, AI의 정의가 다르면 같은 '중소기업 AI 도입률'도 0.1%에서 57.5%까지 벌어집니다. AI가 조직 안으로 깊이 들어갈수록 숫자는 낮아집니다.
| 측정 수준 | 조사(기준 시점·대상) | 활용률 |
|---|---|---|
| 개인 사용 | 대한상의 SGI(2025년, 중소기업 근로자) | 52.7% |
| 기업 자기 응답 | 한국중소벤처기업유통원(2026년, 중소기업 1,066곳) | 57.5% |
| 기업 자기 응답 | 대한상의·산업연구원(2024년, 중소기업) | 28.7% |
| 공식 통계 | 직능연·기업활동조사(2024년, 100인 미만 법인) | 6.2% |
| 조직 내재화 | 캐럿글로벌(2025년 12월, HR 담당자 약 300명, AI 에이전트 전사 내재화) | 3.7% |
| 제조 공정 AI | 중기부 스마트제조혁신 실태조사(2023년 기준, 공장 보유 중소·중견 제조기업) | 0.1% |
자료: 각 기관 조사(헤럴드경제·이슈온·KDI 경제정보센터·전자신문 보도 재정리)
이슈온 보도를 보면 가장 높은 57.5%도 '매우 적극 활용'으로 좁히면 18.9%이고 활용 분야는 콘텐츠 제작(34.1%)과 홍보 문구 작성(16.6%)에 몰려 있습니다. 기업이 'AI를 쓴다'고 답해도 실제로는 직원 개인의 구독형 도구 사용인 경우가 많다는 뜻입니다. 디지털데일리 보도에 따르면 중기부는 2025년 11월 중소기업 AI 도입률을 28.7%에서 2030년 50%로 높이겠다고 밝혔습니다. 기준값 28.7%가 한 번 실시한 표본조사 수치여서 같은 정의로 다시 측정하기 어렵다는 지적이 나옵니다.
국제 비교: 개인 사용은 최상위, 기업 도입은 중하위입니다
Eurostat(EU 통계청) 기준 10인 이상 EU 기업(금융업 제외)의 AI 사용률은 2024년 13.5%로 한국 기업활동조사(9.2%)보다 4.3%p 높았습니다. 활용률이 낮은 소기업이 빠진 한국 표본과 비교한 결과입니다. EU는 2025년 20.0%로 1년 새 6.5%p 올랐고 250인 이상 대기업은 55.0%에 이르렀습니다. 반대로 한국은행 조사에서 국내 근로자의 업무용 생성형 AI 활용률은 2025년 51.8%로 미국의 약 2배였습니다. 한국은 개인 사용은 세계 최상위인데 기업 도입은 중하위인 비대칭이 두드러집니다.
도입 방식과 비용 구조: 스마트공장 구축비는 희망 투자액 상한의 7.5배입니다
중소 제조기업이 AI에 쓰려는 돈보다 실제 스마트공장 구축비가 7.5배 많습니다. 중소기업의 스마트공장 구축비는 평균 약 7억 5,000만 원이었고 그 자금의 56.9%를 스스로 마련했습니다. 스마트공장을 도입한 중소기업의 47.4%가 AI가 필요하다고 답했지만 68.9%는 1억 원 이하만 투자하겠다고 했습니다. 수요는 있는데 투자 규모가 맞지 않는다는 점이 제조 AI 도입률 0.1%의 핵심 배경입니다.
같은 '도입'이라도 비용과 선행 조건은 크게 다릅니다. 개인 구독형 생성형 AI는 회사의 사용 권장과 구독료 지원만으로 퍼질 수 있어 중소기업 근로자 활용률이 52.7%에 이릅니다. 보안 검토와 데이터 정비가 필요한 업무 시스템 연동 단계로 가면 맞춤형 AI 도구 제공률이 중소기업 5.7%, 대기업 11.4%로 떨어집니다. 설비 데이터 수집과 표준화가 먼저인 제조 공정 AI는 도입률 0.1%, 도입 계획률 1.6%입니다.
현장의 기반도 얇습니다. 중기부 제1차 스마트제조혁신 실태조사에서 공장을 가진 중소·중견 제조기업의 스마트공장 도입률은 19.5%였고 도입 기업의 75.5%는 기초 수준이었습니다. 제조데이터를 모으는 기업(60.8%) 가운데 분석까지 하는 곳은 52.1%여서 수집과 분석을 모두 하는 기업은 계산하면 약 31.7%입니다. 제조데이터·AI 전담 인력을 둔 기업은 0.8%뿐이었습니다.
정부 지원사업의 성과 집계에도 빈틈이 있습니다. 에너지신문 보도에 따르면 2025년부터 2026년 8월까지 '중소 제조기업 AI 대전환' 사업으로 지원받은 3,015개사 가운데 AI 도입이 확인된 곳은 517개사(17.1%)였습니다. 517개사는 모두 AI 적용이 의무인 3개 사업 참여 기업이었고 나머지 4개 사업의 2,498개사(82.9%)는 도입 여부를 집계하지 않았습니다. 17.1%는 사업 성과라기보다 사업 구성 비율에 가깝습니다.
성과 데이터와 사례 비교: AI로 아낀 시간은 왜 산출로 이어지지 않나요
AI로 줄어든 업무시간이 산출 증가로 이어지지 않는 것은 업무 구조가 그대로이기 때문입니다. 한국은행 BOK 이슈노트 제2026-12호가 취업자 5,512명을 3년간 분석한 결과 업무시간은 3.8%(주 약 1.5시간) 줄었지만 절감 시간과 산출 증가의 상관은 0이었고 잠재 생산성 효과는 약 1.0%였습니다. 대한상의 SGI 조사에서 근로자들은 AI가 없었다면 주 8.4시간(17.6%)을 더 일했을 것이라고 답했는데 능숙한 사용자는 13.6%에 그쳤습니다.
한국은행은 경직된 업무 흐름, 의사결정·승인 단계의 병목, 성과와 연동되지 않는 보상을 원인으로 꼽았습니다. 업무 자율성과 성과 유인이 큰 자영업자나 전문직에서는 효과가 나타났습니다. KDI(2026)가 분석한 AI 도입 기업의 상용근로자 1인당 매출 약 20% 증가도 AI를 IoT·빅데이터와 함께 쓸 때 나온 결과입니다. 성과를 가르는 것은 도구가 아니라 업무 구조와 데이터 기반입니다.
아낀 시간을 쓰는 방식에서도 규모 차이가 드러납니다. 대기업 근로자는 품질 향상(32.6%)과 새 프로젝트(22.6%)에 많이 썼고 중소기업 근로자는 품질 향상(29.5%) 다음으로 휴식(27.3%)이 많았습니다. AI의 생산성 효과가 대기업과 업력이 긴 기업에 두드러진다는 한국은행의 경고도 같은 맥락입니다. 활용 방식과 성과의 격차까지 겹치면 생산성 격차는 도입률 격차보다 빨리 벌어집니다.
규제·보안·인력 변수: 대·중소 AI 격차의 약 7할은 조직 환경에서 나옵니다
대기업(66.5%)과 중소기업(52.7%)의 생성형 AI 활용률 격차 13.8%p 가운데 약 9.8%p, 즉 7할가량은 조직 환경과 역량에서 나옵니다. 대한상의 분석에서 회사의 지원 체계와 프롬프트(AI에 내리는 지시문) 작성 역량, 개인의 수용성을 같게 놓으면 격차는 약 4%p로 줄었습니다. 회사가 AI 사용을 적극 권장하면 활용 확률이 15.5%p, 구독료를 지원하면 8.1%p 높아졌습니다.
같은 조사의 근로자 응답에서도 조직 환경의 차이는 뚜렷합니다. 회사에 AI 도입 로드맵이 없다는 응답은 중소기업이 70.4%로 대기업(54.4%)보다 16.0%p 많았고 교육·훈련 제공(24.9% 대 34.7%)과 내부 가이드라인 제공(24.3% 대 33.8%)도 9%p 넘게 낮았습니다. 보안 규정 때문에 AI를 쓰지 않는다는 응답만은 대기업(25.5%)이 중소기업(12.3%)의 두 배를 넘었습니다. 대기업에서는 보안 통제가 활용을 늦추고 규정이 부족한 중소기업에서는 회사가 승인하지 않은 개인 사용, 곧 섀도 AI가 늘어날 수 있습니다.
규제 환경도 달라졌습니다. 법무법인 세종의 분석에 따르면 2026년 1월 22일 시행된 AI 기본법은 생성형 AI 결과물 표시와 사전 고지 의무를 다른 회사가 만든 AI로 서비스를 제공하는 이용사업자에게도 적용합니다. 채용·대출 심사 같은 고영향 영역에서 의무를 어기면 최대 3,000만 원의 과태료가 부과될 수 있습니다. 정부가 최소 1년의 계도기간을 두었어도 대기업이 협력사에 AI 사용 기준을 요구하기 시작하면 중소기업의 규제 대응 부담은 커집니다.
인력은 가장 구조적인 제약입니다. 2024년 국내 AI 인력 부족률은 7.4%였고 전국 연구원의 66.9%가 수도권에 몰려 있습니다. 국회입법조사처는 산업부·중기부·과기정통부가 비슷한 제조 AX(AI 전환) 사업을 따로 운영해 중소기업이 여러 곳에 신청해야 하는 부담이 생긴다고 지적했습니다.
시사점: 중소기업 AI 도입률 50% 목표보다 추적해야 할 여섯 가지 지표
한국 기업의 AI 격차는 직원이 AI를 쓰느냐보다 조직이 그 사용을 뒷받침하느냐에서 갈립니다. 기업의 출발점은 AI 사용을 공식적으로 권장하고 구독료를 지원하는 일입니다. 로드맵·가이드라인·교육으로 보안 공백을 메워 능숙한 사용자(현재 13.6%)를 늘리고 승인 절차와 업무 흐름을 고쳐 아낀 시간이 산출로 이어지게 해야 데이터와 업무 시스템을 연동하는 투자도 효과를 냅니다. 중소 제조기업에는 제조 AI보다 데이터를 모으는 단계에서 분석하는 단계로 넘어가는 일이 먼저입니다.
산업 정책은 측정 체계부터 손봐야 합니다. 도입률 하나를 목표로 삼기보다 도입 수준별 지표를 같은 정의로 해마다 공표하는 EU 방식을 참고할 만합니다. 지원사업에는 지원 기업의 AI 도입 여부와 성과 지표 제출을 의무화해야 하며 중기부도 AI 기술 현황조사 도입을 검토하겠다고 밝혔습니다. 기업과 정책 당국이 함께 추적할 지표는 여섯 가지입니다.
- 규모별 AI 활용률과 격차: 300인 이상 18.0%, 100인 미만 6.2%, 격차 11.8%p(2024년, 직능연)
- 제조 AI 도입률과 데이터 분석률: 0.1%, 데이터 수집 기업 중 분석 52.1%(2023년 기준, 중기부)
- AI 로드맵 보유율: 중소기업 29.6%, 대기업 45.6%(2025년, 대한상의 미보유 응답에서 역산)
- AI 거버넌스 보유율과 전사 내재화율: 48.1%, 3.7%(2025년 12월, 캐럿글로벌)
- 절감 시간과 산출 증가의 상관: 0(2026년, 한국은행)
- 지원 기업의 AI 도입 확인율: 2025년 7.9%에서 2026년 8월 28.2%(중기부 사업, 에너지신문 보도)
디지털산업 실태조사에서 의사결정·영업에 AI를 쓰는 기업 비중은 1년 사이 15.5%에서 24.9%로 뛰었습니다. 이 속도라면 기업활동조사의 2025~2026년 수치도 두 자릿수에 올라섰을 가능성이 큽니다. 공식 통계가 1~2년 늦게 나오는 만큼 확산 속도보다 규모 간 격차가 줄어드는지를 지켜봐야 합니다.
자주 묻는 질문
중소기업 AI 도입률은 결국 몇 %로 봐야 하나요?
무엇을 재느냐에 따라 다릅니다. 직원 개인의 생성형 AI 사용은 52.7%(대한상의, 2025년), 공식 통계상 기업 활용은 100인 미만 법인 기준 6.2%(기업활동조사, 2024년), 제조 공정 AI는 0.1%(중기부, 2023년 기준)입니다. 정책 효과를 판단할 때는 같은 정의로 해마다 측정하는 기업활동조사가 기준이 됩니다.
격차가 4.2배로 커졌는데 배율은 줄었다는 게 어떻게 동시에 가능한가요?
300인 이상 기업과 100인 미만 기업의 활용률 차이는 2.8%p에서 11.8%p로 4.2배가 됐지만 두 활용률의 비율은 5.0배에서 2.9배로 줄었습니다. 출발점이 낮은 집단은 비율로는 빨리 오르지만 실제로 AI를 쓰는 기업 비중의 차이는 더 벌어졌다는 뜻입니다.
AI로 시간을 아꼈는데 생산성은 왜 늘지 않나요?
한국은행은 경직된 업무 흐름, 승인 단계의 병목, 성과와 연동되지 않는 보상을 원인으로 꼽았습니다. 아낀 시간을 새 업무에 다시 배치하도록 조직을 설계해야 산출이 늘어납니다.