AI를 도입했는데 회사가 그대로라면 — AX(AI 전환)에서 순서가 결과를 만든다
개요
| 항목 | 내용 |
|---|---|
| 주제 | AI 도입과 AX(AI Transformation)는 다른 문제이며, AX 실패의 원인은 모델이 아니라 구조다 |
| 핵심 관점 | "무엇을 만들었는가?"가 아니라 "무엇이 실제로 달라졌는가?" 를 묻는 순간부터 AX가 시작된다 |
| 핵심 키워드 | AI 도입 vs AX · PoC 함정 · 현업 오너십 · 데이터 기준 · 성과 KPI · 확산 구조 |
| 화자 | 김건우 — 기업 AX 전략 전문가, 삼성·LG·CJ·현대자동차그룹·KT 리더 및 전략기획 출신, 가톨릭대학교 인공지능학과 겸임교수, 베스트셀러 『AI 전환 절대 공식』 저자 |
| 출처 | 「AX (AI 전환) 제대로 모르면 망합니다 | 개념·사례·원리 완벽 정리」, 채널 'AI 전환공식 김건우', 약 19분 · 슬라이드 20장 |
핵심 메시지 3가지
① AI 도입과 AX는 본질적으로 다른 일이다 도구를 들여오는 것과 일하는 방식을 바꾸는 것은 층위가 다릅니다. 슬라이드는 이 관계를 한 문장으로 못 박습니다.
"AI 도입은 시작점이고, AX는 결과입니다. 둘을 같은 것으로 보는 순간 실패가 시작됩니다."
② AX 실패의 원인은 모델이 아니라 구조다 문제 정의 · 현장 주도성 · 데이터 기준 · 성과 기준 · 확산 구조라는 5개의 구조가 비어 있으면, 엔진(모델)이 아무리 좋아도 결승선에 닿지 못합니다.
③ 현장이 계속 쓰는 회사가 이긴다 화려한 시연과 데모가 아니라, 매일 업무 안에서 쓰이는 AI가 진짜 성과를 만듭니다. "멋진 AI"가 아니라 "현장이 계속 쓰는 AI" 가 기준선입니다.
1. 왜 이 주제를 지금 알아야 하는가 — 현장에서 들리는 세 가지 목소리
요즘 모든 회사가 'AI'와 'AX'라는 단어를 동시에 씁니다. 다만 DT→DX→AX로 넘어온 시간이 채 1년이 되지 않다 보니, 단어는 친숙해졌는데 체감은 따라오지 않는 상태입니다. 현장에서 반복해서 들려오는 목소리는 다음 세 가지로 수렴합니다.
| # | 현장의 목소리 | 드러나는 간극 |
|---|---|---|
| 1 | "챗봇은 생겼는데, 내 일은 별로 달라진 게 없어요." | 도구 도입과 업무 변화 사이의 간극 |
| 2 | "PoC는 성공했다는데, 실제 업무에서는 잘 안 씁니다." | 개념 증명과 운영 안착 사이의 간극 |
| 3 | "AI가 좋다는데, 성과를 어떻게 봐야 할지 모르겠습니다." | 기술 성능과 비즈니스 성과 사이의 간극 |

이 세 간극을 하나로 묶으면 질문은 결국 하나입니다. "그래서 실제 업무가 바뀌었는가?" 생성형 AI, AI Agent, Copilot, RAG, 자동화, 사내 챗봇 — 이름과 도구는 여섯 개 이상 늘었지만, 진짜 질문은 단 하나로 수렴합니다.
2. 개념 정리 — 'AI 도입'과 'AX'는 어디서 갈리는가
두 개념은 실무에서 거의 항상 혼용되지만, 접근 단위·주체·묻는 질문이 다릅니다.
| 비교 항목 | AI 도입 | AX (AI Transformation) |
|---|---|---|
| 정의 | 도구·모델·솔루션을 들여오는 일 | 일하는 방식과 의사결정 구조를 바꾸는 일 |
| 접근 축 | 기능 중심 접근 | 업무·조직·데이터 중심 접근 |
| 설계 단위 | 프로젝트 단위, 모듈 단위 | 운영 체계 단위 |
| 주도 주체 | 주로 IT·디지털 부서 | 현업·IT·경영진(스폰서십) 의 공동 과제 |
| 핵심 질문 | "무엇을 만들었는가?" (물음표) | "무엇이 실제로 달라졌는가?" (느낌표) |
| 결과 성격 | 변화의 시작점 | 변화의 결과물 |

'체감 없음'의 증상도 여기서 설명됩니다. 도입(Adopt)은 말 그대로 그대로 가져오는 것, 즉 기술을 수용하는 개념입니다. 체감으로 연결하려면 가져온 것에 맞춰 우리 쪽을 변화시켜야 하고, 변화하려면 현재를 정확히 인식해야 합니다.
현장에서 자주 나오는 4가지 체감 실패 문장
| 증상 발화 | 실제 원인 층위 |
|---|---|
| "처음에는 신기했는데, 지금은 잘 안 써요." | 업무 흐름 미연결 |
| "답변은 나오는데, 믿고 업무에 쓰기는 애매해요." | 신뢰성·검증 구조 부재 |
| "우리 데이터랑 연결이 안 돼서 결국 사람이 다시 확인해요." | 데이터 기준 미정립 |
| "PoC 결과는 좋았는데, 운영으로 넘어가니 멈췄어요." | 거버넌스·오퍼레이션 부재 |
핵심 관찰은 이렇습니다. AI 도입의 실패는 기술 수준보다 '업무 안착' 단계에서 더 자주 발생합니다. 그래서 필요한 것이 우리 체질과 생태계에 맞춘 AI의 재정렬·재설계입니다.
3. 가장 많이 하는 세 가지 착각
착각 ① "좋은 모델을 쓰면 AX가 될 것이다"
GPT·Claude·Gemini의 성능은 이미 강력하고, 성능 자체는 만족스럽습니다. 그러나 좋은 엔진을 샀다고 경주에서 이기는 것은 아닙니다.
| 구성 요소 | 의미 |
|---|---|
| ENGINE | AI 모델 |
| ROAD | 데이터 기반 |
| DRIVER | 현업 주도성 |
| DESTINATION | 성과 기준 |

원칙: 엔진이 좋아도 도로·운전자·목적지가 함께 맞아야 결승선에 도달합니다.
착각 ② "AI 챗봇을 만들면 회사가 바뀔 것이다"
챗봇 선택 자체가 나쁜 것은 아닙니다. 문제는 챗봇이 실제 업무 흐름 안으로 들어가지 못할 때 발생합니다. 업무 흐름에 체감·체득되지 못하면 갭이 생기고, 심하면 AI에 대한 트라우마·부정 경험으로 전환됩니다.
| ✕ 아직 부족한 챗봇 | ✓ 업무형 AI의 모습 |
|---|---|
| 질문하면 답만 돌려줌 | 업무 맥락을 이해하고 판단 |
| 업무 시스템과 단절 | 사내 데이터와 연결 |
| 답변 신뢰도 불명확 | 다음 행동을 제안 |
| 결국 사람이 다시 확인 | 승인·처리·기록까지 연결 |
원칙: '답하는 챗봇'과 '일하는 AI' 사이의 거리가 곧 AX의 거리입니다. 우리가 하는 일하는 방식(워크플로우)을 AI에 태워 에이전트화하는 것이 포인트입니다.
착각 ③ "PoC에 성공하면 자연스럽게 확산될 것이다"
PoC(Proof of Concept)는 '이 기술이 가능한지 확인하는 단계'일 뿐이며, 운영 단계에서는 전혀 다른 현실이 기다립니다.
| PoC → 운영 전환에서 터지는 5개 지점 |
|---|
| 01 보안·권한 문제 |
| 02 데이터 품질 |
| 03 비용 증가 |
| 04 책임 소재 |
| 05 비즈니스 가치 불명확 |

정량 근거: Gartner는 2026년 분석에서, 2025년 말 기준 최소 50%의 GenAI 프로젝트가 PoC 이후 중단됐다고 설명했습니다. 주요 원인은 데이터 품질, 리스크 통제 부족, 비용 증가, 불명확한 비즈니스 가치였습니다. (출처: Gartner, "More than 50% of GenAI projects are abandoned after proof of concept", 2026)
PoC 자체가 나쁜 것이 아니라, PoC 성공을 운영과 트랜스포메이션의 공식으로 착각하는 것이 문제입니다.
4. 실패의 진짜 이유 5가지 — 구조의 공백
| # | 이유 | 실패 패턴 | 성공 패턴 / 원칙 |
|---|---|---|---|
| 1 | 풀어야 할 업무 문제를 잘못 잡는다 | "우리도 AI로 뭘 해볼까?", "유행 기술을 어디에 붙일까?", "챗봇을 어디에 만들까?" | "시간이 가장 많이 낭비되는 업무는?", "실수가 반복되는 구간은?", "고객 불만이 자주 생기는 접점은?", "의사결정이 느려지는 병목은?" → 기술에서 출발하면 '용도'를 찾고, 문제에서 출발하면 '해결책'을 찾는다 |
| 2 | 현업(쓰는 사람)이 주인이 되지 않는다 | IT 부서 주도 개발 → 현업은 요구사항만 전달 → 배포 후 사용 저조 → 피드백 구조 없음 → 현장에서 외면 | 현업이 문제 정의 주도 → IT와 현업이 함께 설계 → 파일럿→피드백→개선 반복 → 현장 맥락이 AI에 반영 → 업무에 자연 안착. 현업은 요구사항 제공자가 아니라 'AI 설계의 공동 주인' |
| 3 | 데이터와 업무 기준이 정리되어 있지 않다 | 같은 고객 다른 정의(부서마다 '고객' 기준 상이) / 같은 제품 다른 코드(시스템마다 코드 상이) / 기준이 사람 머릿속에(문서화 안 된 예외 규칙) | AI가 답을 못하는 게 아니라, 회사가 AI에게 줄 '기준'을 아직 정리하지 못한 것. AI 성능 문제로 보이는 일의 상당수는 '기업 데이터 정리 문제' |
| 4 | 성과 기준이 없다 | "성공 기준은 무엇인가?", "몇 시간을 줄이면 성공인가?", "오류율은 얼마나 낮아져야 하나?", "매출·비용·리스크 중 무엇을 볼 것인가?" 라는 질문 자체가 부재 | 예시: 업무 처리 시간 30% 단축 / 반복 문의 20% 감소 / 리포트 작성 시간 주 5시간 절감 / 고객 응답 속도 개선 / 현업 월간 활성 사용자 수 증가. 측정할 수 없는 AI 성과는 경영진을 설득할 수도, 현업을 동기부여할 수도 없다 |
| 5 | '좋은 사례 하나'와 '똑똑한 확산'을 같은 것으로 본다 | 해커톤·페스티벌로 BP는 만들지만, 운영단·상품화로는 이어지지 않음 | 확산은 '구조'가 만든다 (아래 6요소) |
이유 5 상세 — 확산이 무너지는 흐름과 필요한 구조
일회성으로 끝나는 흐름
① PoC 성공(한 부서 시험 성공) → ② 발표 공유(사례·결과 배포) → ③ 타 부서 시도(동일 적용 시도) → ④ 실행 장애(데이터·권한·예산 불일치) → ⑤ 사례 종료(구조 없이 일회성)
확산에 필요한 6가지 요소
| 요소 | 역할 |
|---|---|
| 공통 데이터 기준 | 부서 간 재사용 가능한 데이터 정합성 |
| 재사용 가능한 플랫폼 | 사례를 자산으로 전환 |
| 의사결정 거버넌스 | 운영 판단의 소유자 확정 |
| 현업 교육 체계 | 사용 능력의 상향 평준화 |
| 운영 담당 조직 | 수면 위 유지 |
| 성과 측정 체계 | 단계적 점검과 투자 근거 |

여기서 중요한 부연이 두 가지 있습니다. 첫째, 프로젝트 성공 후에도 지속적인 투자가 필요하고, ROI가 나오기 전까지 명확한 시점·기점을 제시해야 합니다. 둘째, 토큰 같은 운영 소비 비용이 실제 ROI에 맞는지를 성과 기준으로 다시 짚어야 합니다.
5. 결론 — AX의 문제는 기술보다 '운영 방식'
| 기술만 있는 회사 | 운영 방식이 있는 회사 |
|---|---|
| 모델 도입 | 문제 정의 |
| PoC | 데이터 정리 |
| 데모 | 현업 설계 |
| 중단 | 운영 반영 → 성과 측정 → 확산 |

원칙: AX는 AI 기술을 많이 쓰는 회사가 아니라, AI가 '일하는 방식' 안에 들어간 회사가 잘합니다. 주인이 현업·스폰서십·고객이라는 관점에서, 이들의 피드백을 클로즈 루프(Close Loop) 로 빠르게 회수하는 것이 성패를 가릅니다.
6. 글로벌 사례 — Walmart과 Target은 무엇을 다르게 했나
| 구분 | Walmart | Target |
|---|---|---|
| 배치 관점 | 현장 직원의 업무 도구로 | 매장 운영에 GenAI 직접 투입 |
| 내용 | 매장 직원 약 150만 명의 고객 응대·운영·업무 지원에 AI 연결 | 'Store Companion' GenAI 도구로 신규 직원 코칭, 프로세스 질문 응답, 매장 운영 지원 |
| 특징 | 별도 실험이 아닌 실제 업무 지원 도구로 배치 | 직원 영향력을 상향 평준화해 고객 만족도·매장 운영을 스마트하게 스케일링 |
| 출처 | Walmart Corporate (2025) | Target Corporate (2024) |

Target의 경우 2024년 6월 20일(미네아폴리스) 보도자료 기준, 리테일러용 신규 생성형 AI 챗봇 'Store Companion'이 팀원 업무 경감과 쇼핑 경험 향상을 목표로 하며, 8월까지 약 2,000개 매장의 수만 명 팀원에게 롤아웃된다고 밝힌 바 있습니다.
두 사례에서 받아야 할 레슨런은 명확합니다. 멋지고 기술로 찬란하고 빠른 AI가 아니라, 현장에서 계속 쓸 수 있고 그것이 고객 체감 포인트로 이어지는 AI를 만들고 있다는 점입니다.
7. AX를 잘하는 회사와 못하는 회사 — 5개 항목 비교
| 비교 항목 | AX가 잘 안 되는 회사 | AX를 잘하는 회사 |
|---|---|---|
| 출발점 | 기술부터 고른다 | 업무 문제부터 정의한다 |
| 성과 지표 | PoC 숫자를 KPI로 본다 | 운영 성과를 KPI로 본다 |
| 참여 시점 | 현장이 나중에 참여한다 | 현장이 처음부터 참여한다 |
| 데이터 | 데이터 정리는 미룬다 | 데이터와 기준을 함께 정리한다 |
| 확산 | 성공 사례가 일회성으로 끝난다 | 확산 가능한 구조를 만든다 |

원칙: AX의 성패는 '무엇을 먼저 정하는가'에서 갈립니다. 순서가 결과를 만듭니다.
한 가지 실무 경계가 더 있습니다. 과거 대기업 팀장·실무 시절 경영진에게 많이 보고했던 MAU·DAU, 접속자, 클릭 수 같은 지표는, 많이 접속한다고 해서 솔루션이 잘 쓰이고 성공 체험이 있는 것과 별개입니다. 글로벌 기업의 대부분은 비즈니스 성과와 단계적 세부 세그먼트를 나눠 성과를 측정하고, 데이터 기준(요즘 말하는 Ontology, Palantir류의 데이터 근본 기준)을 표준화해 계속 쓸 수 있는 형태로 만듭니다.
8. 관점 포인트 — 도입 전에 반드시 물어볼 5가지
| # | 점검 항목 | 질문 |
|---|---|---|
| 01 | 업무 고통 정의 | 이 과제는 누구의 어떤 업무 고통을 줄이는가? |
| 02 | 반복성 확인 | 현업이 매주 반복해서 쓰는 업무인가? |
| 03 | 데이터 준비도 | AI가 참고할 데이터와 기준은 정리되어 있는가? |
| 04 | 성과 측정 기준 | 성공을 어떤 수치나 행동 변화로 볼 것인가? |
| 05 | 확산 가능성 | 다른 부서로 확산할 수 있는 구조인가? |

원칙: 이 5가지에 답할 수 없다면, 아직 AI 도입을 시작할 시점이 아닙니다.
여기에 가성비 기준을 겹쳐야 합니다. 1억 원짜리 프로젝트인데 실제 체감이 1,000만~2,000만 원 수준이면 지속성이 부여되지 않고, 이해관계자에게 스폰서십을 받기 어렵습니다. 당연한 이치지만 도입·확산·전환 전에 반드시 점검할 지점입니다.
실무 적용 포인트 - ① 도입이 아니라 문제 정의에서 착수한다 — 시간 낭비 구간, 반복 실수, 고객 불만 접점, 의사결정 병목을 먼저 적는다. - ② 현업을 요구사항 제공자가 아니라 공동 설계자로 앉힌다 — 파일럿→피드백→개선의 반복 루프를 구조화한다. - ③ 'AI Ready'의 주체를 데이터로 본다 — AI에 줄 기준(고객 정의, 제품 코드, 예외 규칙)을 문서화한다. - ④ 성공을 수치와 행동 변화로 정의한다 — 처리 시간 30% 단축, 반복 문의 20% 감소, 주 5시간 절감처럼 세그먼트 단위로 잡는다. - ⑤ 사례가 아니라 재사용 구조에 투자한다 — 공통 데이터 기준·재사용 플랫폼·거버넌스·교육·운영 조직·성과 측정을 함께 올린다.
9. 최종 핵심 정리
확인해야 할 핵심 질문
| 질문 | 답에서 확인해야 할 것 |
|---|---|
| 우리는 AI를 도입한 것인가, 전환하고 있는 것인가? | 일하는 방식과 의사결정 구조가 바뀌었는가 |
| PoC 성공 후 운영으로 넘어간 사례가 있는가? | 보안·권한, 데이터 품질, 비용, 책임 소재, 비즈니스 가치 5개 장애를 넘었는가 |
| 현업이 주인인가, IT가 주인인가? | 문제 정의를 현업이 주도하고 피드백 루프가 닫히는가 |
| AI가 쓸 기준이 정리됐는가? | 고객·제품 정의와 예외 규칙이 문서화됐는가 |
| 성공을 무엇이라 부르는가? | 측정 가능한 운영 KPI와 ROI(토큰 등 운영비 포함)가 있는가 |
| 사례가 **확산 |
| 사례가 확산 가능한 구조인가? | 공통 데이터 기준·재사용 플랫폼·거버넌스·교육·운영 조직·성과 측정 6요소가 갖춰졌는가 |
오늘의 3줄 요약 (슬라이드 18/20)
| # | 요약 | 부연 |
|---|---|---|
| 1 | AI 도입과 AX는 다릅니다 | 도구를 들여오는 것과 일하는 방식을 바꾸는 것은 본질적으로 다른 일입니다 |
| 2 | AX 실패의 원인은 '구조'입니다 | 문제 정의, 현장 주도성, 데이터 기준, 성과 기준, 확산 구조가 없으면 기술이 좋아도 한계가 있습니다 |
| 3 | 현장이 계속 쓰는 회사가 잘합니다 | 화려한 시연보다 매일 쓰이는 AI가 진짜 성과를 만듭니다 |

다음 편 예고: 이제 진짜 질문은 "어떻게 전환을 성공시킬 것인가?" → 『AI 전환 절대 공식』에서 다뤄집니다.
한 줄 요약: AI는 '설치하는 것'이 아니라 '일하는 방식 안에 심는 것'이며, AX의 성패는 모델 성능이 아니라 무엇을 먼저 정하는가라는 순서가 만든다.
댓글 0
아직 댓글이 없습니다 — 첫 댓글을 남겨보세요.