AI를 도입했는데 회사가 그대로라면 — AX(AI 전환)에서 순서가 결과를 만든다

개요

항목 내용
주제 AI 도입과 AX(AI Transformation)는 다른 문제이며, AX 실패의 원인은 모델이 아니라 구조다
핵심 관점 "무엇을 만들었는가?"가 아니라 "무엇이 실제로 달라졌는가?" 를 묻는 순간부터 AX가 시작된다
핵심 키워드 AI 도입 vs AX · PoC 함정 · 현업 오너십 · 데이터 기준 · 성과 KPI · 확산 구조
화자 김건우 — 기업 AX 전략 전문가, 삼성·LG·CJ·현대자동차그룹·KT 리더 및 전략기획 출신, 가톨릭대학교 인공지능학과 겸임교수, 베스트셀러 『AI 전환 절대 공식』 저자
출처 「AX (AI 전환) 제대로 모르면 망합니다 | 개념·사례·원리 완벽 정리」, 채널 'AI 전환공식 김건우', 약 19분 · 슬라이드 20장

핵심 메시지 3가지

① AI 도입과 AX는 본질적으로 다른 일이다 도구를 들여오는 것과 일하는 방식을 바꾸는 것은 층위가 다릅니다. 슬라이드는 이 관계를 한 문장으로 못 박습니다.

"AI 도입은 시작점이고, AX는 결과입니다. 둘을 같은 것으로 보는 순간 실패가 시작됩니다."

② AX 실패의 원인은 모델이 아니라 구조다 문제 정의 · 현장 주도성 · 데이터 기준 · 성과 기준 · 확산 구조라는 5개의 구조가 비어 있으면, 엔진(모델)이 아무리 좋아도 결승선에 닿지 못합니다.

③ 현장이 계속 쓰는 회사가 이긴다 화려한 시연과 데모가 아니라, 매일 업무 안에서 쓰이는 AI가 진짜 성과를 만듭니다. "멋진 AI"가 아니라 "현장이 계속 쓰는 AI" 가 기준선입니다.


1. 왜 이 주제를 지금 알아야 하는가 — 현장에서 들리는 세 가지 목소리

요즘 모든 회사가 'AI'와 'AX'라는 단어를 동시에 씁니다. 다만 DT→DX→AX로 넘어온 시간이 채 1년이 되지 않다 보니, 단어는 친숙해졌는데 체감은 따라오지 않는 상태입니다. 현장에서 반복해서 들려오는 목소리는 다음 세 가지로 수렴합니다.

# 현장의 목소리 드러나는 간극
1 "챗봇은 생겼는데, 내 일은 별로 달라진 게 없어요." 도구 도입과 업무 변화 사이의 간극
2 "PoC는 성공했다는데, 실제 업무에서는 잘 안 씁니다." 개념 증명과 운영 안착 사이의 간극
3 "AI가 좋다는데, 성과를 어떻게 봐야 할지 모르겠습니다." 기술 성능과 비즈니스 성과 사이의 간극

'AI는 도입했는데, 회사는 왜 그대로일까요?' — 현장에서 자주 들리는 세 가지 목소리를 정리한 슬라이드

이 세 간극을 하나로 묶으면 질문은 결국 하나입니다. "그래서 실제 업무가 바뀌었는가?" 생성형 AI, AI Agent, Copilot, RAG, 자동화, 사내 챗봇 — 이름과 도구는 여섯 개 이상 늘었지만, 진짜 질문은 단 하나로 수렴합니다.


2. 개념 정리 — 'AI 도입'과 'AX'는 어디서 갈리는가

두 개념은 실무에서 거의 항상 혼용되지만, 접근 단위·주체·묻는 질문이 다릅니다.

비교 항목 AI 도입 AX (AI Transformation)
정의 도구·모델·솔루션을 들여오는 일 일하는 방식과 의사결정 구조를 바꾸는 일
접근 축 기능 중심 접근 업무·조직·데이터 중심 접근
설계 단위 프로젝트 단위, 모듈 단위 운영 체계 단위
주도 주체 주로 IT·디지털 부서 현업·IT·경영진(스폰서십) 의 공동 과제
핵심 질문 "무엇을 만들었는가?" (물음표) "무엇이 실제로 달라졌는가?" (느낌표)
결과 성격 변화의 시작점 변화의 결과물

'AI 도입과 AX, 무엇이 다를까요?' — 좌우 대비로 본질적 차이를 정리한 슬라이드

'체감 없음'의 증상도 여기서 설명됩니다. 도입(Adopt)은 말 그대로 그대로 가져오는 것, 즉 기술을 수용하는 개념입니다. 체감으로 연결하려면 가져온 것에 맞춰 우리 쪽을 변화시켜야 하고, 변화하려면 현재를 정확히 인식해야 합니다.

현장에서 자주 나오는 4가지 체감 실패 문장

증상 발화 실제 원인 층위
"처음에는 신기했는데, 지금은 잘 안 써요." 업무 흐름 미연결
"답변은 나오는데, 믿고 업무에 쓰기는 애매해요." 신뢰성·검증 구조 부재
"우리 데이터랑 연결이 안 돼서 결국 사람이 다시 확인해요." 데이터 기준 미정립
"PoC 결과는 좋았는데, 운영으로 넘어가니 멈췄어요." 거버넌스·오퍼레이션 부재

핵심 관찰은 이렇습니다. AI 도입의 실패는 기술 수준보다 '업무 안착' 단계에서 더 자주 발생합니다. 그래서 필요한 것이 우리 체질과 생태계에 맞춘 AI의 재정렬·재설계입니다.


3. 가장 많이 하는 세 가지 착각

착각 ① "좋은 모델을 쓰면 AX가 될 것이다"

GPT·Claude·Gemini의 성능은 이미 강력하고, 성능 자체는 만족스럽습니다. 그러나 좋은 엔진을 샀다고 경주에서 이기는 것은 아닙니다.

구성 요소 의미
ENGINE AI 모델
ROAD 데이터 기반
DRIVER 현업 주도성
DESTINATION 성과 기준

'착각 1 — 좋은 모델을 쓰면 AX가 될 것이다?' 엔진·도로·운전자·목적지 4요소 비유

원칙: 엔진이 좋아도 도로·운전자·목적지가 함께 맞아야 결승선에 도달합니다.

착각 ② "AI 챗봇을 만들면 회사가 바뀔 것이다"

챗봇 선택 자체가 나쁜 것은 아닙니다. 문제는 챗봇이 실제 업무 흐름 안으로 들어가지 못할 때 발생합니다. 업무 흐름에 체감·체득되지 못하면 갭이 생기고, 심하면 AI에 대한 트라우마·부정 경험으로 전환됩니다.

✕ 아직 부족한 챗봇 ✓ 업무형 AI의 모습
질문하면 답만 돌려줌 업무 맥락을 이해하고 판단
업무 시스템과 단절 사내 데이터와 연결
답변 신뢰도 불명확 다음 행동을 제안
결국 사람이 다시 확인 승인·처리·기록까지 연결

원칙: '답하는 챗봇'과 '일하는 AI' 사이의 거리가 곧 AX의 거리입니다. 우리가 하는 일하는 방식(워크플로우)을 AI에 태워 에이전트화하는 것이 포인트입니다.

착각 ③ "PoC에 성공하면 자연스럽게 확산될 것이다"

PoC(Proof of Concept)는 '이 기술이 가능한지 확인하는 단계'일 뿐이며, 운영 단계에서는 전혀 다른 현실이 기다립니다.

PoC → 운영 전환에서 터지는 5개 지점
01 보안·권한 문제
02 데이터 품질
03 비용 증가
04 책임 소재
05 비즈니스 가치 불명확

'착각 3 — PoC에 성공하면 자연스럽게 확산될 것이다?' Gartner 인용과 5개 장애 요인

정량 근거: Gartner는 2026년 분석에서, 2025년 말 기준 최소 50%의 GenAI 프로젝트가 PoC 이후 중단됐다고 설명했습니다. 주요 원인은 데이터 품질, 리스크 통제 부족, 비용 증가, 불명확한 비즈니스 가치였습니다. (출처: Gartner, "More than 50% of GenAI projects are abandoned after proof of concept", 2026)

PoC 자체가 나쁜 것이 아니라, PoC 성공을 운영과 트랜스포메이션의 공식으로 착각하는 것이 문제입니다.


4. 실패의 진짜 이유 5가지 — 구조의 공백

# 이유 실패 패턴 성공 패턴 / 원칙
1 풀어야 할 업무 문제를 잘못 잡는다 "우리도 AI로 뭘 해볼까?", "유행 기술을 어디에 붙일까?", "챗봇을 어디에 만들까?" "시간이 가장 많이 낭비되는 업무는?", "실수가 반복되는 구간은?", "고객 불만이 자주 생기는 접점은?", "의사결정이 느려지는 병목은?" → 기술에서 출발하면 '용도'를 찾고, 문제에서 출발하면 '해결책'을 찾는다
2 현업(쓰는 사람)이 주인이 되지 않는다 IT 부서 주도 개발 → 현업은 요구사항만 전달 → 배포 후 사용 저조 → 피드백 구조 없음 → 현장에서 외면 현업이 문제 정의 주도 → IT와 현업이 함께 설계 → 파일럿→피드백→개선 반복 → 현장 맥락이 AI에 반영 → 업무에 자연 안착. 현업은 요구사항 제공자가 아니라 'AI 설계의 공동 주인'
3 데이터와 업무 기준이 정리되어 있지 않다 같은 고객 다른 정의(부서마다 '고객' 기준 상이) / 같은 제품 다른 코드(시스템마다 코드 상이) / 기준이 사람 머릿속에(문서화 안 된 예외 규칙) AI가 답을 못하는 게 아니라, 회사가 AI에게 줄 '기준'을 아직 정리하지 못한 것. AI 성능 문제로 보이는 일의 상당수는 '기업 데이터 정리 문제'
4 성과 기준이 없다 "성공 기준은 무엇인가?", "몇 시간을 줄이면 성공인가?", "오류율은 얼마나 낮아져야 하나?", "매출·비용·리스크 중 무엇을 볼 것인가?" 라는 질문 자체가 부재 예시: 업무 처리 시간 30% 단축 / 반복 문의 20% 감소 / 리포트 작성 시간 주 5시간 절감 / 고객 응답 속도 개선 / 현업 월간 활성 사용자 수 증가. 측정할 수 없는 AI 성과는 경영진을 설득할 수도, 현업을 동기부여할 수도 없다
5 '좋은 사례 하나'와 '똑똑한 확산'을 같은 것으로 본다 해커톤·페스티벌로 BP는 만들지만, 운영단·상품화로는 이어지지 않음 확산은 '구조'가 만든다 (아래 6요소)

이유 5 상세 — 확산이 무너지는 흐름과 필요한 구조

일회성으로 끝나는 흐름

① PoC 성공(한 부서 시험 성공) → ② 발표 공유(사례·결과 배포) → ③ 타 부서 시도(동일 적용 시도) → ④ 실행 장애(데이터·권한·예산 불일치) → ⑤ 사례 종료(구조 없이 일회성)

확산에 필요한 6가지 요소

요소 역할
공통 데이터 기준 부서 간 재사용 가능한 데이터 정합성
재사용 가능한 플랫폼 사례를 자산으로 전환
의사결정 거버넌스 운영 판단의 소유자 확정
현업 교육 체계 사용 능력의 상향 평준화
운영 담당 조직 수면 위 유지
성과 측정 체계 단계적 점검과 투자 근거

'이유 5 — 좋은 사례 하나와 똑똑한 확산은 완전히 다릅니다' 5단계 흐름도와 확산 6요소

여기서 중요한 부연이 두 가지 있습니다. 첫째, 프로젝트 성공 후에도 지속적인 투자가 필요하고, ROI가 나오기 전까지 명확한 시점·기점을 제시해야 합니다. 둘째, 토큰 같은 운영 소비 비용이 실제 ROI에 맞는지를 성과 기준으로 다시 짚어야 합니다.


5. 결론 — AX의 문제는 기술보다 '운영 방식'

기술만 있는 회사 운영 방식이 있는 회사
모델 도입 문제 정의
PoC 데이터 정리
데모 현업 설계
중단 운영 반영 → 성과 측정 → 확산

'결국 AX의 문제는 기술보다 운영 방식입니다' — 두 회사 유형의 단계 대비

원칙: AX는 AI 기술을 많이 쓰는 회사가 아니라, AI가 '일하는 방식' 안에 들어간 회사가 잘합니다. 주인이 현업·스폰서십·고객이라는 관점에서, 이들의 피드백을 클로즈 루프(Close Loop) 로 빠르게 회수하는 것이 성패를 가릅니다.


6. 글로벌 사례 — Walmart과 Target은 무엇을 다르게 했나

구분 Walmart Target
배치 관점 현장 직원의 업무 도구로 매장 운영에 GenAI 직접 투입
내용 매장 직원 약 150만 명의 고객 응대·운영·업무 지원에 AI 연결 'Store Companion' GenAI 도구로 신규 직원 코칭, 프로세스 질문 응답, 매장 운영 지원
특징 별도 실험이 아닌 실제 업무 지원 도구로 배치 직원 영향력을 상향 평준화해 고객 만족도·매장 운영을 스마트하게 스케일링
출처 Walmart Corporate (2025) Target Corporate (2024)

'글로벌 기업들은 어떻게 다르게 접근하고 있나?' — Walmart·Target 대비 슬라이드

Target의 경우 2024년 6월 20일(미네아폴리스) 보도자료 기준, 리테일러용 신규 생성형 AI 챗봇 'Store Companion'이 팀원 업무 경감과 쇼핑 경험 향상을 목표로 하며, 8월까지 약 2,000개 매장의 수만 명 팀원에게 롤아웃된다고 밝힌 바 있습니다.

두 사례에서 받아야 할 레슨런은 명확합니다. 멋지고 기술로 찬란하고 빠른 AI가 아니라, 현장에서 계속 쓸 수 있고 그것이 고객 체감 포인트로 이어지는 AI를 만들고 있다는 점입니다.


7. AX를 잘하는 회사와 못하는 회사 — 5개 항목 비교

비교 항목 AX가 잘 안 되는 회사 AX를 잘하는 회사
출발점 기술부터 고른다 업무 문제부터 정의한다
성과 지표 PoC 숫자를 KPI로 본다 운영 성과를 KPI로 본다
참여 시점 현장이 나중에 참여한다 현장이 처음부터 참여한다
데이터 데이터 정리는 미룬다 데이터와 기준을 함께 정리한다
확산 성공 사례가 일회성으로 끝난다 확산 가능한 구조를 만든다

'AX를 잘하는 회사와 못하는 회사, 무엇이 다를까요?' 5개 항목 비교표

원칙: AX의 성패는 '무엇을 먼저 정하는가'에서 갈립니다. 순서가 결과를 만듭니다.

한 가지 실무 경계가 더 있습니다. 과거 대기업 팀장·실무 시절 경영진에게 많이 보고했던 MAU·DAU, 접속자, 클릭 수 같은 지표는, 많이 접속한다고 해서 솔루션이 잘 쓰이고 성공 체험이 있는 것과 별개입니다. 글로벌 기업의 대부분은 비즈니스 성과와 단계적 세부 세그먼트를 나눠 성과를 측정하고, 데이터 기준(요즘 말하는 Ontology, Palantir류의 데이터 근본 기준)을 표준화해 계속 쓸 수 있는 형태로 만듭니다.


8. 관점 포인트 — 도입 전에 반드시 물어볼 5가지

# 점검 항목 질문
01 업무 고통 정의 이 과제는 누구의 어떤 업무 고통을 줄이는가?
02 반복성 확인 현업이 매주 반복해서 쓰는 업무인가?
03 데이터 준비도 AI가 참고할 데이터와 기준은 정리되어 있는가?
04 성과 측정 기준 성공을 어떤 수치나 행동 변화로 볼 것인가?
05 확산 가능성 다른 부서로 확산할 수 있는 구조인가?

'AI 도입 전에 이 5가지를 먼저 물어봐야 합니다' — 도입 전 점검 체크리스트

원칙: 이 5가지에 답할 수 없다면, 아직 AI 도입을 시작할 시점이 아닙니다.

여기에 가성비 기준을 겹쳐야 합니다. 1억 원짜리 프로젝트인데 실제 체감이 1,000만~2,000만 원 수준이면 지속성이 부여되지 않고, 이해관계자에게 스폰서십을 받기 어렵습니다. 당연한 이치지만 도입·확산·전환 전에 반드시 점검할 지점입니다.

실무 적용 포인트 - ① 도입이 아니라 문제 정의에서 착수한다 — 시간 낭비 구간, 반복 실수, 고객 불만 접점, 의사결정 병목을 먼저 적는다. - ② 현업을 요구사항 제공자가 아니라 공동 설계자로 앉힌다 — 파일럿→피드백→개선의 반복 루프를 구조화한다. - ③ 'AI Ready'의 주체를 데이터로 본다 — AI에 줄 기준(고객 정의, 제품 코드, 예외 규칙)을 문서화한다. - ④ 성공을 수치와 행동 변화로 정의한다 — 처리 시간 30% 단축, 반복 문의 20% 감소, 주 5시간 절감처럼 세그먼트 단위로 잡는다. - ⑤ 사례가 아니라 재사용 구조에 투자한다 — 공통 데이터 기준·재사용 플랫폼·거버넌스·교육·운영 조직·성과 측정을 함께 올린다.


9. 최종 핵심 정리

확인해야 할 핵심 질문

질문 답에서 확인해야 할 것
우리는 AI를 도입한 것인가, 전환하고 있는 것인가? 일하는 방식과 의사결정 구조가 바뀌었는가
PoC 성공 후 운영으로 넘어간 사례가 있는가? 보안·권한, 데이터 품질, 비용, 책임 소재, 비즈니스 가치 5개 장애를 넘었는가
현업이 주인인가, IT가 주인인가? 문제 정의를 현업이 주도하고 피드백 루프가 닫히는가
AI가 쓸 기준이 정리됐는가? 고객·제품 정의와 예외 규칙이 문서화됐는가
성공을 무엇이라 부르는가? 측정 가능한 운영 KPI와 ROI(토큰 등 운영비 포함)가 있는가
사례가 **확산

| 사례가 확산 가능한 구조인가? | 공통 데이터 기준·재사용 플랫폼·거버넌스·교육·운영 조직·성과 측정 6요소가 갖춰졌는가 |

오늘의 3줄 요약 (슬라이드 18/20)

# 요약 부연
1 AI 도입과 AX는 다릅니다 도구를 들여오는 것과 일하는 방식을 바꾸는 것은 본질적으로 다른 일입니다
2 AX 실패의 원인은 '구조'입니다 문제 정의, 현장 주도성, 데이터 기준, 성과 기준, 확산 구조가 없으면 기술이 좋아도 한계가 있습니다
3 현장이 계속 쓰는 회사가 잘합니다 화려한 시연보다 매일 쓰이는 AI가 진짜 성과를 만듭니다

'오늘의 핵심 — 3줄 요약' 슬라이드

다음 편 예고: 이제 진짜 질문은 "어떻게 전환을 성공시킬 것인가?" → 『AI 전환 절대 공식』에서 다뤄집니다.


한 줄 요약: AI는 '설치하는 것'이 아니라 '일하는 방식 안에 심는 것'이며, AX의 성패는 모델 성능이 아니라 무엇을 먼저 정하는가라는 순서가 만든다.