AI 전환 격차 해소: 기업의 에이전틱 AI 준비 방법

AI를 둘러싼 온갖 소란 속에서도 논의되지 않고 있는 중요한 주제는 바로 AI 전환 격차입니다. 

이제 규모를 불문하고 모든 조직이 업무 효율성, 생산성, 수익을 혁신할 수 있는 AI의 잠재력에 대해 잘 알고 있습니다. 최근 진행된 McKinsey 글로벌 AI 설문조사에서 응답자의 4분의 3 이상이 자신의 조직에서 AI를 사용하는 직무가 1개 이상이라고 답했습니다.

그러나 실제로 AI의 혁신을 실현하는 프로젝트는 거의 없습니다. 최근 MIT의 State of AI in Business 2025 연구에 따르면 정확히 5%에 불과합니다. 생성형 AI 파일럿의 95%가 실패하고 있는데, 이는 AI 구현에 있어서 난도가 낮은 목표입니다. 

작업을 자율적으로 수행하는 AI 애플리케이션을 일컫는 에이전틱 AI는 생성형 AI보다 훨씬 큰 혁신을 불러올 수 있습니다. 하지만 동시에 더 큰 복잡성을 수반합니다. Gartner®는 '2027년까지 에이전틱 AI 프로젝트의 40% 이상이 비용 증가, 사업적 가치의 모호성, 부적절한 위험 관리로 인해 무산될 것'이라고 예측합니다(Gartner, "Emerging Tech: Avoid Agentic AI Failure: Build Success Using Right Use Cases", 2025년 5월 15일).

조직은 AI 혁신이 효과적으로 구현하기가 너무 복잡하다는 사실을 받아들이고 단념해야 할까요?

물론 아닙니다. McKinsey & Company의 데이터에 따르면 디지털 및 AI 역량이 뛰어난 기업은 그렇지 못한 기업보다 총 주주 수익률에서 2~6배 높은 성과를 냅니다. 

이는 굉장히 훌륭한 투자수익률입니다. 하지만 AI의 잠재력과 실현 가치 사이의 간극을 메우려면, 즉 수익을 실현하려면 AI 이니셔티브의 문제점을 파악해야 합니다. 

여기서 희소식은, AI 전환은 복잡할 수도 있지만, 지금 당장 기업이 에이전틱 AI에 대비하는 간단한 방법이 있다는 것입니다.  

AI 전환이란 무엇인가요?

AI 전환은 조직이 운영, 제품, 서비스의 모든 측면에 인공지능(AI)을 도입하는 포괄적이고 전략적인 과정입니다. 기업 대부분이 AI를 사용한 과업 자동화, 의사 결정 가속화, 고객 경험 개선, 제품이나 서비스 창출을 계획합니다. 

AI 전환은 단순히 AI 도구 몇 가지를 도입하는 차원을 넘어 사업 전략, 운영 프로세스, 조직 문화의 근본적인 변화를 의미합니다. 그래서 AI 전환이 어렵기도 합니다. 사업의 여러 측면을 조정하고 변경하려면 AI 전환에 대해 제대로 이해해야 하지만, 대부분의 기업이 그렇지 못합니다. 

더 자세히 알아보겠습니다.

AI 전환에서 가장 큰 난관은 무엇일까요?

AI 전환에서 가장 큰 난관은 AI를 사용해야 하는 사람들의 일상 워크플로에 AI를 결합하는 것입니다. 

이 난관을 제대로 이해하기 위해 물류 영역의 '라스트 마일 문제'를 예로 들어보겠습니다. 

라스트 마일 문제는 배송의 마지막 단계, 즉 제품을 사용자에게 전달하는 과정에서 발생하는 과도한 어려움과 비용을 의미합니다. 예를 들어, 소비재의 경우 고객이 상품을 아예 받지 못하거나, 늦게 받거나, 손상된 상태로 받는다면 창고 유통이나 포장 과정이 아무리 효율적으로 이루어져도 아무 의미가 없습니다. 

AI 전환에서 라스트 마일은 AI를 실제 워크플로에 내재화하는 중요한 단계이지만, 이는 종종 간과되곤 합니다. 많은 조직이 방대한 데이터 세트로 강력한 AI 모델을 구축하거나 알고리즘을 학습시키고 있지만, 이러한 모델을 AI를 사용하는 직원과 연결하는 데 어려움을 겪고 있습니다. AI가 아무리 강력해도 업무에 효과적으로 적용되지 않으면 의미가 없습니다.

따라서 그러한 작업이 명확하게 문서화되어 있지 않으면 AI를 비즈니스 운영에 효과적으로 적용할 수 없습니다. 

AI 에이전트는 다양한 비즈니스 시스템 및 프로세스와 상호 작용하도록 설계되었으며, 중요한 맥락이 존재해야 효과적으로 작동합니다. Forrester는 "작업을 실행하는 방법에 대해 AI 에이전트에 단계적으로 설명해야 합니다. 오늘날 대부분의 기업에서 이러한 노하우를 파편화된 워크플로, 문서화되지 않은 데이터, 비공식적인 프로세스 형태로 보유하고 있습니다."라고 설명합니다(Forrester 블로그, "Autonomy Is The Future, But AI Agents Still Deliver Value Today", 2025년 7월).

Lucid는 최근의 설문조사에서 업무 문서화가 부족하다는 점을 확인했습니다.

• 지식 근로자의 49%는 현재 조직의 운영 워크플로가 상당히, 또는 거의 문서화되어 있지 않다고 말합니다. 
• 60%는 팀 워크플로의 절반 이상이 비공식적이거나 개인의 지식에 의존한다고 답했습니다.
• 80%는 조직 또는 부서의 지식에 의존해 업무를 처리한다고 합니다.

결론적으로, 현재의 기업 프로세스, 워크플로, 아키텍처, 데이터 흐름, 협업 관행을 이해하고 문서화하지 않는 한 AI, 특히 에이전틱 AI를 도입하더라도 그 잠재력을 최대한 활용할 수 없습니다.

AI 전환을 라스트 마일까지 이끄는 방법

에이전틱 AI 도입의 가장 큰 장벽이 문서화 부족에서 기인한다는 점을 생각하면, AI를 라스트 마일까지 가져가기 위한 첫 단계는 간단해 보입니다. 바로 문서를 작성하는 것입니다. 

AI 전환의 라스트 마일을 준비, 전략, 실행의 세 단계로 생각해 보세요. 각 단계에서 AI를 워크플로에 효과적으로 통합하려면 각기 다른 문서화가 필요합니다.

AI 준비

AI 준비 단계에서는 현재의 워크플로, 프로세스, 시스템을 평가하여 AI 개선을 위한 준비가 얼마나 잘 되어있는지 진단합니다. 

Bill Gates는 이렇게 말합니다. 

"비즈니스에 사용되는 모든 기술의 첫 번째 규칙은 효율적인 운영에 자동화를 적용하면 효율성이 증대된다는 것입니다. 두 번째 규칙은 비효율적인 운영에 자동화를 적용하면 비효율성이 증대된다는 것입니다." 

AI 준비에 도움이 되는 문서화 유형은 무엇일까요? 다음은 몇 가지 추천되는 문서화 유형입니다.

• 비즈니스 프로세스 맵 
• 사용자 여정 흐름
• 클라우드 아키텍처 다이어그램
• 데이터 흐름 다이어그램(DFD)

이 단계에서는 문서화할 내용이 많으므로 조직 전체의 구성원들을 프로세스에 참여시키는 것이 가장 좋습니다. 이때 사용하기 쉽고 지능형 기능이 있으며 실시간 협업을 지원하는 Lucid와 같은 솔루션을 사용하면 다이어그램을 자동으로 생성하여 모든 관계자의 시간을 절약할 수 있습니다. 

AI 전략

AI 전략 수립은 팀이 제품을 개발하는 과정과 유사합니다. 리더들은 실시간 또는 비동기적으로 모여 브레인스토밍을 하고, 가장 유망한 기회를 우선순위에 따라 정리하고, 계획 세션을 진행하며, 실행을 위한 로드맵을 개발하기 위한 공간을 필요로 합니다.

이러한 활동의 산출물은 다음과 같습니다.

• AI 파일럿 프로그램의 우선순위, 목표, 위험 요인, 지표
• 시스템 및 프로세스의 미래 상태도 
• 명확한 이정표와 작업 소유자가 기재된 상세 타임라인

AI 실행

물론 전략의 가치는 실행할 수 있는 능력에 비례합니다. 인간과 AI가 프로젝트에서 원활하게 협업하려면 인간과 AI 모두가 준수하는 문서가 필요합니다.

이러한 문서의 내용은 다음과 같습니다.

• 사용 가능한 AI 에이전트의 기능과 제한 사항이 나열된 AI 에이전트 디렉토리
• 인간과 AI 에이전트의 역할과 책임을 명확히 규정하는 RACI 차트 또는 조직도
• AI 에이전트 모델링을 위한 프로토콜(예: 의사결정나무, 인간 참여형 프로세스 맵, 또는 예외 처리)

대부분의 조직은 AI 도입 초기 단계에 있지만, 상당수가 이미 Lucid와 같은 솔루션에서 생성된 프로세스와 프로토콜 맵을 알차게 활용하고 있습니다. 예를 들어, AI 에이전트는 Lucid의 의사결정나무를 따라 연속적으로 여러 결정을 내리고, 판단 근거를 제시하며, 해결책을 추천할 수 있습니다.  

AI 전환 예시: AI 전환의 모든 단계를 함께하는 Lucid

Lucid가 최근 진행한 설문 조사에 따르면, 대규모로 지식을 확보하고 문서화하는 데 가장 큰 장애물은 응답자의 40%가 언급한 시간 부족과 30%가 언급한 도구 부족이었습니다. 

AI 격차를 해소하려면 기업 업무를 신속하게 문서화하는 솔루션이 필요합니다. Lucid는 프로세스, 시스템, 전략, 계획을 시중에 있는 어떤 제품보다도 쉽게 체계화하는 도구입니다. 

Lucid에서의 AI 전환 단계를 예로 들어보겠습니다.

AI 준비부터 시작합시다. 앞서 말했듯, 가장 먼저 할 수 있는 일은 회사의 업무 진행 방식을 문서화하는 것입니다. 

Lucid에서는 수백 개의 템플릿을 사용하고, AI를 통해 보고 싶은 내용을 입력하기만 하면 다이어그램이 생성됩니다.

다이어그램에 데이터를 연결하고 조건부 서식을 사용해서 빠르게 인사이트를 도출할 수도 있습니다. 

이 경우에도 문서화된 정보가 많을수록 좋습니다. 이 정보는 현재의 비즈니스 요구 사항과 미래의 외부 AI 에이전트에 모두 풍부한 맥락을 제공합니다. 예를 들어, Lucid의 클라우드 액셀러레이터는 클라우드 아키텍처와 인프라를 시각화하여 AI가 탐색할 수 있는 명확한 지도를 제공합니다. 

그리고 이 문서를 팀원과 공유해서 비즈니스 운영 방식을 정확하게 파악하고 조정할 수 있어야 합니다. 

더 나아가, 프로세스 액셀러레이터 또는 클라우드 액셀러레이터를 통해 공식 문서를 중앙 저장소에 게시하면 더더욱 좋습니다. 기업의 모든 구성원이 이러한 저장소를 쉽게 이용하고 검색할 수 있어야 하며, 여기에 게시된 모든 문서는 AI가 따라야 할 권위 있는 문서, 즉 승인된 공식 문서가 됩니다.

Lucid와 함께하면 AI 전략을 지금 바로 시작할 수 있습니다. 

먼저 적절한 프로젝트 문서와 적절한 인력을 팀 허브에 모아보세요. 회사에 AI CoE(Center of Excellence)가 있고, 여기에 여러분과 임원, 부서 리더 몇 명이 있다고 가정하겠습니다. 이제 모두가 함께 AI 이니셔티브를 추진할 수 있는 중앙 공간이 생겼습니다. 

AI를 통해 어떤 기회를 잡을 수 있을지 브레인스토밍을 해보세요. AI를 적용해 가장 큰 효과를 볼 수 있는 영역부터 생각하는 건 어떨까요? 팀원들과 함께 진행하거나, 방향을 제시하는 프레임과 방침을 사용해 비동기적으로 진행할 수 있습니다.

Lucid에서 AI를 사용해 브레인스토밍을 테마별로 분류하거나 핵심 개념을 요약하는 것도 가능합니다.

AI에서 찾을 수 있는 기회를 브레인스토밍한 다음에는 Lucid를 사용해 다음 단계를 빠르게 조정해 보세요. 예를 들어, AI를 어디에 적용할 지에 대한 모든 아이디어를 시각적 활동(대화형 설문조사)으로 옮긴 다음, 각 팀원이 실현 가능성과 영향력을 평가하도록 할 수 있습니다.

몇 시간에 걸친 토론으로 의견을 조율하는 대신, 합의가 이루어진 부분을 몇 분만에 확인할 수 있습니다. 

이제 AI 적용 방안에 대한 최고의 아이디어를 바탕으로 AI 구현 타임라인을 만들어 보세요.

가장 효율적인 AI 구현 계획을 세울 때 어질리티 액셀러레이터를 사용하면 인력, 범위, 수용량, 마감일에 따라 다양한 계획을 시각화할 수 있습니다.

계획을 세우고 나면 Lucid에서 해당 작업을 Jira, Azure DevOps 같은 프로젝트 관리 시스템과 자동으로 동기화할 수 있습니다.

AI를 도입하고 나면 이러한 활동을 적극적으로 관리해야 합니다. Lucid는 도입 과정 전반에서 팀을 조율하고 진행 상황, 장애물, 성공 지표를 모니터링하도록 지원합니다.

현장에서 AI를 실행하는 다부서 AI 팀은 팀 허브에서 업무를 진행하면서 활동을 보다 효과적으로 조정할 수 있습니다. 

또한 airfocus를 사용해서 특정 업무가 포함된 전략적 로드맵을 구축할 수 있습니다. 이를 통해 작업을 효율적으로 계획하고, 실시간으로 조정하고, 매우 빠르게 성과를 낼 수 있습니다. 

AI가 기업의 필수 요소로 자리잡음에 따라 Lucid를 사용해 이러한 새로운 현실을 다이어그램으로 나타낼 수 있습니다. 예를 들어, 프로세스 문서에 AI 에이전트의 역할을 명시하는 스윔레인을 그려 넣고, 레이어를 사용해서 변경 사항이 더 쉽게 이해되도록 만들 수 있습니다.

AI 전환 파일럿 과정에 맞춰 대시보드를 구축하거나, 프로세스 맵에 데이터를 덮어씌워서 변경 사항이 미친 영향을 추적하고, 필요에 따라 접근 방식을 전환할 수 있습니다. 

AI 전환 여정의 다음 단계

에이전틱 AI를 도입할 준비를 마친 기업은 많지 않을 수 있지만, 라스트 마일 문제를 해결하고 업무를 문서화하면 AI 전환을 위한 첫 걸음을 내디딜 수 있습니다.

먼저 Lucid에서 프로세스, 시스템, 데이터를 시각화해서 기업이 AI 기능을 구축하는 데 중요하지만 문서화되어 있지 않은 일상 업무에 관한 직원들의 지식을 확보하세요. 

Lucid는 다음을 통해 AI 전환을 지원합니다.

• 100개 이상의 주요 앱 통합
• 직관적이고 지능적인 협업 기능
• 문서화를 간소화하는 고급 부가 기능
• 맞춤 솔루션을 제공하는 전문 서비스 팀

AI 전환 여정의 다음 단계로 나아가려면 Lucid에 문의하세요.