불과 몇 년 전까지 기업에서 AI를 사용한다는 것은 대부분 “AI에게 질문하고 답을 받는 것”을 의미했다. 보고서를 요약하고, 이메일을 작성하고, 데이터를 분석하고, 문서를 번역하는 것이 대표적인 사례였다. 이러한 Generative AI는 분명 기업의 생산성을 크게 높였다. 하지만 기본적인 역할은 여전히 사람을 지원하는 것이었다. 사람이 질문한다. AI가 답한다. 그리고 실제 행동은 사람이 한다. 그러나 이제 그 구조가 바뀌고 있다. AI가 단순히 답을 만드는 것을 넘어, 목표를 이해하고 필요한 데이터를 찾고, 시스템을 호출하고, 다음 행동을 판단하고, 실제 업무까지 수행하기 시작하고 있다.

이 변화의 중심에 두 가지 용어가 있다. AI Agent와 Agentic AI다. 두 용어는 자주 혼용되지만 정확히 같은 의미는 아니다. AI Agent and Agentic AI Are Not Exactly the Same 먼저 한 가지 짚고 넘어갈 필요가 있다. AI Agent와 Agentic AI에 대한 정의는 아직 업계 전체에서 완전히 통일되어 있지는 않다. Microsoft, IBM, SAP, Salesforce 등 주요 기술 기업들도 표현하는 방식에는 다소 차이가 있다.

하지만 기업 현장에서 이해하기 쉽게 구분하면 다음과 같다. AI Agent는 특정 목표를 수행하는 개별적인 AI 실행 주체다. Agentic AI는 하나 또는 여러 AI Agent가 목표를 중심으로 계획하고, 판단하고, 도구와 시스템을 활용해 여러 단계의 업무를 수행하는 보다 넓은 개념이다.

쉽게 표현하면 다음과 같다. AI Agent = Individual Digital Worker, Agentic AI = The Operating Model in Which AI Plans, Decides and Acts 즉 AI Agent는 “누가 일을 하는가”에 대한 개념이고, Agentic AI는 “AI가 어떤 방식으로 일을 수행하는가”에 대한 개념에 가깝다. AI Agent: A Digital Worker With a Specific Role, AI Agent는 특정한 역할과 목표를 가진 Digital Worker라고 생각하면 이해하기 쉽다.

기업에는 앞으로 다음과 같은 AI Agent가 존재할 수 있다. Purchase Requisition Agent, Inventory Agent, Invoice Processing Agent, Customer Service Agent, Recruiting Agent, Logistics Agent, Demand Planning Agent, 각 Agent는 자신에게 주어진 역할과 권한 안에서 특정 업무를 수행한다.

예를 들어 Purchase Requisition Agent는 사용자의 구매 의도를 이해한 뒤 필요한 품목과 공급업체를 확인하고, 회사의 구매정책을 검토하며, Purchase Requisition에 필요한 정보를 준비할 수 있다. 기존 Generative AI와 가장 큰 차이는 여기에서 나타난다. 기존 AI는 이렇게 답할 수 있었다. “노트북을 구매하려면 회사 구매정책을 확인한 뒤 Purchase Requisition을 작성하십시오.” AI Agent는 한 단계 더 나아간다. 구매정책을 실제로 확인한다. 승인된 Supplier를 찾는다. 가격과 계약조건을 확인한다. 필요한 정보를 입력한다. Purchase Requisition을 생성하거나 승인을 요청한다.

즉 AI가 단순히 “무엇을 해야 하는지 설명하는 것”에서 “실제로 업무를 수행하는 것”으로 이동한다. Agentic AI: When AI Begins to Manage a Process, Agentic AI는 이보다 더 넓은 개념이다. Agentic AI에서는 AI가 단순히 한 가지 업무만 수행하는 것이 아니라, 목표를 이해하고 목표를 달성하기 위해 필요한 여러 단계를 스스로 계획한다. 필요하면 다른 Agent를 호출하고, ERP나 CRM 같은 시스템에 접근하며, 결과를 확인한 뒤 다음 행동을 결정한다.

예를 들어 사용자가 이렇게 요청한다고 가정해보자. “이번 주 생산계획에 영향을 줄 수 있는 공급 문제를 찾아서 필요한 조치를 준비해줘.” 이 요청은 하나의 단순한 작업이 아니다. 먼저 Open Purchase Order를 확인해야 한다. 현재 Inventory를 확인해야 한다. Production Plan을 확인해야 한다. Supplier Delivery Schedule을 확인해야 한다. 물류상태도 점검해야 한다. 필요하다면 Alternative Supplier도 찾아야 한다.

여기서 각각의 역할을 전문 Agent가 담당할 수 있다. Procurement Agent가 Open PO를 확인한다. Inventory Agent가 현재 재고와 Safety Stock을 분석한다. Production Planning Agent가 생산계획에 미치는 영향을 계산한다. Logistics Agent가 Shipment Status와 ETA를 확인한다. Supplier Risk Agent가 공급업체의 위험요인을 분석한다. 그리고 전체 시스템이 그 결과를 종합해 다음 행동을 결정한다. 이런 구조가 Agentic AI에 가깝다.

중요한 점은 Agentic AI가 반드시 여러 Agent를 필요로 하는 것은 아니라는 것이다. 하나의 고도화된 Agent도 여러 시스템과 Tool을 사용하며 계획, 판단, 실행을 반복한다면 Agentic한 특성을 가질 수 있다. 따라서 AI Agent와 Agentic AI의 차이를 단순히 “Agent 하나냐 여러 개냐”로 구분해서는 안 된다. 핵심은 다음과 같다. AI Agent는 실행 주체다. Agentic AI는 목표를 중심으로 AI가 스스로 계획하고 판단하며 행동하도록 만드는 보다 넓은 방식이다.

Case 1 | AI Agent: A Procurement Agent at Work
기업의 구매 업무를 생각해보자. 직원이 다음과 같이 요청한다. “새로 입사한 직원들을 위해 노트북 20대를 구매해야 한다.” 기존 방식에서는 직원이나 구매담당자가 직접 구매 시스템에 들어가야 한다. 품목을 검색한다. Preferred Vendor를 확인한다. 가격을 비교한다. Budget과 Cost Center를 확인한다. Purchase Requisition을 작성한다. 그리고 승인 프로세스로 넘긴다. AI Agent가 적용되면 이 과정의 상당 부분을 Agent가 담당할 수 있다. Purchase Requisition Agent가 사용자의 요청을 이해한다. 회사 구매정책을 확인한다. Approved Supplier를 찾는다. 적절한 사양의 노트북을 추천한다. 계약가격을 확인한다. Cost Center와 Budget 정보를 불러온다. Purchase Requisition에 필요한 정보를 입력한다. 그리고 사람에게 최종 승인을 요청한다.

여기서 AI Agent는 구매에 대해 설명하는 Chatbot이 아니다. 실제 Procurement Process 안에서 역할을 수행하는 Digital Worker다.
SAP 역시 구매 영역에서 Purchase Requisition Creation Agent, Purchase Requisition Optimization Agent, Demand Aggregation Agent 등과 같은 AI Agent 개념을 확대하고 있다.이는 ERP 사용자 경험이 단순한 화면 중심에서 역할 중심으로 변화하고 있음을 보여준다.

Case 2 | Uniper: Building a Specialized Procurement Agent
독일의 글로벌 에너지 기업 Uniper 역시 Procurement 영역에 AI Agent를 적용하고 있다. Uniper는 SAP의 AI 및 Joule 관련 기술을 활용해 구매업무를 지원하는 Custom Procurement Agent를 구축했다. 전통적인 구매환경에서는 직원이 여러 시스템과 화면을 직접 이동해야 했다. 구매요청을 찾고, 계약정보를 확인하고, Supplier 정보를 검색하고, Procurement Policy를 찾아야 했다. 하지만 AI Agent 환경에서는 직원이 자연어로 질문할 수 있다. “이 구매요청의 현재 상태는 무엇인가?” “이 품목에 사용 가능한 기존 계약이 있는가?” “승인된 Supplier가 누구인가?” “이 구매가 회사 정책에 맞는가?”

Agent는 관련 시스템과 데이터를 확인해 필요한 정보를 제공하거나 다음 업무를 준비한다. 이 사례의 중요한 의미는 AI가 기업 전체를 운영한다는 것이 아니다. 특정 업무에 전문성을 가진 하나의 Digital Worker가 생겼다는 것이다. 이것이 AI Agent의 가장 현실적인 초기 형태다.

Case 3 | Agentic AI: Mota-Engil’s Procure-to-Pay Transformation
Agentic AI는 한 단계 더 나아간다. 포르투갈에 본사를 둔 글로벌 건설 및 인프라 기업 Mota-Engil의 사례를 보자. 건설 현장에는 매일 다양한 자재가 들어온다. 기존 환경에서는 현장 직원이 납품된 물품과 Delivery Note를 확인한다. 종이 문서를 관리한다. 행정 직원이 다시 문서를 검토한다. 그리고 SAP에 Goods Receipt 정보를 입력한다. 이 과정이 지연되면 문제는 Procurement 영역에서 끝나지 않는다.
Goods Receipt가 등록되지 않는다. Invoice Matching이 늦어진다. Invoice Approval이 지연된다. 결과적으로 Supplier Payment까지 늦어진다. 하나의 현장업무가 Procurement와 Finance Process 전체에 영향을 주는 것이다.

Mota-Engil은 SAP BTP, SAP Business AI, Document AI 등의 기술을 활용해 Procure-to-Pay 프로세스를 보다 Agentic한 구조로 전환하는 작업을 진행했다. 현장 직원이 Delivery Note나 수령한 물품의 이미지를 업로드한다. AI가 문서를 읽는다. Supplier, Material, Quantity 등의 정보를 추출한다. SAP의 Purchase Order와 비교한다. Goods Receipt와 연결한다. 그리고 이후 Invoice Processing 및 Payment Process에 필요한 정보까지 전달한다.

여기에서 중요한 것은 하나의 AI 기능이 아니다. Document Recognition, Purchase Order Matching, Goods Receipt, Invoice Processing, Payment Process, 등 여러 업무단계가 하나의 목표를 중심으로 연결되고 있다는 점이다. AI가 하나의 질문에 답하는 것이 아니라 End-to-End Process의 흐름에 참여하기 시작한 것이다. 이것이 Agentic AI가 기업에 미치는 더 큰 변화다.

Case 4 | When Multiple AI Agents Begin to Work Together
Agentic AI의 진정한 잠재력은 여러 전문 Agent가 하나의 Business Process 안에서 협력하기 시작할 때 더 분명하게 나타난다. 덴마크 산업용 제품 유통기업 Lemvigh-Müller는 Procurement Process에 여러 Custom AI Agent를 적용했다. Supplier가 Order Confirmation을 이메일이나 PDF 형태로 보낸다고 가정해보자. 과거에는 직원이 직접 이메일을 열어야 했다. PDF를 확인한다. 가격을 확인한다. 수량을 확인한다. 납기일을 확인한다. 그리고 SAP Purchase Order와 비교한다. 하루에 수백 건의 Confirmation이 들어온다면 상당한 수작업이 발생한다.

AI Agent는 이 업무를 다르게 처리한다. 이메일을 읽는다. 첨부된 PDF를 분석한다. Supplier를 확인한다. Purchase Order Number를 추출한다. 수량을 확인한다. 가격을 확인한다. Delivery Date를 확인한다. 그리고 SAP Purchase Order와 비교한다. 모든 조건이 일치하면 정상 프로세스로 진행한다. 차이가 발견되면 Exception으로 판단하고 담당자에게 전달한다.

즉 업무 흐름이 다음과 같이 변한다. Read, Understand, Compare, Decide, Act, AI가 문서를 읽는 것에서 끝나지 않는다. 문서의 의미를 이해하고, Enterprise Data와 비교하고, 상황을 판단한 뒤 다음 행동까지 연결한다. 이것이 단순한 Generative AI와 Agentic AI 사이의 중요한 차이다.

Traditional Automation vs. Agentic AI
Agentic AI를 이해하려면 기존 RPA와 비교해보는 것도 도움이 된다. 전통적인 RPA는 기본적으로 사람이 사전에 정해놓은 절차를 따른다.
예를 들어 다음과 같은 Rule을 정의할 수 있다. Invoice가 이메일로 들어오면 첨부파일을 저장한다. Invoice Number를 읽는다. ERP에 입력한다. 특정 금액 이상이면 Manager에게 보낸다.매우 효과적인 자동화 방식이지만 예상하지 못한 상황에는 취약하다.

Agentic AI는 조금 다르다. Rule을 따르는 것에서 더 나아가 현재 상황과 목표를 이해하려 한다. 예를 들어 Supplier가 이렇게 이메일을 보냈다고 생각해보자. “Invoice #1258이 아직 지급되지 않았습니다. 지급 상태를 확인해 주십시오.” 기존 자동화에서는 이 이메일을 AP 담당 직원에게 전달할 수 있다. 하지만 Agentic AI에서는 다음과 같은 흐름이 가능하다.

이메일 내용을 이해한다. Invoice Number를 추출한다. ERP에서 Invoice를 조회한다. Purchase Order를 확인한다. Goods Receipt 여부를 확인한다. Invoice Approval 상태를 확인한다. Payment Run에 포함되어 있는지 확인한다. 문제가 없다면 예상 지급일을 Supplier에게 안내한다. Goods Receipt가 누락됐다면 관련 담당자에게 Action을 요청한다. Invoice 금액이 PO와 일치하지 않는다면 Exception Process로 넘긴다.

AI가 하나의 Task를 자동화하는 것이 아니다. 문제를 이해하고, 원인을 찾고, 필요한 여러 시스템을 확인하고, 적절한 다음 행동을 결정한다. 이것이 Agentic AI의 핵심적인 특징이다. From Screens and Transactions to Intent 이 변화는 ERP 산업에도 매우 큰 영향을 줄 가능성이 있다. 지난 수십 년 동안 ERP를 사용하는 방식은 기본적으로 Transaction 중심이었다. 사용자는 자신이 해야 할 일을 알고 있어야 했다.

어느 화면으로 들어가야 하는지 알고 있어야 했다. 어떤 메뉴를 선택해야 하는지 알아야 했다. 어떤 필드를 입력해야 하는지 알아야 했다. 그리고 어떤 순서로 Transaction을 실행해야 하는지도 알아야 했다. SAP를 오래 사용한 사람이라면 익숙한 질문이 있다. “어떤 Transaction Code를 사용해야 하지?” 하지만 Agentic AI 시대에는 질문 자체가 달라질 수 있다.

“What do I want to accomplish?” 사용자는 원하는 결과를 말한다. 예를 들어 다음과 같이 요청한다. “이번 주 생산계획에 영향을 줄 가능성이 있는 공급 문제를 찾아서 필요한 조치를 준비해줘.” 그 다음부터는 AI가 필요한 시스템과 Agent를 찾는다. Open Purchase Order를 확인한다. Inventory를 확인한다. Production Plan을 확인한다. Inbound Shipment를 확인한다. Supplier Delivery Performance를 분석한다. Risk가 높은 Material을 찾아낸다. 대체 Supplier를 검토한다. Inventory Transfer 가능성을 확인한다. Expediting이 필요한 주문을 추천한다. 그리고 최종적인 Business Decision이 필요한 사항만 사람에게 전달한다.

이것은 기존 ERP 사용 방식과 상당히 다르다. 과거에는 사람이 시스템을 움직였다. 앞으로는 사람이 목표를 정의하고 AI가 시스템을 움직이는 구조가 확대될 수 있다. ERP Could Become the Execution Layer for AI 이 변화가 의미하는 또 하나의 중요한 점이 있다. AI가 발전한다고 해서 ERP가 중요하지 않아지는 것은 아니다. 오히려 반대일 수 있다. AI Agent가 기업에서 실제 업무를 수행하려면 신뢰할 수 있는 데이터와 Transaction System이 필요하다. Customer Master가 필요하다. Vendor Master가 필요하다. Material Master가 필요하다. Inventory Data가 필요하다. Purchase Order가 필요하다. Invoice가 필요하다. Accounting Data가 필요하다. Production Plan이 필요하다. Approval Authority가 필요하다. 이 모든 정보는 ERP와 Enterprise Application 안에 존재한다.

따라서 앞으로 ERP의 역할은 단순히 사람이 Transaction을 입력하는 시스템에서 AI Agent가 기업의 실제 업무를 수행하기 위해 사용하는 Execution Layer로 발전할 가능성이 있다. AI가 기업의 두뇌라면 ERP, CRM, SCM, WMS는 기업의 기억과 신경망 역할을 하게 되는 셈이다. But Autonomy Creates a New Risk, AI가 행동하기 시작하면 기업에게 새로운 문제가 생긴다.

AI에게 답변할 권한을 주는 것과 행동할 권한을 주는 것은 전혀 다른 문제다. AI가 잘못된 보고서를 작성하면 사람이 수정할 수 있다. 그러나 AI가 잘못된 Supplier에게 Purchase Order를 발행하면 실제 비용이 발생한다. AI가 잘못된 Accounting Entry를 설명하는 것과 실제 General Ledger에 Posting하는 것은 다르다. AI가 Refund Policy를 잘못 설명하는 것과 고객 계좌로 실제 $50,000을 Refund하는 것도 전혀 다른 위험이다.

AI Agent가 Supplier에게 이메일을 작성하는 것과 Supplier Contract를 변경하는 것 역시 다르다. 따라서 Agentic AI 시대에 기업이 고민해야 할 가장 중요한 질문은 단순히 다음이 아니다. “How intelligent is the AI?” 더 중요한 질문이 있다. “How much authority should the AI have?” AI의 지능보다 AI에게 부여하는 권한이 Governance 관점에서는 더 중요할 수 있다. The Future Is Not Full Autonomy, 기업에서 AI가 발전한다고 해서 모든 업무가 완전히 자율화될 가능성은 높지 않다.

현실적인 기업환경에서는 Risk Level에 따라 AI의 권한을 다르게 설정할 가능성이 크다. 낮은 위험의 업무에서는 AI가 스스로 실행할 수 있다. 중간 위험의 업무에서는 AI가 Action을 준비하고 사람이 승인할 수 있다. 높은 위험의 업무에서는 AI는 분석과 추천만 하고 최종 결정은 사람이 내린다.

이를 네 단계로 구분해볼 수 있다.
Level 1 — Recommend, AI가 문제를 발견하고 해결방법을 제안한다. 예를 들어 Inventory Shortage를 발견한 뒤 Alternative Supplier를 추천한다.
Level 2 — Prepare, AI가 실제 Action을 준비한다. Purchase Requisition이나 Purchase Order Draft를 만들고 사람이 승인하도록 한다.
Level 3 — Execute Within Limits, 기업이 사전에 정의한 금액이나 조건 안에서는 AI가 직접 실행한다. 예를 들어 $1,000 이하의 반복 구매는 승인된 Vendor와 계약조건 안에서 자동으로 처리할 수 있다.
Level 4 — Human Approval Required, 고액 Payment, 중요한 Contract 변경, Pricing Decision, Legal Decision 또는 Strategic Decision은 반드시 사람이 승인한다.

따라서 Agentic AI의 목표는 Maximum Autonomy가 되어서는 안 된다. 기업에게 더 중요한 것은 Controlled Autonomy다. Human + Agent Will Become the New Operating Model, AI Agent가 발전하면 기업의 조직 구조 역시 변화할 가능성이 있다.

현재 Supply Chain 조직을 생각해보자. Supply Chain Manager가 있다. 그 아래에 Buyer가 있다. Demand Planner가 있다Inventory Analyst가 있다. Logistics Coordinator가 있다. 앞으로는 이 조직에 Digital Worker가 추가될 수 있다. Procurement Agent가 반복 구매업무를 담당한다. Inventory Agent가 재고 이상을 감지한다. Demand Planning Agent가 Forecast를 지속적으로 분석한다. Logistics Agent가 Shipment Delay를 모니터링한다. Supplier Risk Agent가 Vendor Risk를 분석한다. Invoice Agent가 AP 업무를 처리한다.

사람은 더 복잡한 예외 상황을 처리한다. Supplier Negotiation을 한다. Risk를 판단한다. Business Priority를 결정한다. Strategic Decision을 내린다. 이렇게 되면 미래의 Manager는 사람만 관리하지 않을 수 있다. Human Workforce와 Digital Workforce를 함께 관리하게 된다. Manager의 역할 역시 달라진다. 누가 어떤 업무를 담당할 것인가. 어떤 Agent에게 어떤 권한을 줄 것인가. Agent의 Performance를 어떻게 측정할 것인가. 어떤 Exception은 사람에게 Escalation할 것인가. AI가 잘못된 결정을 했을 때 누가 책임질 것인가. 이런 질문들이 새로운 Management Issue가 될 수 있다. AI Agents Will Not Eliminate Process Design

여기에서 기업들이 흔히 할 수 있는 오해가 있다. AI Agent를 도입하면 기존 Business Process의 문제가 자동으로 해결될 것이라고 생각하는 것이다. 하지만 현실은 오히려 반대에 가깝다. Process가 명확하지 않으면 AI도 무엇을 해야 하는지 판단하기 어렵다. Master Data가 부정확하면 AI의 판단도 부정확해진다. Approval Authority가 명확하지 않으면 AI에게 어떤 권한을 줘야 하는지도 결정하기 어렵다. ERP와 CRM, WMS, SCM 데이터가 서로 연결되지 않으면 Agent 역시 기업 전체의 상황을 이해할 수 없다.

예를 들어 Purchase Order의 Supplier Name과 Invoice의 Supplier Name이 서로 다르다면 AI는 Matching 과정에서 문제를 겪는다. Material Master가 정확하지 않다면 Inventory Agent의 분석도 부정확해진다. Customer Master가 중복되어 있다면 Customer Service Agent 역시 잘못된 정보를 가져올 수 있다. 따라서 Agentic AI 도입의 출발점은 AI Model 자체가 아닐 수 있다. Process Design, Data Quality, System Integration, Authorization, Governance, Exception Management, 이러한 기본적인 Enterprise Architecture가 먼저 준비되어야 한다.

AI Transformation Is Really Process Transformation 기업들이 AI Transformation을 이야기하면 흔히 어떤 AI Model을 사용할 것인지부터 생각한다. 하지만 실제 기업환경에서는 AI보다 Process가 더 중요한 경우가 많다. 현재 업무 프로세스가 왜 이렇게 설계되어 있는가. 어떤 업무가 반복적이고 규칙적인가. 어떤 단계에서 사람이 실제로 판단해야 하는가. 어떤 업무는 자동으로 처리해도 되는가. 어떤 Transaction은 반드시 사람이 승인해야 하는가. 어떤 데이터가 필요한가. 그리고 그 데이터는 신뢰할 수 있는가.

이러한 질문에 먼저 답해야 한다. 그 다음에 AI Agent를 배치해야 한다. 따라서 성공적인 Agentic AI Transformation은 단순한 Technology Project가 아니다. Business Process Redesign Project에 더 가깝다. From Digital Transformation to Agentic Transformation 지난 20년 동안 기업들은 Digital Transformation을 추진해왔다. Paper Process를 Digital Process로 바꾸었다. Standalone System을 ERP로 통합했다.

On-Premise System을 Cloud로 이동했다. Manual Reporting을 Dashboard로 바꾸었다. 그리고 Mobile과 Analytics를 기업 운영에 적용했다. 그러나 지금 시작되는 변화는 성격이 조금 다르다. 단순히 업무를 Digital화하는 것이 아니다. 누가 그 업무를 수행하는지가 바뀌기 시작한다. 과거에는 사람이 시스템을 사용했다. AI 시대에는 사람이 목표를 정하고 AI Agent가 시스템을 사용할 수 있다. 그리고 앞으로는 여러 Agent가 협력하면서 기업의 End-to-End Process를 수행할 수도 있다. Digital Transformation이 기업의 시스템을 바꾸었다면, Agentic Transformation은 기업에서 일을 수행하는 방식을 바꿀 가능성이 있다. Human Judgment Will Become More Important, Not Less, AI가 더 많은 일을 수행하게 되면 인간의 역할은 줄어들까? 반드시 그렇다고 볼 수는 없다.

오히려 AI가 더 많은 Action을 수행할수록 인간에게 남는 판단의 중요성은 더욱 커질 수 있다. AI는 수많은 데이터를 빠르게 분석할 수 있다. 반복적인 업무를 수행할 수 있다. 여러 시스템을 연결할 수 있다. 수천 개의 Transaction을 동시에 모니터링할 수도 있다. 하지만 AI가 스스로 결정하기 어려운 문제가 있다. 어떤 목표를 추구해야 하는가. 무엇이 회사에 가장 중요한가. 어떤 위험을 감수할 수 있는가. Customer Relationship과 Profit 중 무엇을 우선해야 하는가.단기적인 Efficiency와 장기적인 Strategy 중 어느 쪽이 중요한가.

어떤 결정이 윤리적으로 옳은가. 그리고 잘못된 결정이 발생했을 때 누가 책임질 것인가. 이러한 문제는 단순한 데이터 분석의 문제가 아니다. Context, Experience, Responsibility 그리고 Judgment의 문제다. The Competitive Advantage Will Not Come From Having More Agents, 앞으로 대부분의 기업이 AI Agent를 사용할 것이다. Procurement Agent도 흔해질 것이다. Finance Agent도 흔해질 것이다. Customer Service Agent도 대부분의 회사에서 사용할 수 있다. 그렇다면 AI Agent 자체가 장기적인 Competitive Advantage가 되기는 어려울 수 있다.

중요한 것은 Agent의 숫자가 아니다. 어떤 Process에 Agent를 배치하는가. 사람과 Agent의 역할을 어떻게 나누는가. 어떤 데이터에 접근하도록 하는가. 어떤 권한을 부여하는가. 어떤 경우에 사람이 개입하는가. 여러 Agent를 어떻게 Orchestrate하는가. 그리고 전체 Process를 어떻게 재설계하는가. 여기에서 기업 간 차이가 만들어질 가능성이 크다. 가장 강한 기업은 AI Agent가 가장 많은 기업이 아닐 수 있다.

가장 강한 기업은 The company that best designs how humans and AI agents work together. 일 가능성이 높다. From AI That Answers to AI That Acts, Generative AI의 첫 번째 변화는 우리가 정보를 만드는 방식을 바꾸었다. AI는 글을 작성했다. 이미지를 만들었다. 프로그램을 작성했다. 데이터를 분석했다. 그러나 다음 변화는 더 크다. AI가 Business Process에 직접 참여하기 시작한다. AI Agent는 새로운 Digital Worker가 된다.

Agentic AI는 그 Digital Worker들이 실제 기업 안에서 목표를 이해하고, 판단하고, 시스템을 사용하고, 서로 협력하며 업무를 수행할 수 있도록 만드는 새로운 Operating Model이 된다. 그리고 이 변화가 진행될수록 인간의 역할 역시 달라진다. 사람이 모든 Transaction을 직접 처리하는 시대에서, 사람이 목표와 원칙, 권한과 예외를 설계하고 AI가 실행하는 시대로 이동할 가능성이 있다.

AI는 점점 더 많은 일을 할 수 있게 될 것이다. 하지만 무엇을 해야 하는지를 정의하고, 왜 해야 하는지를 판단하고, 어디까지 AI에게 맡길 것인지를 결정하고, 그 결과에 책임지는 것은 여전히 인간의 역할이다. AI Agent는 새로운 Digital Worker다. Agentic AI는 새로운 Operating Model이다. 그리고 우리는 지금, AI that answers에서 AI that acts로 넘어가는 전환점에 서 있다.