하나의 AI에서 AI 조직으로, Multi-Agent System의 시대

지금까지 기업의 AI 활용은 대부분 하나의 AI가 하나의 업무를 지원하는 방식으로 시작했다. 고객 문의에 답하는 AI, 보고서를 작성하는 AI, 매출을 분석하는 AI, 계약서를 검토하는 AI처럼 각각의 AI가 특정 업무를 수행하는 형태다. 하지만 앞으로 기업 AI의 발전 방향은 단순히 더 뛰어난 하나의 AI를 만드는 데 있지 않을 수 있다. 오히려 서로 다른 역할을 가진 여러 AI Agent가 협업하면서 하나의 업무를 완성하는 방향으로 발전할 가능성이 높다. 이른바 Multi-Agent System이다.

사람으로 표현한다면 한 명의 뛰어난 직원이 모든 업무를 처리하는 것이 아니라 영업, 구매, 물류, 재무 담당자가 서로 협업하는 것과 비슷하다. AI에서도 이제 이러한 협업 구조가 만들어지고 있다.

하나의 AI가 모든 일을 할 필요는 없다

기업의 업무는 생각보다 복잡하다. 예를 들어 고객이 제품을 주문하면 단순히 주문서를 만드는 것으로 끝나지 않는다. 고객의 가격 조건과 재고를 확인하고, 재고가 부족하다면 추가 구매나 생산이 필요한지 판단해야 한다. 이후 배송 일정을 잡고, 제품이 출고되면 Invoice를 발행하며, 대금이 정상적으로 입금되었는지도 확인해야 한다. 하나의 주문 뒤에 Sales, Inventory, Procurement, Logistics, Finance가 모두 연결되어 있는 것이다.

기존 시스템에서는 각 부서의 직원들이 자신의 업무를 수행하고 ERP가 그 결과를 연결했다. 하지만 앞으로는 각각의 역할을 담당하는 AI Agent가 등장할 수 있다. Sales Agent는 고객 주문을 확인하고, Inventory Agent는 재고를 점검하며, Procurement Agent는 부족한 제품의 구매 필요성을 판단한다. Logistics Agent는 배송 계획을 세우고, Finance Agent는 Invoice와 Payment 상태를 관리한다. 이 Agent들이 서로 정보를 주고받으며 하나의 업무를 완성하는 것이 Multi-Agent 방식이다.

AI Agent는 새로운 Digital Worker가 될 수 있다

AI Agent를 이해하는 쉬운 방법 중 하나는 이를 Digital Worker라고 생각하는 것이다. 기존 Software는 사람이 명령해야 움직였지만, AI Agent는 목표를 전달하면 필요한 정보를 찾고, 다음 행동을 판단하며, 일정 범위 안에서 업무를 수행할 수 있다.

예를 들어 Procurement Agent에게 “재고 부족으로 판매가 중단되지 않도록 관리해 줘.”라는 목표를 주면, Agent는 ERP에서 현재 재고와 Open Purchase Order를 확인하고, 최근 판매량과 향후 수요를 분석해 추가 구매가 필요한 품목을 찾아낼 수 있다.

그러나 구매 Agent 혼자서는 전체 상황을 알 수 없다. 판매 전망은 Sales Agent가 더 잘 알고 있을 수 있고, 현금 상황은 Finance Agent가, 공급업체의 납기 문제는 Supply Chain Agent가 파악하고 있을 수 있다. 따라서 사람이 조직 안에서 다른 부서와 협업하는 것처럼 Agent들도 서로 협력해야 한다.

Multi-Agent System은 기존 Workflow Automation과 무엇이 다른가?

기업들은 이미 오래전부터 Workflow Automation을 사용해 왔다. 예를 들어 Sales Order 생성 → Credit Check → 출고 → Invoice 발행 → Payment와 같은 순서가 시스템에 미리 정의되어 있고, 정해진 조건에 따라 다음 단계가 자동으로 실행된다. 하지만 전통적인 Workflow는 대부분 어떤 상황에서 무엇을 해야 하는지가 사전에 정의되어 있어야 한다는 한계가 있다.

AI Agent는 조금 다르다. 목표는 주어지지만 상황에 따라 어떤 경로로 업무를 처리할 것인지 판단할 수 있다. 예를 들어 제품 재고가 부족할 때 기존 Workflow는 부족 수량만큼 Purchase Requisition을 생성하도록 설정할 수 있지만, AI Agent는 다른 Warehouse의 재고를 확인하거나 고객의 납품 일정을 조정할 수도 있다. 또한 공급업체별 납기를 비교하고 긴급 운송 비용과 판매 손실을 분석해 더 적절한 대안을 선택할 수도 있다.

즉, 기존 자동화가 “정해진 Process를 자동으로 실행하는 것”이라면, Agentic Automation은 “목표를 달성하기 위해 상황에 맞는 Process를 선택하는 것”으로 발전할 수 있다.

기업의 업무는 Agent 간의 대화가 될 수 있다

앞으로 기업에서는 사람끼리 이루어지던 일부 업무 협의가 AI Agent 사이에서 이루어질 가능성도 있다. 예를 들어 Sales Agent가 대형 고객의 갑작스러운 주문 증가를 감지하면 Inventory Agent에게 재고 상황을 확인하고, 재고가 부족할 경우 Procurement Agent가 공급업체별 납기와 가격을 비교한다. 동시에 Finance Agent는 추가 구매에 필요한 Cash Flow를 확인하고, Logistics Agent는 긴급 운송 옵션을 계산한다.

이러한 결과가 종합되면 Manager에게 다음과 같은 제안이 전달될 수 있다.

“현재 주문을 충족하려면 공급업체 B에서 2,000개를 추가 구매하는 것이 가장 적합합니다. 비용은 $45,000이며, 항공 운송 시 고객 납기를 맞출 수 있습니다. 예상 추가 운송비는 $4,800입니다. 승인하시겠습니까?”

Manager는 모든 시스템을 직접 확인할 필요가 없다. Agent들이 필요한 분석을 수행하고 결과를 하나의 의사결정으로 정리해 주기 때문이다.

그렇다면 ERP는 어디에 있는가?

Multi-Agent 환경에서도 ERP는 여전히 중요하다. Agent들이 서로 대화한다고 해서 기업의 공식 데이터가 Agent 안에 저장되는 것은 아니다. 재고 수량, Sales Order, Purchase Order, Invoice, Accounts Receivable, Financial Posting과 같은 공식 거래는 여전히 ERP에 기록되어야 한다.

Series 8에서 설명한 것처럼 ERP는 계속해서 System of Record 역할을 하고, 여러 AI Agent는 ERP와 다른 기업 시스템 위에서 작동하는 Intelligence Layer가 된다. 이를 간단히 표현하면, “ERP records what happened. AI understands what is happening. AI Agents decide what should happen next.”라고 볼 수 있다.

모든 Agent가 마음대로 행동해서는 안 된다

여러 AI Agent가 자율적으로 움직이는 환경에서는 오히려 통제가 더 중요해진다. Sales Agent가 고객에게 임의로 할인을 제공하거나 Procurement Agent가 제한 없이 구매 주문을 발행하고, Finance Agent가 자동으로 지급까지 실행한다면 상당한 위험이 발생할 수 있다. 따라서 사람의 조직에 Job Description과 Approval Limit이 있는 것처럼 AI Agent에도 명확한 역할과 권한이 필요하다.

예를 들어 Procurement Agent는 $5,000 이하의 일반 구매는 자동으로 처리하되 그 이상은 Manager의 승인을 받도록 설정할 수 있다. Sales Agent는 기존 계약 가격 범위 안에서 견적을 제시할 수 있지만 추가 할인은 영업 책임자의 승인을 요구하고, Finance Agent는 Payment 대상 Invoice를 검토하되 실제 자금 이체에는 사람의 승인을 요구하도록 설계할 수 있다.

결국 미래의 기업에서는 사람뿐만 아니라 AI에게도 Role, Authority, Responsibility가 필요해진다.

Manager의 역할도 달라질 수 있다

여러 AI Agent가 실제 업무를 수행하게 되면 관리자의 역할도 달라진다. 지금까지 Manager의 중요한 역할은 사람들에게 업무를 나누어 주고 진행 상황을 확인하는 것이었지만, 앞으로는 사람과 AI Agent를 동시에 관리해야 할 수도 있다. 어떤 업무를 사람에게 맡기고 어떤 업무를 Agent에게 맡길 것인지, 어디까지 자동으로 처리하고 언제 사람이 개입할 것인지를 결정해야 한다.

따라서 Manager의 역할은 단순한 People Manager에서 Human + Digital Workforce Orchestrator로 확장될 수 있다. 이 과정에서 중요한 것은 AI 자체를 개발하는 능력보다 업무를 이해하고 적절한 역할과 책임을 설계하는 능력이 될 수 있다.

AI Agent의 수보다 중요한 것은 Orchestration이다

기업들이 Agentic AI를 도입하기 시작하면 Sales Agent, Finance Agent, HR Agent, Procurement Agent, Customer Service Agent, Supply Chain Agent 등 수많은 Agent가 만들어질 수 있다. 그러나 Agent가 많다고 기업의 AI 수준이 높아지는 것은 아니다. 중요한 것은 이 Agent들이 서로 어떻게 협업하는가이며, 이를 Orchestration이라고 한다.

누가 먼저 업무를 시작하는가? 어떤 Agent에게 정보를 요청하는가? 서로 다른 Agent의 판단이 충돌하면 어떻게 하는가? 언제 사람이 개입하고 최종 Action은 누가 수행하는가? 이러한 규칙이 제대로 설계되어야 여러 Agent가 하나의 조직처럼 움직일 수 있다.

결국 미래의 기업 AI 경쟁력은 얼마나 많은 Agent를 보유하고 있는가보다 Agent들을 얼마나 잘 조직하고 연결하는가에 의해 결정될 수 있다.

기업은 하나의 ‘Digital Organization’을 갖게 될 수 있다

오늘날 기업은 Sales Department, Finance Department, HR Department, Supply Chain Department 등 사람으로 구성된 조직을 운영한다. 앞으로는 그 옆에 AI Agent들로 구성된 또 하나의 조직, 즉 Digital Organization이 생길 수도 있다.

사람의 조직과 Digital Organization은 서로 경쟁하는 것이 아니라 각자 잘하는 업무를 나누어 수행하는 구조다. AI는 대량의 데이터를 빠르게 분석하고 반복적인 업무를 수행하며 24시간 상태를 모니터링하는 데 강점을 가진다. 반면 사람은 목표를 정하고 예외적인 상황을 판단하며, 고객과 관계를 형성하고 중요한 의사결정에 책임을 진다. 두 조직이 서로 보완하는 것이다.

하나의 AI에서 AI 조직으로

기업의 AI 발전을 단계적으로 보면 변화의 방향을 보다 쉽게 이해할 수 있다. 처음에는 사람이 AI에게 질문했고, 다음에는 AI가 사람의 업무를 지원하기 시작했다. Agentic AI가 등장하면서 AI가 직접 일부 업무를 수행하게 되었고, 다음 단계에서는 여러 AI Agent가 서로 협업하며 하나의 업무 프로세스를 수행하게 될 수 있다.

즉, Chatbot → Copilot → AI Agent → Multi-Agent System으로 발전하는 것이다.

앞으로 기업의 중요한 질문도 “어떤 AI를 사용할 것인가?”에서 “우리 회사에는 어떤 AI Agent가 필요하며, 이 Agent들을 어떻게 함께 일하게 할 것인가?”로 이동할 가능성이 있다.

AI 시대의 다음 변화는 더 똑똑한 하나의 AI가 아닐 수도 있다. 서로 다른 전문성을 가진 수많은 AI가 기업 안에서 협업하기 시작하는 것. 어쩌면 그것이 우리가 마주하게 될 다음 단계의 기업일 것이다.