2025년 기업 AI 현황: 화려한 도입, 미비한 성과

 

Image Reference: https://guptadeepak.com/the-future-of-ai-and-its-impact-on-humanity/

 

AI가 세상을 바꾸고 있다는 이야기는 매일 쏟아지고 있습니다. ChatGPT, Copilot 같은 툴은 이미 많은 기업과 개인의 일상 속에 자리 잡았죠! 그런데 최근 MIT Project NANDA의 리포트를 보고 매우 충격을 받았습니다. 전 세계 기업들의 AI 투자 규모가 무려 30~40조 원에 달하지만, 95%는 성과가 없다는 것이었습니다. 딱 5%만이 실제 비용 절감이나 수익 증대로 이어졌다는 거죠 ㅠㅠ 

 

왜 그럴까?

• ChatGPT 같은 범용 툴은 빠르게 써먹을 수 있고 개인 생산성은 확실히 올려줍니다.
• 하지만 막상 회사에서 쓰려면 기업의 워크플로우에 녹아들지 못하고, 피드백을 학습하지 못하는 한계가 드러납니다.
• 맞춤형 엔터프라이즈 솔루션은 더 안타깝습니다. 수억 들여 도입해도 실제 업무에서는 “과하게 복잡하다”, “우리 방식과 안 맞는다” 라는 이유로 DROP 되는 경우가 많습니다.
  
  

성공하는 곳의 공통점

반대로 5%의 성공 기업들은 몇 가지 공통점을 갖고 있었습니다.

1. 내부 빌드(Build)보다 외부 파트너십(Buy)을 선택
2. 작은 워크플로우에서 빠른 성과를 증명하고 점진적으로 확장
3. 학습,메모리,적응성을 가진 에이전트형 시스템 도입
4. BPO·외주 대체에서 확실한 ROI 창출

저는 이 부분이 가장 공감됐습니다. 결국 “처음부터 완벽한 솔루션”을 만들려 하기보다, 작은 성공을 쌓으면서 조직 안에서 신뢰를 얻고 확장하는 게 답이더군요.

 

미래: Agentic Web

보고서는 미래 방향성으로 Agentic Web을 제시합니다. 단일 AI가 아니라 여러 에이전트가 서로 협력하고, 자동으로 의사결정을 하고, 심지어는 계약까지 체결하는 생태계죠. 이미 MCP, A2A 같은 프로토콜들이 나오면서 그 기반이 만들어지고 있습니다.
“앞으로 18개월 안에 학습형 에이전트를 도입하지 않으면 뒤처진다”는 메시지는 꽤 인상적이었습니다.

저는 실제로 최근에 Agentic AI를 기획하고 출시까지 이끌어낸 경험이 있다 보니, 리포트에서 강조하는 학습형 에이전트의 필요성과 파급력에 크게 공감하게 되었습니다.단순히 AI가 답변을 내는 시대를 넘어, 맥락을 기억하고 자율적으로 협력하는 에이전트가 기업 운영의 핵심이 될 것이라는 흐름이 분명하게 보이기 시작했기 때문입니다. 앞으로 다가올 Agentic Web의 시대, 개인적으로도 매우 기대가 됩니다.
이 변화 속에서 제가 가진 경험을 어떻게 더 확장할 수 있을지, 또 어떤 새로운 기회가 열릴지 설레는 마음으로 지켜보고 있습니다.

 

 

정리하며

AI 도입이 화려하게 보이지만, 실제로는 대부분이 파일럿에서 멈추고 성과로 연결되지 못하고 있습니다.
하지만 이미 현업 직원들은 Shadow AI를 통해 답을 찾고 있고, 소수의 기업은 학습형 에이전트로 ROI를 내고 있습니다.

저는 이 리포트를 읽고 “우리도 실제 워크플로우에 녹아들 수 있는 학습형 시스템에 집중해야 한다”는 걸 다시 한 번 느꼈습니다.

 

 

---
📚 참고자료  
- MIT Project NANDA (2025), State of AI in Business 2025: The GenAI Divide