목차
개요
AI 사용자들 사이의 격차가 점점 더 벌어지고 있다. 미디어에서 AI와 생산성 영향에 대한 혼란스러운 보도가 많은 이유가 바로 이 격차 때문이다. Martin Alderson의 글에서 두 종류의 AI 사용자 유형과 그들이 속한 조직의 차이에 대해 분석한다.
두 종류의 AI 사용자
파워 유저
첫 번째 유형은 새로운 AI 기술을 전적으로 수용하는 “파워 유저”들이다. 이들은 Claude Code, MCP, 스킬 등 최신 AI 도구를 적극적으로 활용한다. 놀랍게도 이런 파워 유저들은 기술적 배경이 없는 경우가 많다. 비기술직 종사자들이 터미널에서 Claude Code를 사용하여 소프트웨어 엔지니어링 외의 다양한 업무를 처리하는 모습이 자주 목격된다. 특히 재무 관련 직무에서 엄청난 가치를 얻고 있는데, Excel의 한계를 벗어나 Python과 같은 프로그래밍 생태계의 힘을 활용하기 때문이다.
일반 사용자
두 번째 유형은 ChatGPT나 유사한 도구와 단순 채팅만 하는 사용자들이다. 예상외로 많은 사람들이 아직 이 단계에 머물러 있다.
M365 Copilot의 문제점
Microsoft Copilot이 얼마나 형편없는지 깨닫는 것은 매우 충격적인 경험이다. 엔터프라이즈 시장에서 Office 365 구독에 번들로 제공되어 엄청난 시장 점유율을 가지고 있다. 하지만 실제 사용해보면 이미 훌륭하지 않은 ChatGPT 인터페이스를 조잡하게 복제한 것 같은 느낌을 준다. “에이전트” 기능은 CLI 코딩 에이전트(Microsoft 자체의 GitHub Copilot CLI 포함)와 비교하면 정말 우스운 수준이다.
이를 더욱 부각시키는 것은 Microsoft 자체가 내부 팀에 Claude Code를 배포하고 있다는 점이다. Copilot을 거의 무료로 사용할 수 있고 OpenAI의 상당 부분을 소유하고 있음에도 불구하고 말이다. 이것은 Microsoft가 얼마나 뒤처져 있는지를 잘 보여준다.
문제는 엔터프라이즈 환경에서 Copilot이 종종 유일하게 허용된 AI 도구라는 점이다. 다른 AI 도구를 사용하려면 해고 위험을 감수하거나 다른 도구를 구매하고 사용하기 위한 상당한 노력을 기울여야 한다. Copilot은 느리고, 코드 실행 도구가 제대로 작동하지 않으며, 큰 파일을 처리할 때 메모리와 CPU 제한 때문에 심각한 문제가 발생한다.
이는 많은 기업에게 존재론적 위험이 되고 있다. 고위 의사결정자들이 이런 형편없는 결과를 보고 AI를 완전히 배제하거나, 대형 컨설팅 회사에 막대한 비용을 지불하고도 별 성과를 거두지 못하고 있다.
엔터프라이즈가 위험에 처한 이유
엔터프라이즈의 IT 정책은 사람들이 최첨단 AI 도구를 성공적으로 사용할 수 없게 만드는 재앙적인 제한들의 조합을 초래한다.
잠긴 환경
기업들은 매우 제한된 환경을 가지고 있어서 기본적인 스크립트 인터프리터조차 로컬에서 실행할 수 없다. 운이 좋으면 VBA 정도는 사용할 수 있지만, 그마저도 다양한 그룹 정책에 의해 제한될 수 있다.
레거시 소프트웨어
핵심 워크플로에 “내부용” API가 없는 레거시 소프트웨어에 묶여 있다. 이는 에이전트를 실행할 수 있더라도 연결할 대상이 없다는 것을 의미한다.
사일로화된 엔지니어링 부서
엔지니어링 부서가 극도로 사일로화되어 있거나 완전히 아웃소싱되어 있다. 이런 상황에서는 안전하게 샌드박스된 에이전트를 실행할 인프라를 구축할 내부 인력이 없다.
보안 우려
보안 우려는 현실적이다. 아무런 통제 없이 프로덕션 데이터베이스에 코딩 에이전트를 마구 실행하는 것은 원하지 않는다. 에이전트를 샌드박싱하는 것은 어렵다. 하지만 이로 인해 데이터셋에 대해 안전하게 샌드박스된 에이전트를 실행할 인프라를 구축할 엔지니어링 팀이 없다는 실질적인 문제가 발생한다.
파워 유저와 일반 사용자의 격차
이러한 문제가 없는 소규모 회사들과 대화해보면 AI를 활용해 정말 빠르게 성장하고 있다. 양쪽을 모두 볼 수 있을 때 그 격차는 너무나 명확하다.
엔터프라이즈 측면
Microsoft의 Excel용 Copilot 통합은 형편없다(Google Sheets의 Gemini 통합도 마찬가지로 나쁘다). 재무 이사가 이것을 사용해 가장 간단한 작업도 엉망이 되는 것을 경험하면 다시는 AI를 사용하지 않게 된다.
파워 유저 측면
Claude Code를 이해하고 Python을 로컬에서 실행할 수 있는 비기술직 임원이 있다. 최근 한 사람이 30개 시트의 복잡한 Excel 재무 모델을 Claude Code로 거의 한 번에 Python으로 변환하는 것을 도왔다.
모델이 Python으로 변환되면 Claude Code와 함께 사실상 데이터 과학 팀을 주머니에 넣고 다니는 것과 같다. 몬테카를로 시뮬레이션을 쉽게 실행하고, 외부 데이터 소스를 입력으로 가져오고, 웹 대시보드를 구축할 수 있다. Claude Code가 모델(또는 비즈니스)의 약점을 통합하는 작업을 함께 할 수 있다. Excel에서 몇 시간/며칠을 보내지 않고도 손끝에 이렇게 많은 힘이 있다는 것을 깨닫는 순간은 정말 마법 같은 경험이다.
이로 인해 소규모 회사 직원들이 엔터프라이즈의 동급 직원보다 훨씬 더 생산적이 될 수 있는 상황이 벌어진다. 예전에는 소규모 회사 사람들이 대기업이 가진 자원과 팀을 부러워했지만, 점점 그 추가 흔들리고 있다.
미래의 업무 방식
미래의 업무가 어떤 모습일지 감이 잡히기 시작한다.
상향식 혁신
진정한 도약은 종종 하향식 AI 전략이 아닌 직원들에 의해 유기적으로 이루어진다. 진정한 생산성 향상은 작은 팀이 프로세스를 위한 AI 지원 워크플로를 구축하기로 결정할 때 나타난다. 그들이 그 프로세스를 속속들이 알기 때문에 매우 좋은 결과를 얻을 수 있다. 이것은 대부분의 ‘디지털 전환’ 프로젝트와 정반대의 방식이다.
내부 시스템 API의 중요성
내부 시스템에 어떤 형태의 API가 있는 회사가 그렇지 않은 회사보다 훨씬 더 많은 것을 할 수 있다. 직원들이 연결하여 사용자를 대신해 쿼리를 실행할 수 있는 읽기 전용 데이터 웨어하우스처럼 간단할 수도 있다. 또는 많은 복잡한 핵심 비즈니스 프로세스가 완전히 API화될 수도 있다.
보안 메커니즘
이 모든 것은 어떤 형태의 보안 메커니즘으로 감싸져야 한다. 잘 고안된 네트워크 제한이 있는 코드 에이전트를 실행하는 호스팅된 VM이 적어도 읽기 전용 리포팅에는 잘 작동할 것이다. 데이터 생성과 편집에는 비기술 사용자(특히)가 에이전트를 안전하게 사용할 수 있는 모델이 아직 없다.
레거시 SaaS의 운명
레거시 엔터프라이즈 SaaS 업체들은 보는 관점에 따라 엄청난 락인(lock-in)을 가지고 있거나 극도로 취약하다. 대부분 “API-first” 제품이 아니며, 그들이 가진 API는 개발자 사용을 위한 것이다. 수천 명의 직원이 이상하고 비효율적인 방식으로 핑을 보내는 것에 최적화되어 있지 않다. 하지만 회사의 진실의 원천(source of truth)이라면 마이그레이션하기 매우 어려우며 많은 생산성 향상을 병목시킬 것이다.
소규모 회사들은 수십 년 전에 만들어져 시간이 지남에 따라 다양한 인터페이스가 덧붙여진 것이 아닌, 훨씬 더 잘 설계된 API를 가진 새로운 제품을 사용하는 경향이 있다.
핵심 통찰
프로그래밍 언어와 시스템에 대한 API 액세스가 있는 bash 샌드박스와 에이전트 하네스의 조합은 비기술 사용자에게 놀라운 결과를 제공한다. 기존의 Microsoft Office 스타일 앱과 웹 앱 모두를 거의 대체할 수 있다. 원하는 모든 리포트를 만들고 원하는 대로 내보낼 수 있다. 이것이 지식 노동의 미래처럼 보인다.
양극화는 현실이며 점점 더 빠르게 진행되고 있다. 역사상 작은 팀이 1,000배 규모의 회사와 이렇게 쉽게 경쟁할 수 있었던 적은 없었다.