상담에서 가장 자주 듣는 질문입니다. 대개 조심스럽게 나오지만 뜻은 분명합니다. "Claude Code 한 달이면 우리 개발자가 직접 만들 텐데, 왜 돈을 내야 하죠?"
맞는 말입니다. 먼저 그걸 인정하고 시작하겠습니다. 2년 전이었으면 에이전트 하나 만드는 데 외주 몇 달이 들었고, 지금은 Claude에게 설명하면 오후에 돌아가는 걸 봅니다. 저희도 그렇게 만듭니다. 그래서 저희가 파는 건 "만드는 손"이 아닙니다. 이 글은 AI가 정말 다 해주는 부분과, 아무리 좋은 AI가 나와도 채팅창 밖에서 해야 하는 세 가지를 나눠 적은 것입니다.
AI가 정말 다 해주는 것
코드는 AI가 씁니다. 메일 본문에서 견적 항목을 뽑아 엑셀에 넣는 스크립트, Slack에 올라온 요청을 분류하는 봇, 회의록을 요약해 보내는 자동화. 이런 건 Claude Code에 설명하면 됩니다. 프롬프트 초안도 AI가 쓰고, 관리자 설정도 도움말 보며 따라 하면 됩니다.
여기에 업체를 부르면 돈 낭비입니다. 저희한테 "스크립트 하나 짜주세요"로 오시는 분께는 Claude Code 쓰시라고 말씀드리고 돌려보냅니다. 저희가 맡지 않는 세 가지 중 첫 번째가 "Claude를 쓸 이유가 없는 일"인 것처럼, "업체를 쓸 이유가 없는 일"도 있습니다. 만드는 손이 필요한 일은 이제 그쪽입니다.
AI가 못해 주는 것
무엇을 시킬지
AI는 시키는 걸 합니다. 문제는 대부분의 회사가 무엇을 시킬지 모른다는 데 있습니다. "견적 업무를 자동화해줘"는 지시가 아닙니다. 견적의 어느 단계가 반복이고 어느 단계가 판단인지, 판단 단계에서 담당자는 무엇을 보고 결정하는지, 그 기준이 글로 나와야 지시가 됩니다.
그 기준은 채팅창에서 안 나옵니다. 담당자 옆에 앉아 "이 두 건 중 왜 이걸 먼저 하셨어요?"를 묻는 사람이 있어야 나옵니다. 레미콘 배차 에이전트에서 저희가 가장 오래 쓴 시간이 이것이었고, 코드를 쓴 시간은 그 뒤였습니다. 8년 동안 RPA를 하면서 수백 개 업무를 뜯어본 팀이라 어느 단계가 반복이고 어느 단계가 판단인지를 30분 인터뷰에서 가릅니다. 이건 AI 실력이 아니라 업무를 보는 눈이고, 그 눈은 아직 채팅창에 없습니다.
2. 맞는지 확인
AI가 만든 에이전트는 돌아갑니다. 돌아간다는 것과 맞는다는 것은 다릅니다. 견적 100건을 다시 처리시켰을 때 담당자와 같은 판단을 몇 건 했는지, 틀린 건은 어느 유형인지, 그 유형을 고치면 다른 유형이 깨지지는 않는지. 이걸 재는 평가셋을 만들고 돌리고 읽는 일은 AI에게 시킬 수 없습니다. 정답을 가진 쪽이 사람이니까요.
더 어려운 건 "안 된다"고 말하는 일입니다. AI에게 만들라고 하면 만듭니다. 그 업무가 애초에 에이전트에 안 맞는 일이라도 그럴듯하게 만듭니다. 저희는 2주 PoC 끝에 일치율이 낮으면 그렇게 적고 접습니다. 만든 걸 파는 회사가 아니라 되는지를 확인해 주는 회사라야 할 수 있는 말이고, 저희가 PoC를 입구로 둔 이유입니다.
3. 사고 났을 때
에이전트가 틀린 발주를 넣었을 때, 거래처 메일에 숨은 지시에 속아 엉뚱한 곳에 자료를 보냈을 때, 보안팀이 "이 데이터 어디로 갔습니까"라고 물을 때. 이때 "Claude가 만들었어요"는 답이 안 됩니다.
저희가 설계에 넣는 것들이 여기 있습니다. 읽기와 쓰기 권한을 나누고, 쓰기 단계에는 사람 승인을 두고, 승인자가 거부한 건을 다음 기준에 반영하고, 보안팀이 묻는 열 가지 질문에 공식 문서 기준으로 미리 답해 두는 것. 혼자 만들면 대개 빠지는 것들입니다. 빠져도 사고 전까지는 티가 안 나기 때문입니다. 올해 공개된 에이전트 보안 사고 대부분이 모델이 멍청해서가 아니라 권한 설계가 없어서 났습니다. 그 설계는 코드가 아니라 경험에서 나옵니다.
업체 없이 해도 되는 조건
솔직하게 적겠습니다. 아래 다섯 개에 다 "예"면 업체 없이 하셔도 됩니다.
첫 에이전트로 만들 업무가 정해져 있고, 담당자가 그 업무의 판단 기준을 지금 글로 쓸 수 있다
과거 처리 건 30개 이상을 정답으로 모아 평가셋을 만들고 돌릴 사람이 있다
읽기·쓰기 권한 분리와 승인 단계를 설계할 사람이 있고, 그 사람이 운영까지 맡는다
보안팀이 Claude 도입 때 묻는 질문에 답할 자료를 이미 갖고 있다
에이전트가 틀렸을 때 기준을 갱신하고 평가셋을 다시 돌리는 일을 매달 할 사람이 있다
셋 이상 "아니오"면 만드는 손이 아니라 위 세 가지를 같이 할 사람이 필요한 상태입니다.
그 사람이 사내에 있으면 그분이 하시면 되고, 없으면 저희 같은 회사가 그 역할입니다.
전문업체의 일은 만드는 게 아닙니다
알맞은 업무를 고르고, 판단 기준을 꺼내고, 맞는지 재고, 사고가 나지 않게 권한을 긋고, 안 되는 건 안 된다고 말하는 것. 만드는 건 그 사이에 있는 가장 짧은 단계이고, 그 단계는 저희도 AI에게 시킵니다.
그래서 저희 입구는 큰 컨설팅이 아니라 2주 PoC입니다. 2주 동안 업무 하나로 위 다섯 가지를 같이 해보고, 끝나면 판단 기준 문서와 평가셋이 남습니다. 그걸 보고 "이제 우리가 직접 해도 되겠다"고 판단하시면 그것도 좋은 결과입니다. 소스 코드와 프롬프트는 전부 드리니까요.