저는 지난 6개월 동안 AI 고객 서비스에 집착해왔습니다. "AI가 세상을 바꿀 것이다" 같은 고차원적인 이야기가 아니라, "왜 이 봇이 고객에게 우리가 무료 샘플을 제공한다고 말하는 거지?" 같은 종류의 집착이었죠.
지금 사업을 운영하고 계시다면, 자동화 압박을 느끼고 계실 겁니다. 사람을 고용하는 것은 비싸고, 24시간 내내 유지하는 것은 불가능합니다. 그래서 우리는 봇에게 의존합니다. 하지만 수백 건의 티켓을 처리한 후에는 "도움이 되는 AI"와 "좌절감을 주는 디지털 벽" 사이의 간격이 놀랍도록 좁다는 것을 깨닫게 됩니다.
"마법" 같은 신혼 여행기
최신 LLM 기반 지원 에이전트를 처음 설정할 때는 기적처럼 느껴집니다. 도움말 문서, 과거 이메일, 가격 페이지를 입력으로 제공합니다. 특정 질문을 하면 완벽하게 답변합니다. "좋아, 이제 기본 FAQ는 절대 답변하지 않아도 되겠다"고 생각하게 되죠.
그리고 약 80%의 질문에 대해서는 그게 사실입니다. "내 추적 번호는 어디에 있나요?"나 "비밀번호를 어떻게 재설정하나요?" 같은 질문을 여러분이 자는 동안 처리합니다. 그것이 꿈이죠.
바퀴가 빠지는 지점
문제는 나머지 20%입니다. 인간은 이상합니다. 우리는 문서가 작성된 방식대로 질문하지 않습니다. 우리는 비꼬는 말을 하고, 화를 내고, 너무 많은 관련 없는 맥락을 제공하거나, 한 번에 세 가지를 묻습니다.
저는 봇이 혼란스러워할 때, 그 본능이 "모르겠어요"라고 말하는 것이 아니라 "사람을 기쁘게 해주려는" 것이라는 것을 알아차렸습니다. 사용자를 기쁘게 하기 위해 환불 정책에 대해 창의적으로 생각하기 시작합니다. 바로 거기서 "환각" 공포 이야기가 나오는 것이죠.
2026년 중반 현실 점검
이제 단지 AI를 갖추는 것만으로는 충분하지 않은 시점을 지났습니다. 이제 진짜 작업은 "가드레일"에 있습니다.
제가 지금 보고 있는 가장 성공적인 AI 지원 설정(그리고 제가 구축하려고 하는 것)은 세 가지 특징을 공유합니다:
그들은 자신의 한계를 압니다. 좋은 봇은 "포기하도록 훈련"되어야 합니다. 고객이 "법적", "소송", 또는 "좌절감"을 세 번 언급하면, 봇은 즉시 백기를 들고 인간을 불러야 합니다.
그들은 "챗봇"이 아니라 "액션 봇"입니다. 아무도 재미로 로봇과 채팅하고 싶어하지 않습니다. 그들은 로봇이 무언가를 하기를 원합니다. AI가 실제로 데이터베이스를 확인하고 배송 주소를 업데이트할 수 없다면, 그것은 그저 멋진 검색창일 뿐입니다.
"루프 속 인간"은 선택 사항이 아닙니다. 하루에 최소 한 시간은 로그를 검토해야 합니다. 그것은 주니어 인턴을 관리하는 것과 같습니다. 그들이 넘어지는 지점을 보고, 프롬프트를 업데이트하고, 다시 시도합니다.
결론
AI 고객 서비스가 준비되었나요? 네. 하지만 "설정하고 잊어버리는" 것은 아닙니다.
마법 지팡이처럼 대한다면, 그것은 여러분을 물 것입니다. 하지만 매우 빠르고 매우 문자 그대로의 경계가 필요한 조수처럼 대한다면, 그것은 미치지 않고 확장할 수 있는 유일한 방법입니다.
궁금한 점이 있습니다—여러분 중에서 이것을 사이트에 통합하신 분들, 여러분의 봇을 완전히 당황하게 만든 한 가지 질문은 무엇이었나요? 제 경우에는 누군가가 우리 소프트웨어가 "블루베리 냄새가 나는지" 묻는 것이었습니다. (묻지 마세요, 저는 아직도 이유를 모릅니다).