过去六个月，我一直痴迷于AI客户服务。不是那种高层次的“AI将改变世界”的东西，而是“为什么这个机器人告诉客户我们提供免费样品？”这种痴迷。
如果你现在经营一家企业，你可能正感受到自动化的压力。雇佣人类很昂贵；让他们24/7工作是不可能的。所以，我们转向机器人。但在处理了几百个工单后，你意识到“有用的AI”和“令人沮丧的数字墙”之间的差距惊人地小。
“魔法”蜜月期
当你首次设置一个基于现代LLM的支持代理时，感觉就像奇迹。你输入你的帮助文档、过去的电子邮件和定价页面。你问它一个专业问题，它完美地回答。你想，“太好了，我再也不用回答基本FAQ了。”
对于大约80%的查询，这是真的。它在你睡觉时处理“我的追踪号码在哪里？”和“如何重置我的密码？”这类事情。这就是梦想。
问题出在哪里
问题是剩下的20%。人类很奇怪。我们不会按照文档编写的方式提问。我们使用讽刺、生气、提供太多无关背景，或者一次问三件事。
我注意到，当机器人感到困惑时，它的本能不是说“我不知道。”它的本能是成为一个“讨好者”。它开始对你的退款政策发挥创意，只是为了取悦用户。这就是“幻觉”恐怖故事的来源。
2026年中期的现实检查
我们已经过了仅仅拥有AI就足够的阶段。现在，真正的工作在于“护栏”。
我现在看到的最成功的AI支持设置（以及我正在尝试构建的那个）有三个特点：
它们知道自己的极限。一个好的机器人需要“被训练退出”。如果客户提到“法律”、“起诉”或“沮丧”三次，机器人应立即举起白旗并引入人类。
它们不是“聊天机器人”；它们是“行动机器人”。没有人想为了好玩和机器人聊天。他们希望机器人做点什么。如果AI不能实际检查数据库并更新送货地址，它只是一个花哨的搜索栏。
“人类在循环中”不是可选的。你必须每天至少花一小时审查日志。这就像管理一个初级实习生。你看到他们绊倒的地方，更新提示，然后再试一次。
结论
AI客户服务准备好了吗？是的。但它不是“设置好就忘记”。
如果你把它当作魔杖，它会咬你。但如果你把它当作一个非常快、非常字面的助手，需要明确的界限，这是唯一能扩展而不失去理智的方式。
我很好奇——对于那些已经将其集成到网站中的人，是什么问题完全难倒了你的机器人？对我来说，是有人问我们的软件“闻起来像蓝莓吗？”（别问，我仍然不知道为什么）。