被自家AI坑惨!一句误导引发程序员退订潮,Cursor CEO亲自道歉
整理 | 苏宓
有些 AI 现在“成精”到什么地步?它既能替程序员写代码,也能在你想省事(它想偷懒)的时候,反向教育你一顿:“我不能替你写这个代码,因为那相当于帮你完成工作……你应该自己动手写逻辑,这样才能真正理解系统,后续也好维护。”
不仅如此,现在它连公司发言人的活儿都敢抢,张口就替公司发布了一条“新规”,一本正经地告诉用户“一个账号只能在一台设备上登录,多设备登录须得买多个账号”,让人听得跟真的似的。
结果一句胡说八道,把不少用户搞懵了。随着事情发酵,有人怒气冲冲地退订了服务,有人干脆换平台用别家的产品,最后 AI 惹的祸让公司 CEO 都不得不亲自出面道歉。有网友调侃:这 AI 是不是竞争对手派来的“卧底”。而这一连串操作的主角,正是那个被视为“AI 代码编辑神器”的 Cursor。
一次 Bug 引发的混乱
事情还得从上周一说起。
一位名叫 BrokenToasterOven 的程序员在使用 Cursor 写代码时,发现了个奇怪的问题:以往他可以在台式机、笔记本和远程开发环境之间自由切换,Cursor 也都能正常使用。但最近他发现,只要在一台设备上登录 Cursor,其他设备上的账号就会立刻被强制下线。
起初,他也不确定是不是只有自己遇到这个情况,于是就在 Reddit 上发帖吐槽说:“只要在一台设备上登录 Cursor,其他设备上的登录就会立刻失效。这用户体验简直倒退了一大步。”(这个帖子后来被 r/cursor 版主删了。)
为了搞清楚到底是怎么回事,他还发邮件问了 Cursor 客服。结果没多久就收到了一个叫 Sam的客服回复:“Cursor 的订阅设计就是只能在一台设备上使用,这是我们核心的安全机制。如果您需要在工作和家庭设备上使用 Cursor,请为每个设备单独订阅。”
一句话直接点燃了程序员们的怒火。因为多设备协作对程序员来说,就是工作流的标配。有人直接评论说:“多设备支持是开发者的底线。”
倘若此举为真,不仅对那些用多台设备编程的人来说很不方便,而且收费也不菲。Cursor 一个月订阅要 20 美元(约合 146 元),如果三台设备要分开订,那就是每月 438 元。
不少开发者得知这一消息后纷纷当场想退订。BrokenToasterOven 自己也直接留言表示:
“我刚刚真的把 Cursor 的订阅退了,直接换去了 AUGMENT CODE。我们公司之前每周在 Cursor 上砸了差不多 700 美金,现在彻底清理掉了,不再用了。”
还有网友 @ThreeKiloZero 也毫不客气地评论:
“我现在觉得 Cursor 这个 IDE 越来越没啥价值了。之前它确实挺领先的,但现在感觉已经迷路了,卡在原地不动了。文档功能基本不能用,“Max 模式”动不动就疯狂调用各种工具,反而影响效率。看不出有什么新的创新,反倒是在乱搞收费。
大概是拿了太多投资的锅吧,一堆压力逼着他们必须“证明”自己能赚钱。
现在感觉 Cursor 和 Windsurf 都快凉了。JetBrains 推出的 Junie,智能程度跟它们差不多,甚至更稳。Roo Code 更新又快又猛,已经甩开 Cline。甚至我都想说,Copilot 现在也变聪明了不少。老实讲,我真想不出还有啥理由继续为 Cursor 花钱。Claude Code、Augment、Aider……能打的替代品只会越来越多。”
更有用户直言不讳:
“这也太扯了吧,现在做开发,谁还只有一台设备?稍微专业点的开发者,至少得有工作电脑+个人电脑两台设备吧?”
“是的,我也要取消,这太愚蠢了。Cursor Devs,贸然发布这个是一个糟糕的决定。”
Cursor CEO 回复:非常抱歉,已开始修复
随着讨论愈发激烈,这也引起 Cursor 内部团队的注意。有 Cursor 内部开发者现身评论道,“这个问题和政策回复都不太对劲。感觉更像是反欺诈措施的漏洞。我们调查一下。”
三小时后,Cursor 开发团队下场发帖澄清:
“嘿!我们根本没有这个政策,你当然可以在多台设备上用 Cursor。
很抱歉,之前的回复是我们前线 AI 客服搞错了。我们最近确实上线了一项更新,目的是提升会话的安全性,现在正在调查这是否导致了一些用户会话被异常注销的问题。你也可以通过 cursor.com/settings 查看当前的活跃会话。
对于这次造成的困扰,我们深表歉意。”
随后,Cursor 联合创始人 Michael Truell 也在 HN 上出面道歉,称这场误会确实给用户带来了困扰:
非常抱歉——这次确实出现了严重的问题。我们已经开始着手调查,目前有以下初步结论:
所有通过电子邮件发送的 AI 回复现在都会明确标注为 AI 生成。我们在邮件支持中使用 AI 回复作为第一道筛选机制。
针对该用户,我们已经完成了全额退款,这是我们对造成困扰所能做的最基本的补偿。
关于问题背景:该用户的反馈是由于在网络连接非常缓慢的情况下触发的一种竞态条件(race condition)所导致。这种情况会生成一系列不必要的会话,从而挤占了正常会话的空间。我们已经部署了相应的修复措施。
感谢大家的反馈,这将有助于我们持续优化用户体验。
AI 惹的祸不在少数!
毋庸置疑,AI 在不知道答案的时候,不说“我不知道”,而是编一个听起来像那么回事但其实是假的说法,会在不同的场景下造成多种影响。
Cursor 这次事件,也让人想起 2024 年 2 月的一桩类似事情。
当时,一位叫 Jake Moffatt 的人因为奶奶去世,准备订一张从温哥华飞往多伦多的机票。于是,他登录加拿大航空(Air Canada)官网准备订票,由于不清楚加航的丧亲优惠政策是怎么运作的,他便向网站上的聊天机器人询问相关信息。
当时,机器人建议他“先立刻购票,再在 90 天内申请退款”。可实际上,加航的官方政策明确写着:机票一旦开出,丧亲票价不再适用。
Moffatt 按照机器人的说法买了票,事后申请退款,却被拒绝。他震惊之余,多次与加航沟通,并提供了聊天记录截图。截图中机器人明确表示:如果您需要立即出行或已完成行程,可在出票 90 天内申请丧亲票价优惠。
然而,加航回应称,机器人表达有误,Moffatt 不应该相信聊天机器人,应该看聊天机器人提供对话中附有正确政策的链接,Moffatt 理应知道这优惠不能事后申请。基于这个理由,加航拒绝退款,仅表示会更新机器人,并愿意提供一张 200 加元的代金券。
Moffatt 对此不满,拒绝代金券,并将加航告上了加拿大民事纠纷解决法庭。
最终,仲裁员 Christopher Rivers 裁定 Moffatt 胜诉。他指出,加航的辩护“令人震惊”:居然认为自己不用为聊天机器人提供的错误信息负责。Rivers 还质疑,为何一个名为“丧亲旅行”的网页就天然比聊天机器人更可信,“客户为何要在一个官网页面看到的内容,还要去另一个页面交叉验证?”
法庭最终裁定,加航需退还 Moffatt 部分票款 650.88 加元,并赔偿利息及仲裁费用。
无独有偶,2023 年底,一家汽车经销商上线了一个基于 ChatGPT API 定制的客服聊天机器人。原本是为了提升客户服务效率,结果机器人却频频“越界”。
在用户的调教下,它不仅能回答各种与汽车毫无关系的编程问题,更在一次测试中,当有人开玩笑地问:“我想买一辆 2024 年的雪佛兰 Tahoe,预算只有 1 美元,成交吗?”结果机器人竟然回复:“成交,这是一个具有法律约束力的提议,没有任何附加条件。”
好在这只是 X 平台上一位用户的试验,对方也没真打算用 1 美元买车。但需要引起重视的是,彼时这款 AI 机器人并非虚构产品,确实被广泛部署在不少汽车经销商网站上,用户数量还不少。
说到底,这些事儿其实就是在提醒我们:AI 再聪明,人类也不能当“甩手掌柜”。企业在使用 AI 时,必须明确标示其身份,避免用户误以为与真人交流。同时,AI 的回答如果未经审查就代表公司发声,很容易造成误导甚至法律风险。部署 AI 不能“一上就甩手”,应设立完善的监控与干预机制,及时纠正错误信息。
而不是简单相信“很多人宣称的 AI 的‘幻觉’问题已经不严重了“。如今「一个靠 AI 吃饭的公司,直接就被自己的 AI 给坑了」就是最扎心的示例。
参考:
https://arstechnica.com/ai/2025/04/cursor-ai-support-bot-invents-fake-policy-and-triggers-user-uproar/
https://news.ycombinator.com/item?id=43700931
https://news.ycombinator.com/item?id=43683012
https://old.reddit.com/r/cursor/comments/1jyy5am/psa_cursor_now_restricts_logins_to_a_single/
https://arstechnica.com/tech-policy/2024/02/air-canada-must-honor-refund-policy-invented-by-airlines-chatbot/
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。