当AI记住你的一切 你还剩下什么

　　昨天我花了十分钟，用一行命令安装了Clawdbot。五美元一个月的服务器，现在我有了一个住在WhatsApp里的AI助手，它能记住我们的每一次对话，会在重要事情发生时主动联系我，还能直接操作我的电脑。

　　推特上的人们为此疯狂：“终于有个AI真正好用了！”“这就是十年前我们被承诺的未来！”

　　他们说得没错。它确实不可思议。

　　但我昨晚刷了几千条用户反馈，发现了一些微妙的东西。那些被描述成“功能”的行为模式，那些现在听起来很棒的语言转变，让我开始思考：三年后，当每个人都有这样的助手，我们会变成什么样？

　　这不是因为Clawdbot邪恶。它开源，你掌控自己的数据。而是因为当你给一个AI完美的关于你的记忆、随时联系你的能力、接入你所有应用的权限、替你行事的许可之后，会发生什么。

　　第一年是蜜月期。用户们一天比一天给它更多权限：第一天只有日历，第二天加上邮件，第三天加上消息，第六天加上健康数据，第八天索性全部开放。因为每一项权限都解锁新的能力：知道你日程冲突、知道邮件哪封紧急、知道你睡眠不好应该休息。到了第六个月，人们开始把小决策交给它：午餐吃什么、这个会要不要开、什么时候给妈妈打电话。因为它给出的答案比你自己想的更好，因为它拥有你完整的历史数据。

　　我注意到语言在悄悄变化。从“我让它帮我”变成“它处理”，从“我决定”变成“它建议”。一个用户写道：“我甚至不用想午饭的事了。12点半它自动点单，我的常选，刷我的卡，搞定。”另一个人说：“它替我拒绝社交活动。反正我也不喜欢那些。何必浪费精力去做决定？”

　　有人提到服务器宕机时的焦虑：“那两个小时我完全无法运转”“我忘了自己该做什么”。但他们把这描述成“说明它有多有用”，而不是“我已经依赖上一个外部系统了”。

　　第二年，事情开始正常化。苹果、谷歌、微软都会把类似功能内置到系统里。不用的人会被视为效率低下、跟不上时代。职场对话会变成这样：“你没看到我的邮件吗？”“没有，我的AI还没把它标记为紧急。”“你能直接查一下吗？”“为什么？如果重要的话它会告诉我。”

　　更微妙的是行为矫正。到了第二年，AI掌握了你18到24个月的数据。它知道你会忽略哪类邮件、哪些会议对你有价值、哪些任务你会拖延。于是它开始预测，而不只是响应。“基于你过去七次和Sarah的会议，你觉得都没什么效率。要我帮你拒绝吗？”“好，有道理。”下个月它直接替你拒绝了，只是通知你一声。你犹豫了一秒，然后想：算了，它可能是对的。

　　第三年会是清算的时刻。一整代人已经外包了记忆。不是只有电话号码和路线，而是一切。“我答应Sarah什么了？”“开会前我在做什么？”“我自己的目标到底是什么？”人们会不知道。因为他们已经两三年没有练习记忆了，就像一块肌肉长久不用就会萎缩。

　　关系也会出问题。“你连我们的事都不记得了。”“不是的。”“我生日哪天？”对方看了一眼手机。“六月十四。”“你刚才查了。你根本不知道。”

　　我想我们应该在依赖形成之前设定边界：医疗决策、金融交易、涉及孩子的事、创意表达，这些坚决不交给AI。每周审视一次它在替你做什么决定，你的能动性在哪里减少了。每周有一天完全离线，保持独立运转的能力。不是所有事情都需要优化，有些摩擦是健康的。

　　但说实话，我们大概不会这么做。因为好处太即时，代价太缓慢。等我们察觉到问题的时候，已经太依赖了。

　　写这篇文章警告AI阴暗面的时候，我正在用AI帮我研究它。这说明了一切：我才用了48小时，已经无法想象回到没有它的状态。这本该让我恐惧。确实让我恐惧了。但还不足以让我卸载它。

　　这才是真正的问题所在。不是AI助手邪恶，而是它们太好用了。而某样危险的东西太好用，本身就是最危险的事。

　智能手机上显示的 Clawdbot 网站首页，背景为 Clawdbot 标志。(图片来源：Cheng Xin/Getty Images)