微软新AI工具“Recall”深陷差评风暴，最差命运就是“Recall召回”

秋收冬藏

　　微软新AI工具“Recall”深陷差评风暴，最差命运就是“Recall召回”

　　智能超参数

　　“Recall”通过每隔几秒钟截取一次活动窗口的屏幕截图来工作，在默认情况下记录用户在Windows中的所有操作并不进行内容审核，这意味着它将捕捉所有屏幕内容，包括银行账户密码、机密文件等。



　　2024年5月21日，微软发布全新的“Copilot+PC”，这类 AI PC 通过与高通的最新芯片合作，实现了一个叫做“Recall”的功能。借助这个人工智能工具，用户可以搜索和回忆在PC上看到或做过的任何事情。

　　过去几天，微软“Recall” 功能确实引发了大量关注，但是整体上还是负面居多。

　　许多人认为这会带来巨大的隐私风险，并可能引发新一轮为了窃取数据而进行的网络攻击。



　　科技媒体The Register认为，Windows“Recall” 给人的感觉是没有经过深思熟虑就制定出来了。

　　该媒体直接在标题中表明态度，指出“让Windows Recall 记忆用户所做的每一件事情，是一场隐私噩梦”。

　　微软对“Recall”寄予厚望

　　人工智能时代的 PC 有什么与众不同？微软的答案是Copilot+ PC，而 Copilot+ PC中的主要AI功能之一就是 “Recall”。

　　微软表示，“Recall是使Copilot+ PC与众不同的关键部分。” 从中我们也可以看出，微软对这个新AI工具或者功能寄予厚望。



　　“Recall”通过每隔几秒钟截取一次活动窗口的屏幕截图来工作，默认情况下记录用户在Windows中的所有操作，最长可达三个月。

　　这些快照将由设备上的神经处理单元（NPU）和人工智能模型进行分析，从截图中提取数据。数据将被保存在语义索引中，允许Windows用户浏览快照历史记录或使用自然语言查询进行搜索。

　　微软承认该功能不进行内容审核，这意味着它会捕捉到它看到的任何东西，包括密码管理器中的密码或您银行网站上的账户号码。或者，如果用户在Word中撰写机密协议，也会生成该内容的截图。

　　“Recall” 的推出，对于用户寻找文件或者查询重要的操作肯定很方便，也能大幅提升办公效率。



　　有X平台网友就被“Recall”功能吸引，直接花更多钱下单买了更强大的 AI PC 电脑。

　　但是目前看这类网友还是少数。

　　在 X 平台上，对于“Recall”功能显而易见的好处，很多人选择了“忽视”，更多人谈论的焦点转移到了数据安全和隐私等话题之上。

　　微软向用户承诺，Recall索引在设备上保持本地和私密状态。用户可以暂停、停止或删除捕获的内容，也可以选择排除特定的应用或网站。

　　但很多人还是选择了“不信任”。

　　各方抨击微软“Recall”

　　“Recall”功能发布之后，喜欢用Windows 电脑的特斯拉CEO马斯克第一时间就发表了观点，“这简直就是《黑镜》里的情节。一定要关闭这个‘功能’。”



　　《黑镜》是英国电视台制作的一部科幻电视剧，第一季曾经描绘过这样一个场景：借助一项全光谱记忆技术，人们可以对眼睛所见的一切进行录像，并且随时能够回放，备份最长可存储30年。

　　“Recall” 功能利用快照记录用户在 PC 上的一举一动，因此马斯克的比喻也很贴切。当然，他的言外之意是对这项“功能”的担忧。

　　网络安全专家Kevin Beaumont，有时以批评微软而闻名，也表达了对这一功能如何引发巨大攻击的担忧，将其比作“内置在Windows中的键盘记录器。”

　　他在一篇新博客文章中表示，“换句话说，如果恶意威胁行为者获得系统访问权限，他们已经窃取了本地存储的重要数据库。他们可以简单地扩展这一点，窃取Copilot的Recall功能记录的信息。”



　　X 平台上也有用户批评“Recall” 功能是个坏主意。“过去这被称作间谍软件，所以发生了什么？”

　　Mozilla 首席产品官Steve Teixeira也出来表态：“Mozilla 对 Windows Recall 感到担忧。从浏览器的角度来看，有些数据应该保存，有些则不应该。Recall 不仅存储浏览器历史记录，还存储用户在浏览器中输入的数据，并且对存储内容的控制非常粗略。虽然数据以加密格式存储，但这些存储的数据代表了网络犯罪分子的新攻击媒介，也为共享计算机带来了新的隐私担忧。”



　　更有网友对微软提出了灵魂拷问：真正的问题是，微软是否会从AI Recall中本地获取关于你和你的活动的洞察，并将这些洞察发送到云端。他们可以对所有AI Recall用户这样做，同时让他们的屏幕截图留在他们的电脑上 ：-）



　　人工智能专家加里·马库斯（Gary Marcus）则很直接：“去他…… 的。我不想让我的电脑监视我所做的一切。继续用我的 Mac，谢谢。”

　　先行者Rewind 已经开始推新架构

　　很多人还没有用上“Recall” 功能，但是却已经开始对它“敬而远之”。

　　虽然预料到了会有批评声，但是这么多的批评声涌过来，可能也是微软不曾预料到的。

　　事实上，在微软“Recall”之前，一款面向 Mac 和 iPhone 的基于GPT-4 大模型的应用Rewind已经上线一年多时间了，Windows版本目前还在开发之中。

　　Rewind可以记录用户所做的一切，监听所有会议，并让你可以通过聊天机器人回忆起任何事情。

　　Rewind上线后，同样引发了很多对于数据隐私和安全的质疑，但是还是获得了大量用户。

　　本质上，“Recall”和Rewind 的功能一样。

　　不过Rewind是一款第三方应用程序，而 Recall 是微软 Windows 官方工具，可以和 Windows 11 系统深度集成。

　　Rewind由Dan Siroker 于2020 年 3 月成立，目前已经完成两轮共 2790 万美元融资，估值约 3.5 亿美元，其投资人与投资机构包括 OpenAI CEO Sam Altman、a16z 等等。



　　因此在微软“Recall”发布之后，很多人也不断在 X 平台上@ Rewind AI（现在更名Limitless AI）创始人兼CEO Dan Siroker，让他谈谈看法。

　　“这是一款与我们在一年半前推出的Rewind产品惊人相似的产品。”Dan Siroker 说，“当我们开始研发Rewind时，我们知道我们正在做的事情要么是个好主意，要么是个坏主意。如果这是个坏主意，我们会失败。如果这是个好主意，那么像微软或苹果这样的公司推出类似或在某些情况下完全相同的产品只是时间问题，而不是是或者否的问题。所以我们肯定看到了这一点。”

　　他说，模仿产品的外观和功能很容易，难的是模仿产品的学习过程。“在过去的一半年里，我们从用户的反馈中学到了很多。”

　　Dan Siroker 表示，在许多方面，Rewind 和 Recall 采用的的方法存在局限性。因此在一个月前，他带领团队把 Rewind升级成为了一款名为Limitless的新产品，并且构建了一种名为Confidential Cloud的新型基础架构，该架构在设计中就注重隐私保护，所有数据都加密存在这个“机密云”之中。



　　根据Rewind官方解释，用户的一切数据都在Limitless Confidential Cloud中加密并存储。“Confidential Cloud的保护意味着，你的雇主、我们作为软件提供商以及政务部门，在没有你许可的情况下无法解密你的数据，即使有传票要求这样做。”

　　可以理解为，Rewind在本地存储数据之外，开始提供了一个使用云的选择，只不过是一种加密的云。

　　这个云服务刚上线不久，但Dan Siroker 说，“人们似乎真的很喜欢这样对待数据的方式。”

　　值得注意的是，Rewind是第三方工具，愿意用的人才去下载，这本身就实现了用户群体的筛选。

　　但是微软“Recall”功能是Windows 11系统功能的一部分，并且它默认打开。这种方式带来的用户影响，明显会比Rewind大很多。

　　今天微软“Recall”功能面临很多舆论上的批评声，但普通用户对待它的真正态度，还需要内置这种功能的PC设备大规模出货之后，我们才可以知晓。

　　等待它的是多数人选择使用，还是关闭？

　　但最差的结果应该就是“Recall召回”吧。

　　本文来源：智能超参数，原文标题：《微软新AI工具“Recall”深陷差评风暴，最差命运就是“Recall召回”》

　　风险提示及免责条款

　　市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。