把账号交给 AI,安全吗?先分清这四层权限

答案取决于三件事:AI 能碰到多少东西、它是不是在独立账号里工作、以及碰钱和碰客户的动作为什么要等你确认。只看一个账号的只读权限、每周检查一次,和第一天就把收款后台管理员权限交出去,是两种完全不同的风险。

你真正想问的,不是「安不安全」

老板问「把账号交给 AI 安全吗」,真正想问的往往是更窄的一句:一次点错,会不会把生意点没了?这取决于你交出去多少权限,而不是模型有多聪明。一个能力很强的模型,只给它只读权限,它就是个研究助理;同一个模型拿着你的收款登录,它就成了一个没上保险的合伙人。权限是你在开始时设计一次、之后每月复查一次的东西,不是注册时随手拨一下的开关。

把担心拆成三层,大部分问题就有答案了。第一层是范围:它能看什么、能改什么。第二层是隔离:它在自己的账号里干活,还是在你本人的登录态里干活。第三层是控制:哪些动作必须停下来等人。前两层做对,你已经能用上大部分能力;到了碰钱的那条线,三层必须同时成立。

权限不是一道选择题,它有四层

关于 AI 权限的争论,多半是把四件不同的事混在一个词里。拆开看,选择就简单了。

层级 AI 能做什么 现实中可能出的事 合理默认
1. 只读打开公开页面和你的报表,做摘要和对比你根据一个过时的数字做了决定可以放开;抽查来源
2. 起草与排期写商品描述、帖子、回复;准备发布排期你审得太快,一个错误细节到了客户面前开,但审核这一步必须真的做
3. 在账号里执行发布、改商品、发消息、提交表单改动上到了错误的账号,或者错的价格上架了一次只开一个账号;稿子稳定干净前,发布由人按
4. 凭证与钱以你的身份登录、改收款账户、动钱、重置密码钱出去了,追不回来不给。登录和批准都留在人手上

第一层和第二层,已经覆盖一个人做生意时最想找人分担的活:调研、初稿、每周汇总、内容计划。到第三层,审核就不再是「有空再看」,而是必选项。第四层不是功能选择,是风险自留额的选择——大多数小生意赔不起那个下限。

安全领域怎么描述这种风险

《OWASP 大模型应用十大风险》把这一类风险叫作 Excessive Agency(过度代理):系统被赋予的行动能力超过了任务本身的需要。OWASP 把它拆成三部分——功能过多(接入了太多工具)、权限过大(接触到的东西超过完成任务所需)、自主性过高(高风险动作没有人把关)。它给出的缓解办法都很朴素:只给完成任务所需的最少工具和权限、高风险动作必须人工批准、记录并监控执行过程、限制动作的触发频率。

这个框架有用,是因为它把讨论从「信不信任 AI」拉回到可以动手的地方。你不需要判断 AI 整体上靠不靠谱,只需要判断:这个动作、配这份权限,有没有一道护栏,能让一次错误还收得回来。「模型永远不出错」不是一个能买到的控制措施;「权限上限」是。

第二个风险跟模型的意图无关。Agent 读到的任何内容都是输入,而其中一部分是陌生人写的:商品页、客服邮件、竞争对手网站。OWASP 在同一份清单里把「提示注入」列为 LLM01,原因就在这里——页面里可以藏着写给 AI 看、而不是写给人看的指令。范围限制在这里同样有用:只能读的 Agent,没法被人说服去发布。

让第一次试用活下来的四个控制

1. 最小权限,一次加一个工具。 完成任务需要什么,就只连什么。如果是每周竞品扫描,它需要浏览网页,不需要你的店铺后台。如果是商品描述初稿,它需要产品资料表,不需要发布权限。第一个任务跑满一周、没有意外,再加下一个权限。

2. 隔离。 平台允许的话,给 AI 一个自己的账号、自己的浏览器、自己的邮箱。隔离会缩小一次错误的波及范围;同样重要的是,它能让你分得清哪些操作来自 AI。NIST 的 AI 风险管理框架(AI RMF 1.0,2023)把这套工作分成四个环节:治理、梳理、度量、管理。给 Agent 一个独立身份,属于「梳理」——在出事之前弄清楚谁连着谁。

3. 在钱的边界上留人。 发布、给客户发消息、改价格、退款、一切涉及收款的动作为什么要等一个具名的人确认?因为它错了就收不回。而且批准必须是真的:一个你十秒钟点完「全部通过」的队列,只是多了一道手续的橡皮图章,偏偏在最贵的时候失灵。

4. 日志与每周复盘。 英国 NCSC 与美国 CISA 联合多个国际伙伴,在 2023 年发布了安全 AI 系统开发指南,把人工监督、最小权限和监控写进系统设计,而不是写在宣传页上。落到小生意身上,就是一个习惯:每周看一眼 AI 做了什么,而不只是看它产出了什么。一条简短的动作记录——碰了哪些页面、提交了什么、发了什么消息——就足够早发现问题。

可以直接抄的权限表

把它当成你自己权限政策的第一页。这张表按一两个人运营的线上生意写的,并假设这个 Agent 刚进你的生意。

权限请求 它能做什么 给之前先做的缓解
读取公开网页调研、竞品扫描、比价低风险;任何数字先核实再用
读取店铺数据报表每周汇总、趋势笔记只读角色;用导出文件,不共享登录
起草与排期社媒内容内容日历、文案日历由你批准;一开始发布仍手动
编辑商品页标题、描述、卖点、规格建一份事实产品表;抽查价格与规格
发送客户消息订单状态、跟进涉及物流、退款、金额的一律只出草稿
改价格或促销线上实际售价每次人工批准;记录谁改了什么
收款与银行账户转移资金不给。收款账户不允许 Agent 登录
密码管理器或备用邮箱找回其他所有账号的控制权永不共享。找回权限留在老板和第二个人手上

第一周的试法:小、能看、能退

不需要安全团队才能开始,需要的是一次小到能观察的试跑。

  1. 先挑一件事:经常重复、结果能验收、做错能撤回。每周竞品扫描、商品描述初稿都适合当第一件。
  2. 给它一个独立身份:平台支持的话,用单独的浏览器或邮箱,不要用你本人的登录。
  3. 从只读开始:第一周只让它出报告,不让它改任何东西。
  4. 把放行规则写下来:一句话——「它可以准备 X;碰到客户、价格、付款,必须我批。」
  5. 先想好怎么撤:最可能出的那个错,出事之前就知道怎么退回去。
  6. 复盘动作,不只看产出:每周读一次动作记录——碰了什么、发了什么。
  7. 干净跑满一周再放宽:规则改清楚了还犯同一个错,就往回退一层。

AiCOO 是怎么围绕这个拆分设计的

AiCOO 是给线上生意用的 AI 商业操作系统,不是个人邮件或日历助理。它是上面几种做法里的一个选项,而且在设计时就把「隔离」当成前提,而不是事后补丁。

每个 AI 员工通过自己的浏览器工作,不共用老板已经登录的会话。Base 套餐含 1 个浏览器席位,Pro 含 3 个,Ultra 最多 15 个,各自使用独立登录。账号和支付的控制权留在你手上,风险较高的步骤设计为停下来等人工确认,而不是无人值守地执行。桌面端本地运行,工作文件默认留在你的电脑里;当你创建一个 no key 分享项目文件时,共享的内容存储在腾讯云 COS。模型调用按你自己的 API Key 在你的模型服务商那里计费,套餐费买的是业务底座,不含模型调用费。

具体机制可以看 架构说明,当前席位和功能以 定价页 为准。套餐每月 $19 到 $99,Pro 为 $39;30 天 Pro 试用无需绑卡,也不会自动扣费。无论最后选哪个工具,这些细节都值得在接入任何账号之前先读一遍。

隔离解决不了的部分

独立浏览器能降低「AI 继承你整个数字生活」的概率,但它不等于没有风险。OWASP 自己的说法也是:隔离和最小权限降低暴露面,而不是消除风险。有四条边界要说清楚。第一,隔离不是合规认证,任何厂商都不该暗示它是。第二,有自己账号的 Agent 仍然可以用你的品牌在公开场合犯错。第三,软件需要更新和定期检查,放一年不动的系统等于没人真正懂它。第四,人工批准只有在人真的读了那一条时才成立——点得快,不是监督。

记住这一条就够

如果这页只记一句话,就记这句:给 AI 完成一件有用任务所需的最小权限,在它外面套一个独立账号,然后在钱、客户和公开承诺的那条线上留一个真人。这条规则很朴素,执行起来不花钱,而且换了工具也依然成立。你不需要先在抽象层面判断 AI 可不可信,你需要的是第一件「出错了看得见、退得回、学得到」的活,和一道把生意的其他部分挡在测试之外的权限边界。至于用哪个模型、买哪档套餐、跑什么流程,都是以后可以改的细节;第一天交出去的权限,才是很难收回来的东西。

常见问题

让 AI 读我的工作邮箱,安全吗?
读是风险最低的一层,但邮箱本身要看清楚。给 Agent 一个专用地址,而不是主邮箱;密码找回和两步验证码留在你手上;不要接一个会收到银行或收款通知的邮箱。读收件箱通常没问题,但拥有那个能重置一切的主账号,不行。

AI Agent 能接我的收款后台吗?
把「看」和「动」分开。只读查看销售报表,是很合理的研究输入,风险很小。提现权限、银行信息、转账能力是另一个决定,对大多数小生意来说,答案应该是不给。收款登录留在人手上,钱的数字用导出的报表回答。

AiCOO 把数据存在哪里?
AiCOO 桌面端本地运行,工作文件默认留在你的电脑里。当你创建 no key、把项目文件分享给其他人或其他 AI 团队时,共享内容存储在腾讯云 COS。模型请求发往你所使用的 API Key 对应的模型服务商,由该服务商直接向你计费。

什么是「过度代理」(Excessive Agency)?
这是 OWASP 对一类 AI 风险的叫法:系统能做的事超过了任务需要——接的工具太多、权限比需要的宽、高风险动作没有人工批准。解法不是换一个更聪明的模型,而是缩小范围、放在独立账号里、在高影响动作上留一道人工关卡。

怎么知道 Agent 到底做了什么?
要动作记录,不要摘要:打开了哪些页面、提交了哪些表单、发了哪些消息、各自什么时间。每周看一次,跟你预期对一遍。如果这个工具给不出这份记录,那要当成工具的能力边界,而不是一个小细节。

独立浏览器真的能保护我吗?
它能降低 Agent 以你完整登录身份行事的概率,也让它的活动更容易和你自己的操作分开。它挡不住一次公开的错误,也替代不了支付控制、更新和人工审核。把它当成一层,而不是一张封条。

用一个低权限的小任务试试 AiCOO
30 天 Pro 试用。无需绑卡。模型 API 费用另计。