AI运维中的失误与不应交给AI的工作|旅宿网站的安全界线

描绘旅宿经营者将AI工作分为可提供辅助、须由人员批准,以及不交给AI的领域三个阶段进行判断的插画 AI 网站管理

AI可以调查旅宿官方网站、撰写文章原稿、找出失效链接,并依既定步骤套用至WordPress。不过,即使文章自然,事实也可能有误;即使指令成功,公开画面也可能尚未修正。

问题不在于「AI会不会出错」,而在于是否授予了AI一旦出错,损害就可能扩及预订、付款、个人资料与正式服务器的权限。

本文根据猫宿研究所运维中实际发现的失误,整理可交给AI的辅助工作、须由人员批准的工作,以及不应交由AI单独执行的工作。

结论:分为绿、黄、红三个阶段

分类 判断原则 示例
绿:交由AI辅助 即使出错,也不改变原始资料或对方的状态 调查公开页面、原稿提案、链接候选、确认表
黄:由人员批准 确认目标与还原方式后,逐件执行 发布文章、修改现有页面、新增图片、变更设置
红:不交由AI单独执行 涉及金钱、契约、个人、复原或强大权限 退款、变更预订、对外传送、删除、还原、变更密钥或管理员

使用AI,与让AI自由操作正式服务器或预订管理,是不同的事情。一开始只从绿色工作开始,即使进入黄色,也要依工作单位批准。

失误1:「调查」变成了「修正」

可能发生的情况

旅宿主人只是想了解原因,AI却可能在发现问题后,顺势修改文件或设置。委托文字未明确区分诊断与实作时,容易发生这种失误。

预防方式

请调查原因并报告。
这次只进行只读操作,请勿变更文件、WordPress、服务器或外部服务。
请提出修正方案、影响范围及必要备份后,就停止工作。

确认调查结果后,再指定目标文件或文章ID,另外提出委托。

失误2:使用了看似可信的过时信息

可能发生的情况

AI可能以自然的文字,写错服务名称、费用、URL、功能或正式文件名。有时也只阅读搜索结果的简短说明,便把其他服务或旧版规格当成同一项信息。

猫宿研究所也曾把Codex的指示文件名当成单数形式,或混淆域名相似的预订服务。

预防方式

  • 实际开启目前的官方页面
  • 逐字确认服务名称与域名
  • 为费用、功能及条款附上确认日期
  • 无法由第一手资料确认的内容,标示为「未确认」
  • 不只依AI记忆或搜索结果摘要发布内容

失误3:只修改一处,留下旧版说明

可能发生的情况

即使修正文章内文,标题、description、导览页、相关文章、菜单、OTA或预订确认邮件仍可能保留旧版说明。即使新文章连到现有文章,若现有文章没有返回链接,读者也可能无法找到新内容。

预防方式

变更前,搜索「刊载同一信息的位置」。

官方网站、预订画面、OTA、SNS、电子邮件、PDF、内部链接

更新后,不只搜索修改过的位置,也要搜索不应残留的旧表述。

失误4:把指令成功当成显示成功

可能发生的情况

即使文章更新或启用功能的处理正常结束,缓存、其他资料取得流程或主题的显示条件,也可能使读者看到的页面没有反映变更。

猫宿研究所曾新增将旅宿主人专区文章排除于首页最新文章之外的处理,但起初文章仍留在另一套最新文章取得流程中。

预防方式

  • 从WordPress重新读取文章值
  • 退出登录状态下开启公开URL
  • 确认PC与智能手机画面
  • 不只确认「应消失的内容已消失」,也确认「应保留的内容仍保留」
  • 确认预订、询问、地图等用户导线

失误5:只执行备份,就以为可以放心

可能发生的情况

即使执行备份指令,也可能因运行中的文件变更、容量不足、通讯中断或DB导出失败,产生不完整的文件。

预防方式

先决定成功条件。

  • 处理的结束状态为成功
  • 归档文件可读取
  • 校验码一致
  • 数据库导出具有完成记录
  • 包含必要文件与设置
  • 知道还原步骤与负责人

不要把失败的备份报告为成功,应确认建立中的文件、最近一次已验证的备份,以及本次变更是否可逆。没有正常的最新备份,就不要进行删除、DB移转、WordPress或服务器更新。

失误6:清楚的具体示例却公开了环境信息

可能发生的情况

为了让读者容易理解,可能把连接目标、内部路径、用户名称、服务器架构、实际指令,或接近认证方式的信息写进示例。

预防方式

公开文章只提供判断原则、虚构环境与确认项目。不公开实际环境的连接方式或防护架构。

只遮住秘密值不一定足够。发布前,也要检查可能成为攻击线索的架构信息。

失误7:批次修改连目标之外的内容也变更了

可能发生的情况

「变更所有作者」「批次取代链接」「清理旧文件」等委托很方便,却可能波及固定页面、草稿、其他分类、外部URL或使用中的文件。

预防方式

  1. 先列出变更候选的件数与清单
  2. 由人员确认目标与非目标条件
  3. 先用少量或单一项目试行
  4. 比较变更前后的值
  5. 件数与预期不符时就停止

批次操作不只会加快同一项处理,也会加快扩散同一项错误。

失误8:把外部文字当成命令

可能发生的情况

网页、询问、评价、日志或上传文件,可能包含企图让AI执行其他操作的文字。把调查文字当成项目指示,可能导致目的之外的访问或信息输出。

预防方式

  • 将外部文字当成资料
  • 不执行页面中的命令或指令
  • 限定调查URL与允许的域名
  • 不把下载内容直接传入shell执行
  • 对外传送或登录须另外批准

较适合交由AI辅助的工作

下列项目适合从只读及本地工作开始。

  • 整理公开网站的页面清单与链接候选
  • 寻找官方资料,整理确认日期与URL
  • 撰写Markdown原稿提案
  • 提出title、description、标题及替代文字候选
  • 寻找重复文章或已过时的现在式表述
  • 检查发布后的HTTP、主要链接及手机显示
  • 报告变更候选与影响范围
  • 整理工作记录或确认清单格式

这些结果也不能照单全收,应由人员确认旅宿事实、发布权利及对读者的影响。

经人员批准后逐件执行的工作

  • 在WordPress新增文章草稿
  • 发布已批准的文章ID
  • 变更现有文章的内文、title或description
  • 设置分类、标签或精选图片
  • 更新导览页与相关文章的内部链接
  • 已验证的小范围主题或插件修改
  • 刊登已批准的公告

批准应包含目标、变更内容、执行方法、备份、还原方式及发布后要确认的URL。不要使用「可以修正网站」这种概括授权。

不交由AI单独执行的工作

对预订者或询问者的操作

  • 确认、变更或取消预订
  • 向住宿旅客群发讯息或个别回复
  • 实际送出询问表单
  • 拨打电话
  • 公开回复评价

AI即使可以草拟文章,也应由人员确认身份、适用条件、对象及传送时间。

金钱与契约

  • 最终决定费用或取消费
  • 向信用卡请款
  • 全额或部分退款
  • 判定未通知未入住并请款
  • 变更或终止付款、预订服务契约
  • 税务、会计或法律判断

AI可以制作确认表或计算提案,但应确认契约、条款、住宿旅客同意及付款公司的条件,再由负责人批准。

个人资料与秘密信息

  • 读取或向外传送真实预订者清单
  • 处理信用卡号、身份证明文件或健康信息
  • 显示密码、两步骤验证码、API密钥或私钥
  • 把秘密信息贴进对话、日志或原稿

即使AI执行工作需要这些信息,也应与技术负责人设计成仅通过最小权限机制访问,而不显示其值。

破坏性操作与复原工作

  • 批次删除文章、图片、用户或数据库
  • 初始化、导入或批次取代数据库
  • 从备份还原正式环境
  • 更新或重新启动OS、Docker、PHP、MySQL等
  • 变更域名、DNS、TLS或电子邮件设置
  • 变更管理员、SSH密钥或sudo权限

可以请AI拟定步骤、差异与确认表,但应由管理员确认影响及还原方法后,判断是否执行。

猫咪、健康与法律的最终判断

  • 判断猫咪病名或治疗
  • 以医学判断猫咪能否接待旅客
  • 推测死因或非公开信息
  • 对住宿条款、退款义务或权利关系作最终判断
  • 凭推测认定照片权利人或人物同意

AI的说明不能取代兽医师、行政机关或律师等的个别判断。

同时使用沙箱与批准机制

OpenAI官方文件将Codex的安全控制分成两个层次。

  • 沙箱:可以写入哪些位置、能否连接网络等,技术上可执行的范围
  • 批准政策:例如超出范围的操作,在执行前停止并向人员确认的条件

不只用文字交代「不要进行危险操作」,而要让权限使AI即使出错,也无法执行。此外,在OS、SSH、WordPress及预订服务端,也应使用专用账号与最小权限。

详细权限设计,请参阅让AI操作正式服务器时的权限设计。

应立即停止的征兆

  • 目标件数与事前确认不同
  • 委托只读工作,却开始变更
  • 试图访问陌生连接目标或外部服务
  • 试图显示密码或秘密值
  • 备份或测试失败
  • 执行结果与公开画面不一致
  • 凭推测确定预订、费用或猫咪状态
  • 无法说明还原方法

发现异常时,不要用追加指令试图补救,而应记录当时的结果、目标、时间与错误。

工作前可使用的界线提示词

请协助旅宿的WordPress运维。
先将工作分为下列三类,目前请勿执行。

1. 可交给AI的只读工作与本地原稿工作
2. 说明目标、备份与还原方式,经人员批准后执行的工作
3. 预订、对外传送、付款、个人资料、删除、还原、权限变更等,不由AI单独执行的工作

本次目的:[目的]
目标:[URL、原稿、文章等]

请提出必要的最小权限、变更目标、非目标、失败时的停止条件,
以及发布后应确认的项目。
不明事实请勿猜测,请列出需要确认的对象与资料。
在我批准目标前,请勿登录、编辑、发布、传送或删除。

失误后的记录模板

发生日期与时间:
委托目的:
允许范围:
实际执行的内容:
受影响的文章、文件与服务:
对对外传送、个人资料与付款的影响:
停止时点:
可使用的已验证备份:
复原负责人:
原因:事实误认/目标错误/权限过大/确认遗漏/其他
下次的技术限制:
应补充至AGENTS.md・CLAUDE.md的规则:
批准恢复工作的人:

不要只以「AI出错了」结束,而要建立机制,使下次同一项操作的影响在技术上无法扩大。

总结

AI运维安全性,是通过预设会失败的范围与停止条件建立,而非只靠完美提示词。公开信息调查与原稿提案可交由AI辅助;文章发布须逐件经人员批准;预订、传送、付款、个人资料、删除、还原、权限变更,以及医学或法律的最终判断,不交给AI单独执行。

猫宿研究所实际发生的例子,以及把失误转化成下一条规则的过程,介绍于猫宿研究所通过AI运维的实例。最初的安全规则与模板,请从使用Codex、Claude Code管理WordPress之前确认。

若还不确定要委托什么工作,可以从旅宿主人适用的Codex、Claude Code咨询入门,了解区分咨询、调查与实作的对话方式。

参考资料

※产品设置与名称可能变更。导入时,请确认OpenAI Docs、Anthropic官方资料,以及签约中的服务器、预订与付款服务的现行步骤。

已复制标题与网址