核心指数 安全 5/5
删除、发布、外发、支付、高权限文件写入必须在人类确认前停住。
每个当天会被提问或用于练习的术语,先给通俗释义,再给专业释义,避免题目超出当天知识点。
通俗释义:高风险动作先停下来让人确认。
专业释义:Human-in-the-loop 在删除、发布、支付、外发、高权限写入等副作用前引入人工审批、可解释 diff 和审计记录。
当天检查:能列出当前系统 5 个必须人工确认的动作。
参考脉络:OpenAI guardrails / 12-factor agents
通俗释义:把 Agent 关在有边界的房间里,只给必要钥匙。
专业释义:用身份、profile、ACL、filesystem/network sandbox、tool allowlist 和 audit log 限制 agent 可访问的数据与动作。
当天检查:能设计多用户 profile/session/tool 隔离矩阵。
参考脉络:Security engineering / sandboxed coding agents
通俗释义:把“概念定义”先理解成今天要掌握的一种工程判断:它帮助你决定系统该如何稳定完成任务。
专业释义:概念定义 是 Agent Harness 课程中的专项能力点,需要从定义、输入输出、工程边界、失败模式、指标与验证方式六个角度掌握。
当天检查:能用自己的话解释 概念定义,并把它映射到 AI Digest / Hermes / 学习平台中的一个真实环节。
参考脉络:课程内置知识点;当天需结合 AI Digest 或真实系统案例验证
通俗释义:把“工程实现”先理解成今天要掌握的一种工程判断:它帮助你决定系统该如何稳定完成任务。
专业释义:工程实现 是 Agent Harness 课程中的专项能力点,需要从定义、输入输出、工程边界、失败模式、指标与验证方式六个角度掌握。
当天检查:能用自己的话解释 工程实现,并把它映射到 AI Digest / Hermes / 学习平台中的一个真实环节。
参考脉络:课程内置知识点;当天需结合 AI Digest 或真实系统案例验证
通俗释义:把“失败模式”先理解成今天要掌握的一种工程判断:它帮助你决定系统该如何稳定完成任务。
专业释义:失败模式 是 Agent Harness 课程中的专项能力点,需要从定义、输入输出、工程边界、失败模式、指标与验证方式六个角度掌握。
当天检查:能用自己的话解释 失败模式,并把它映射到 AI Digest / Hermes / 学习平台中的一个真实环节。
参考脉络:课程内置知识点;当天需结合 AI Digest 或真实系统案例验证
通俗释义:把“理解表达”先理解成今天要掌握的一种工程判断:它帮助你决定系统该如何稳定完成任务。
专业释义:理解表达 是 Agent Harness 课程中的专项能力点,需要从定义、输入输出、工程边界、失败模式、指标与验证方式六个角度掌握。
当天检查:能用自己的话解释 理解表达,并把它映射到 AI Digest / Hermes / 学习平台中的一个真实环节。
参考脉络:课程内置知识点;当天需结合 AI Digest 或真实系统案例验证
删除、发布、外发、支付、高权限文件写入必须在人类确认前停住。
它在 Agent Harness 中连接“目标/约束、上下文、工具、状态、验证、运营指标”这些层。学习时要问:这一层负责限制什么风险?它把哪类不确定性变成了可观察、可恢复、可评估的工程对象?
动作分级 → 展示副作用 → 确认 → 执行 → 审计
今天围绕“Human-in-the-loop 与权限分级”建立一个可复用的工程判断:先能定义它解决什么问题,再能指出它在 Agent Harness 中位于哪一层,最后能用一个真实系统环节验证它是否有效。删除、发布、外发、支付、高权限文件写入必须在人类确认前停住。 学习时不要只记名词,要把它和状态、工具、上下文、评估、成本或安全边界中的至少一项连接起来。
我能围绕 Human-in-the-loop 与权限分级 讲清楚工程目标、实现方式、指标和失败处理。
动作分级 → 展示副作用 → 确认 → 执行 → 审计
列出当前站点 5 个需要确认的动作。
完成标准:能设计最小权限工具集。
目标、状态、计划、工具、观察、评估、记忆构成最小 agentic 闭环。