CATEGORY
AI / Agent 工程
共 16 篇文章。
01
AI / Agent 工程
02Agent 外部动作幂等性：超时之后先查状态，再决定重试
为发送、创建与扣费类工具设计操作键、状态查询和补偿路径，避免结果未知时重复执行。
AI / Agent 工程
03嵌入模型迁移：双索引、可比评测与无停机切换
处理向量维度、距离分布和切片版本变化，用双写与影子查询完成可回滚的嵌入升级。
AI / Agent 工程
04Agent 文件系统沙箱：路径白名单之外还要防符号链接竞态
从规范化路径、文件句柄、配额和进程隔离设计 Agent 工作区，抵御越界读取与写入。
AI / Agent 工程
05Agent 人工审批点：确认最终动作，而不是笼统同意目标
把人工审批放在不可逆动作之前，展示最终目标、差异、成本与恢复方式，防止授权漂移。
AI / Agent 工程
06可复现的 AI 代码审查：从“可能有问题”到触发路径
要求每条审查发现包含触发条件、调用链、实际影响与最小复现，降低看似专业的误报。
AI / Agent 工程
07LLM 可观测性与隐私：诊断问题不需要永久保存提示全文
用结构化事件、内容指纹和受控采样观察模型系统，同时避免日志成为新的敏感数据仓库。
AI / Agent 工程
08风险感知的模型路由：推理预算应跟任务损失函数走
按可逆性、事实时效和副作用配置模型、工具与复核策略，而不是只按榜单选择单一模型。
AI / Agent 工程
09多模态文档溯源：让每个结论回到页码、区域和原图
设计保留原文件、页面坐标、识别版本与证据截图的文档理解流水线，降低不可追踪的幻觉。
AI / Agent 工程
10浏览器 Agent 的提示注入防线：页面文字永远只是数据
隔离网页内容与授权指令，使用动作策略、域名边界和独立确认保护浏览器自动化。
AI / Agent 工程
11Agent 长期记忆治理：写入理由、来源与删除必须同时存在
把记忆视为受治理的数据产品，明确提取准则、冲突处理、有效期、用户控制和删除传播。
AI / Agent 工程
12长任务 Agent 检查点：恢复的是状态，不是聊天记录
为跨分钟或跨小时的代理任务建立可恢复状态机，处理重启、取消、重复投递与人工接管。
AI / Agent 工程
13结构化输出修复回路：Schema 通过不等于业务正确
将模型输出分为语法、字段、跨字段和外部事实四层校验，并设计有上限的修复策略。
AI / Agent 工程
14混合检索 RAG：让关键词、向量与证据编号各司其职
用可复现的问题集比较关键词与向量召回，并让最终回答的每个关键结论回指稳定证据。
AI / Agent 工程
15MCP 能力边界：从工具发现到服务端重新授权
分析 MCP 客户端、服务器与真实资源之间的信任边界，避免工具描述被误当作安全策略。
AI / Agent 工程
Agent 评测回归门禁：别让一次漂亮演示替代证据
构建覆盖轨迹、工具选择、事实引用和副作用的评测集，让模型或提示升级具备可比较的发布依据。