AI 服务容量规划：长尾延迟、排队与压测模型
用到达率、服务时间和资源池解释吞吐上限，设计能暴露排队问题的负载实验。
Lin
3 分钟阅读
Lin
大模型应用成本治理：Token 预算、缓存与质量约束
按成功任务核算成本，在权限和知识版本约束下评估缓存与上下文压缩。
Lin
3 分钟阅读
Agent 可观测性设计：从一次请求追踪到业务终态
关联任务、模型、检索和工具调用，用失败类别解释耗时与成本。
Lin
3 分钟阅读
企业模型网关设计：能力路由、配额与降级
在统一入口执行能力检查和预算控制，用明确语义约束模型切换与故障降级。
Lin
3 分钟阅读
Java 流式 AI 接口：SSE、取消传播与慢客户端治理
拆开任务生命周期和连接生命周期，处理断线、重连、取消和事件缓冲。
Lin
3 分钟阅读
Java 21 虚拟线程接入大模型：并发隔离与容量边界
把线程调度能力与下游资源配额分开治理，避免更轻量的线程放大依赖压力。
Lin
3 分钟阅读
Agent 异步任务的事务消息：Outbox 与幂等消费
用事务内事件和消费去重衔接数据库与消息系统，明确至少一次投递下的责任边界。
Lin
3 分钟阅读
长任务 Agent 状态机：检查点、租约与故障恢复
将任务事实持久化，用租约和版本校验处理进程重启与重复调度。
Lin
3 分钟阅读
人工审批与幂等执行：让 Agent 安全创建工单
把审批绑定到具体命令，用业务幂等和结果对账处理超时后的不确定执行状态。
Lin
3 分钟阅读
Agent 提示词注入防护：把外部内容留在数据边界内
围绕知识库和工具返回建立信任分层，在执行层控制模型可触发的操作。
Lin
3 分钟阅读
Lin 的博客 A merry heart goes all the way.
关于我
Lin 的 ❤️ 博客
技术专题：Java Agent 工程化：从知识库问答到可靠业务执行。围绕 RAG、工具治理、任务恢复与 Java 平台架构整理设计思路和验证方法。
记录一些 🌈 生活上，技术上的事
- 🛠️ 技术阵地： 深耕 Java 开发 ，目前向 AI 应用领域探索与拓展。这里主要记录我从后端架构到 AI 赋能的进阶之路、技术思考以及日常的 debug 血泪史。始终致力于写出优雅且没有 bug 的代码（尽量）。
- 🌈 生活侧写： 偶尔脱下极客的外衣，我也会在这里分享生活中的灵光一现。不管是好用的效率工具，还是周末的一场骑行，都是构成我真实生活的一部分。
社交链接
本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。
背景使用了 Pexels 上 Francesco Ungaro 拍摄的图片。