LLM
-
Headroom 将 AI 编码代理的 Token 优化前移到本地压缩层
Headroom 通过本地压缩工具输出、日志和 RAG 内容,降低 AI 编码代理的 Token 消耗与延迟。其可逆压缩、输出控制和共享记忆机制,为本地化 LLM Agent 提供了一条工程化降本路径。
-
AI 编程助手的隐性账单:反复提示正在消耗 token、时间和工程判断
AI 编程助手看似提高了编码速度,但反复提示和返工正在消耗 token、API 成本与工程判断力。文章从一次 300 行代码生成案例出发,分析长上下文、无状态 API 和输出计费结构如何放大隐性成本,并提出任务边界、上下文复用与验收检查等实践方向。
-
像素阈值之外:LLM 进入 UI 视觉回归测试的真实位置
视觉回归测试长期依赖像素阈值,但渲染噪声和随机内容让纯数值比较容易产生误报。BackstopJS 仍以统计容差为核心,而低星项目 vlmkit 则尝试把 VLM 放入一个可选且受约束的窄环节。
-
当自动化测试找不到按钮:自愈定位的真实能力与边界
Web UI 自动化测试中,元素定位失败往往比业务断言失败更常见。自愈定位试图自动修复失效选择器,但从 Healenium 的启发式打分到 LLM 智能体方案,真实边界仍然清晰:它们能发现“相似元素”,却难以判断“这次变化是否合理”。
-
LLM“打字机效果”背后:用 Node.js 与 SSE 实现流式输出
从 Node.js 手写 SSE 服务到 LLM API 的 stream: true,本文拆解大模型“打字机效果”背后的工程实现。
-
为何你的大语言模型账单飙升,语义缓存如何削减 73% 成本
在大语言模型(LLM)广泛应用的当下,许多用户发现使用 LLM 的成本急剧上升,账单金额不断飙升。这一现象背后有着多方面的原因,而语义缓存技术则为大幅削减成本提供了一个颇具潜力的解…
-
AI 发展迅猛,治理却滞后:决策瘫痪才是真正风险
当前人工智能技术正以前所未有的速度迭代 —— 新能力不再按年涌现,而是以季度甚至月度为周期更新,各行业正从边缘试探转向围绕 AI 重构工作流程、产品与客户体验。但多数企业领导层的运…
-
Intuit 深耕金融 AI 智能体:信任易失难复,以技术架构与渐进设计重建信心
金融领域 AI 开发与消费级 AI 存在本质差异 —— 错误决策可能直接导致用户信任崩塌,而 Intuit(财捷集团)通过最新 QuickBooks 平台推出的 “Intuit I…
-
捕捉自动化新浪潮:当任何人都能自动化一切时
在技术发展的长河中,自动化始终承载着解放人类生产力的美好承诺。从早期的宏命令到如今的智能代理,自动化技术经历了数次范式转移,而当下正在发生的变革可能是最具颠覆性的一次。Turbot…
-
暗流涌动:AI谄媚与黑暗模式的隐忧
在人工智能(AI)日新月异的今天,一次小小的更新却意外地掀起了轩然大波。年月中旬,OpenAI推出的ChatGPT-o版本,非但没有因其创新功能赢得满堂喝彩,反而因一种令人不安的倾…