Higress 网关 LLM 端点故障临时屏蔽（Endpoint Failover）

Higress ai-load-balancer 端点软屏蔽：连续失败进冷宫、全屏蔽软回退、失败次数与时间点可观测

Semantic_router

vllm 语义路由解析

AI 编程助手的上下文压缩：only-cc-lite 设计与 98 个真实会话的压测分析

从 Headroom 提取的零 ML 依赖上下文压缩库，通过增量压缩和前缀缓存保护，在真实编程助手会话中验证压缩收益

Google ax + substrate：智能体运行时调度架构分析

AI编程工具TokenPlan横评

token-plan 成本横评

统计大模型流式响应的token usage

how to collect usage of sse response