LLM Fence面向团队的 LLM API 代理

专注 LLM 使用中的审计合规与权限管理

高性能

Rust 实现，基于 Salvo 异步框架，内存占用低、启动快。原生支持高并发流式转发，OpenAI / Anthropic 双格式兼容。

自动区分 Claude Code、OpenAI Codex 等客户端类型，按 Key 粒度放行或拦截，精确控制谁能用什么工具访问 LLM。

Key → 客户端类型 × 模型 × IP 网段三维组合控制，为团队成员按需分配最小权限。

PreProcessor / PostProcessor / Observer 三阶段架构，模块自由组合，扩展新策略只需实现一个 trait。

旁路异步 LLM 分析请求 / 响应内容，按客户端类型分流预处理，用于合规检查与安全监控，异常请求主动告警。

Linux musl 静态编译，兼容 CentOS 7+、Ubuntu 20.04+；Windows 静态 CRT 无需 vcruntime。单个二进制，部署简单。

文档时效性

项目正在快速迭代，文档可能滞后于实现。如有出入，请以源码为准。