LiteLLM
LiteLLM 是 OpenAI-compatible LLM gateway。Fased 可以通过litellm provider 使用你的 LiteLLM proxy,并把上游模型、虚拟 key、日志和成本追踪留给 LiteLLM 管理。
普通浏览器设置:Agents > Agent > Models > LiteLLM。
CLI:
手动启动示例
litellm/default 作为默认初始引用,然后可以刷新或使用 proxy 暴露的模型 ID。
配置
curl http://localhost:4000/models
或 Agent > Models 检查当前可用模型。