最新版本 v2.9.55查看更新 →

你的本地模型，
终于有了控制台。

从模型下载、引擎与实例，到 OpenAI / Anthropic API 路由、集群和性能诊断。 Llama Server Manager 把复杂的 llama-server 工作流收进一个清晰、可靠的桌面应用。

免费下载 v2.9.55 5 分钟开始使用

开源本地优先Tauri 签名更新Windows · macOS · Linux

统一 APIOpenAI + Anthropic

114

实时生成速度tokens / s

255项 llama.cpp 稳定参数契约

5个跨平台安装包

2套主流 API 格式，一个入口

100%配置与遥测默认留在本地

ONE DESKTOP. THE WHOLE WORKFLOW.

不只是启动一个服务

把最容易出错的路径、参数、端口、下载、进程与路由配置变成可理解、可验证的工作流。

从模型到服务，一处完成

浏览 ModelScope 与 Hugging Face、断点下载、扫描 GGUF、管理引擎并启动实例。

统一 OpenAI / Anthropic API

用模型别名、优先级与故障转移，把多个 llama-server 收束成一个稳定入口。

看得见的性能与可靠性

实时吞吐、CPU/GPU/显存、P50/P95、历史基线、日志与诊断建议都在桌面端完成。

单机起步，集群扩展

支持局域网发现、本地与 SSH Worker、RPC 配置，在需要时扩展算力。

ROUTING THAT FITS YOUR TOOLS

一个地址，连接所有本地模型

现有 OpenAI 客户端、Anthropic SDK 和 Claude Code 都可以接入同一个路由监听器。使用公开模型别名，不暴露内部端口与实例名称。

OpenAI Chat / Completions / Embeddings / Rerank
Anthropic Messages、流式 SSE、工具调用与图片输入
模型优先级、故障转移和独立目标凭据

阅读 API 路由指南 →

Claude CodeOpenAI SDKcURL

ANTHROPIC_BASE_URL=http://127.0.0.1:11435
ANTHROPIC_AUTH_TOKEN=your-router-key

claude

# 同一监听器也支持：
POST /v1/chat/completions
POST /v1/messages

路由就绪 · 本地连接

SEE WHAT THE SERVER IS DOING

性能不是猜出来的

了解性能监控 →

LATEST RELEASE · 2026-11-03

v2.9.55：接入 Gufo 与完善统一 API 路由

本版本增加 Windows Gufo 实例管理，沿用现有模型、引擎与统一 API 工作流，并修复人工测试和发版前审计发现的路由、配置及生命周期边界问题。

下载最新版完整更新说明

LOCAL MODELS. CLEAR CONTROL.

让下一次启动模型，简单一点。

开始下载

你的本地模型，终于有了控制台。