跳到正文
Llama ServerManager
文档下载更新日志GitHub
下载 v2.9.55
菜单
文档下载更新日志GitHub
使用指南
00文档首页01快速开始02模型与下载03实例与参数04OpenAI / Anthropic 路由05集群管理06性能与诊断07故障排查
仍然遇到问题?

从日志、端口和引擎版本开始排查,通常最快。

打开排查清单 →
DOCUMENTATION · 中文

从第一次启动,到稳定运行

这套文档按照真实工作流组织。先跑通最短路径,再逐步理解模型、实例、路由、集群和性能诊断。

推荐阅读顺序
安装→引擎与模型→实例→路由

找到你需要的内容

01

从安装到第一个实例

完成首次启动、目录配置、引擎与模型准备。

打开指南 →
02

模型浏览与可靠下载

使用 ModelScope / Hugging Face、暂停恢复与断点续传。

打开指南 →
03

实例与 llama.cpp 参数

创建、复制、启动实例,理解自动值与显式覆盖。

打开指南 →
04

统一 OpenAI / Anthropic API

模型别名、鉴权、Claude Code 与故障转移。

打开指南 →
05

集群 Worker

局域网发现、本地与 SSH 启动、RPC 配置。

打开指南 →
06

性能与诊断

吞吐、资源、历史基线、日志与向量任务。

打开指南 →

完整目录

  • 00文档首页
  • 01快速开始
  • 02模型与下载
  • 03实例与参数
  • 04OpenAI / Anthropic 路由
  • 05集群管理
  • 06性能与诊断
  • 07故障排查
Llama Server Manager

让本地模型服务更容易管理、更容易连接。

开源、本地优先。配置、日志与性能记录默认只保存在你的设备上。

产品下载更新日志更新状态
资源使用文档API 路由故障排查
项目源代码问题反馈隐私政策
© 2026 Llama Server Manager由 Cloudflare 提供站点与下载分发