在 Linux 上安装 Docling——服务器上精简，GPU 上飞快

仅 CPU 的服务器（无 GPU 时推荐）#

sudo apt-get update && sudo apt-get install -y python3-venv    # Debian/Ubuntu
python3 -m venv ~/docling-env && source ~/docling-env/bin/activate
pip install -U pip
pip install torch torchvision --index-url https://download.pytorch.org/whl/cpu
pip install docling                    # 国内可加 -i https://pypi.tuna.tsinghua.edu.cn/simple
docling --version

这正是我们做基准测试时用的步骤。环境占用磁盘 1.8 GB，首次转换后另有 0.5 GB 模型。

使用 NVIDIA GPU#

nvidia-smi                              # 记下 "CUDA Version: XX.X"（驱动支持的最高版本）
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu132   # torch 2.15.0，驱动 CUDA ≥ 13.2；较旧驱动用 cu130 或 cu126（torch 2.14.1）
pip install docling
python -c "import torch; print(torch.__version__, torch.cuda.is_available())"
docling convert report.pdf --device cuda

nvidia-smi 显示的 CUDA 版本是驱动支持的最高版本，请选择不高于它的 PyTorch 版本。我们确认 cu132 和 cu134 索引上有 torch 2.15.0；cu130 和 cu126 只到 torch 2.14.1，Docling 同样可用（cu128 索引只到 torch 2.11.0）。使用 uv 时，uv pip install --torch-backend auto docling 会自动检测驱动。

可选系统包#

把 chi-sim/chi_sim 换成你需要的 Tesseract 语言代码（繁体中文 chi-tra、日语 jpn、德语 deu……）。各发行版的包名略有不同。

无界面服务器与服务#

• 在部署阶段用 docling-tools models download 预下载模型，避免第一个请求很慢。
• 一台机器上运行多个工作进程时，用 --num-threads 或 OMP_NUM_THREADS 限制每个进程的线程数。
• 用 docling-serve 作为服务运行（systemd 或容器），而不是为每个文件启动一次 CLI——模型会保持加载状态。
• 设置文档超时（--document-timeout 300），防止一个坏文件堵住整个队列。

ARM64#

Docling 2.148.0 和 PyTorch 2.15.0 都能在 aarch64 Linux 上解析（用 uv 解析器针对 Python 3.12 检查），官方 docling-serve 镜像（包括 CUDA 版本）也发布了 linux/arm64 版本。

常见问题

资料来源

• PyTorch CPU 安装包索引
• PyPI 上的 torch 2.15.0（Linux CUDA 依赖）
• Docling 安装指南