Docling unter Linux installieren

Ubuntu / Debian, RHEL / Fedora und WSL2 mit Python 3.10+. Zuerst den CPU- oder CUDA-Pfad wählen — er entscheidet, welches PyTorch-Wheel installiert wird. Jeden Befehl mit der offiziellen Installationsdokumentation abgleichen.

1
Step 1

Voraussetzungen + Distro-Pakete

3.10+ wird benötigt. Dann venv + Build-Grundlagen installieren:

python3 --version
sudo apt-get update && sudo apt-get install -y python3 python3-venv python3-pip

RHEL / Fedora:

sudo dnf install -y python3 python3-pip
python3 -m venv .venv && source .venv/bin/activate && pip install -U pip
2
Step 2

CPU-only-Installation (Server, Container)

Das Standard-torch-Wheel bündelt CUDA-Bibliotheken (2 GB+). Auf CPU-only-Rechnern stattdessen das kleine CPU-Build installieren. Die richtige Wahl für CI-Runner, kleine VPS-Instanzen und CPU-Docker-Images. Für Text-PDFs voll brauchbar; Scan-/OCR-lastiges ist nur langsamer als auf GPU.

pip install docling --extra-index-url https://download.pytorch.org/whl/cpu
3
Step 3

CUDA-/GPU-Installation (NVIDIA)

pip install docling
python -c "import torch; print(torch.cuda.is_available())"
docling convert report.pdf --device cuda
  • NVIDIA-Treiber + CUDA-Toolkit passend zur GPU installieren (nvidia-smi prüfen).
  • CUDA-fähiges torch von pytorch.org für die eigene CUDA-Version (12.8 / 13.0) installieren, dann Docling — oder CUDA-torch aus dem Standard-Index auflösen lassen, dann das Gerät wählen:

torch.cuda.is_available() muss True ausgeben — sonst erst Treiber/torch reparieren, bevor Docling-Flags justiert werden. Für GPU-OCR den ONNX-Runtime-CUDA-Pfad ergänzen: pip install "docling[onnxruntime]" und prüfen, dass CUDAExecutionProvider in ort.get_available_providers() erscheint. Feintuning (Batch-Größen, VLM-Server) steht in der offiziellen GPU-Anleitung.

4
Step 4

uv-CPU-Index-Konfiguration

uv-Nutzer pinnen torch in pyproject.toml auf den CPU-Index, damit jedes Teammitglied und jeder CI-Lauf das kleine Wheel bekommt:

uv add docling
[[tool.uv.index]]
name = "pytorch-cpu"
url = "https://download.pytorch.org/whl/cpu"
explicit = true

[tool.uv.sources]
torch = [{ index = "pytorch-cpu" }]
5
Step 5

Tesseract-Systempakete

Nur für Tesseract-Engines. Binärdatei vor dem pip-Extra installieren. TESSDATA_PREFIX auf den Ordner mit .traineddata zeigen lassen (muss mit / enden). Unter Debian via dpkg -L tesseract-ocr-eng | grep tessdata$ finden, unter RHEL /usr/share/tesseract/tessdata/ nutzen. Scheitert der tesserocr-Bau: pip uninstall tesserocr, dann pip install --no-binary :all: tesserocr.

Debian / Ubuntu:

sudo apt-get install -y tesseract-ocr tesseract-ocr-eng libtesseract-dev libleptonica-dev pkg-config

RHEL / Fedora, danach das Binding:

sudo dnf install -y tesseract tesseract-devel tesseract-langpack-eng tesseract-osd leptonica-devel
pip install "docling[tesserocr]"
6
Step 6

OCR- und Pipeline-Extras unter Linux

BedarfInstallationEinschränkung
RapidOCR (empfohlener Standard)pip install "docling[rapidocr]"Keine — nur pip.
EasyOCRpip install "docling[easyocr]"Keine — nur pip.
VLM-Pipelinepip install "docling[vlm]"GPU dringend empfohlen.
ASR (Audio)pip install "docling[asr]"Keine.
Nemotron OCRpip install "docling[feat-ocr-nemotron]" --extra-index-url https://download.pytorch.org/whl/cu130 --index-strategy unsafe-best-matchNur Linux x86_64 + Python 3.12 + CUDA 13.x.
7
Step 7

Verifikation (CPU vs. GPU)

Erster Lauf lädt Modelle — Verbindung halten oder mit docling-tools models download --all vorab laden. Zum Vergleich --device cpu für CPU erzwingen, --device cuda für NVIDIA.

docling --help
docling convert sample.pdf --to md
docling convert sample.pdf --device auto --to md
8
Step 8

Lieber Container? docling-serve nutzen

Für eine HTTP-API statt CLI den offiziellen Container nehmen (CPU-Image gezeigt) — Referenz in der Docker-Seite:

podman run -p 5001:5001 -e DOCLING_SERVE_ENABLE_UI=1 quay.io/docling-project/docling-serve-cpu
9
Step 9

Häufige Linux-Probleme

  • GPU ignoriert — siehe GPU wird nicht genutzt: falscher torch-Build oder fehlende Treiber.
  • Speicher voll — siehe Speicher voll: Dateien einzeln umwandeln, --num-threads senken, --no-ocr für digitale PDFs.
  • Riesige Installationsgröße — CUDA-torch auf CPU-Rechner gezogen; mit der --extra-index-url …/cpu-Zeile neu installieren.
  • Tesseract fehlen Sprachentesseract-ocr-lang-Pakete installieren und TESSDATA_PREFIX exportieren.
  • Berechtigungsfehler — venv nutzen; niemals sudo pip install.
10
Step 10

Linux-FAQ

CPU- oder CUDA-torch?
CPU-only-Server und CI: der /whl/cpu-Index (klein, schneller Download). Jeder NVIDIA-Rechner mit Tempowunsch: CUDA-fähiges torch plus --device cuda.
Welche CUDA-Version?
Zur Treiber-CUDA passen (nvidia-smi prüfen). docling-serve veröffentlicht -cu128- und -cu130-Images; für pip-Installationen den torch-Index nehmen, den pytorch.org für dieses CUDA empfiehlt.
Kann ich Nemotron OCR nutzen?
Nur auf Linux x86_64 mit Python 3.12 und CUDA 13.x, installiert mit dem feat-ocr-nemotron-Extra plus cu130-Index und unsafe-best-match-Strategie.
apt oder pip für Tesseract?
Beides: Binärdatei und Dev-Bibliotheken aus apt/dnf, das Python-Binding (tesserocr) aus pip. Danach TESSDATA_PREFIX setzen.

Verifiziert mit Docling v2.129.0 · Zuletzt geprüft 2026-09-22 · Offizielle Quelle