TTS-Slots (Piper CPU, Qwen3-TTS auf Ada), M4000 außer Betrieb, Engine-Grenzen im Placement (ADR-0006)
ci / test (push) Successful in 24s

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
2026-10-12 02:12:30 +02:00
co-authored by Claude Opus 5.5
parent 0533f224f1
commit f90b7df31c
25 changed files with 586 additions and 23 deletions
+26
View File
@@ -1,5 +1,12 @@
# Modell-Katalog (SPEC-inventory §2). vram_gb = Gewichte + Mindest-KV-Cache (Richtwerte, per Kalibrierung prüfen).
# Ist ein Modell nicht mehr aktuell, wird ein neuer Eintrag ergänzt. Der Wechsel läuft über die Lifecycle-Pipeline.
# Engine-Grenzen gelten für alle Modelle der Engine (ADR-0006).
engines:
llamacpp: {min_cc: 5.0, note: "CUDA-12-Build mit sm_52/61 – einzige Engine für Maxwell/Pascal"}
vllm: {min_cc: 7.0}
pytorch: {min_cc: 7.5, note: "Maxwell/Pascal nur bis torch 2.14 cu126, bf16/SDPA fehlen → sehr langsam (Qwen3-TTS auf P40: RTF ~7)"}
onnx: {min_cc: 0.0, note: "läuft auch auf CPU"}
models:
qwen3-14b-awq:
kind: llm
@@ -49,3 +56,22 @@ models:
engines: [llamacpp]
context: 8192
cpu_ok: true
# --- TTS (ADR-0006) ---
qwen3-tts-1.7b:
kind: tts
vram_gb: 8 # bf16; mit faster-qwen3-tts (CUDA Graphs)
min_cc: 8.0 # bf16
engines: [pytorch]
note: "Apache 2.0, Deutsch, Voice Cloning/Design. Auf Ada geschätzt RTF 0,3–0,5 (messen)"
qwen3-tts-0.6b:
kind: tts
vram_gb: 4
min_cc: 8.0
engines: [pytorch]
note: "Apache 2.0, Deutsch"
piper-de-thorsten-medium:
kind: tts
vram_gb: 0.2
engines: [onnx]
cpu_ok: true
note: "schnell auf CPU (≪ Echtzeit), solide Qualität; piper-tts 1.3+ ist GPL-3.0 (eigener Dienst)"
+13
View File
@@ -32,3 +32,16 @@ roles:
priority: 5
needs: {gpu: false, min_ram_gb: 16}
slots: []
tts-hq:
priority: 6
share_with: gpu-flex # Qwen3-TTS auf der zweiten Ada, außerhalb der Trainingsfenster
needs: {gpu: true, engine: pytorch, min_cc: 8.0}
kinds: [tts]
optional: true
slots: [tts-de-hq]
tts-cpu:
priority: 7
share_with: infra # Piper läuft im Infra-LXC mit
needs: {gpu: false, min_ram_gb: 8}
kinds: [tts]
slots: [tts-de]