TTS-Slots (Piper CPU, Qwen3-TTS auf Ada), M4000 außer Betrieb, Engine-Grenzen im Placement (ADR-0006)

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
2026-10-12 02:12:30 +02:00
parent 0533f224f1
commit f90b7df31c
25 changed files with 586 additions and 23 deletions
@@ -7,3 +7,6 @@ MAX_LORA_RANK=64
 MODELS_DIR=/srv/models
 ADAPTERS_DIR=/srv/adapters
 HF_TOKEN=
+# nur gpu-flex mit Profil "tts": GPU_MEM_UTIL für vLLM dann auf ~0.55 senken, damit Qwen3-TTS Platz hat
+QWEN_TTS_IMAGE=
+QWEN_TTS_MODEL=Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice