rorapp/cluster-knaster

Fork 0

Files

T

History

Robert RappandClaude Opus 5.5 afc5fa0360

ci / test (push) Successful in 29s

Details

nex-speech: Sprachdienste für NEX (whisper.cpp CUDA 12 + Piper) als Compose und Ansible-Rolle

- deploy/compose/nex-speech: whisper-server v1.9.4 (sm_52/sm_61, Port 8178, -l de -bs 5
  --convert, tmpfs, Aufwärmen mit 1 s Stille) und OpenAI-kompatibler Piper-Wrapper
  (Port 8179, mp3/opus/aac/flac/pcm gestreamt, wav, PCM 24 kHz mit Rate-Header)
- Host-Netz, damit ufw greift; keine Texte in Logs, kein Access-Log
- Rolle nex-speech + Playbook (nur gpu-pve52): ufw, Modelle mit sha256, Compose bauen/starten
- compose-check um nex-speech erweitert, community.docker in requirements.yml

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>

2026-10-12 20:41:11 +02:00

ansible

nex-speech: Sprachdienste für NEX (whisper.cpp CUDA 12 + Piper) als Compose und Ansible-Rolle

2026-10-12 20:41:11 +02:00

scripts

infra: Compose-Stack mit Monitoring, ohne LiteLLM (Task 5.2)

2026-10-12 20:22:26 +02:00

tofu

tofu: Container-Pool nicht über tofu (pool_id erzwingt Ersetzen)

2026-10-12 20:06:29 +02:00

README.md

platform: OpenTofu/Ansible für Proxmox, CI, Makefile, Doku-Abgleich

2026-10-12 00:54:23 +02:00

README.md

platform/proxmox

Proxmox-spezifische Schicht (austauschbar, siehe PLAN §7.2). Eingabe ist immer sites/<site>/proxmox.yaml.

Status: geschrieben, aber noch nicht gegen den echten Cluster getestet. Erster Lauf beim gemeinsamen Deployment, jeweils mit tofu plan bzw. ansible-playbook --check.

Ablauf

Inventar: auf jedem Node knaster inventory collect ausführen und sites/knaster/inventory.yaml ersetzen. Danach knaster placement plan --inventory sites/knaster/inventory.yaml und die Ergebnisse in proxmox.yaml übertragen (PCI-Pfade über lspci -nn | grep -i nvidia, IOMMU-Gruppen).
Hosts vorbereiten: ansible-playbook playbooks/site.yml --limit pve_hosts. Setzt IOMMU und VFIO und sperrt die NVIDIA-Treiber auf dem Host. Danach die Hosts neu starten. Der ZFS-Pool tank wird nicht automatisch angelegt (Datenverlustgefahr), die Rolle gibt dafür den Befehl aus.
Template: pro Node ein Ubuntu-24.04-Cloud-Image als Template mit VMID 9000.
VMs/LXC: cd tofu && tofu init && tofu plan -var proxmox_api_token=... und danach tofu apply.
Gäste: ansible-playbook playbooks/site.yml --limit gpu_vms,infra. Installiert die Treiber pro Generation gepinnt (legacy/modern), das Container-Toolkit, Docker und den Xid-Exporter.
Dienste: deploy/compose/<rolle> auf den jeweiligen Gästen starten.

Bewusste Grenzen

Keine Live-Migration von GPU-VMs. HA gilt nur für den Infra-LXC (mit ZFS-Replikation alle 15 Min.).
Der Proxmox-API-Token für den Healer braucht nur VM.PowerMgmt auf den GPU-VMs und Sys.PowerMgmt (Host-Neustart, nur mit Freigabe).