diff --git a/docs/auftraege/2026-10-12-sprachmodelle-nex.md b/docs/auftraege/2026-10-12-sprachmodelle-nex.md index 81317e6..b7d86f3 100644 --- a/docs/auftraege/2026-10-12-sprachmodelle-nex.md +++ b/docs/auftraege/2026-10-12-sprachmodelle-nex.md @@ -85,6 +85,12 @@ Umgesetzt in `gpu-pve52` (VM 252 auf pve52). Getestet in der VM (localhost) und - Die Adresse hat den Neustart überstanden, ist aber nicht garantiert. - Vor dem Eintrag in LiteLLM: Reservierung auf diese MAC einrichten oder eine statische Adresse vergeben. +**Energiesparen und Updates:** +- Die VM hat kein Suspend und kein Energiesparen (Ubuntu-Server-Cloud-Image). +- Die GPU läuft im Leerlauf in P5 mit 17 W. Der Kontext bleibt geladen, weil whisper-server läuft. +- Die Energieeinstellungen der Proxmox-Knoten habe ich laut Vorgabe nicht angefasst. +- Sicherheitsupdates laufen per `unattended-upgrades`. + **API-Key:** Keiner nötig, kein Dummy-Wert. Beide Dienste ignorieren das Feld `model`, jeder Wert geht. ### Erkennung (`nex-stt`) @@ -135,13 +141,13 @@ Umgesetzt in `gpu-pve52` (VM 252 auf pve52). Getestet in der VM (localhost) und | 60 s Audio, Median aus 3 Läufen | **8,63 s** (Grenze 12 s) | | 5 s Audio, von ops über das Netz | 2,43 s | | Start bis bereit (Modell im Cache, inkl. Aufwärmen) | 4,1 s | -| VRAM | 1965 MiB nach dem Laden, 2179 MiB ab der ersten Erkennung, danach konstant | +| VRAM | 1965 MiB nach dem Laden und bei 10-s-Aufrufen, bis 2179 MiB nach 60-s-Audio, im Paralleltest kein weiterer Anstieg | | RAM des Containers | 286 MiB | | Leerlauf der Karte | P5, 17 W | **Last mit 2 Erkennungen gleichzeitig (je 60 s):** - Antworten nach 8,8 s und 17,5 s. whisper-server arbeitet sie nacheinander ab (globaler Mutex), die zweite wartet. -- GPU-Last stieg auf 100 % (Leerlauf 0 %, Mittel 78 %). +- GPU-Last stieg auf 100 %, Mittel 78 %. Der Leerlauf (0 %) wurde separat gemessen; der erste Wert im Log (85 %) war noch Nachlauf. - **Der VRAM steigt nicht**, er bleibt bei 2179 MiB, weil der Kontext einmal geladen wird. **Autostart nach Neustart getestet: ja.** Die VM wurde über Proxmox neu gestartet (`qm reboot 252`). 34 s nach dem Boot lieferten beide `/health` 200, die erste Erkennung danach war normal.