rorapp/cluster-knaster
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

docs: Rückmeldung 6.2 – VRAM-Angabe präzisiert, Energiesparen ergänzt
ci / test (push) Successful in 29s
Details

Browse Source 
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
Robert Rapp
2026-10-12 21:07:11 +02:00
co-authored by Claude Opus 5.5
parent b9eb55bf44
commit cd7f9308f1
1 changed files with 8 additions and 2 deletions
Download Patch File Download Diff File Expand all files Collapse all files
docs/auftraege/2026-10-12-sprachmodelle-nex.md
+8 -2
View File
@@ -85,6 +85,12 @@ Umgesetzt in `gpu-pve52` (VM 252 auf pve52). Getestet in der VM (localhost) und
- Die Adresse hat den Neustart überstanden, ist aber nicht garantiert. - Die Adresse hat den Neustart überstanden, ist aber nicht garantiert.
- Vor dem Eintrag in LiteLLM: Reservierung auf diese MAC einrichten oder eine statische Adresse vergeben. - Vor dem Eintrag in LiteLLM: Reservierung auf diese MAC einrichten oder eine statische Adresse vergeben.
**Energiesparen und Updates:**
- Die VM hat kein Suspend und kein Energiesparen (Ubuntu-Server-Cloud-Image).
- Die GPU läuft im Leerlauf in P5 mit 17 W. Der Kontext bleibt geladen, weil whisper-server läuft.
- Die Energieeinstellungen der Proxmox-Knoten habe ich laut Vorgabe nicht angefasst.
- Sicherheitsupdates laufen per `unattended-upgrades`.
**API-Key:** Keiner nötig, kein Dummy-Wert. Beide Dienste ignorieren das Feld `model`, jeder Wert geht. **API-Key:** Keiner nötig, kein Dummy-Wert. Beide Dienste ignorieren das Feld `model`, jeder Wert geht.
### Erkennung (`nex-stt`) ### Erkennung (`nex-stt`)
@@ -135,13 +141,13 @@ Umgesetzt in `gpu-pve52` (VM 252 auf pve52). Getestet in der VM (localhost) und
| 60 s Audio, Median aus 3 Läufen | **8,63 s** (Grenze 12 s) | | 60 s Audio, Median aus 3 Läufen | **8,63 s** (Grenze 12 s) |
| 5 s Audio, von ops über das Netz | 2,43 s | | 5 s Audio, von ops über das Netz | 2,43 s |
| Start bis bereit (Modell im Cache, inkl. Aufwärmen) | 4,1 s | | Start bis bereit (Modell im Cache, inkl. Aufwärmen) | 4,1 s |
| VRAM | 1965 MiB nach dem Laden, 2179 MiB ab der ersten Erkennung, danach konstant | | VRAM | 1965 MiB nach dem Laden und bei 10-s-Aufrufen, bis 2179 MiB nach 60-s-Audio, im Paralleltest kein weiterer Anstieg |
| RAM des Containers | 286 MiB | | RAM des Containers | 286 MiB |
| Leerlauf der Karte | P5, 17 W | | Leerlauf der Karte | P5, 17 W |
**Last mit 2 Erkennungen gleichzeitig (je 60 s):** **Last mit 2 Erkennungen gleichzeitig (je 60 s):**
- Antworten nach 8,8 s und 17,5 s. whisper-server arbeitet sie nacheinander ab (globaler Mutex), die zweite wartet. - Antworten nach 8,8 s und 17,5 s. whisper-server arbeitet sie nacheinander ab (globaler Mutex), die zweite wartet.
- GPU-Last stieg auf 100 % (Leerlauf 0 %, Mittel 78 %). - GPU-Last stieg auf 100 %, Mittel 78 %. Der Leerlauf (0 %) wurde separat gemessen; der erste Wert im Log (85 %) war noch Nachlauf.
- **Der VRAM steigt nicht**, er bleibt bei 2179 MiB, weil der Kontext einmal geladen wird. - **Der VRAM steigt nicht**, er bleibt bei 2179 MiB, weil der Kontext einmal geladen wird.
**Autostart nach Neustart getestet: ja.** Die VM wurde über Proxmox neu gestartet (`qm reboot 252`). 34 s nach dem Boot lieferten beide `/health` 200, die erste Erkennung danach war normal. **Autostart nach Neustart getestet: ja.** Die VM wurde über Proxmox neu gestartet (`qm reboot 252`). 34 s nach dem Boot lieferten beide `/health` 200, die erste Erkennung danach war normal.