Robert RappandClaude Opus 5.5 986f1116fe k3s: llama.cpp-Server als Deployments (Task 6.1) ...

Ein Pod je GPU-VM (Embed+Rerank bzw. Chat), Host-Netz mit den Ports aus dem
Compose, P2000 fest per UUID (NVIDIA_VISIBLE_DEVICES). Das Device Plugin
vergibt nur noch Index 0 (M4000). Rolle gpu-llamacpp: gemeinsame Vorbereitung
(prepare.yml), k3s.yml mit Image-Import und Compose-Stopp; gpu-llamacpp.yml
bricht ohne -e llamacpp_compose=true ab.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>

2026-10-19 17:27:23 +02:00

..

llamacpp.yaml.j2

k3s: llama.cpp-Server als Deployments (Task 6.1)

2026-10-19 17:27:23 +02:00

namespace.yaml

k3s: llama.cpp-Server als Deployments (Task 6.1)

2026-10-19 17:27:23 +02:00