restore.sh
922 Bytes
#!/bin/bash
# 一键回滚到 Qwen3.6-27B（b9570 镜像）。由 docker inspect llm 1:1 还原并校验。
set -e
echo "[restore] 清理 llm38..."
docker rm -f llm38 2>/dev/null || true
echo "[restore] 清理残留 llm..."
docker rm -f llm 2>/dev/null || true
echo "[restore] 用回滚镜像重建 llm..."
docker run -d --name llm --restart unless-stopped --gpus all \
-p 8000:8000 -v /data/models:/jsxc \
llamacpp-rollback:b9570 \
-m /jsxc/Qwen/Qwen3.6-27B-GGUF/Qwen_Qwen3.6-27B-IQ4_XS.gguf \
--host 0.0.0.0 --port 8000 --seed 3407 \
--temp 0.7 --top-p 0.95 --min-p 0.01 --top-k 40 \
--jinja --batch-size 4096 --ubatch-size 1024 \
--ctx-size 131072 --no-context-shift
echo "[restore] 等待健康..."
for i in $(seq 1 60); do
if curl -sf http://127.0.0.1:8000/health >/dev/null 2>&1; then echo "[restore] OK 已恢复"; exit 0; fi
sleep 10
done
echo "[restore] 超时，请查 docker logs llm"; exit 1