宜博 / 2080tiserver

  • Raylight 扶正为生产默认后端：SAGE_FP16 修复 OOM、修完成检测 bug、实测上限写进代码强制生效 ...
    8cf2545d 
    用 Turing 版 SageAttention2 替换 TORCH_MATH 后端，解开了之前反复出现的 832×480×124帧/
448×256×362帧/1024×576×60帧 OOM；又修复了 asyncio.CancelledError 被 contextlib.suppress
(Exception) 漏接导致任务卡死在 running 的根因 bug。基于修复后的完成检测，实测出 4 个分辨率
的真实 CUDA OOM 上限（448×256 是画质上限，非显存上限），写进 server.py 的提交校验和
console 的分辨率/时长下拉联动，超上限请求直接拒绝而不是排队后才失败。详细过程和数据见
CHANGELOG.md 和 raylight/notes.md。

Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
    yibo authored
     
    Browse File »
  • 补 docs/todo：RTX PRO 6000 int8-convrot 调研 + Raylight/ComfyUI 多卡评估 ...
    e4edb075 
    补齐 h3-rtxpro6000-setup.md（另一线程的调研，之前只在磁盘上没提交）。
新增 raylight-comfyui-multi-gpu-eval.md：2K 分辨率外推显示 2080Ti 显存
需求随 rows 超线性增长，DiffSynth-Studio 现有架构不支持多卡拆分单次生成；
调研到 Raylight（ComfyUI 插件）支持 Turing+PCIe+MiniMax-H3 的序列并行，
但要换整套推理引擎，是独立迁移项目。建议先做 quality-tuning-plan.md
里不用下载东西的两项，排除画质问题不是量化精度导致的，再决定要不要推进。

Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
    yibo authored
     
    Browse File »