目前手上有一块 3090 ,想再买个 5070ti ,凑个 40g 显存,这样可行吗?主板是华南 H12D ,CPU 是 7532 ,主要是想在本地部署个 ragflow ,可能还要部署 embedding ,rerank 和 ocr 的模型,或者买 2 张 5070ti 这样?
[Local LLM] 多卡部署 QWQ Q8 是否可行
·
·
目前手上有一块 3090 ,想再买个 5070ti ,凑个 40g 显存,这样可行吗?主板是华南 H12D ,CPU 是 7532 ,主要是想在本地部署个 ragflow ,可能还要部署 embedding ,rerank 和 ocr 的模型,或者买 2 张 5070ti 这样?
Leave a Reply Cancel reply