[Local LLM] 多卡部署 QWQ Q8 是否可行

·

目前手上有一块 3090 ,想再买个 5070ti ,凑个 40g 显存,这样可行吗?主板是华南 H12D ,CPU 是 7532 ,主要是想在本地部署个 ragflow ,可能还要部署 embedding ,rerank 和 ocr 的模型,或者买 2 张 5070ti 这样?

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *