本地部署，好像显存容量更重要

irisyuan · 帖子由 **irisyuan楼主** » 2025年 1月 29日 14:07

但是不一定要黄卡。7900xtx大概是性价比最高的

majia · 帖子由 **majia** » 2025年 1月 29日 14:20

Battlemage

据说会出24GB版本

（ヅ） · 帖子由 **（ヅ）** » 2025年 1月 29日 14:28

属实，显存装不下只能塞内存里面cpu算慢多了

irisyuan · 帖子由 **irisyuan楼主** » 2025年 1月 29日 15:07

（ヅ）写了： 2025年 1月 29日 14:28 属实，显存装不下只能塞内存里面cpu算慢多了

CPU那点算力，有显卡的零头吗

（ヅ） · 帖子由 **（ヅ）** » 2025年 1月 29日 15:09

irisyuan 写了： 2025年 1月 29日 15:07 CPU那点算力，有显卡的零头吗

有

也不是不能用

majia · 帖子由 **majia** » 2025年 1月 29日 15:28

irisyuan 写了： 2025年 1月 29日 15:07 CPU那点算力，有显卡的零头吗

我之前玩文生图只是用集显

irisyuan · 帖子由 **irisyuan楼主** » 2025年 1月 29日 15:41

majia 写了： 2025年 1月 29日 15:28 我之前玩文生图只是用集显

现在这种带推理的模型估计集显跑不起来

牛河梁

majia 写了： 2025年 1月 29日 15:28 我之前玩文生图只是用集显

只有老牛嘀咕啥图需要本地生成么？

majia · 帖子由 **majia** » 2025年 1月 29日 20:12

牛河梁写了： 2025年 1月 29日 15:42 只有老牛嘀咕啥图需要本地生成么？

网上限制太多

不是要交钱，就是这不能画那不能画

magagop · 帖子由 **magagop** » 2025年 1月 29日 23:55

irisyuan 写了： 2025年 1月 29日 15:07 CPU那点算力，有显卡的零头吗

高端CPU算力大約是高端GPU的2％到3％，平均到芯片面積。

magagop · 帖子由 **magagop** » 2025年 1月 29日 23:58

（ヅ）写了： 2025年 1月 29日 15:09 有

也不是不能用

DeepSeek R1 641B Q4模型，放進512GB內存裡，大約有2 - 5 tokens per second性能，跟自己打字速度差不多，勉強可用。

DIYer · 帖子由 **DIYer** » 2025年 1月 30日 02:14

按摩店7900xtx 有24GB显存

majia · 帖子由 **majia** » 2025年 1月 30日 03:41

据说不少人都拿3090 魔改 48GB

irisyuan · 帖子由 **irisyuan楼主** » 2025年 1月 30日 10:47

majia 写了： 2025年 1月 30日 03:41 据说不少人都拿3090 魔改 48GB

是4090吧？国内淘宝上就能找到做的

majia · 帖子由 **majia** » 2025年 1月 30日 12:26

irisyuan 写了： 2025年 1月 30日 10:47 是4090吧？国内淘宝上就能找到做的

3090 价格低功耗低性价比更高

据说搞AI的显存容量更重要些

huangchong

majia 写了： 2025年 1月 30日 12:26 3090 价格低功耗低性价比更高

据说搞AI的显存容量更重要些

完全同意。
4090浮点更快但是这是人类很难感受到的。3090 功耗低100瓦，这对机器的健康非常有好处，我已经在很多别人的机器上感受到了

irisyuan · 帖子由 **irisyuan楼主** » 2025年 1月 30日 13:14

huangchong 写了： 2025年 1月 30日 12:56 完全同意。
4090浮点更快但是这是人类很难感受到的。3090 功耗低100瓦，这对机器的健康非常有好处，我已经在很多别人的机器上感受到了

30系的一大问题是来路不明。30系那会儿正是全民挖矿的顶峰阶段。3090这样的算力顶流10个里面有9个都在哥布林巢服过役。当然只要价钱合适这都不是个事儿

新未名空间