分页： 1 / 1
#1 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 14:07
由 irisyuan
但是不一定要黄卡。7900xtx大概是性价比最高的
#2 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 14:20
由 majia
Battlemage
据说会出24GB版本
#3 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 14:28
由 （ヅ）
属实，显存装不下只能塞内存里面cpu算慢多了
#4 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 15:07
由 irisyuan
（ヅ） 写了： 2025年 1月 29日 14:28
属实，显存装不下只能塞内存里面cpu算慢多了
CPU那点算力，有显卡的零头吗
#5 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 15:09
由 （ヅ）
irisyuan 写了： 2025年 1月 29日 15:07
CPU那点算力，有显卡的零头吗
有
也不是不能用
#6 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 15:28
由 majia
irisyuan 写了： 2025年 1月 29日 15:07
CPU那点算力，有显卡的零头吗
我之前玩文生图只是用集显
#7 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 15:41
由 irisyuan
majia 写了： 2025年 1月 29日 15:28
我之前玩文生图只是用集显
现在这种带推理的模型估计集显跑不起来
#8 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 15:42
由 牛河梁
majia 写了： 2025年 1月 29日 15:28
我之前玩文生图只是用集显
只有老牛嘀咕啥图需要本地生成么？
#9 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 20:12
由 majia
牛河梁 写了： 2025年 1月 29日 15:42
只有老牛嘀咕啥图需要本地生成么？
网上限制太多
不是要交钱，就是这不能画那不能画
#10 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 23:55
由 magagop
irisyuan 写了： 2025年 1月 29日 15:07
CPU那点算力，有显卡的零头吗
高端CPU算力大約是高端GPU的2％到3％，平均到芯片面積。
#11 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 29日 23:58
由 magagop
（ヅ） 写了： 2025年 1月 29日 15:09
有
也不是不能用
DeepSeek R1 641B Q4模型，放進512GB內存裡，大約有2 - 5 tokens per second性能，跟自己打字速度差不多，勉強可用。
#12 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 30日 02:14
由 DIYer
按摩店7900xtx 有24GB显存
#13 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 30日 03:41
由 majia
据说不少人都拿3090 魔改 48GB
#14 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 30日 10:47
由 irisyuan
majia 写了： 2025年 1月 30日 03:41
据说不少人都拿3090 魔改 48GB
是4090吧？国内淘宝上就能找到做的
#15 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 30日 12:26
由 majia
irisyuan 写了： 2025年 1月 30日 10:47
是4090吧？国内淘宝上就能找到做的
3090 价格低 功耗低 性价比更高
据说搞AI的显存容量更重要些
#16 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 30日 12:56
由 huangchong
majia 写了： 2025年 1月 30日 12:26
3090 价格低 功耗低 性价比更高
据说搞AI的显存容量更重要些
完全同意。
4090浮点更快 但是这是人类很难感受到的。3090 功耗低100瓦，这对机器的健康非常有好处，我已经在很多别人的机器上感受到了
#17 Re: 本地部署，好像显存容量更重要
发表于 ： 2025年 1月 30日 13:14
由 irisyuan
huangchong 写了： 2025年 1月 30日 12:56
完全同意。
4090浮点更快 但是这是人类很难感受到的。3090 功耗低100瓦，这对机器的健康非常有好处，我已经在很多别人的机器上感受到了
30系的一大问题是来路不明。30系那会儿正是全民挖矿的顶峰阶段。3090这样的算力顶流10个里面有9个都在哥布林巢服过役。当然只要价钱合适这都不是个事儿