分页： 1 / 2
#1 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 17:58
由 jack_aij
这里有个教程，
Deepseek+RAGFlow十分钟构建本地知识库系统，保姆级教程
不懂为什么讨论AI在军事版，不能与时俱进，创建一个AI版吗？
#2 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 18:09
由 wonderstreet
不好评估风险。万一用的挺爽，川普要禁咋办？
#3 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 18:20
由 Newwhy
楼主好人，点赞
#4 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 18:23
由 wokao
jack_aij 写了： 2025年 2月 19日 17:58
这里有个教程，
Deepseek+RAGFlow十分钟构建本地知识库系统，保姆级教程
不懂为什么讨论AI在军事版，不能与时俱进，创建一个AI版吗？
我问个数学问题, 能立马给答案吗?
#5 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 18:24
由 Newmituser
赞
#6 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 18:50
由 Ifloating
这个训练要猴年马月？
#7 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 21:47
由 jack_aij
deepseek 最主要的亮点是处理汉语文字。
数学方面还是有问题的。
#8 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 22:10
由 redot
可以用 有点慢 I5+2g钕大，可以跑14b. 特么越跑越慢，一个字一个字的出受不了
定了unicube 230000软妹 （3万夺刀），我们的ideas，不要上公网
#9 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 22:12
由 redot
jack_aij 写了： 2025年 2月 19日 21:47
deepseek 最主要的亮点是处理汉语文字。
数学方面还是有问题的。
呵呵 Grok 3认为9.11大于9.9，DS可以给出三种结果：
#10 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 22:14
由 Amorphous
本地搭建，硬件要求高的吧
#11 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 22:16
由 （ヅ）
Amorphous 写了： 2025年 2月 19日 22:14
本地搭建，硬件要求高的吧
14b参数只要一块rtx3060,便宜得很
#12 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 22:18
由 Caravel
jack_aij 写了： 2025年 2月 19日 17:58
这里有个教程，
Deepseek+RAGFlow十分钟构建本地知识库系统，保姆级教程
不懂为什么讨论AI在军事版，不能与时俱进，创建一个AI版吗？
你有gpu么？
#13 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 22:52
由 sjtuvincent
因为这个版面是最最最与时俱进的
而且也扎堆了机器人
#14 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 22:53
由 beijingren3
jack_aij 写了： 2025年 2月 19日 17:58
这里有个教程，
Deepseek+RAGFlow十分钟构建本地知识库系统，保姆级教程
不懂为什么讨论AI在军事版，不能与时俱进，创建一个AI版吗？
军版是第一个预测 花街要跌在DS的
#15 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 23:04
由 Amorphous
（ヅ） 写了： 2025年 2月 19日 22:16
14b参数只要一块rtx3060,便宜得很
精馏的模型那好用吗？我都用在线的
#16 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 23:07
由 （ヅ）
Amorphous 写了： 2025年 2月 19日 23:04
精馏的模型那好用吗？我都用在线的
可以用webapi连到vscode里面帮忙写code，蛮好
不嫌弃copy paste官网版本的应该是满血的更厉害吧
本地模型我估计主要的应用对象是B，怕泄露数据那些人。我一普通人还怕偷窥我学习资料？
#17 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 23:09
由 Amorphous
（ヅ） 写了： 2025年 2月 19日 23:07
可以用webapi连到vscode里面帮忙写code，蛮好
这个技术我得学习下
#18 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 23:11
由 windy
我试过，14b, 32b, 70b, 671b都跑过。
671b只能跑 0.12 token, 也就是8秒钟蹦一个字。
70b 能跑 2-3 token
32b 4.5 token
14b 的能跑 60 token.
问题是DS的小模型烂的和屎一样，几乎完全不能用！小模型Mistral-small 22b 比 DS 32b 的强不少。如果想装小点的模型，强烈建议试试这个。
#19 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 23:13
由 Amorphous
windy 写了： 2025年 2月 19日 23:11
我试过，14b, 32b, 70b, 671b都跑过。
671b只能跑 0.12 token, 也就是8秒钟蹦一个字。
70b 能跑 2-3 token
32b 4.5 token
14b 的能跑 60 token.
问题是DS的小模型烂的和屎一样，几乎完全不能用！小模型Mistral-small 22b 比 DS 32b 的强不少。如果想装小点的模型，强烈建议试试这个。
跑多少个token是什么意思？
#20 Re: 大家有没有用过本地搭建deepseek? 不懂为什么讨论AI在军事版
发表于 ： 2025年 2月 19日 23:19
由 windy
就是一秒能出多少个单词。比如60 tokens/s,我问一个问题，它基本几秒钟就输出完毕了。如果5个token,问一个问题它回答了434个单词，花了1分半种多一点。如果是60tokens/s,只要7秒多就回答完毕了
Amorphous 写了： 2025年 2月 19日 23:13
跑多少个token是什么意思？