数据蒸馏

STEM版,合并数学,物理,化学,科学,工程,机械。不包括生物、医学相关,和计算机相关内容。

版主: verdeliteTheMatrix

头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#1 数据蒸馏

帖子 TheMatrix楼主 »

图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#2 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片
x1 图片
drifter
论坛精英
论坛精英
帖子互动: 467
帖子: 7521
注册时间: 2022年 9月 1日 04:17

#3 Re: 数据蒸馏

帖子 drifter »

TheMatrix 写了: 2025年 1月 29日 14:57 图片
倒钩射门我也练习过 你c罗吹个jb
x1 图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#4 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#5 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#6 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#7 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#8 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片

图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#9 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#10 Re: 数据蒸馏

帖子 TheMatrix楼主 »

TheMatrix 写了: 2025年 1月 29日 15:00 图片
图片
头像
mmking(上水)
论坛支柱
论坛支柱
帖子互动: 1719
帖子: 12682
注册时间: 2023年 1月 25日 05:10

#11 Re: 数据蒸馏

帖子 mmking(上水) »

唉,感觉川宝一朝冷战2.0结果就见分晓

又开赌盘了,看看川宝会不会反对台湾独立:viewtopic.php?t=880584

凡所有相,皆是虚妄

viewtopic.php?t=864957

图片

头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#12 Re: 数据蒸馏

帖子 TheMatrix楼主 »

TheMatrix 写了: 2025年 1月 29日 14:57 图片
图片
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#13 Re: 数据蒸馏

帖子 TheMatrix楼主 »

图片
x1 图片
FoxMe(令狐)
论坛精英
论坛精英
帖子互动: 157
帖子: 5583
注册时间: 2022年 7月 26日 16:46

#14 Re: 数据蒸馏

帖子 FoxMe(令狐) »

到底啥是数据蒸馏?能得炸药奖吗?
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#15 Re: 数据蒸馏

帖子 TheMatrix楼主 »

FoxMe 写了: 2025年 1月 29日 15:45 到底啥是数据蒸馏?能得炸药奖吗?
数据蒸馏就是直接问ChatGPT问题并取得答案,然后把问题和答案都记录下来,把大量的问答数据记录下来,用以训练自己的模型。
x1 图片
赖美豪中(my pronouns: ha/ha)
论坛元老
论坛元老
2023年度优秀版主
帖子互动: 4485
帖子: 46395
注册时间: 2022年 9月 6日 12:50

#16 Re: 数据蒸馏

帖子 赖美豪中(my pronouns: ha/ha) »

我都说了,o1出来第一时间我就发现deepshit自己发小红书演示如何逆向工程出来cot了。这个一点都不难,有一些专门的prompt eng办法可以把系统generated的prompt套出来,套出来以后,你穿起来就是cot的过程,和R1现在演示的一摸一样。
你有了一堆这种cot prompt你就可以学习这个cot
TheMatrix 写了: 2025年 1月 29日 15:07 图片

图片
If printing money would end poverty, printing diplomas would end stupidity.
头像
VladPutin(清风不识字何故乱翻书)
论坛元老
论坛元老
VladPutin 的博客
帖子互动: 1768
帖子: 14856
注册时间: 2022年 7月 24日 11:12

#17 Re: 数据蒸馏

帖子 VladPutin(清风不识字何故乱翻书) »

对用户来说有个屁区别,而且深寻的LLM已经获得意识,还可以下崽,这才是奥拓慢如丧考妣的原因。

蒙古国有愚豕浮阳外越,便结不通,频下清个痢虚之气。虽屡试开赛露之剂,终无寸效。遂引诣兽医师诊之。医者摩其腹良久,谓主人曰:"咄!此蠢物腹中空若悬磬,纵投万斛通肠开赛之剂,犹决涸泽而求鲋也,岂有济哉?"

图片

赖美豪中(my pronouns: ha/ha)
论坛元老
论坛元老
2023年度优秀版主
帖子互动: 4485
帖子: 46395
注册时间: 2022年 9月 6日 12:50

#18 Re: 数据蒸馏

帖子 赖美豪中(my pronouns: ha/ha) »

deepshit其实完全不避讳这个,之前小红书上我follow几个人的账号,明显是内部员工,截屏演示如何逆向工程cot
TheMatrix 写了: 2025年 1月 29日 15:49 数据蒸馏就是直接问ChatGPT问题并取得答案,然后把问题和答案都记录下来,把大量的问答数据记录下来,用以训练自己的模型。
If printing money would end poverty, printing diplomas would end stupidity.
wass
论坛精英
论坛精英
2024年度优秀版主
wass 的博客
帖子互动: 782
帖子: 7767
注册时间: 2022年 7月 23日 22:13

#19 Re: 数据蒸馏

帖子 wass »

TheMatrix 写了: 2025年 1月 29日 14:57 图片
openai不应该说什么reasoning,chain of thought,就说ChatGPT 5.1,5.2
头像
TheMatrix楼主
论坛支柱
论坛支柱
2024年度优秀版主
TheMatrix 的博客
帖子互动: 279
帖子: 13694
注册时间: 2022年 7月 26日 00:35

#20 Re: 数据蒸馏

帖子 TheMatrix楼主 »

wass 写了: 2025年 1月 29日 16:00 openai不应该说什么reasoning,chain of thought,就说ChatGPT 5.1,5.2
没用。

思想是无法保密的。只有技术细节可以保密。
回复

回到 “STEM”