浮点运算的坑

STEM版,合并数学,物理,化学,科学,工程,机械。不包括生物、医学相关,和计算机相关内容。

版主: verdeliteTheMatrix

回复
heteroclinic(Heteroclinic)楼主
著名点评
著名点评
heteroclinic 的博客
帖子互动: 47
帖子: 4172
注册时间: 2022年 10月 31日 00:35

#1 浮点运算的坑

帖子 heteroclinic(Heteroclinic)楼主 »

浮点数都是用二进制表达的,转换小数是一个很的事情 (1/2)n的近似

图片

图片

heteroclinic(Heteroclinic)楼主
著名点评
著名点评
heteroclinic 的博客
帖子互动: 47
帖子: 4172
注册时间: 2022年 10月 31日 00:35

#2 Re: 浮点运算的坑

帖子 heteroclinic(Heteroclinic)楼主 »

今天偶然听到一句话,演说讲了一大堆投资策略
非常隐蔽的说public sector 的debt 是因为private sector赔的一塌糊涂,(bail out 去了)
甘霖凉

glowinglake
正式写手
正式写手
帖子互动: 10
帖子: 197
注册时间: 2022年 8月 28日 20:05

#3 Re: 浮点运算的坑

帖子 glowinglake »

最新文章 gpu浮点数计算会introduce随机性。

https://thinkingmachines.ai/blog/defeat ... eterminism

x1 图片
heteroclinic(Heteroclinic)楼主
著名点评
著名点评
heteroclinic 的博客
帖子互动: 47
帖子: 4172
注册时间: 2022年 10月 31日 00:35

#4 Re: 浮点运算的坑

帖子 heteroclinic(Heteroclinic)楼主 »

glowinglake 写了: 2025年 9月 15日 01:24

最新文章 gpu浮点数计算会introduce随机性。

https://thinkingmachines.ai/blog/defeat ... eterminism

没太仔细看,主题没有任何随机性问题的讨论而是观察一下对于数值的数字化表述的普遍性理解。

heteroclinic(Heteroclinic)楼主
著名点评
著名点评
heteroclinic 的博客
帖子互动: 47
帖子: 4172
注册时间: 2022年 10月 31日 00:35

#5 Re: 浮点运算的坑

帖子 heteroclinic(Heteroclinic)楼主 »

当然搞纯数值计算的早把这些问题解决了, 有一套办法,所谓隔行如隔山。

回复

回到 “STEM”