信息。热力学熵和Kolmogorov Complexity

[forecasting]

信息熵等于热力学熵。

Kolmogorov Complexity $K(X)$ 见： http://www.scholarpedia.org/article/Alg ... complexity

而有关系式：

$$0\le\sum_{x\in\mathcal{X}}^{}p(x)K(X) -H(X) \le K(P)+O(1)$$

孤立系统热力学熵不减， 那么Kolmogorov Complexity也不减，反直觉啊。哪里有问题？

谁能给出一个极简单明了的热力学系统以解释这三个定义及它们的关系？

[弃婴千枝]

孤立系统热力学熵不减，aka 热力学第二定律，应该是错误的,

孤立系统热力学熵不减成立的前提，是系统内部都是短程相互作用，比如一瓶密闭的气体

如果一旦出现长程相互作用，比如广袤的宇宙，which有超长程的gravity，孤立系统热力学熵不减就不成立了，于是你们看到了复杂的星系，，，，，etc

你可以从这个角度来思考你的kolmogorov

你们说说我这个发现能不能得炸药奖？

比本版一堆研究电动力学的民科厉害多了吧

[TheMatrix]

孤立系统热力学熵不减，aka 热力学第二定律，应该是错误的,

孤立系统热力学熵不减成立的前提，是系统内部都是短程相互作用，比如一瓶密闭的气体

如果一旦出现长程相互作用，比如广袤的宇宙，which有超长程的gravity，孤立系统热力学熵不减就不成立了，于是你们看到了复杂的星系，，，，，etc

你可以从这个角度来思考你的kolmogorov

你们说说我这个发现能不能得炸药奖？

比本版一堆研究电动力学的民科厉害多了吧

可以得个思想奖。

[（ヅ）]

信息熵等于热力学熵。

Kolmogorov Complexity $K(X)$ 见： http://www.scholarpedia.org/article/Alg ... complexity

而有关系式：

$$0\le\sum_{x\in\mathcal{X}}^{}p(x)K(X) -H(X) \le K(P)+O(1)$$

孤立系统热力学熵不减， 那么Kolmogorov Complexity也不减，反直觉啊。哪里有问题？

谁能给出一个极简单明了的热力学系统以解释这三个定义及它们的关系？

kolmogorov complexity是个定义有问题的量，可以证明无法给出一个单一自洽的定义.

[FoxMe]

信息熵和热力学熵有联系，但不相同。

Kolmogorov Complexity是算法复杂度，定义为描述某个东西的最短计算机程序的长度。概率意义下，基本等于信息熵。

信息熵等于热力学熵。

Kolmogorov Complexity $K(X)$ 见： http://www.scholarpedia.org/article/Alg ... complexity

而有关系式：

$$0\le\sum_{x\in\mathcal{X}}^{}p(x)K(X) -H(X) \le K(P)+O(1)$$

孤立系统热力学熵不减， 那么Kolmogorov Complexity也不减，反直觉啊。哪里有问题？

谁能给出一个极简单明了的热力学系统以解释这三个定义及它们的关系？

[forecasting]

孤立系统热力学熵不减，aka 热力学第二定律，应该是错误的,

孤立系统热力学熵不减成立的前提，是系统内部都是短程相互作用，比如一瓶密闭的气体

如果一旦出现长程相互作用，比如广袤的宇宙，which有超长程的gravity，孤立系统热力学熵不减就不成立了，于是你们看到了复杂的星系，，，，，etc

你可以从这个角度来思考你的kolmogorov

你们说说我这个发现能不能得炸药奖？

比本版一堆研究电动力学的民科厉害多了吧

完了，弃婴，你物理学得不到位。宇宙是否熵增，是一个未解决的问题。而不减，不等于增加，可以守恒啊，一堆疯魔的物理学家认为熵守恒。
不过，你这番话配得上奖你那头像美女，让你跟她天天缠绵，不乱说话。

[hci]

No。

Kolmogorov复杂度与信息熵的差别其实反映了智能或者意识的本质，也是我老坚持意识不是造物的原因。

信息熵和热力学熵有联系，但不相同。

Kolmogorov Complexity是算法复杂度，定义为描述某个东西的最短计算机程序的长度。概率意义下，基本等于信息熵。

[弃婴千枝]

完了，弃婴，你物理学得不到位。宇宙是否熵增，是一个未解决的问题。而不减，不等于增加，可以守恒啊，一堆疯魔的物理学家认为熵守恒。

您戴上老花镜，再仔细看看我的措辞

[forecasting]

kolmogorov complexity是个定义有问题的量，可以证明无法给出一个单一自洽的定义.

请证明其定义不自洽，谢谢

[forecasting]

您戴上老花镜，再仔细看看我的措辞

我戴的是那种渐变的近视镜。你说的“长程力存在的系统热二不成立”，是你物理学得不好，不对。

[(ッ)]

请证明其定义不自洽，谢谢

"Uncomputability of Kolmogorov complexity

Theorem: There exist strings of arbitrarily large Kolmogorov complexity. Formally: for each natural number n, there is a string s with K(s) ≥ n.[note 1]

Proof: Otherwise all of the infinitely many possible finite strings could be generated by the finitely many[note 2] programs with a complexity below n bits"

[hci]

这就是为什么意识不是造物。

就这么简单个事儿。

"Uncomputability of Kolmogorov complexity

Theorem: There exist strings of arbitrarily large Kolmogorov complexity. Formally: for each natural number n, there is a string s with K(s) ≥ n.[note 1]

Proof: Otherwise all of the infinitely many possible finite strings could be generated by the finitely many[note 2] programs with a complexity below n bits"

[forecasting]

"Uncomputability of Kolmogorov complexity

Theorem: There exist strings of arbitrarily large Kolmogorov complexity. Formally: for each natural number n, there is a string s with K(s) ≥ n.[note 1]

Proof: Otherwise all of the infinitely many possible finite strings could be generated by the finitely many[note 2] programs with a complexity below n bits"

大失所望，原来你没明白。

[(ッ)]

大失所望，原来你没明白。

杠精打扰了

[forecasting]

杠精打扰了

版主，快来修理一下这个骂人的娃娃

[弃婴千枝]

请证明其定义不自洽，谢谢

热力学意义上的复杂性指的是无序性

而计算机意义上的复杂性可以是高度有序，但是计算困难

两者并不一致，

我发现本版许多玛侬望文生义，以为是一回事

[forecasting]

热力学意义上的复杂性指的是无序性

而计算机意义上的复杂性可以是高度有序，但是计算困难

两者并不一致，

我发现本版许多玛侬望文生义，以为是一回事

高度有序但计算困难的复杂性是计算复杂性（computational complexity）。Kolmogorov Complexity是指输出描述一事物或者一系统的字符串（比如0-1串）程序的长度，如果所用的字符串或程序是pre-free的，就是所谓算法复杂度的一种。两种复杂性完全不一样。
热力学熵等价于信息熵，不只是可以做理论证明，也可以用Maxwell Demon做思想实验证明。没问题的。
两者的关系如主贴，联系热二，有反直觉的结论。