新未名空间

TheMatrix 写了： 2024年 11月 24日 22:01 真正的AI是能推理的AI。

能推理的AI必须有world model。推理和world model并不好区分。

TheMatrix 写了： 2024年 11月 25日 20:51 能推理的AI必须有world model。推理和world model并不好区分。

打开logic for applications，翻到推理的定义，你会得到答案：
https://libgen.is/book/index.php?md5=D0 ... AEB67F5AAD
https://libgen.is/book/index.php?md5=16 ... F08E489A82

TheMatrix 写了： 2024年 11月 25日 20:51 能推理的AI必须有world model。推理和world model并不好区分。

deduction?

post training足够多，估计就可以

现在的post training需要labeled data

哪天跟pretraining一样，有天量数据就可以了

TheMatrix 写了： 2024年 11月 25日 20:51 能推理的AI必须有world model。推理和world model并不好区分。

很深奥的问题。

我认为只有形式逻辑的推理没有智能。这就是目前的大模型。

真正的智能必然有一些概念是来自直觉，也就是现在world model grounding的问题。这其中包括时空直觉，也就是康德所说的先天知识。这种说法被乔姆斯基继承，是很长时间的一个主流认识。

最近神经网络流行，认为什么东西都是可以学习的。Hinton公开trash 乔姆斯基的观点。我认为有点过于自大了，自我意识，时空的感觉，是不是来自神经网络？
@hci

TheMatrix 写了： 2024年 11月 25日 20:51 能推理的AI必须有world model。推理和world model并不好区分。

按照真实世界的模型推断A到B不是推理。

找到因果关系链的过程

推理即计算，计算即推理。

中国很早就把两者 等同：算命，用八卦推演。

把推理范围扩大，就很容易混淆不清了

fhnan 写了： 2024年 11月 26日 09:19 找到因果关系链的过程

因果关系能和推理能互相模拟吗？

Amorphous 写了： 2024年 11月 25日 23:23deduction?

inference.

Caravel 写了： 2024年 11月 26日 05:03 很深奥的问题。

我认为只有形式逻辑的推理没有智能。这就是目前的大模型。

真正的智能必然有一些概念是来自直觉，也就是现在world model grounding的问题。这其中包括时空直觉，也就是康德所说的先天知识。这种说法被乔姆斯基继承，是很长时间的一个主流认识。

最近神经网络流行，认为什么东西都是可以学习的。Hinton公开trash 乔姆斯基的观点。我认为有点过于自大了，自我意识，时空的感觉，是不是来自神经网络？
@hci

目前的LLM有形式逻辑吗？

我理解的world model包括概念的表达以及场景的构建。概念的表达最基本的就是向量化。但是概念有层次，大概念和小概念不应该都只是一个向量而已。在这个结构下，场景可以说是一个更大的概念。不知道这样的结构应该怎么实现。

TheMatrix 写了： 2024年 11月 26日 19:28 目前的LLM有形式逻辑吗？

我理解的world model包括概念的表达以及场景的构建。概念的表达最基本的就是向量化。但是概念有层次，大概念和小概念不应该都只是一个向量而已。在这个结构下，场景可以说是一个更大的概念。不知道这样的结构应该怎么实现。

下面这个视频是讲嗅觉的。在20:00分钟的时候提到population code，有点像二维码。这个可能有点相关。

forecasting 写了： 2024年 11月 25日 21:13 打开logic for applications，翻到推理的定义，你会得到答案：
https://libgen.is/book/index.php?md5=D0 ... AEB67F5AAD
https://libgen.is/book/index.php?md5=16 ... F08E489A82

下载了。有空会了解一下。