啥是AI以及AI与人类智能的判据

[forecasting]

AI是artificial intelligence，一开始就对标人类，也就是造出机器能够跟人类的智能一样或者跟部分人类智能一样（为什么不企图造出超过人类智能的？可见人类的自大）。但人类智能没弄清楚，也自然没定义。于是图灵给出了Turing Test，https://en.wikipedia.org/wiki/Turing_te ... uestion%2D，目的是比较机器和人类，以判定是否达到了人类智能，而又避开了人类智能的定义。后来Searle又提出了Chinese room来解决这个问题，https://en.wikipedia.org/wiki/Chinese_room

这是聪明的想法，可是，只能用于否定机器达到了人类智能，不能肯定机器达到了人类智能，因为向人类和机器提出的问题只是有限个，你无法肯定人类能解答的问题已经都是机器能解答的。

因为Turing Test无法完全解决问题，所以这里就可以自由选择，就有两派，一类认为，机器达不到人类智能，叫弱人工智能，一类认为机器能达到甚至超过人类智能，称为强人工智能。

分析人类智能演进，能看出人类智能演进的一种方式就是学习，于是有机器学习，然后有无监督学习，无监督学习等等。还有一种方式就是直接造出机器（软硬件）实现人类智能或部分智能，就有所谓数学定理的机器证明，专家系统等等。

当然也有理论分析或者证明，比如机器学习（其实是Turing Machine learning）所能学到什么（learnability），已经说过，就不再说了。也有一些分析机器能否达到人类智能，其中哥德尔，图灵（有Church-Turing thesis，是一个论题，类似猜想，但有证据支持，无法证明），还有稍弱的McCarthy， 哥德尔看法不明确，但我觉得他倾向于Turing Machine不可能达到人类智能，具体可去看他文集和王浩的分析，但是未必不存在机器（我觉得他说的是图灵机之外的东西）达到人类智能，可是人类无法证明（哥德尔的说法）。换言之，强AI和弱AI都有理由吵，永远也吵不出结果来。但说图灵机能达到人类智能就基本被Godel否定了，他有一句话是，人的状态可达到无穷个。显然不存在这样的图灵机。有趣的是John McCarthy认为图灵机能实现二阶逻辑（我亲耳听到的，如果我没误解的话），我对他的尊敬立即从喜马拉雅山顶降到了马里亚纳海沟。这显然是说，Turing Machine达到或者超过了人类水平！Chomsky则因为E Mark Gold的工作和自己对儿童的观察而认定人类不是学会的语言，是天生就带着自然语言语法的机制或基因！Hinton显然不懂得这些，而死吹AI，并且跟Chonsky互掐。可LeCun明白，所以不以Hinton为然。
Solomonoff通过Carnap达到了一些归纳推理的结论（infereence），应该也表明了图灵机达不到人类智能。

然后就是八仙过海，符号主义，联结主义（就是aritificial neural net），统计路线等等。现在是ritificial neural net里的Deep Neural Net（DNN）及其变种独领风骚。不过那些实践的或者理论的结论还在，并没有推翻。所以别指望会很逆天，再商业运作也改变不了。
尤其是，理论和DNN脱节，大家都无法解释DNN何以如此有效（没突破理论结论，可突破了一些五六十年解决不了或者解决不好的难题）。短期内这状况改变不了，所以大家还是去做工程实现，去解决实际问题即应用，偶尔看一下有无可能提出理论来。我警告你哦，别想突破已有的理论结论，Hinton在胡说，他就是一个工程师。

周末愉快！

[hci]

你就是个读死书的，光会背别人写的说的，不具备自我思考的能力。

你写这一坨，都是重复别人的话，没有自己的见解。

我上网，主要就是教育你这种，积阴德。

AI是artificial intelligence，一开始就对标人类，也就是造出机器能够跟人类的智能一样或者跟部分人类智能一样（为什么不企图造出超过人类智能的？可见人类的自大）。但人类智能没弄清楚，也自然没定义。于是图灵给出了Turing Test，https://en.wikipedia.org/wiki/Turing_te ... uestion%2D，目的是比较机器和人类，以判定是否达到了人类智能，而又避开了人类智能的定义。后来Searle又提出了Chinese room来解决这个问题，https://en.wikipedia.org/wiki/Chinese_room

这是聪明的想法，可是，只能用于否定机器达到了人类智能，不能肯定机器达到了人类智能，因为向人类和机器提出的问题只是有限个，你无法肯定人类能解答的问题已经都是机器能解答的。

因为Turing Test无法完全解决问题，所以这里就可以自由选择，就有两派，一类认为，机器达不到人类智能，叫弱人工智能，一类认为机器能达到甚至超过人类智能，称为强人工智能。

分析人类智能演进，能看出人类智能演进的一种方式就是学习，于是有机器学习，然后有无监督学习，无监督学习等等。还有一种方式就是直接造出机器（软硬件）实现人类智能或部分智能，就有所谓数学定理的机器证明，专家系统等等。

当然也有理论分析或者证明，比如机器学习（其实是Turing Machine learning）所能学到什么（learnability），已经说过，就不再说了。也有一些分析机器能否达到人类智能，其中哥德尔，图灵（有Church-Turing thesis，是一个论题，类似猜想，但有证据支持，无法证明），还有稍弱的McCarthy， 哥德尔看法不明确，但我觉得他倾向于Turing Machine不可能达到人类智能，具体可去看他文集和王浩的分析，但是未必不存在机器（我觉得他说的是图灵机之外的东西）达到人类智能，可是人类无法证明（哥德尔的说法）。换言之，强AI和弱AI都有理由吵，永远也吵不出结果来。但说图灵机能达到人类智能就基本被Godel否定了，他有一句话是，人的状态可达到无穷个。显然不存在这样的图灵机。有趣的是John McCarthy认为图灵机能实现二阶逻辑（我亲耳听到的，如果我没误解的话），我对他的尊敬立即从喜马拉雅山顶降到了马里亚纳海沟。这显然是说，Turing Machine达到或者超过了人类水平！Chomsky则因为E Mark Gold的工作和自己对儿童的观察而认定人类不是学会的语言，是天生就带着自然语言语法的机制或基因！Hinton显然不懂得这些，而死吹AI，并且跟Chonsky互掐。可LeCun明白，所以不以Hinton为然。
Solomonoff通过Carnap达到了一些归纳推理的结论（infereence），应该也表明了图灵机达不到人类智能。

然后就是八仙过海，符号主义，联结主义（就是aritificial neural net），统计路线等等。现在是ritificial neural net里的Deep Neural Net（DNN）及其变种独领风骚。不过那些实践的或者理论的结论还在，并没有推翻。所以别指望会很逆天，再商业运作也改变不了。
尤其是，理论和DNN脱节，大家都无法解释DNN何以如此有效（没突破理论结论，可突破了一些五六十年解决不了或者解决不好的难题）。短期内这状况改变不了，所以大家还是去做工程实现，去解决实际问题即应用，偶尔看一下有无可能提出理论来。我警告你哦，别想突破已有的理论结论，Hinton在胡说，他就是一个工程师。

[randomatrices]

这里还没涉及到意识（self consciousness)问题吧， 也就是关于“我”，或宗教哲学里的“本我”， “心”， “元神”所指的东西。
我曾经在这里转贴过辛顿关于这方面的演讲，他似乎不在乎意识的问题，甚至认为意识就是“幻像”， 一个不存在的东西。以我粗浅的佛学知识，我马上就意识到他这是以“幻像”来否定“真心”的存在。

在现在的理论框架下，即使可以做到强智能，在所有人类生活的方方面面智能都击败人类，如下围棋，证明数学定理（存疑？），写出红楼梦一样的小说（存疑？），但是意识（self consciousness)问题还是存在，还是没有解决。

辛顿他们现在担心人工智能安全问题是在担心机器人造反吗？

AI是artificial intelligence，一开始就对标人类，也就是造出机器能够跟人类的智能一样或者跟部分人类智能一样（为什么不企图造出超过人类智能的？可见人类的自大）。但人类智能没弄清楚，也自然没定义。于是图灵给出了Turing Test，https://en.wikipedia.org/wiki/Turing_te ... uestion%2D，目的是比较机器和人类，以判定是否达到了人类智能，而又避开了人类智能的定义。后来Searle又提出了Chinese room来解决这个问题，https://en.wikipedia.org/wiki/Chinese_room

这是聪明的想法，可是，只能用于否定机器达到了人类智能，不能肯定机器达到了人类智能，因为向人类和机器提出的问题只是有限个，你无法肯定人类能解答的问题已经都是机器能解答的。

因为Turing Test无法完全解决问题，所以这里就可以自由选择，就有两派，一类认为，机器达不到人类智能，叫弱人工智能，一类认为机器能达到甚至超过人类智能，称为强人工智能。

分析人类智能演进，能看出人类智能演进的一种方式就是学习，于是有机器学习，然后有无监督学习，无监督学习等等。还有一种方式就是直接造出机器（软硬件）实现人类智能或部分智能，就有所谓数学定理的机器证明，专家系统等等。

当然也有理论分析或者证明，比如机器学习（其实是Turing Machine learning）所能学到什么（learnability），已经说过，就不再说了。也有一些分析机器能否达到人类智能，其中哥德尔，图灵（有Church-Turing thesis，是一个论题，类似猜想，但有证据支持，无法证明），还有稍弱的McCarthy， 哥德尔看法不明确，但我觉得他倾向于Turing Machine不可能达到人类智能，具体可去看他文集和王浩的分析，但是未必不存在机器（我觉得他说的是图灵机之外的东西）达到人类智能，可是人类无法证明（哥德尔的说法）。换言之，强AI和弱AI都有理由吵，永远也吵不出结果来。但说图灵机能达到人类智能就基本被Godel否定了，他有一句话是，人的状态可达到无穷个。显然不存在这样的图灵机。有趣的是John McCarthy认为图灵机能实现二阶逻辑（我亲耳听到的，如果我没误解的话），我对他的尊敬立即从喜马拉雅山顶降到了马里亚纳海沟。这显然是说，Turing Machine达到或者超过了人类水平！Chomsky则因为E Mark Gold的工作和自己对儿童的观察而认定人类不是学会的语言，是天生就带着自然语言语法的机制或基因！Hinton显然不懂得这些，而死吹AI，并且跟Chonsky互掐。可LeCun明白，所以不以Hinton为然。
Solomonoff通过Carnap达到了一些归纳推理的结论（infereence），应该也表明了图灵机达不到人类智能。

然后就是八仙过海，符号主义，联结主义（就是aritificial neural net），统计路线等等。现在是ritificial neural net里的Deep Neural Net（DNN）及其变种独领风骚。不过那些实践的或者理论的结论还在，并没有推翻。所以别指望会很逆天，再商业运作也改变不了。
尤其是，理论和DNN脱节，大家都无法解释DNN何以如此有效（没突破理论结论，可突破了一些五六十年解决不了或者解决不好的难题）。短期内这状况改变不了，所以大家还是去做工程实现，去解决实际问题即应用，偶尔看一下有无可能提出理论来。我警告你哦，别想突破已有的理论结论，Hinton在胡说，他就是一个工程师。

[forecasting]

这里还没涉及到意识（self consciousness)问题吧， 也就是关于“我”，或宗教哲学里的“本我”， “心”， “元神”所指的东西。
我曾经在这里转贴过辛顿关于这方面的演讲，他似乎不在乎意识的问题，甚至认为意识就是“幻像”， 一个不存在的东西。以我粗浅的佛学知识，我马上就意识到他这是以“幻像”来否定“真心”的存在。

在现在的理论框架下，即使可以做到强智能，在所有人类生活的方方面面智能都击败人类，如下围棋，证明数学定理（存疑？），写出红楼梦一样的小说（存疑？），但是意识（self consciousness)问题还是存在，还是没有解决。

辛顿他们现在担心人工智能安全问题是在担心机器人造反吗？

Hinton不懂得逻辑，可计算理论，模型论等等，数学基础几乎为零；也不明白人类意识是啥。如果相信神创论，那么意识是神赋予的；否则得明白人类意识甚至动物意识起源于什么，如何演进。单纯靠模仿恐怕不行，你看到了，机器冷冰冰的，没有生存的压力，不会恐惧，不会愤怒，没有七情六欲，事实上没有意识。我自己觉得，意识或者自我意识，一定跟这些压力或情感相连的，即使是神赋予，也给了他们演进的能力。

Hinton不明白意识是什么，误解人类意识为目前达到的机器智能，或者是为了商业炒作，胡说AI威胁。

对了，Godel不相信人是进化而来，相信有上帝，而且是神创造了人和人类意识和智能。还做了证明！

[TheMatrix]

Hinton不懂得逻辑，可计算理论，模型论等等，数学基础几乎为零；也不明白人类意识是啥。如果相信神创论，那么意识是神赋予的；否则得明白人类意识甚至动物意识起源于什么，如何演进。单纯靠模仿恐怕不行，你看到了，机器冷冰冰的，没有生存的压力，不会恐惧，不会愤怒，没有七情六欲，事实上没有意识。我自己觉得，意识或者自我意识，一定跟这些压力或情感相连的，即使是神赋予，也给了他们演进的能力。

Hinton不明白意识是什么，误解人类意识为目前达到的机器智能，或者是为了商业炒作，胡说AI威胁。

对了，Godel不相信人是进化而来，相信有上帝，而且是神创造了人和人类意识和智能。还做了证明！

我觉得科学界主流观点还是还原论 - 人没有意识 - 或者说意识是一种涌现 - emergence - 我也是这个观点。

[forecasting]

你就是个读死书的，光会背别人写的说的，不具备自我思考的能力。

你写这一坨，都是重复别人的话，没有自己的见解。

我上网，主要就是教育你这种，积阴德。

先救你自己，你成文科傻妞了，天天神神叨叨的。

[forecasting]

我觉得科学界主流观点还是还原论 - 人没有意识 - 或者说意识是一种涌现 - emergence - 我也是这个观点。

这样讨论，就踏入一片我们一无所知的荒原了，也就近似哲学了，而且是那种与实证主义分析哲学完全不同的哲学 。基本上大家都信奉还原论，物理学如果再深究一步，也牵涉人观测中所起的作用。我不相信涌现论，如果深究一步，你发现本来世界上的万事万物很难孤立出来，所以涌现论就是本来就有的东西说成涌现。事实上我们是在逼近完整的世界

全是哲学，或者关于意识的臆想。说每一句话，都觉得很空泛。

[randomatrices]

是还原论 解释不了意识， 不能说“意识”这个东西不存在吧。
意识可能和一种涌现有关，但问题还是存在吧， 涌现的机制是什么？不会说按现在的技术路线参数越来越多层数越来越多，意识就自然涌现出来了。
那就有两种人了， 这两种人可能有重合。一种就是， 没有意识或不用思考意识的机制，就这样埋头干下去。相关的另一种人就是， 不好， 我们这样干下去， 机器人意识可能就要涌现了，要造反了控制人类了。

我觉得科学界主流观点还是还原论 - 人没有意识 - 或者说意识是一种涌现 - emergence - 我也是这个观点。

[hci]

属实。所以科学是一个宗教。

你是信科学教而已。

我信道教。

科学教是道教走火入魔的一支。

我觉得科学界主流观点还是还原论 - 人没有意识 - 或者说意识是一种涌现 - emergence - 我也是这个观点。

[TheMatrix]

这样讨论，就踏入一片我们一无所知的荒原了，也就近似哲学了，而且是那种与实证主义分析哲学完全不同的哲学 。基本上大家都信奉还原论，物理学如果再深究一步，也牵涉人观测中所起的作用。我不相信涌现论，如果深究一步，你发现本来世界上的万事万物很难孤立出来，所以涌现论就是本来就有的东西说成涌现。事实上我们是在逼近完整的世界

全是哲学，或者意识。说每一句话，都觉得很空泛。

涌现理论才更“科学”。涌现，emergence，就是复杂系统呈现出的模式，more is different，动力学，非线性，混沌，组合论，这些都联系上了。所以这才是科学的可操作性。

元神，甚至意识，这样的概念，都属于前科学，还没有开始进入科学的范畴。不是说这样的概念不能研究，但是我们要清楚它的阶段 - 前科学。

[TheMatrix]

是还原论 解释不了意识， 不能说“意识”这个东西不存在吧。
意识可能和一种涌现有关，但问题还是存在吧， 涌现的机制是什么？不会说按现在的技术路线参数越来越多层数越来越多，意识就自然涌现出来了。
那就有两种人了， 这两种人可能有重合。一种就是， 没有意识或不用思考意识的机制，就这样埋头干下去。相关的另一种人就是， 不好， 我们这样干下去， 机器人意识可能就要涌现了，要造反了控制人类了。

你一问涌现的机制是什么，马上就“科学”了。就朝这条路研究下去，我觉得就对了。

[TheMatrix]

属实。所以科学是一个宗教。

你是信科学教而已。

我信道教。

科学教是道教走火入魔的一支。

你这么说也可以。但是你的道教或伏羲教，还是更宗教性一些。

中国文化几千年来如果说领先的地方，第一条就是“去宗教性”。人本主义，人道主义，实用主义，实证主义，都和这一条有关。

我注意到你也在淡化你的伏羲教的宗教性，但是你粘上这个名字，就跑不掉联想。你不能怪别人联想，还是你的宗教的问题。

[hci]

我哪里在淡化伏義教的宗教性？

你这么说也可以。但是你的道教或伏羲教，还是更宗教性一些。

中国文化几千年来如果说领先的地方，第一条就是“去宗教性”。人本主义，人道主义，实用主义，实证主义，都和这一条有关。

我注意到你也在淡化你的伏羲教的宗教性，但是你粘上这个名字，就跑不掉联想。你不能怪别人联想，还是你的宗教的问题。

[TheMatrix]

我哪里在淡化伏義教的宗教性？

这是我的观感，我也说不好。我以后再碰到可能会告诉你。

[minren]

AI是artificial intelligence，一开始就对标人类，

别说对标人类，即使对标猫狗、对标蟑螂老鼠，AI也都有 I所达不到的，如‘意识’问题，即使低等动物也能学习适应环境。而且AI也许永远达不到它们在这些方面的聪明。不仅在现有的只靠计算机的方向发展下去，不可能产生AGI，更重要的是，实际上也不需要AGI，那将是人类的灾难。

但在实践上，任何AI小的进步，包括这次AI浪潮，都会带给社会显著进步。只要各种 AI 在人类活动的各个 Domain 上分别达到或超过普通人技能，获取最优解或次优解， 就足够了。alphaGO是最简单的例子，如果将来每一个领域都有各自的AI辅助，例如chatGPT，AlphaFold 等等，对人类来说就是足够大的进步了。

例如，这里有十段AI围棋老师，将来有同样的钢琴老师，声乐老师，等等：



总之，强AI/AGI只有理论意义。这个世界上，绝大部分工作可归类到无需动脑的重复抄袭范畴。不需要AGI的实现，将来AI 就能完成绝大部分人类的工作，AI前途依然足够光明。

[tiantian2000]

你遇到一个人，谈的很好，如沐春风，最大可能不是你俩水平一样，而是人家兼容你

[forecasting]

你遇到一个人，谈的很好，如沐春风，最大可能不是你俩水平一样，而是人家兼容你

这又是谁的马甲，被老婆抓破了脸，还是被丈夫家暴了，来这里释放委屈？会不会是我兼容它？

话说，你就是这样水平来谈Turing Test？不觉得我该象你一样对你满口脏话喷薄而出？

你该明白，每次看到那些脏话，我都捏着鼻子皱着眉头，还如沐春风？臭气熏天吧！

[tiantian2000]

这又是谁的马甲，被老婆抓破了脸，还是被丈夫家暴了，来这里释放委屈？会不会是我兼容它？

话说，你就是这样水平来谈Turing Test？不觉得我该象你一样对你满口脏话喷薄而出？

你该明白，每次看到那些脏话，我都捏着鼻子皱着眉头，还如沐春风？臭气熏天吧！

什么情况？哪里有脏话？

[hci]

Point at head, wink wink

什么情况？哪里有脏话？