完了 LSTM之父指出诺贝尔奖获得者Hinton和Hopfield剽窃

[huangchong]

back propagation就是链式法则，再普通不过了，如果发明人不会包装，可能都不会起个专门的名字。

深学的巨大成功来源于上规模。

链式法则是链式法则，反传是对链式法则的一种应用，还是有原创性的。知道链式法则的人很多，用链式法则去传递信息，没人告诉你，你就自己立刻能琢磨出来？不一定吧。

[huangchong]

用游戏卡做并行计算 是一大发明 但似乎远远不够诺贝尔奖

那个小日本的intellectual merit倒是够了

游戏卡做计算也不是hinton他们自己发明的。

我是说，hinton那篇论文（以及比赛的成绩），在2012属于横空出世的一个成果，就算只是把过去的技术集成，也还是有很重要意义的，给前人合适的credit就行了，不能说hinton等人就是一伙剽窃犯。

[kiwi]

https://en.wikipedia.org/wiki/Backpropagation

供参考

[kiwi]

游戏卡做计算也不是hinton他们自己发明的。

我是说，hinton那篇论文（以及比赛的成绩），在2012属于横空出世的一个成果，就算只是把过去的技术集成，也还是有很重要意义的，给前人合适的credit就行了，不能说hinton等人就是一伙剽窃犯。

这点intellectual merit更适合一个会议award
my two cents

[Caravel]

链式法则是链式法则，反传是对链式法则的一种应用，还是有原创性的。知道链式法则的人很多，用链式法则去传递信息，没人告诉你，你就自己立刻能琢磨出来？不一定吧。

原创性是有，但是很容易想到。

如果你的目标是optimize neural network的output，琢磨一下基本就会走到反向传播上来。当然如果是做原创研究，想把细节都搞对，没有个几个月时间打磨也是不行的。

[huangchong]

这点intellectual merit更适合一个会议award
my two cents

问题是人家的成果显著地改变了世界。 Nobel奖从来都不是智商奖，而是贡献奖。

[kiwi]

原创性是有，但是很容易想到。

如果你的目标是optimize neural network的output，琢磨一下基本就会走到反向传播上来。当然如果是做原创研究，想把细节都搞对，没有个几个月时间打磨也是不行的。

你这辈子总得有几十个“几个月”吧
我理解并不是所有“几个月”都能开花结果
我还是期待你拿10几个诺奖的消息 你应该是本屎坑第一牛人

[huangchong]

原创性是有，但是很容易想到。

如果你的目标是optimize neural network的output，琢磨一下基本就会走到反向传播上来。当然如果是做原创研究，想把细节都搞对，没有个几个月时间打磨也是不行的。

恐怕确实不是特别难，但是人家在别人都觉得这方向死了的时候，肯琢磨这些事，琢磨出来了，发表了，最后把死方向做活了。现在跳出来说这这这都不是他第一个发明的，他就是一个剽窃犯，我觉得非常不公道。

[kiwi]

恐怕确实不是特别难，但是人家在别人都觉得这方向死了的时候，肯琢磨这些事，琢磨出来了，发表了，最后把死方向做活了。现在跳出来说这这这都不是他第一个发明的，他就是一个剽窃犯，我觉得非常不公道。

功过自有后人评说
但这不cite highly related work 这难道不是学术道德问题?

[rgg]

没有引用的话， 是重新独立发现还是剽窃？

[Caravel]

你这辈子总得有几十个“几个月”吧
我理解并不是所有“几个月”都能开花结果
我还是期待你拿10几个诺奖的消息 你应该是本屎坑第一牛人

你没有get我的point，我的意思这玩意本质不难，但是如何能拿到这个题目？这个很困难，读PHD做教授就是为了走到领域的前沿，走不到前沿都是瞎折腾。

[kiwi]

没有引用的话， 是重新独立发现还是剽窃？

这就是狡猾的地方 不好说cite的话 诺奖是谁的

[Caravel]

恐怕确实不是特别难，但是人家在别人都觉得这方向死了的时候，肯琢磨这些事，琢磨出来了，发表了，最后把死方向做活了。现在跳出来说这这这都不是他第一个发明的，他就是一个剽窃犯，我觉得非常不公道。

我也认为Hinton并非剽窃，只是重新发现。

[huangchong]

这就是狡猾的地方 不好说cite的话 诺奖是谁的

我觉得cite的话， hinton的地位不会怎么受影响。 发现把网做深做大开始出现奇妙的现象，这些是前人没有做到的，就算是发现了个自然现象吧。

[kiwi]

你没有get我的point，我的意思这玩意本质不难，但是如何能拿到这个题目？这个很困难，读PHD做教授就是为了走到领域的前沿，走不到前沿都是瞎折腾。

如果仅仅把它作为一道题 来解 自然不难

就好像正电子的发现方法 小学生都能做出来

但第一个定义(/形式化)一个新鲜问题 是极不容易的

从这个意义上 小日本更有资格拿诺奖

[huangchong]

如果仅仅把它作为一道题 来解 自然不难

就好像正电子的发现方法 小学生都能做出来

但第一个定义(/形式化)一个新鲜问题 是极不容易的

从这个意义上 小日本更有资格拿诺奖

其实我看这个是诺奖委员会不留神给自己下了个套。本来老老实实说，我们今年就想给计算技术发个特别奖，奖励深层神经网络，然后老实吧2018年三个图灵奖获奖者一起奖了，而不是硬套物理奖，这些问题都不存在了。只是没有完整引用前辈文献，有点学术不严谨/不端而已。

[wushangzong]

有剽窃嫌疑。

其实我看这个是诺奖委员会不留神给自己下了个套。本来老老实实说，我们今年就想给计算技术发个特别奖，奖励深层神经网络，然后老实吧2018年三个图灵奖获奖者一起奖了，而不是硬套物理奖，这些问题都不存在了。只是没有完整引用前辈文献，有点学术不严谨/不端而已。

[Caravel]

其实我看这个是诺奖委员会不留神给自己下了个套。本来老老实实说，我们今年就想给计算技术发个特别奖，奖励深层神经网络，然后老实吧2018年三个图灵奖获奖者一起奖了，而不是硬套物理奖，这些问题都不存在了。只是没有完整引用前辈文献，有点学术不严谨/不端而已。

日本人系统比较封闭，朝永振一郎发现量子电动力学也比费曼早，不过还算比较公正，一起给了

[minren]

五年前，Hinton 等人获 Turing 奖的时候，Schmidhuber 就这样类似搞过一次了。当时Hinton回答了他：

与Schmidhuber就 academic credit 问题进行公开辩论是不可取的，因为这只会鼓励他，而且他愿意投入无限的时间和精力来试图诋毁他所谓的对手。他甚至采取了一些花招，比如在维基百科上使用多个别名，让其他人看起来同意他的说法。他网站上关于艾伦·图灵的页面就是一个很好的例子，说明了他如何试图贬低其他人的贡献。

尽管我自己做出了最好的判断，但我觉得我不能完全不回答他的指控，所以我只会回应一次。我从来没有声称claimed 我发明了反向传播。David Rumelhart是在其他领域的人发明它之后很久才独立发明它的。确实，当我们第一次发表文章时，我们并不知道历史，所以我们没有引用之前的发明者。我声称 claimed 的是，我是那个清楚地证明反向传播可以学习有趣的内部表示的人，这就是它流行的原因。我通过强制神经网络学习单词的向量表示来实现这一点，这样它就可以从前一个单词的向量表示中预测序列中的下一个单词。正是这个例子信服了《自然》杂志的审稿人发表了我们 1986 年的论文。

确实，很多媒体人都说我发明了反向传播，我花了很多时间来纠正他们。以下是Michael Ford 2018 年出版的 "Architects of Intelligence"一书中的摘录：
“在David Rumelhart之前，有很多人发明了不同版本的反向传播。它们都是一些独立发明，我觉得我在这方面获得了太多的赞誉。我在媒体上看到过一些报道说我发明了反向传播，这是完全错误的。这是学者觉得自己在某件事上获得了太多赞誉的罕见情况之一！我的主要贡献是展示了如何使用它来学习分布式表示，所以我想澄清这一点。”

[xiaoju]

Hinton最大贡献是几十年邪教式宣传DL，没有功劳也有苦劳，深学第一人世界公认

在发表于 X 平台的小作文中，Jürgen Schmidhuber 洋洋洒洒列了四条依据，内容如下：

1、Lenz-Ising 神经元递归结构发表于 1925 年。1972 年，甘利俊一（Shun-Ichi Amari）使其具有自适应能力，通过改变连接权重，学会将输入模式与输出模式联系起来。不过，在「2024 年诺贝尔物理学奖的科学背景」中，Amari 只是被简单引用。遗憾的是，Amari 的网络后来被称为「Hopfield 网络」。Hopfield 在 10 年后重新发表了它，但没有引用 Amari，甚至在后来的论文中也没有引用。

2、Ackley、Hinton 和 Sejnowski 的相关玻尔兹曼机论文是关于神经网络隐藏单元内部表征的学习。它没有引用 Ivakhnenko 和 Lapa 提出的第一个内部表征深度学习算法，也没有引用 Amari 通过随机梯度下降（SGD）在深度 NN 中端到端学习内部表征的独立工作（1967-68 年）。甚至连作者后来的调查和「2024 年诺贝尔物理学奖的科学背景」都没有提到深度学习的这些起源。玻尔兹曼机也没有引用 Sherrington & Kirkpatrick 和 Glauber 之前的相关工作。

3、诺贝尔奖委员会还称赞了 Hinton 等人 2006 年提出的深度神经网络分层预训练方法（2006 年）。然而，这项工作既没有引用 Ivakhnenko 和 Lapa（1965 年）对深度神经元进行分层训练的原始方法，也没有引用对深度神经元进行无监督预训练的原始方法。

4、如「主流信息」所说：「在 20 世纪 60 年代末，一些令人沮丧的理论结果让许多研究人员怀疑这些神经网络永远不会有任何实际用途」。然而，深度学习研究在 20 世纪 60-70 年代显然是活跃的，尤其是在英国以外的地区。