此帖转自 kiwi 在 军事天地（Military） 的帖子：完了 LSTM之父指出诺贝尔奖获得者Hinton和Hopfield剽窃
在发表于 X 平台的小作文中，Jürgen Schmidhuber 洋洋洒洒列了四条依据，内容如下：
1、Lenz-Ising 神经元递归结构发表于 1925 年。1972 年，甘利俊一（Shun-Ichi Amari）使其具有自适应能力，通过改变连接权重，学会将输入模式与输出模式联系起来。不过，在「2024 年诺贝尔物理学奖的科学背景」中，Amari 只是被简单引用。遗憾的是，Amari 的网络后来被称为「Hopfield 网络」。Hopfield 在 10 年后重新发表了它，但没有引用 Amari，甚至在后来的论文中也没有引用。
2、Ackley、Hinton 和 Sejnowski 的相关玻尔兹曼机论文是关于神经网络隐藏单元内部表征的学习。它没有引用 Ivakhnenko 和 Lapa 提出的第一个内部表征深度学习算法，也没有引用 Amari 通过随机梯度下降（SGD）在深度 NN 中端到端学习内部表征的独立工作（1967-68 年）。甚至连作者后来的调查和「2024 年诺贝尔物理学奖的科学背景」都没有提到深度学习的这些起源。玻尔兹曼机也没有引用 Sherrington & Kirkpatrick 和 Glauber 之前的相关工作。
3、诺贝尔奖委员会还称赞了 Hinton 等人 2006 年提出的深度神经网络分层预训练方法（2006 年）。然而，这项工作既没有引用 Ivakhnenko 和 Lapa（1965 年）对深度神经元进行分层训练的原始方法，也没有引用对深度神经元进行无监督预训练的原始方法。
4、如「主流信息」所说：「在 20 世纪 60 年代末，一些令人沮丧的理论结果让许多研究人员怀疑这些神经网络永远不会有任何实际用途」。然而，深度学习研究在 20 世纪 60-70 年代显然是活跃的，尤其是在英国以外的地区。
（转载）完了 LSTM之父指出诺贝尔奖获得者Hinton和Hopfield剽窃
版主： verdelite， TheMatrix
#2 Re: （转载）完了 LSTM之父指出诺贝尔奖获得者Hinton和Hopfield剽窃
我认为，这种情况属于剽窃，因为别人无法得知当时作者是否看到了十年前的文章。就好比小偷在超市偷东西被抓时说忘了付钱。
我就发现有这种情况，有人剽窃了我十年前的论文，改头换面在计算机顶会拿了最优论文奖。但是我一眼就能看穿他们的方法和我的一模一样，改了个名词；并且他们肯定看了我的论文，但是没有引用。就比如小偷换了身衣服还是小偷。
我就发现有这种情况，有人剽窃了我十年前的论文，改头换面在计算机顶会拿了最优论文奖。但是我一眼就能看穿他们的方法和我的一模一样，改了个名词；并且他们肯定看了我的论文，但是没有引用。就比如小偷换了身衣服还是小偷。
#3 Re: （转载）完了 LSTM之父指出诺贝尔奖获得者Hinton和Hopfield剽窃
HInton缺乏一些基础知识，一直比较喜欢乱说AI和人类智能。FoxMe 写了： 2024年 10月 10日 17:53 此帖转自 kiwi 在 军事天地（Military） 的帖子：完了 LSTM之父指出诺贝尔奖获得者Hinton和Hopfield剽窃
在发表于 X 平台的小作文中，Jürgen Schmidhuber 洋洋洒洒列了四条依据，内容如下：
1、Lenz-Ising 神经元递归结构发表于 1925 年。1972 年，甘利俊一（Shun-Ichi Amari）使其具有自适应能力，通过改变连接权重，学会将输入模式与输出模式联系起来。不过，在「2024 年诺贝尔物理学奖的科学背景」中，Amari 只是被简单引用。遗憾的是，Amari 的网络后来被称为「Hopfield 网络」。Hopfield 在 10 年后重新发表了它，但没有引用 Amari，甚至在后来的论文中也没有引用。
2、Ackley、Hinton 和 Sejnowski 的相关玻尔兹曼机论文是关于神经网络隐藏单元内部表征的学习。它没有引用 Ivakhnenko 和 Lapa 提出的第一个内部表征深度学习算法，也没有引用 Amari 通过随机梯度下降（SGD）在深度 NN 中端到端学习内部表征的独立工作（1967-68 年）。甚至连作者后来的调查和「2024 年诺贝尔物理学奖的科学背景」都没有提到深度学习的这些起源。玻尔兹曼机也没有引用 Sherrington & Kirkpatrick 和 Glauber 之前的相关工作。
3、诺贝尔奖委员会还称赞了 Hinton 等人 2006 年提出的深度神经网络分层预训练方法（2006 年）。然而，这项工作既没有引用 Ivakhnenko 和 Lapa（1965 年）对深度神经元进行分层训练的原始方法，也没有引用对深度神经元进行无监督预训练的原始方法。
4、如「主流信息」所说：「在 20 世纪 60 年代末，一些令人沮丧的理论结果让许多研究人员怀疑这些神经网络永远不会有任何实际用途」。然而，深度学习研究在 20 世纪 60-70 年代显然是活跃的，尤其是在英国以外的地区。
的确，不是Jürgen Schmidhuber列出这些原始文献，人工神经网络的历史不是很清楚的，一则因为大家不太注重历史，往往粗粗浏览甚至跳过，二则都是看的转述，估计一开始综述者就不清楚这段历史，就写得有问题。