（转载）Multi-Agent LLM系统能产生原始的意识么？

[Caravel]

此帖转自 Caravel 在 STEM 的帖子：Multi-Agent LLM系统能产生原始的意识么？

人类以及动物的意识是怎么产生的？有很多理论，各人都有各的看法，没有统一的观点。从物理学的角度看，喜欢有操作性的定义。从可操作性出发，我认为一个合适的意识的定义就是区分自身和环境以及他人的能力。

生物是通过严苛的生存竞争来逐渐获得的意识。最早的单细胞生物，多细胞生物的意识如果有也是很弱的，只有简单的条件发射性的程序性的功能来获取食物，和躲避危险。渐渐的动物有了更多的知觉，乃至有了视觉，能力逐渐增强。对区分自我和环境和，区分什么是食物，什么是捕食者的认识逐渐丰满立体起来。不仅有触觉的，也有视觉的，还能感知重力和气味。

同时围绕自我保护，捕食和躲避，逐渐有一套action space也出来了，这些action space建立在对肌肉身体能力的熟练运用的基础之上。

说完动物，说说LLM，目前的大预言模型，前期的训练只是猛灌数据。 只有到了后期RLHF的阶段，才有了一点我的感觉，需要对提问者进行反应。可以认为，LLM在文本交互中可以区分自我和提问者，这是一种很微弱的意识么？我们还不能确信.

但是如果这是真的，将在multi-agent系统中更进一步加强，单个LLM based agent不仅需要区分自己，不仅需要区分自己和提问者，还需要区分合作的多个agent，甚至要记住不同agent的分工。当然这仅仅是通过文本阅读来实现。这并不是问题，原始的生物也只能通过少量的感官来感知世界。

同时agent也会拥有私有的prompt的存储，分化是必然的。 如果这个理论成立，那么显然在这个环境里面，LLM agent的意识会逐渐增强。

这会是一种什么样的智能和意识？让我们拭目以待。

[bihai]

此帖转自 Caravel 在 STEM 的帖子：Multi-Agent LLM系统能产生原始的意识么？

人类以及动物的意识是怎么产生的？有很多理论，各人都有各的看法，没有统一的观点。从物理学的角度看，喜欢有操作性的定义。从可操作性出发，我认为一个合适的意识的定义就是区分自身和环境以及他人的能力。

生物是通过严苛的生存竞争来逐渐获得的意识。最早的单细胞生物，多细胞生物的意识如果有也是很弱的，只有简单的条件发射性的程序性的功能来获取食物，和躲避危险。渐渐的动物有了更多的知觉，乃至有了视觉，能力逐渐增强。对区分自我和环境和，区分什么是食物，什么是捕食者的认识逐渐丰满立体起来。不仅有触觉的，也有视觉的，还能感知重力和气味。

同时围绕自我保护，捕食和躲避，逐渐有一套action space也出来了，这些action space建立在对肌肉身体能力的熟练运用的基础之上。

说完动物，说说LLM，目前的大预言模型，前期的训练只是猛灌数据。 只有到了后期RLHF的阶段，才有了一点我的感觉，需要对提问者进行反应。可以认为，LLM在文本交互中可以区分自我和提问者，这是一种很微弱的意识么？我们还不能确信.

但是如果这是真的，将在multi-agent系统中更进一步加强，单个LLM based agent不仅需要区分自己，不仅需要区分自己和提问者，还需要区分合作的多个agent，甚至要记住不同agent的分工。当然这仅仅是通过文本阅读来实现。这并不是问题，原始的生物也只能通过少量的感官来感知世界。

同时agent也会拥有私有的prompt的存储，分化是必然的。 如果这个理论成立，那么显然在这个环境里面，LLM agent的意识会逐渐增强。

这会是一种什么样的智能和意识？让我们拭目以待。

语言是关键，是人类交流的方式，是意识的串行化（非完美）。通过语言可以学习其他技能，比如按照交通规则学会开车。这个学习过程就是在语言的指导下，对手眼配合进行学习。

语言之下是手眼配合。

语言还包括说话，听，在脑中回想。语言本身还包含了对宇宙规律的认识。

[Caravel]

语言是关键，是人类交流的方式，是意识的串行化（非完美）。通过语言可以学习其他技能，比如按照交通规则学会开车。这个学习过程就是在语言的指导下，对手眼配合进行学习。

语言之下是手眼配合。

语言还包括说话，听，在脑中回想。语言本身还包含了对宇宙规律的认识。

我想了想，目前LLM也不能说就错

毕竟人训练一个水母，一个老鼠水平的AI

如果完全不能交互那也没有什么用处

人一开始就要求能听懂人话，这样才有用

然后慢慢加底层功能

[bihai]

我想了想，目前LLM也不能说就错

毕竟人训练一个水母，一个老鼠水平的AI

如果完全不能交互那也没有什么用处

人一开始就要求能听懂人话，这样才有用

然后慢慢加底层功能

比如大模型能够控制一个虚拟机，然后发出任何指令，比如编译，调试。还能看到屏幕。那么人跟它说左上角有个按钮，它会逐渐理解。这就是交流。

现在的大模型没有通过交流来训练手眼配合（就是看到屏幕，发出指令）。只要加上这个功能，能听懂人话的编程机器人就出来了。