分页: 1 / 1

#1 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 17:53
konichiwa
只要功夫深,铁棒磨成针

chatgpt的突破在于,参数足够多,达到了临界值,产生了质变

原来你的模型一万个参数

我给你调到一亿个参数,这样电脑就突然通人性了

我这个理解正不正确?

#2 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 17:55
starbox
现在没有更好的算法,只好寄希望于“涌现”。

过几天有了新的推理思路,就没人再提什么量变到质变了

#3 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 17:56
yokel
人没有一亿个参数

#4 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 17:59
BeBeeS
好像基本理论没什么创新,就是数据集和大规模,当然你要忽悠到钱。
国内好像也有好多大模型,财力没法和美帝比,高端gpu还受限。

#5 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 18:48
GaryZZZ
机器学习理论上瓶颈存在好久了 希望出现一个大牛重新定义理论框架 到时候才是真正的AI爆发期

#6 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:02
StMichael
人脑有800到1000亿神经细胞,1000万亿神经突触。

一个神经突触算一个参数的话,目前人类ai 模型open ai的 megatron最高有5400亿参数,不知道是不是最新数字。


yokel 写了: 2024年 1月 27日 17:56 人没有一亿个参数

#7 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:11
heteroclinic
扯淡的和一人发一亿美元实现宫产主义是一个叫法
1000个节点的全联通图复杂度是多少
你怎么知道的连通性

骗羊牯文盲的

#8 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:12
heteroclinic
一人发一亿美元基本大家每天的工作就是点钱
饿死了

#9 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:12
changjiang
我外行瞎猜,是不是只要数据足够大,brute force 算出极多的参数,这样就有了模型。然后你问他问题,对chatgpt 来讲,新问题就等于是模型的interpolation,轻松给出答案。但是如果问题在训练数据之外的,模型外推给出的答案可能就比较可笑。

#10 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:12
lahei
heteroclinic 写了: 2024年 1月 27日 19:11 扯淡的和一人发一亿美元实现宫产主义是一个叫法
1000个节点的全联通图复杂度是多少
你怎么知道的连通性

骗羊牯文盲的
显然不是全联通的

#11 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:17
heteroclinic
lahei 写了: 2024年 1月 27日 19:12 显然不是全联通的
那也不是完全孤立的
这不就是集成电路早期解决不了的问题又被羊牯炒起来了

做不了全真值表
只好正则抽象

#12 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:18
heteroclinic
我就不说难听的了

#13 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:27
lahei
changjiang 写了: 2024年 1月 27日 19:12 我外行瞎猜,是不是只要数据足够大,brute force 算出极多的参数,这样就有了模型。然后你问他问题,对chatgpt 来讲,新问题就等于是模型的interpolation,轻松给出答案。但是如果问题在训练数据之外的,模型外推给出的答案可能就比较可笑。
人类也一样,文盲科盲而已

#14 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:28
changjiang
heteroclinic 写了: 2024年 1月 27日 19:18 我就不说难听的了
说呗,随便来点真知灼见。

#15 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:30
BeBeeS
人脑就是以数量和规模取胜,你说人脑耗能也低,运算速度更低,所以下一代ai芯片应该增加数量,而不是增加速度。

#16 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:32
heteroclinic
changjiang 写了: 2024年 1月 27日 19:28 说呗,随便来点真知灼见。
没啥煮件,一块钱GDP借两块钱的债
生产就是浪费

#17 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:32
heteroclinic
必须要有人负责

#19 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:40
beijingren3
图片

#20 Re: 我理解的chatgpt,欢迎指正

发表于 : 2024年 1月 27日 19:51
changjiang
beijingren3 写了: 2024年 1月 27日 19:40 图片
从黄图到科学动画,domain真广!