分页: 1 / 1
#1 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 17:53
由 konichiwa
只要功夫深,铁棒磨成针
chatgpt的突破在于,参数足够多,达到了临界值,产生了质变
原来你的模型一万个参数
我给你调到一亿个参数,这样电脑就突然通人性了
我这个理解正不正确?
#2 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 17:55
由 starbox
现在没有更好的算法,只好寄希望于“涌现”。
过几天有了新的推理思路,就没人再提什么量变到质变了
#3 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 17:56
由 yokel
人没有一亿个参数
#4 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 17:59
由 BeBeeS
好像基本理论没什么创新,就是数据集和大规模,当然你要忽悠到钱。
国内好像也有好多大模型,财力没法和美帝比,高端gpu还受限。
#5 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 18:48
由 GaryZZZ
机器学习理论上瓶颈存在好久了 希望出现一个大牛重新定义理论框架 到时候才是真正的AI爆发期
#6 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:02
由 StMichael
人脑有800到1000亿神经细胞,1000万亿神经突触。
一个神经突触算一个参数的话,目前人类ai 模型open ai的 megatron最高有5400亿参数,不知道是不是最新数字。
yokel 写了: 2024年 1月 27日 17:56
人没有一亿个参数
#7 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:11
由 heteroclinic
扯淡的和一人发一亿美元实现宫产主义是一个叫法
1000个节点的全联通图复杂度是多少
你怎么知道的连通性
骗羊牯文盲的
#8 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:12
由 heteroclinic
一人发一亿美元基本大家每天的工作就是点钱
饿死了
#9 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:12
由 changjiang
我外行瞎猜,是不是只要数据足够大,brute force 算出极多的参数,这样就有了模型。然后你问他问题,对chatgpt 来讲,新问题就等于是模型的interpolation,轻松给出答案。但是如果问题在训练数据之外的,模型外推给出的答案可能就比较可笑。
#10 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:12
由 lahei
heteroclinic 写了: 2024年 1月 27日 19:11
扯淡的和一人发一亿美元实现宫产主义是一个叫法
1000个节点的全联通图复杂度是多少
你怎么知道的连通性
骗羊牯文盲的
显然不是全联通的
#11 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:17
由 heteroclinic
lahei 写了: 2024年 1月 27日 19:12
显然不是全联通的
那也不是完全孤立的
这不就是集成电路早期解决不了的问题又被羊牯炒起来了
做不了全真值表
只好正则抽象
#12 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:18
由 heteroclinic
我就不说难听的了
#13 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:27
由 lahei
changjiang 写了: 2024年 1月 27日 19:12
我外行瞎猜,是不是只要数据足够大,brute force 算出极多的参数,这样就有了模型。然后你问他问题,对chatgpt 来讲,新问题就等于是模型的interpolation,轻松给出答案。但是如果问题在训练数据之外的,模型外推给出的答案可能就比较可笑。
人类也一样,文盲科盲而已
#14 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:28
由 changjiang
#15 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:30
由 BeBeeS
人脑就是以数量和规模取胜,你说人脑耗能也低,运算速度更低,所以下一代ai芯片应该增加数量,而不是增加速度。
#16 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:32
由 heteroclinic
#17 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:32
由 heteroclinic
必须要有人负责
#19 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:40
由 beijingren3
#20 Re: 我理解的chatgpt,欢迎指正
发表于 : 2024年 1月 27日 19:51
由 changjiang