分页: 1 / 1
#1 GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 11:46
由 GreatCanada
好像TPU是专门为TRANSFORMER优化的,GPU的CUDA到底是护城河还是束缚?
#2 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:06
由 verydryice
#3 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:10
由 zyyj2021
最终是TPU,性能, 价格,功耗都优于GPU。
当然通用性不如 GPU
#4 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:34
由 irisyuan
zyyj2021 写了: 2025年 11月 14日 16:10
最终是TPU,性能, 价格,功耗都优于GPU。
当然通用性不如 GPU
除非有一家专门做TPU的公司出来。否则这种大公司自己弄个组做TPU的就别想了,干不过老黄的
#5 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:37
由 Trump
irisyuan 写了: 2025年 11月 14日 16:34
除非有一家专门做TPU的公司出来。否则这种大公司自己弄个组做TPU的就别想了,干不过老黄的
谷歌如果把它的tpu 分拆出来,怎么样?
#6 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:40
由 irisyuan
Trump 写了: 2025年 11月 14日 16:37
谷歌如果把它的tpu 分拆出来,怎么样?
难!如果是谷歌干TPU的这帮人自己出来组个初创,我觉得机会都大点
#7 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:44
由 magagop
GreatCanada 写了: 2025年 11月 14日 11:46
好像TPU是专门为TRANSFORMER优化的,GPU的CUDA到底是护城河还是束缚?
CUDA當然是護城河,今天剛剛pull一個random repo,不用CUDA就直接crash,害得我還需要仔細看看怎麼回事,換CUDA就一切正常。普通人用TPU訓練就是找虐。
#8 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:46
由 magagop
verydryice 写了: 2025年 11月 14日 16:06
这个还是价格说了算。就和算bitcoin一样啊。
研發不需要時間嗎?時間不是金錢嗎?用TPU產生的各種蟲子怎麼解決?所以NVDA市值第一,因為用CUDA省錢省事省時間。
#9 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:47
由 magagop
zyyj2021 写了: 2025年 11月 14日 16:10
最终是TPU,性能, 价格,功耗都优于GPU。
当然通用性不如 GPU
我完全不認可TPU,實際用過就知道了。
谷歌出品都有各種問題:Android、Tensorflow、GCP等等,都是起個大早趕個晚集
#10 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 16:49
由 fanqie
TPU,推理以后是主流. 因为google等公司都需要考虑项目的实际盈利.
GPU好是好, 但是一张卡90%的利润太夸张了.训练就行了
#11 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 17:00
由 GreatCanada
irisyuan 写了: 2025年 11月 14日 16:40
难!如果是谷歌干TPU的这帮人自己出来组个初创,我觉得机会都大点
分拆和初创有什么区别啊,都是独立了,自己养活自己
#12 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 18:28
由 magagop
GreatCanada 写了: 2025年 11月 14日 17:00
分拆和初创有什么区别啊,都是独立了,自己养活自己
分拆閒人多,初創007
#13 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 14日 19:41
由 GreatCanada
magagop 写了: 2025年 11月 14日 18:28
分拆閒人多,初創007
不是现在像GOOGLE,META这种大厂都是人均卷的007吗
#14 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 15日 09:52
由 hahan
magagop 写了: 2025年 11月 14日 16:47
我完全不認可TPU,實際用過就知道了。
谷歌出品都有各種問題:Android、Tensorflow、GCP等等,都是起個大早趕個晚集
Tpu 有啥问题
为啥Google用的好好的
#15 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 15日 10:48
由 magagop
hahan 写了: 2025年 11月 15日 09:52
Tpu 有啥问题
为啥Google用的好好的
TPU已經超過十年七代,結果NVDA登頂市值世界第一,十年前可不是這樣。
#16 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 15日 13:54
由 verydryice
这个东西是看situation的。大家在赶时间出结果的时候,哪个好用用哪个,比如现在女哦/CUDA。结果出来了上服务,哪个省钱用哪个。修BUG之类都是一次性投入,赶时间的时候没空,停下来时间就不缺了。
#17 Re: GPU和TPU到底哪个是AI的未来
发表于 : 2025年 11月 15日 14:00
由 zyyj2021
最终需求大了,肯定都是ASIC, TPU
就像比特币,原来是GPU,后来都是定制芯片,没人用GPU造币了。