分页: 1 / 1

#1 GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 11:46
GreatCanada

好像TPU是专门为TRANSFORMER优化的,GPU的CUDA到底是护城河还是束缚?


#2 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:06
verydryice

这个还是价格说了算。就和算bitcoin一样啊。


#3 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:10
zyyj2021

最终是TPU,性能, 价格,功耗都优于GPU。

当然通用性不如 GPU


#4 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:34
irisyuan
zyyj2021 写了: 2025年 11月 14日 16:10

最终是TPU,性能, 价格,功耗都优于GPU。

当然通用性不如 GPU

除非有一家专门做TPU的公司出来。否则这种大公司自己弄个组做TPU的就别想了,干不过老黄的


#5 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:37
Trump
irisyuan 写了: 2025年 11月 14日 16:34

除非有一家专门做TPU的公司出来。否则这种大公司自己弄个组做TPU的就别想了,干不过老黄的

谷歌如果把它的tpu 分拆出来,怎么样?


#6 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:40
irisyuan
Trump 写了: 2025年 11月 14日 16:37

谷歌如果把它的tpu 分拆出来,怎么样?

难!如果是谷歌干TPU的这帮人自己出来组个初创,我觉得机会都大点


#7 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:44
magagop
GreatCanada 写了: 2025年 11月 14日 11:46

好像TPU是专门为TRANSFORMER优化的,GPU的CUDA到底是护城河还是束缚?

CUDA當然是護城河,今天剛剛pull一個random repo,不用CUDA就直接crash,害得我還需要仔細看看怎麼回事,換CUDA就一切正常。普通人用TPU訓練就是找虐。


#8 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:46
magagop
verydryice 写了: 2025年 11月 14日 16:06

这个还是价格说了算。就和算bitcoin一样啊。

研發不需要時間嗎?時間不是金錢嗎?用TPU產生的各種蟲子怎麼解決?所以NVDA市值第一,因為用CUDA省錢省事省時間。


#9 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:47
magagop
zyyj2021 写了: 2025年 11月 14日 16:10

最终是TPU,性能, 价格,功耗都优于GPU。

当然通用性不如 GPU

我完全不認可TPU,實際用過就知道了。
谷歌出品都有各種問題:Android、Tensorflow、GCP等等,都是起個大早趕個晚集


#10 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 16:49
fanqie

TPU,推理以后是主流. 因为google等公司都需要考虑项目的实际盈利.

GPU好是好, 但是一张卡90%的利润太夸张了.训练就行了


#11 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 17:00
GreatCanada
irisyuan 写了: 2025年 11月 14日 16:40

难!如果是谷歌干TPU的这帮人自己出来组个初创,我觉得机会都大点

分拆和初创有什么区别啊,都是独立了,自己养活自己


#12 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 18:28
magagop
GreatCanada 写了: 2025年 11月 14日 17:00

分拆和初创有什么区别啊,都是独立了,自己养活自己

分拆閒人多,初創007


#13 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 14日 19:41
GreatCanada
magagop 写了: 2025年 11月 14日 18:28

分拆閒人多,初創007

不是现在像GOOGLE,META这种大厂都是人均卷的007吗


#14 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 15日 09:52
hahan
magagop 写了: 2025年 11月 14日 16:47

我完全不認可TPU,實際用過就知道了。
谷歌出品都有各種問題:Android、Tensorflow、GCP等等,都是起個大早趕個晚集

Tpu 有啥问题
为啥Google用的好好的


#15 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 15日 10:48
magagop
hahan 写了: 2025年 11月 15日 09:52

Tpu 有啥问题
为啥Google用的好好的

TPU已經超過十年七代,結果NVDA登頂市值世界第一,十年前可不是這樣。


#16 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 15日 13:54
verydryice

这个东西是看situation的。大家在赶时间出结果的时候,哪个好用用哪个,比如现在女哦/CUDA。结果出来了上服务,哪个省钱用哪个。修BUG之类都是一次性投入,赶时间的时候没空,停下来时间就不缺了。


#17 Re: GPU和TPU到底哪个是AI的未来

发表于 : 2025年 11月 15日 14:00
zyyj2021

最终需求大了,肯定都是ASIC, TPU

就像比特币,原来是GPU,后来都是定制芯片,没人用GPU造币了。