为啥GPU不能直接读写内存

[GreatCanada]

顿顿顿

[cng]

How do you ensure data consistency if all cpus and gpus are accessing memory autonomously?

[GreatCanada]

How do you ensure data consistency if all cpus and gpus are accessing memory autonomously?

可以分区吧，CPU占一块，GPU占一块，互不打扰，反正内存比显存便宜多了

[longtian]

gpu直接集成在主板上的，就是你说的这样。

可以分区吧，CPU占一块，GPU占一块，互不打扰，反正内存比显存便宜多了

[HouseMD]

顿顿顿

因为gpu不是cpu，cpu才是决定每个进程访问哪个内存地址的processor

[牛河梁]

可以。但效率低。

1/ 显卡和总线之间有带宽瓶颈

2/ 光速有限。RAM距离处理器越近吞吐量越大。最好做进PU里。

[xexz]

集成显卡可以物理上共用（内存条），但在逻辑上要单独划分，gpu的归gpu、cpu的归cpu、井水不犯河水。

原因是，gpu和cpu的计算结构不同，即二者的指令集不同，

就和arm与x86的情况相似，你把arm和x86做在一块主板上，必须各用各的内存，

彼此通讯，则要商量一个协议，这和cpu与gpu的情况相似。

[magagop]

誰說不能的？MI300A了解一下

[geniushanbiao]

这问题问的，显存比内存快多少倍？有快的不用非要去用慢的还得跟cpu抢？脑子没病吧？

[Deepsix]

为啥不能在gpu上多插几个内存条？

[牛河梁]

为啥不能在gpu上多插几个内存条？

利润？就像爱疯的内存问题。

[laomei9]

不如抱几台电脑连在一起了，以多取胜我们多抱几台

[牛河梁]

不如抱几台电脑连在一起了，以多取胜我们多抱几台

光速限制问题。越靠近越好。多取不了胜。所谓内存比显存慢也是这个原因。和PU的距离比显卡上多几倍，速度上限只有几分之一。做不上去。

[yanb]

顿顿顿

简单说，GPU只适合干特定计算密集任务，让它直接读写内存有啥用呢（又不能干CPU那些零碎活），费力又不讨好？

目前的架构还是合理的，计算密集的部分传给GPU干就好了。

[fantasist]

apple silicon：谁说不能？

[GreatCanada]

简单说，GPU只能干特定计算密集任务，让它直接读写内存有啥用呢（又不能干CPU那些零碎活），费力又不讨好？

目前的架构还是合理的，计算密集的部分传给GPU干就好了。

计算密集的部分数据必然密集啊

[yanb]

通常传数据的消耗还是远远低于密集计算本身

[jiml]

顿顿顿

可以的

科班出身的计算机学士会告诉你

大学课程，计算机原理，里面有direct memory access，简称DMA。

[jiml]

2019年，女大花了69亿美刀卖下以色列公司Mellanox

Mellanox的DMA技术有独到之处，延迟特别短，女大用它的技术建AI 集群

老黄的布局眼光很深远的，十年前就想到了AI clusters

[xexz]

光速限制问题。越靠近越好。多取不了胜。所谓内存比显存慢也是这个原因。和PU的距离比显卡上多几倍，速度上限只有几分之一。做不上去。

1024位可解（位宽是并行的，总归不过以空间换时间，和组合逻辑与时序逻辑的关系类似），光速不会在根本上限制信息传播速度。