独家整理:GPU服务器最新互联技术相关的知识点讲解
AI视频小助理:
一、GPU服务器相关的互联技术,包括PCI e nv link和华为的HCCS,还展示了不同方式的拓扑和技术。
00:01 - GPU服务器相关的互联技术知识点分享
01:05 - GPU互联技术介绍,包括PCIe nv link和华为的HCCS
02:38 - CPU到GPU互联和GPU到GPU互联的技术方式介绍
二、不同类型的GPU服务器中CPU和GPU之间的互联方式,包括PCI a switch、PCIE链路、m link链路加芯片等,以及它们各自的优缺点和应用场景。
04:25 - PCI a switch下面的芯片实现点点互联,通常是四个芯片八个信号
05:27 - CPU到GPU的互联采用m link链路加芯片,拓扑对称灵活
07:56 - AMD第三代米兰GPU采用直通方式,128条PCIE通道消耗160PCIE通道
三、在PC烂不够的情况下,可以通过PCIE switch芯片进行扩展,同时介绍了PCIE互联的三种拓扑,以及HG差模组的NVLINK连接方式。
08:48 - s lake 第三代的这个质强可扩展处理器支持10个双宽的GPU
10:12 - PCIE互联的拓扑包括balance、common和casket三种,适用于不同场景
12:06 - 英伟达推出了PCIP互联方式,通过调节器实现卡卡互联
四、英伟达HG系列GPU模组内部互联的拓扑结构,包括PCIe switch、NVLink switch等芯片的作用和互联方式,以及NVLink相比PCIe的优势。
13:28 - GPU模组是服务器厂商设计产品时使用的部件
14:17 - CPU、内存、硬盘、网卡等都需要互联,而NVLink switch可以加速GPU之间的通信
17:11 - NVLink比PCIe快很多,可以实现12条NVLink 3.0,比PCIe的64G带宽快将近10倍
五、华为升腾巴卡机的处理器、互联带宽、NPU等信息,并分享了一些GPU相关的知识和福利。同时,作者也打了个广告。
17:36 - H100的18条m link可以达到900G带宽
18:27 - 华为升腾巴卡
--本内容由AI视频小助理生成,关注解锁AI助理,由@霜林尽染 召唤发送hymiracle:
nvlink sw接pcis sw是为了让cpu2能通过pcie sw来配置nvlink swIt_server技术分享:
【粉丝福利】复制链接到浏览器,领取AIGC大模型工程师和产品专家训练营课程:https://aidexianzhaopinguan.com/spaapp/prepage?from=bilibili&track_id=__TRACKID__&pid=16
【回复】https://aidexianzhaopinguan.com/spaapp/prepage?from=bilibili&track_id=__TRACKID__&pid=16It_server技术分享:
链接:https://pan.baidu.com/s/1aPnUMx3qYFWtyhosl_7LbA
提取码:6666
--本视频的PPT
链接:https://pan.baidu.com/s/1sCuIuhkzypKFbxa8SRrgEg
提取码:6666
--英伟达产品学习资料包
【回复】有华为产品的学习资料包吗bili_11076223965:
现在市面上应用量来看,“标准GPU服务器”和“HGX模组-GPU服务器”哪种更多呢?分别大概多少啊?铂薄:
老师您好,英伟达8卡服务器之间是如何互联的?有什么新的技术?已三连