独家整理:GPU服务器最新互联技术相关的知识点讲解

作者: It_server技术分享分类: 计算机技术 发布时间: 2024-01-29 08:09:51 浏览:4418 次

独家整理:GPU服务器最新互联技术相关的知识点讲解

AI视频小助理:
一、GPU服务器相关的互联技术,包括PCI e nv link和华为的HCCS,还展示了不同方式的拓扑和技术。 00:01 - GPU服务器相关的互联技术知识点分享 01:05 - GPU互联技术介绍,包括PCIe nv link和华为的HCCS 02:38 - CPU到GPU互联和GPU到GPU互联的技术方式介绍 二、不同类型的GPU服务器中CPU和GPU之间的互联方式,包括PCI a switch、PCIE链路、m link链路加芯片等,以及它们各自的优缺点和应用场景。 04:25 - PCI a switch下面的芯片实现点点互联,通常是四个芯片八个信号 05:27 - CPU到GPU的互联采用m link链路加芯片,拓扑对称灵活 07:56 - AMD第三代米兰GPU采用直通方式,128条PCIE通道消耗160PCIE通道 三、在PC烂不够的情况下,可以通过PCIE switch芯片进行扩展,同时介绍了PCIE互联的三种拓扑,以及HG差模组的NVLINK连接方式。 08:48 - s lake 第三代的这个质强可扩展处理器支持10个双宽的GPU 10:12 - PCIE互联的拓扑包括balance、common和casket三种,适用于不同场景 12:06 - 英伟达推出了PCIP互联方式,通过调节器实现卡卡互联 四、英伟达HG系列GPU模组内部互联的拓扑结构,包括PCIe switch、NVLink switch等芯片的作用和互联方式,以及NVLink相比PCIe的优势。 13:28 - GPU模组是服务器厂商设计产品时使用的部件 14:17 - CPU、内存、硬盘、网卡等都需要互联,而NVLink switch可以加速GPU之间的通信 17:11 - NVLink比PCIe快很多,可以实现12条NVLink 3.0,比PCIe的64G带宽快将近10倍 五、华为升腾巴卡机的处理器、互联带宽、NPU等信息,并分享了一些GPU相关的知识和福利。同时,作者也打了个广告。 17:36 - H100的18条m link可以达到900G带宽 18:27 - 华为升腾巴卡 --本内容由AI视频小助理生成,关注解锁AI助理,由@霜林尽染 召唤发送

hymiracle:
nvlink sw接pcis sw是为了让cpu2能通过pcie sw来配置nvlink sw

It_server技术分享:
【粉丝福利】复制链接到浏览器,领取AIGC大模型工程师和产品专家训练营课程:https://aidexianzhaopinguan.com/spaapp/prepage?from=bilibili&track_id=__TRACKID__&pid=16

【回复】https://aidexianzhaopinguan.com/spaapp/prepage?from=bilibili&track_id=__TRACKID__&pid=16
It_server技术分享:
链接:https://pan.baidu.com/s/1aPnUMx3qYFWtyhosl_7LbA 提取码:6666 --本视频的PPT 链接:https://pan.baidu.com/s/1sCuIuhkzypKFbxa8SRrgEg 提取码:6666 --英伟达产品学习资料包

【回复】有华为产品的学习资料包吗
bili_11076223965:
现在市面上应用量来看,“标准GPU服务器”和“HGX模组-GPU服务器”哪种更多呢?分别大概多少啊?

铂薄:
老师您好,英伟达8卡服务器之间是如何互联的?有什么新的技术?已三连

服务器 AI 人工智能 H800 英伟达 机器学习 GPU 深度学习 A800 知识点讲解

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!