最便宜的48GB显存运算卡-RTX8000

RedPulse猩红脉冲:
那些说生产力软件 专业卡性价比不如游戏卡高的 我想说的是 某些专业软件只有用专业卡才能开特殊功能，比如solidworks的小金球

【回复】还有比如做贴图的substance系列软件和一些渲染器只有专业卡(包括A家苹果系统上的专业卡)才能输出32位的图像，游戏卡只能输出16位
【回复】对每个人而言的生产力是不一样的，有的人的生产力是人视频处理，有的是vray或者oc的渲染，有的是工业设计，有的是人工智能，有的是科学计算。有些对单精度要求高，有些对双精度要求高。
【回复】小金球游戏卡可以搞出来，重要的是专业卡线条更细腻。同价位的游戏卡和专业卡，我没感觉出在sw里的性能区别
jacke7168:
要拿ai跑图那个要跑满48g，是要用模型训练而不是出图，就是跑lora，加大batch size 你多大显存都能跑满，估计18到20个就够了

【回复】回复 @伦砸回来了 :你室友没有错，你开的是家用车，楼层里人在说开航母，然后告诉你一次要加几千吨油，你怎么加嘛[tv_doge]
【回复】回复 @goosetaler :训练集质量不高的情况下，大batch size确实更容易引发过拟合
【回复】2048 2048的图4090都爆显存
Piningillness:
用这些硬件的成本，在对应的软件面前，基本可以忽略不计，不好意思，不是基本，是完全可以忽略不计

【回复】我记得有一个客户跟我说过，他们做家居设计的，主机没有办法升级或者更换系统，这种状态下能升级的最好的显卡就是RTX8000 ，然后，这台电脑的设计软件授权，是每年缴费的，十几万一年。一个显卡几万块对于他们软件授权来说，真的非常非常便宜了…[喜极而泣]
【回复】回复 @技数犬 :中石化某软件授权每年几十亿[脱单doge]，而且还是在有盗版的情况下
【回复】回复 @技数犬 :像那种3dsmax for vray渲图选好的CPU合适还是再加个绘图卡合适，1w以内或者以上的
帅气多汁の程序猿:
LLM需求这卡真性价比低，加一倍的钱买a6000比他快多了。不得不吐槽rtx 8000涡轮版本买两万多为啥还有人买。。。咸鱼贩子真就绝了。 rtx8000 passive版本拿货8k9k贩子还不喜欢收，所以各位个人玩家别入坑

【回复】据我所知，有些较老的开发平台，只有RTX8000 48GB可以用，这种客户，是刚需…所以，这个卡才一直没有跌价…如果要那些客户换新软件和硬件平台，底层的职位和软硬件生态全都不同，成本比A6000高出上百倍…所以，并不是他们不知道RTX A6000的存在或者价格其实也不高，而是没办法。就跟几年前W7到W10的过度一样，很多开发人员死守W7系统，硬件就买7700K，所以当时7700K黄鱼价格奇高。是一个道理
【回复】回复 @技数犬 :原来是这样，哎。。畸形的供需，这卡还用不了link 真刚需真难受
【回复】回复 @AngelicaPascalia :哈哈是的，还有环境数据迁移的一堆问题
张芩潇-星海科幻宇宙:
大佬呀，膜拜呀，刚发现大佬用的是我的整合包\(^o^)/~

【回复】放进你收藏夹就能叫做你的东西了？简直无语[疑惑]
【回复】回复 @柜里猫 :回复 @柜里猫 :[辣眼睛]ai刚出额时候很多插件和好用的模型都要一个一个自己装 现在常用的解压就用整合不是老外天生就给我们组装好 让我们用的。就和很多汉化一样都是爱发电义务给大家提供方便的 结果就和国产科幻一样 上面的看着民间这么有良心 就扣帽子给弄没了 当初几个义务汉化日本游戏的组就这么没的。我们文学系 写优质科幻的也同理 这样排挤没了。
【回复】回复 @柜里猫 :回复 @柜里猫 :对有人连我写的写的笔名都不改转手就某宝200给别人
丶雷碧透心凉:
p40和m40这种卡的一个问题在于不支持半精度，没法开混合精度。而3090开了半精度之后显存占用可以降低接近一半。所以千元内性价比最高的卡是镭7 16G，没错它支持半精度，并且深度学习性能和2080ti差不多[doge]

【回复】这个阶段除非自己以前有雷7的，不然风险太大，这玩意当年也是主力，90多的算力。hbm显存挂了整卡完蛋。（我改了水冷的雷7现在就是sd主力哈哈哈）
【回复】我试过p40，可以开混合精度，节省显存，只是无加速。也试过3090，混合精度节省显存其实不多，我的任务下是省大概1/4
【回复】不知道你实际跑过没有，软件方面rocm或者directml确实不如cuda。硬件方面2080ti有tensorcore，半精度、混精度可以达到100TFLOPS水平。Radeon vii应该只是“支持”半精度而已，对标的是2080ti的cuda core，也就是20TFLOPS左右。这玩意要是能好用不至于千元以内，毕竟搞个linux+rocm版本的pytorch并不是难事。
BravoWA:
说实在80GB的显存连我的case都打不开[笑哭][笑哭][笑哭]

【回复】医学影像就很吃显存，你可以考虑下老黄的h100NVlink，188gb显存[doge][doge]，还可以集成四组DGX。
【回复】回复 @Bill-35846747 : 果子的芯片并不是所有内存都能用作显存的，而且也仅限于跑推断不适合跑训练，metal计算框架整体生态甚至效率都差cuda太多
帅气多汁の程序猿:
补充说一下这个卡的细节，显存 服务器版本要比涡扇版本小两个Gib 这都能阉割是真狠。大模型训练少1mb都跑不起来。一个48598 一个46080 跟系统和drive也有关系，懂哥解释下为啥这样谢谢

【回复】ecc的问题吧，你后面涡轮那张没开ecc
【回复】用Nvidia X server setting可以关掉ECC
【回复】回复 @Selenite :查了下，貌似是的 ecc 好像需要4位检验，所以就丢了
赛博画师GZT:
打开高清修复啊，基础2k分辨率翻2倍变4k，翻4倍变8k，显存消耗指数上升，应该能吃满。粗略估算需要64G显存，快去试试。

【回复】你视频里没打开高清修复，只是基础的2k分辨率，所以消耗显存不多。高清修复按钮位置在提示词框下面，采样方法下面，面部修复，平铺/分块，高清修复（打开这个），然后放大倍率选最大的4倍，直接生成8k乘8k巨图。快打开试试，粗略估算需要64g显存，应该能爆显存。
RINEHART1984:
有些人永远不明白7*24小时运行不死机的重要性。

【回复】这种计算卡，报警可以直接拔了换新的，反正pcie支持热插拔。
【回复】回复 @Merlinery :pcie“标准”支持热插拔，不代表pcie“设备”支持热插拔
paopjian:
硬件有nvlink口,结果驱动不支持?那旧驱动呢?

【回复】回复 @技数犬 :官网不是有这卡的win7驱动吗，2019年9月10日版。
【回复】你要是能找到W7系统和对应W7的驱动，那就可以！
【回复】回复 @技数犬 :官网就有这个卡的win7驱动，驱动支持列表里有这个卡，19年版本，https://www.nvidia.cn/download/driverResults.aspx/151303/cn/
Re-set_:
做有限元80g真的不够用，网格一上去就歇逼了

【回复】图灵全系阉割双精度，怎么做有限元？
【回复】回复 @邛玦 :我用fluent比较多
【回复】大神问下哪款软件？ 我做abaqus显卡加速效果非常一般。 abaqus的网格数量好像吃的是内存。
FM31:
48GB不是全部重点，带ECC也很重要，要么跑大模型尾端对不齐，有时搞生产力跑了一周出结果报错可以想像一下……

MitchellsBox:
为啥有人想捡个漏啊，看这卡的都是干活用，打游戏就去看游戏卡，哪个游戏需要48G显存啊[疑惑]

【回复】回复 @柔梦亦然 :那也算干活用[吃瓜]主要是弹幕好多人就纯打游戏的
【回复】回复 @刀刀必 :我指的是搞AI的学生或者准备试试炼丹的人，这些统称为干活
他们笑我赵八矛AvZ-Lzeaf:
星际争霸2 Players1 运营1 运营2 主控1 操兵1 操兵2 操兵3 Players2 运营1 运营2 主控1 操兵1 操兵2 操兵3