有没有无法被放到数据中心的A100服务器方案？

muderx

难得申请到了购买深度学习服务器的预算，本想一台4张A100的服务器，主要用途是做中小模型的训练、微调的研究。结果上级部门要求购买的算力全部上缴集中管理，这意味着不仅申请的预算被其他部门抢了，而且远程使用本属于我的GPU还要支付高额租金（他们把各个团队的设备打包交给联通管理，使用费比商业云服务器还贵）。隔壁的同事已经被抢过一次了，这次学乖了把1台4张A100的服务器改成了3台24张4090的服务器，不知道能否躲得过上级部分的检查。我也在考虑怎么修改配置，避免被上缴。

因为我有在边缘端使用算力的需求，所以可以尝试弄成可以边缘端的服务器，到手后直接搬到项目现场用，可能不会被上缴，这样可能需要改成塔式机箱并分成几台服务器。也考虑是否换成24张4090，不知道数据中心会不会抢游戏GPU，每个项目现场放一台，虽然不能用训练大点的模型但总比没有的强。

mono

啥单位这么坑