Redian新闻
>
如何花3400配置一台室内无噪音,48GB显存的深度学习服务器?

如何花3400配置一台室内无噪音,48GB显存的深度学习服务器?

公众号新闻

©作者 | wenjtop
研究方向 | 深度学习

配置

22 年配置了一套 X299 主板加双 3090 显卡服务器,发现除了显卡,其它性能都远远过剩,完全没有体现出性价比,加上最近大模型比较火,就想着配置一套能跑和微调通义千问的服务器玩玩,目前配置一共花了 3400(双 P40 显卡),不追求完美 3000 应该也能配下来。p40 性能大约在 1080ti 左右,3090 的 1/2,4090 的 1/4。去年 23 年底大约 650 一张,现在(24 年初)涨到到900左右。

▲ 购买记录

注意事项:


  1. 机箱一定要买大板机箱,插7显卡槽的。

  2. 购买 e5 一定要看 CPU 能支持内存的频率。

  3. cpu 够用就行,不用花大价钱,对模型训练和推理影响不大。

  4. 显卡需要两个 4p 转化成 8p 的转换线,需要购买转接线。

  5. p40 是主动散热,不改水冷,可以加风扇。

  6. p40 显卡不支持视频输出,需要购买亮机卡,后期 4 卡需要拆掉。

  7. 亮机器一般只支持 1080p,如果你显示器 2K,4K,就需要支持 2K,4K 的显示器。

  8. 华南金牌 X99-f8 支持 3 显卡,一定要提前计算显卡厚度和主板卡槽之间的宽度。

  9. 针对老的架构的主板,一定要看主板是否支持 above 4g,支持才能用大显存显卡。


组装

2.1 更换电源风扇

重新购买的电源风扇更换,更换流程,拆掉 8 个螺丝,去掉保护罩,断开风扇供电线,更换风扇,组装电源。

2.2 主板接线方式

https://www.bilibili.com/video/BV1y34y1G7cq/?spm_id_from=333.337.search-card.all.click

2.3 内存插入方式

优先:1358 卡槽,可以组成多通道。

2.4 显卡供电方式

具体接线方式见下图,转接线可以在淘宝购买。

2.5 开机Bios设置

开机按 del 键,选择 Advanced 选项,打开 above 4g,才能正常开机、识别显卡。



系统

3.1 下载 Ubuntu 20.04 LTS

https://ubuntu.com/download/desktop

3.2 制作 u 盘启动,

常用的两个 u 启动制作工具 UltraISO(https://cn.ultraiso.net/xiazai.html) 和 Rufus(https://rufus.ie/zh/),把 Ubuntu 系统烧录在 U 盘后插需要安装的电脑。

3.3 安装 ubuntu

一键 u 启动(以主板为准,安装过程省略)。

▲ 以主板为准



环境

4.1 判断有误识别P40显卡

sudo lshw -C display

4.2 禁用 nouveau

自带显卡驱动会和我们需要安装的驱动发生冲突,需要禁用 nouveau。

sudo gedit /etc/modprobe.d/blacklist_nouveau.conf

输入下面内容,保存重启:

blacklist nouveau
options nouveau modeset=0

4.3 其它深度学习环境参考下文,非常详细:

安装过程中如果出现缺少 gcc 或者 gcc 冲突,可尝试下面命令:
sudo apt update
sudo apt-get install build-essential

https://zhuanlan.zhihu.com/p/496107394



展示

▲ 通义千问生成小故事


更多阅读





#投 稿 通 道#

 让你的文字被更多人看到 



如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。


总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。 


PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析科研心得竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。


📝 稿件基本要求:

• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注 

• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题

• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算


📬 投稿通道:

• 投稿邮箱:[email protected] 

• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿


△长按添加PaperWeekly小编



🔍


现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧


·
·
·

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
[评测]ASUS GeForce RTX 4060 LP BRK OC Edition 8GB GDDR6 评测【最高性价比带室内洗烘的高级公寓】【研究生首选】【Fenway/NEU/Berklee/BU】【9月排位】【$3400起】忐忑不安nervous anxious房租可以省了!纽约市议员欲让移民在庇护所内无限期居住如何用深度学习框架 PyTorch 进行数据处理? | Q 福利AMD 多款服务器 CPU 现身 eBay,含 3D V-Cache 版 EPYC 4004狗引儿【长篇】(七十七)港中文李教授1v1科研:基于深度学习的无人机目标识别算法研究|收获一作论文与导师推荐信!4899元,RX6600-8G,颜控版配置苹果真乃良心企业,消费者用 8GB 内存的价格,买到了 12GB 内存颗粒火山引擎国际深度学习图像压缩挑战赛蝉联冠军CAA模式识别与机器智能专委会:首届深度学习模型压缩与部署技术会议苹果真乃良心企业,消费者用8GB内存的价格,买到了12GB内存颗粒文学城的排名OpenAI 亚洲首家办事处,为何花落东京?|反直觉Lab神舟优雅 X5 笔记本开售:i9-12900H + 16GB RAM + 512GB 存储空间售 2999 元12年前上手深度学习,Karpathy掀起一波AlexNet时代回忆杀,LeCun、Goodfellow等都下场NUS刘老师1v1科研:使用深度学习进行投资组合优化|收获一作论文与导师推荐信!准确率比现有方法高50%!谷歌DeepMind全新深度学习模型AlphaFold 3重磅论文登上《自然》探索深度学习的薄弱环节:量子启发的神经网络脆弱性分析 | NSR2822元~4899元,RX6600-8G游戏主机裕锦资产 | 积极探索深度学习和强化学习轻松配置NFS服务:CentOS7服务器与客户端自动挂载指南河南大学90年大礼堂被烧毁,修缮公司曾中标故宫、清华、北大项目,校方:火灾时礼堂内无施工人员深度学习:教育者和学习者的成长共同体问界新M5发布,24.98万起!标配华为智驾,12小时预定超1万台,余承东:卖一台亏一台深圳本周六:100位产品人与AI大模型的深度对话,4位实战专家现场剖析产品经理的新战场中篇小说 枫叶红透 第六节直播 | 深度学习新趋势:创新教师的成长之路强化学习第十三篇:使用深度学习解决迷宫问题,完整步骤和代码连续第4年推荐,它在国内无法超越深度学习之父官宣加盟这家公司,要用 AI 拯救地球2024年服务器行业深度报告长篇奇幻浪漫小说《双灵星》第十九章:牵牛花3688元,A750-8G理性配置
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。