硬件选购
# 硬件选购
如果需要新购电脑/服务器来使用软件,可以参考下面的配置信息。
如有采购需求,可进QQ群进行咨询。
# 个人电脑硬件配置
# 600元的配置 - 无显卡
核心参数
CPU:志强v2,20核心,40并行度以上
内存:128G-512G-1T
# 1千元的配置 - 有显卡
核心参数
GPU:2080ti 显卡 / P40 / 1080ti / p100 - 24G
CPU:志强v2,20核心,40并行度以上
内存:128G-512G-1T
# 3千元的配置 - 有显卡
核心参数
GPU:2080ti 显卡 / P40 - 24G
CPU:志强v3-v4,20核心,40并行度以上
内存:128G - 512G - 1T
# 5千元的配置 - 有显卡
核心参数
GPU:3090 显卡 / v100 - 32G
CPU:志强v3-v4,20核心,40并行度以上
内存:128G - 512G - 1T
# 万元的配置 - 有显卡
核心参数
GPU:4090显卡 - 24G
CPU:金牌1-4代,20核心,40并行度以上
内存:128G - 512G - 1T
# 企业服务器配置 - 国产方案
# 1、纯国产方案 - 推理一体机
适合中小型企业快速部署 AI 应用
核心参数
GPU:昆仑芯 P800 * 2
CPU:HY 7490 processor 64C 2.7GHz 400W2
内存:DDR5-5600 64 RDIMM24
硬盘:SATA-SSD 480G1+NVMe-SSD 3.84T2 ,无 Raid 卡
网卡:默认 25G 光口双口*1
四电:2700W/3200W
建议模型 - 70B
DeepSeek-R1-Distill-Llama-70B
Qwen2.5-72B
# 2、纯国产方案 - 推理旗舰版
满足大规模、高并发的推理需求
核心参数
GPU:昆仑芯 P800 * 8
CPU:HY 7490 processor 64C 2.7GHz 400W*2
内存:DDR5-5600 64G RDIMM*24
硬盘:SATA-SSD 480G*2,NVMe-SSD3.84T*4,12GB SAS RAID 卡(带 4G 缓存,带电保护)*1
网卡:默认 25G 光口双口*1
四电:2700W/3200W
建议模型 - 200B 到 700B
DeepSeek-R1 671B
DeepSeek-R1-Distill-Llama-70B
Qwen2.5-72B
# 3、纯国产方案 - 信创版
满足国产化、高安全标准的信创需求
核心参数
GPU:P800-OAM * 8
CPU:HY 7490 processor 64C 2.7GHz 400W2
内存:DDR5-4800 64G RDIMM24
硬盘:SATA-SSD 480G + NVMe-SSD 3.84T4
网卡:400G 光口单口 CX74+25G 光口双口 CX61
Raid 卡:LSI 9560-8i 12GB SAS RAID 卡(带 4G 缓存,带电保护)*1
建议模型 - 200B 到 700B
DeepSeek-R1 671B
DeepSeek-R1-Distill-Llama-70B
Qwen2.5-72B
# 企业服务器配置 - 非国产方案
# 1、非国产方案 - 10W 内
核心参数
x99 - x13 平台
V100 32g * 8
内存:DDR4 内存
建议模型 - 200B 到 700B
DeepSeek-R1 671B
DeepSeek-R1-Distill-Llama-70B
Qwen2.5-72B
# 2、非国产方案 - 50W
核心参数
GPU:4090ti / l40 / l40s / a10 / a5000 / a6000 48g * 8 pcie4-5 方案
CPU:Intel Xeon Platinum 高配 CPU
内存:DDR4/DDR5 内存
建议模型 - 200B 到 700B
DeepSeek-R1 671B
DeepSeek-R1-Distill-Llama-70B
Qwen2.5-72B
# 3、非国产方案
H100 / B100 / A100 80G*8
核心参数
GPU:8×H100 80GB SXM(NVLink 4.0)
CPU:2×Intel Xeon Platinum 高性能CPU(2P 共 128 核)
内存:DDR4/DDR5 内存 1 TB
网络:4×400 Gbps InfiniBand NDR(多机可横向)
功耗:≈ 10 kW
建议模型 - 200B 到 700B
DeepSeek-R1 671B
DeepSeek-R1-Distill-Llama-70B
Qwen2.5-72B