别再让网卡拖慢你的服务器！手把手教你用ethtool和sysfs调优RPS/RFS（附一键脚本）

服务器网络性能调优实战：从问题定位到RPS/RFS精准配置

上周排查线上服务延迟问题时，发现某台机器的CPU0始终处于100%负载状态，而其他核心却相对空闲。通过perf工具分析，发现大量softirq集中在单个核心处理网络数据包——这是典型的网络中断负载不均问题。作为经历过多次类似故障的运维老兵，我总结出一套从问题定位到参数调优的完整方法论，今天就把这套实战方案分享给大家。

1. 性能瓶颈定位：如何发现网络中断不均

当服务器出现网络吞吐下降或延迟抖动时，第一步是确认是否存在中断处理不均的问题。以下是三个关键检查点：

典型症状检查清单

• top命令查看CPU使用率时，某个核心的si（软中断）指标持续高位
• sar -u ALL 1显示特定CPU的%soft超过30%
• perf top -C <高负载CPU编号>出现net_rx_action或enqueue_to_backlog高占比

通过以下命令可以量化中断分布情况：

# 查看各CPU软中断统计 watch -n 1 'cat /proc/softirqs | grep NET_RX' # 检查网卡中断绑定情况 grep eth0 /proc/interrupts | awk '{print $1,$NF}'

注意：当发现超过70%的网络软中断集中在单个CPU时，就需要考虑启用RPS/RFS进行负载均衡

2. 核心调优技术对比：RSS/RPS/RFS/XPS详解

现代Linux内核提供了多层次的网络负载均衡方案，我们需要根据硬件支持情况选择合适的技术组合：

关键选择原则

1. 优先启用网卡硬件支持的RSS（需检查ethtool -l eth0）
2. 单队列环境使用RPS进行软件模拟多队列
3. 需要低延迟的应用场景配合启用RFS
4. 发送密集型服务建议配置XPS

3. 手把手配置RPS/RFS：参数详解与避坑指南

3.1 CPU位图设置技巧

rps_cpus的配置直接影响中断分发效果，这里有个实际案例的配置过程：

# 查看CPU拓扑关系确定最优掩码 cat /sys/devices/system/cpu/cpu*/topology/core_cpus_list # 假设得到CPU0-3属于同一NUMA节点 echo f > /sys/class/net/eth0/queues/rx-0/rps_cpus # 十六进制f对应二进制1111

常见配置误区

• 错误1：在全NUMA系统中使用全CPU掩码（导致跨节点访问延迟）
• 错误2：未排除处理硬件中断的CPU（造成中断风暴）
• 错误3：虚拟机中忽略vCPU的物理核心绑定关系

3.2 RFS流量条目计算

RFS需要两个参数的协同配置，这里给出动态计算脚本：

#!/bin/bash # 自动计算rps_flow_cnt RX_QUEUES=$(ls -d /sys/class/net/eth0/queues/rx-* | wc -l) SOCK_ENTRIES=32768 FLOW_CNT=$((SOCK_ENTRIES / RX_QUEUES)) echo $SOCK_ENTRIES > /proc/sys/net/core/rps_sock_flow_entries for q in $(ls -d /sys/class/net/eth0/queues/rx-*); do echo $FLOW_CNT > $q/rps_flow_cnt done

提示：对于内存小于16GB的机器，建议将rps_sock_flow_entries减半以避免内存压力

4. 调优效果验证与监控方案

配置后的效果验证同样重要，这里分享我的监控方案：

实时验证命令

# 观察软中断分布变化 watch -n 1 'cat /proc/softirqs | grep NET_RX' # 检查各CPU网络处理量 sar -n DEV 1 | grep -A 1 Average

长期监控建议

1. 在Prometheus中添加node_softirqs_net_rx指标监控
2. 对/proc/net/softnet_stat中的丢包计数设置告警
3. 定期检查/proc/interrupts的中断分布

性能对比测试结果在某K8s节点上应用调优前后对比：

5. 一键调优脚本与持久化配置

将上述所有最佳实践整合为可复用的调优脚本：

#!/bin/bash # 自动适配NUMA拓扑的RPS/RFS配置 set -e DEV=${1:-eth0} CPUS=$(cat /sys/class/net/$DEV/device/local_cpus) RX_QUEUES=$(ls -d /sys/class/net/$DEV/queues/rx-* | wc -l) FLOW_ENTRIES=32768 # 设置RPS CPU掩码 for q in $(ls -d /sys/class/net/$DEV/queues/rx-*); do echo $CPUS > $q/rps_cpus done # 配置RFS参数 echo $FLOW_ENTRIES > /proc/sys/net/core/rps_sock_flow_entries FLOW_CNT=$((FLOW_ENTRIES / RX_QUEUES)) for q in $(ls -d /sys/class/net/$DEV/queues/rx-*); do echo $FLOW_CNT > $q/rps_flow_cnt done # 持久化配置 cat > /etc/udev/rules.d/99-net-rps.rules <<EOF ACTION=="add", SUBSYSTEM=="net", KERNEL=="$DEV", RUN+="/bin/bash -c 'echo $CPUS > /sys/class/net/%k/queues/rx-0/rps_cpus'" EOF

这个脚本相比网上的通用版本有几个关键改进：

1. 自动识别设备本地CPU拓扑
2. 根据队列数动态计算flow_cnt
3. 生成udev规则实现配置持久化
4. 增加错误处理(set -e)避免部分失败

最后提醒下，在K8s环境中需要特别注意：

• 容器网络接口需要单独配置
• 避免与CPUManager的策略冲突
• 建议通过InitContainer方式注入配置