dpdk-19.11 arm64 环境适配 Mellanox CX4 网卡

环境信息

cpu: arm64 架构
dpdk 版本：19.11
glibc 版本：2.17
网卡型号：
Mellanox CX4 网卡，详细 pci 信息如下：

02:00.0 Ethernet controller: Mellanox Technologies MT27710 Family [ConnectX-4 Lx]
02:00.1 Ethernet controller: Mellanox Technologies MT27710 Family [ConnectX-4 Lx]

cx4 dpdk 驱动适配

确认 dpdk 是否支持

查找驱动代码，mlx5_pci_id_map 中列举了支持的网卡标识，部分摘要如下：

 PCI_DEVICE_ID_MELLANOX_CONNECTX4LXVF = 0x1016,static const struct rte_pci_id mlx5_pci_id_map[] = {{RTE_PCI_DEVICE(PCI_VENDOR_ID_MELLANOX,PCI_DEVICE_ID_MELLANOX_CONNECTX4)},{RTE_PCI_DEVICE(PCI_VENDOR_ID_MELLANOX,PCI_DEVICE_ID_MELLANOX_CONNECTX4VF)},{RTE_PCI_DEVICE(PCI_VENDOR_ID_MELLANOX,PCI_DEVICE_ID_MELLANOX_CONNECTX4LX)},{RTE_PCI_DEVICE(PCI_VENDOR_ID_MELLANOX,PCI_DEVICE_ID_MELLANOX_CONNECTX4LXVF)},

确认 mlx5 驱动支持 CX4 网卡，需要编译出一个支持 mlx5 驱动的 dpdk 版本给产品进行集成。

配置文件中开启 mlx5 驱动

将 arm64 的配置文件中CONFIG_RTE_LIBRTE_MLX5_PMD 项目设置为 y，这样 dpdk 编译时会编译 mlx5 驱动。

mlx5 驱动的特点

网卡正常驱动运行依赖多个内核模块

x86 平台成功适配的环境中，麦洛斯相关模块加载命令列举如下：
```
modprobe mlx5_coremodprobe ib_umad
modprobe ib_uverbsmodprobe mlx5_ibvers
modprobe mlx5_ib
modprobe mlxfw
modprobe tls
modprobe pci-hyperv
modprobe vmw_pvrdma
modprobe rdma_ucm
modprobe psample
```
前期成功经验表明至少需要 5.0 以上的内核才能支持，需要选择支持 arm64 架构的 5.0 以上版本内核
编译依赖三方 rdma-core 库与头文件

由于我们的 rootfs 是定制版本，且 glibc 版本很低，基本都是古董版本，要基于源码方式编译出依赖的三方库难度会非常大，优先从互联网上检索可用的版本，实在没有版本可用时则考虑自行编译。

内核版本选型

对照依赖模块，选择了内部维护的只是 arm64 架构的 5.4.18 内核，首先检索内核发布 ko 路径中相关 ko 信息，搜索到如下内容：

kernel/drivers/net/ethernet/mellanox/mlx5/core/mlx5_core.ko.xz
kernel/drivers/infiniband/core/ib_umad.ko.xz
kernel/drivers/infiniband/core/ib_uverbs.ko.xzkernel/drivers/infiniband/hw/mlx5/mlx5_ib.ko.xz
kernel/drivers/net/ethernet/mellanox/mlxfw/mlxfw.ko.xzkernel/net/tls/tls.ko.xz
kernel/drivers/pci/controller/pci-hyperv.ko.xz
kernel/drivers/infiniband/hw/vmw_pvrdma/vmw_pvrdma.ko.xz
kernel/drivers/infiniband/core/rdma_ucm.ko.xz
kernel/net/psample/psample.ko.xz

仅缺少 mlx5_ibvers，查看内核源码确认此驱动在此版本不需要，评估 5.4.18 能够满足要求。修改 grub 文件，增加新的配置项目使用新的内核，测试确定如下条件满足：

mlx5_core、ib_uverbs 等模块成功加载
网卡成功绑定到 mlx5_core 驱动，netdev 设备成功生成， /dev/infiniband/uverbsX 设备文件成功生成

mlx5 编译依赖选择

初次获取依赖的 rpm 包获取地址：

wget -c <https://rpmfind.net/linux/centos/8-stream/BaseOS/aarch64/os/Packages/libnl3-3.5.0-1.el8.aarch64.rpm>
wget -c <https://rpmfind.net/linux/centos/8-stream/BaseOS/aarch64/os/Packages/libibverbs-37.2-1.el8.aarch64.rpm>
wget -c <https://rpmfind.net/linux/centos/8-stream/BaseOS/aarch64/os/Packages/rdma-core-devel-37.2-1.el8.aarch64.rpm>

运行发现存在依赖高版本 glibc，无法在环境中运行，启动报错如下：

bash-4.2# ./l2fwd
./l2fwd: /lib/libc.so.6: version `GLIBC_2.25' not found (required by /usr/lib64/libmlx5.so.1)

进一步分析确定，仅依赖 GLIBC 2.25 getrandom 符号，这个符号低版本 glibc 并不具备，因此不能直接使用。

仅仅缺少一个符号就宣告失败让人有些惋惜，于是想着有没有什么方式能把这个缺少的符号加上，一通搜索还真的搜索到了一篇帖子——https://jakub-jozwicki.medium.com/is-it-possible-to-add-missing-functions-to-libc-so-6-via-ld-preload-c6515b82abd6，参照帖子里的内容并做了一些修改，最终能链接通过，但是运行是仍旧报相同的错误，只能放弃。

再次搜索获取到如下版本的 rpm 包：

wget -c <https://rpmfind.net/linux/centos/8-stream/BaseOS/aarch64/os/Packages/libnl3-3.5.0-1.el8.aarch64.rpm>
wget -c <https://buildlogs.cdn.centos.org/c7.1810.00.aarch64/rdma-core/20181031053230/17.2-3.el7.aarch64/libibverbs-17.2-3.el7.aarch64.rpm>
wget -c <https://buildlogs.cdn.centos.org/c7.1810.00.aarch64/rdma-core/20181031053230/17.2-3.el7.aarch64/rdma-core-17.2-3.el7.aarch64.rpm>
wget -c <https://buildlogs.cdn.centos.org/c7.1810.00.aarch64/rdma-core/20181031053230/17.2-3.el7.aarch64/rdma-core-devel-17.2-3.el7.aarch64.rpm>

这次比较幸运，测试通过，能够正常运行。

基于 l2fwd 测试记录如下:

[root@localhost]# ./l2fwd  -- -p0x3
EAL: Detected 8 lcore(s)
EAL: Detected 1 NUMA nodes
EAL: Multi-process socket /var/run/dpdk/rte/mp_socket
EAL: Selected IOVA mode 'PA'
............................................................................
EAL:   probe driver: 15b3:1015 net_mlx5
libibverbs: Warning: couldn't open config directory '/etc/libibverbs.d'.
net_mlx5: MPLS over GRE/UDP tunnel offloading disabled due to old OFED/rdma-core version or firmware configuration
............................................................................

测试 l2fwd 能够正常运行，打流确认流量能够正常转发。