Firefly-RK3399-编码api介绍

• Ubuntu 16.04 下，gstreamer 1.12 已经安装在/opt/目录下。

• Ubuntu 18.04下， gstreamer 1.12 已经安装到系统中。

/usr/local/bin/h264dec.sh 测试硬件H264解码。

/usr/local/bin/h264enc.sh 测试硬件H264编码。

用户可以参照这两个脚本，配置自己的gstreamer应用。

• Ubunut 系统下， mpp 相关dev包都已经安装到系统中。

  /opt/mpp/下分别是mpp 编解码的相关demo 和 源文件。

系统自带的音频文件在 /usr/share/sound/alsa/ 目录中，播放前请先查看声卡设备：

然后指定声卡播放音频，其中声卡 card0 的设备0对应的是耳机口，card1 的设备0对应的是 HDMI。一般播放音频命令是 aplay -Dhw:0,0 Fornt_Center.wav，但系统自带的音频文件是单声道的，所以为了防止播放失败，可以按照下面的命令进行播放：

在图形界面中，播放准备好的音频文件，然后点击声音图标，打开 Sound Setting，选择到 Configuration 。可以看到两个声卡设备，例如设置为 HDMI 输出音频，则把 HDMI 的声卡设备选择为 Output，另一个声卡设置为 Off。（如果 HDMI 无声或者声音小，可以试试按 HDMI 屏上的物理按键调高音量）

在 Ubuntu 系统中，执行：

在内核目录下，打开内核配置选项菜单：

进入内核配置菜单后依次选择：Device Drivers -> USB Support -> USB Gadget Support。

在 USB Gadget Driver 选项中选择到 USB functions configurable through configfs。

同时再选择上 Function filesystem (FunctionFS) 。

接着在 kernel 目录下编译内核：

编译完成后将内核烧录到开发板中,烧录过程请参考维基教程：升级固件中的分区镜像烧写部分。

安装了 ADB 后，用 Micro USB OTG 线连接开发板和 PC 机。然后通过命令 adb devices 查看是否有设备连接:

从返回的信息可以看到已经查找到了设备，表明设备已经成功连接。

设备连接成功后，输入命令 adb shell 即可进入命令行模式：

此状态下是看不到命令行当前的路径，同时 Tab 键补全功能失效，需要进入一个用户中才可以正常操作。

用户也可以使用命令 adb shell /bin/bash，也可以进入正常的命令行模式。

可以输入 adb help 查看命令行帮助信息,注意并不是所有命令都可以使用，帮助信息只做参考。

以 ttyS4 为例，查看串口波特率命令：

设置波特率命令：

在做环回收发测试的时候回显功能会影响到我们的测试结果，所以在环回测试或者其他特殊情况下需要关闭回显。以下是关闭回显的命令：

在实际应用中实际发送数据和我们希望发送的数据可能存在差别，例如多了回车或者其他特殊字符。利用 stty 可以把发送接收设置成 raw 模式确保发送接收的是原始数据，以下是设置命令：

串口有 2 种工作模式分别是中断模式和 DMA 模式。

不管是中断模式还有 DMA 模式都无法保证数据传输万无一失，因为长时间传输大量数据的时候 DDR、CPU 变频或者占用率过高都可能导致上层处理数据不及时导致丢包，这个时候就需要是用流控了。流控分两种，一种是软件流控另一种为硬件流控，下面只介绍硬件流控的使用。

以 rk3399-firefly-aiojd4.dts 为例，这些都是摄像头需要打开的配置。由于内核已经添加了双 MIPI 摄像头的支持，所以这里配置了两个摄像头，如果只使用一个摄像只需要打开其中一个摄像头就可以了。

注意： 如果使用的是 core-3399 核心板加上 DIY 底板，可能需要修改相应的 GPIO 属性。

在运行脚本之前先确认一下 OV13850 设备是否注册成功，下面是成功的内核日志：

在 /dev 下应该生成相关设备文件：

注意： 同理，如果只使用一个摄像头，只需要注册一个摄像头设备就可以了。

在官方提供的 Ubuntu 系统中已经添加了摄像头测试脚本 /usr/local/bin/dual-camera-rkisp.sh，其内容为：

运行脚本即可，结果如图所示：

在内核目录下，打开内核配置选项菜单：

进入内核配置菜单后依次选择：Device Drivers -> USB Support -> USB Gadget Support。

将 USB Gadget Driver 设置成编译成模块，然后可以在下边找到 Ethernet Gadget (with CDC Ethernet support) 选项，同样选择编译成模块。同时要选择上 RNDIS support。

接着在 kernel 目录下编译内核：

编译完成后将内核烧录到开发板中,烧录过程请参考维基教程：升级固件中的分区镜像烧写部分。然后将内核目录下生成的下列模块复制到开发板中：

• drivers/usb/gadget/function/u_ether.ko

• drivers/usb/gadget/function/usb_f_ecm_subset.ko

• drivers/usb/gadget/function/usb_f_ecm.ko

• drivers/usb/gadget/function/usb_f_rndis.ko

• drivers/usb/gadget/function/usb_f_eem.ko

• drivers/usb/gadget/legacy/g_ether.ko

• drivers/usb/gadget/libcomposite.ko

然后在开发板上，依次加载上述模块：

注意： 要先加载 libcomposite.ko 和 u_ether.ko，后面的模块才可以加载进去。

用数据线连接 PC 机和开发板的 OTG 接口，在 PC 机中执行 lsusb 命令可以查看到 USB 以太网设备，即说明连接成功。

输出信息中 ID 0525:a4a2 Netchip Technology, Inc. Linux-USB Ethernet/RNDIS Gadget 即为 USB 网卡设备。

开发板插入网线，使开发板可以连接外网。

• 在开发板中 IP 的设置：

输入执行 ifconfig -a 命令，可以查看到以下信息：

然后给 usb0 网卡自定义一个适当的 IP：

注意要设置 usb0 的 IP 和有线网卡 eth0 的 IP 不在同一网段！！

• 在 PC 机中 IP 的设置：

设置完开发板和 PC 机的 IP 后，互相是可以 ping 通的，PC 机也可以用 ssh 命令登录到开发板。

在开发板上：首先打开 IPv4 的转发功能：

如果希望每次重启开发板后都自动打开转发功能，请直接修改 /etc/sysctl.conf 文件的 net.ipv4.ip_forward 值为1。修改文件参数后要执行 sysctl -p 命令重新载入 /etc/sysctl.conf 文件，使 IPv4 转发功能生效。

添加规则进行流量转发：

现在 PC 主机就可以访问网络了。如果 PC 机可以 ping 通开发板的 usb0 和 eth0，但是无法上外网，则需要修改 PC 机的 DNS，在 /etc/resolv.conf 中做以下添加：

配置过程中要注意以下几点：

• 对应好上述步骤中自己设备上的各个 IP 地址,注意开发板上的 USB 虚拟网卡 IP 和有线网络 IP 不在同一网段;

• PC 机虚拟 USB 网卡的网关要设置为开发板虚拟 USB 网卡的 IP 地址;

• 开发板上的虚拟网卡 IP 地址、IP 转发功能、流量转发规则等设置会在设备重启后恢复，用户可以自行查找资料如何开机自动设置这些配置。

在 PC 机上插入 SD 卡，用 gdisk 工具分出一个装载根文件系统的分区：

把新创建的分区进行格式化。

格式化完成后，使用 dd 命令，将制作好的根文件系统烧写到 SD 卡刚新建的分区中。（根文件系统的制作可以参考Ubuntu 根文件系统的制作）

首先要修改设备树文件，打开对应的 dts 文件，在根节点下重写 chosen 节点下的 bootargs 参数的 root 值为写入了根文件系统的 SD 卡分区的 unique GUID：

修改完成后编译并烧录至开发板中。

SD 卡的根文件系统烧录完成后，插入开发板的 TF 卡槽中，开机即可进入到 SD 的根文件系统中。

注意事项：

• 在操作前请注意备份 U 盘或者 SD 卡内的重要文件，避免丢失；

• 操作时请确认自己的 SD 卡对应的设备名；

• dts 文件中 root 参数的值使用的是 unique GUID，记下前12位即可。用户也可以根据 gdisk 的帮助信息自行修改这个值。

1、在服务器上部署 TFTP 服务：

安装 TFTP 服务：

创建 /tftpboot 目录并赋予权限：

然后修改 TFTP 服务器的配置文件 /etc/default/tftpd-hpa，修改内容为：

退出修改后重启 TFTP 服务器：

在 /tftpboot 目录中创建一个文件，测试 TFTP 服务是否可用：

查看 /tmp 目录中的文件，如果看到了 test 文件表示 TFTP 服务器是可用的。

2、在服务器上部署 NFS 服务：

安装 NFS 服务器：

创建共享目录：

然后将制作好的根文件系统复制到 /nfs/rootfs 目录中。（根文件系统的制作可以参考：Ubuntu 根文件系统的制作）

接着配置 NFS，在 /etc/exports 中添加共享目录位置：

共享的目录根据用户实际情况设置，其中的”*”代表的是所有用户可访问。

重启 NFS 服务器：

本地挂载共享目录，测试 NFS 服务器是否可用：

在 /mnt 目录下查看到了与 /nfs/rootfs 一致的内容，则说明 NFS 服务器部署成功。然后可以解除挂载：

如果要做到挂载网络根文件系统，需要在内核中做相关配置，并在 dts 中修改相关挂载根文件系统的配置。

首先进行内核配置，在内核目录中执行 make menuconfig，选择相关配置：

修改 rk3399-firefly.dts 配置，在 dts 文件中修改 chosen 节点下的 bootargs 参数，选择使用 NFS 挂载远程根文件系统，内容如下。

编译内核：

编译完成后，将编译好的内核文件 boot.img 和 rk3399-firefly.dtb 文件复制到 /tftpboot 目录中：

详细说明可以参考内核目录中的 kernel/Documentation/filesystems/nfs/nfsroot.txt

请先确保目标机网线已插入，接入到服务器的局域网内。

目标机启动进入 U-Boot 命令行模式，设置以下参数：

在开机内核日志中可见：

说明已经挂载上了网络根文件系统。

注意事项

• 确保 TFTP 服务器、NFS 服务器可用;

• 确保目标机先插入网线后在开机，且和服务器在同一局域网内，如果是直连目标机和服务器，请使用交叉网线;

• 内核配置中，Root file system on NFS 依赖于 IP: kernel level autoconfiguration 选项，请先选择 IP: kernel level autoconfiguration，之后才可以找到 Root file system on NFS 选项;

• 在 U-Boot 命令行中，请确认 boot.img 烧录地址和 dtb 文件烧录地址。（提示：boot.img 的文件结构中，开头有2k的头文件，然后才是 kernel。所以在 TFTP 下载内核到目标机时，要下载到对应 kernel 地址减去0x0800的地址上）;

• 在设置挂载远程根文件系统时，nfsroot=192.168.31.106:/nfs/rootfs,v3 中的 v3 代表 NFS 版本信息，请添加上以避免出现挂载不成功的问题。

操作中需要升级内核和 U-Boot，事先已经准备好了修改好的相关文件：uboot.img 、trust.img 、boot.img 。

deb 是 Debian Linux 的软件包格式，打包最关键的是在 DEBIAN 目录下创建一个 control 文件。首先创建 deb 工作目录，然后在 deb 目录中创建相应的目录和文件：

DEBIAN 目录下存放的文件是 deb 包安装的控制文件以及相应的脚本文件。

在 DEBIAN 目录下创建控制文件 control 和脚本文件 postinst。

control 文件内容如下,用于记录软件标识，版本号，平台，依赖信息等数据。

postinst 文件内容如下,就是将需要更新的内核和 U-Boot 文件用 dd 命令写进对应分区的脚本：

说明：postinst 脚本，是在解包数据后运行的脚本，对应的还有:

• preinst：在解包数据前运行的脚本;

• prerm：卸载时，在删除文件之前运行的脚本;

• postrm：在删除文件之后运行的脚本;

其他相关知识点用户可以自行了解。这里只用到了 preinst 脚本。

以下是创建好的目录树：

进入 deb 目录，用 dpkg 命令生成 deb 包：

生成 deb 包时，一般按照这种规范进行命名：package_version-reversion_arch.deb 。

首先安装需要的包：

然后用 GnuPG 工具生成一个 GPG 密匙，执行命令后请根据提示操作：

执行 sudo gpg --list-keys 可以查看刚刚生成的密匙信息:

接下来创建包仓库，首先创建目录:

把前面生成的密匙导出到仓库文件夹，请用户对应好自己创建的用户名和邮箱地址。

在 conf 目录下创建 distributions 文件，其内容如下：

建立仓库树：

将第2步做好的 deb 包加入到仓库中：

可以查看库中添加的文件：

你的包已经加入了仓库，如果要移除它的话采用如下命令:

安装 nginx 服务器：

修改nginx的配置文件 /etc/nginx/sites-available/default 为：

重启 nginx 服务器：

在客户端开发板中，首先要添加本地包仓库的源，在目录 /etc/apt/sources.list.d 下添加一个新的配置文件 bionic.list，内容如下：

IP 地址是服务器地址, bionic 是仓库发布代码名， main 是组件名。

从服务器中获取并添加 GPG 密匙：

更新后即可安装自定义软件源里的 firefly-firmware_1.0_arm64 包：

可以看到安装过程中执行了 deb 包中的 poinst 脚本。安装完成后，重启开发板，更新完成。

在 /usr/share 目录中还可以看到 kernel 和 uboot 目录，分别存放了 boot.img，uboot.img 和 trust.img 。

注意事项

• 在制作 deb 包中，与 DEBIAN 同级的目录视为根目录，即放在与 DEBIAN 同目录下的文件，在客户端安装 deb 包后，可以在客户端的根目录下找到；

• deb 包中的文件和脚本，用户要根据自己的实际情况做调整；

• 每次在仓库中修改了配置文件后，都要重新导入仓库目录树 ；

• nginx 服务器配置中，root 参数配置的是仓库的地址，请用户根据自己的实际情况修改；

• 客户端添加的新下载源的文件时，注意核对正确的服务器地址，包仓库代码名和组件名。注意客户端要连通服务器；

• 客户端要用 apt-key add 命令添加 GPG 密匙之后，才可以获取本地的仓库的信息。

• 两块 Firefly-RK3399 开发板；

• 路由器、网线；

• PC 机。

将两块开发板和 PC 机都连接到同一个局域网内。连接好后对应的 IP 地址别是：

• PC 机：192.168.1.100

• 开发板 A：192.168.1.101

• 开发板 B：192.168.1.102

使用脚本安装 Docker ：

为了可以使当前普通用户可以执行 docker 相关命令，需要将当前用户添加到 dokcer 用户组中：

启动 Docker 后台服务：

新建一个 Dockerfile_distcc.x86_64 文件。其文件内容如下：

生成 Docker 镜像：

可以用命令 docker images 查看生成的 Docker 镜像：

用新建的镜像启动 Docker 容器，在主机网络的 3632 TCP 端口提供 distcc 服务：

用命令 docker ps 可以查看正在运行中的容器：

Firefly-RK3399 内核默认是不支持 Docker 的，需要进行相关内核的配置。可以在 Firefly Github 中查看修改后的 /kernel/arch/arm64/configs/firefly_linux_defconfig 文件。

修改好后编译内核并更新到所有用到的开发板。

内核更新完成后，在开发板上使用脚本安装 Docker ：

将当前用户添加到 dokcer 用户组中：

启动 Docker 后台服务：

新建 Dockerfile_distcc.arm64 文件，内容如下：

生成 Docker 镜像：

用新建的镜像启动 Docker 容器，在主机网络的 3632 TCP 端口提供 distcc 服务：

用 docker save 命令导出新建的镜像：

将生成的 distcc_server.tar 文件复制到另一块开发板上，然后导入镜像：

导入镜像后，在这个开发板上也有了 distcc_server:arm64 镜像，然后可以运行一个容器：

提示： 用户如果注册了 Docker Hub 帐号，可以用 docker push 推送镜像到远程仓库，在另一开发板上用 docker pull 拉取远程仓库的镜像。用户可以自行了解相关操作。

到这里，三个机器都部署了分布式编译环境。可以选择任意一台机器作为客户端，剩下两个机器作为服务器。这里选择其中一个开发板作为客户端。

在客户端中创建 Dockerfile_compile.arm64 文件，生成一个编译内核的 Docker 镜像，文件内容如下：

然后生成镜像：

在启动容器前先将内核文件拉到客户端中。然后创建 /etc/distcc/hosts 文件，其内容是列举出所有提供 distcc 服务的机器的 IP 地址。内容如下：

为了测试结果更准确，先清除客户端开发板上的缓存：

用 compile:arm64 镜像启动一个 Docker 容器，同时将主机当前内核目录挂载到容器中的 /mnt 目录，将主机的 /etc/distcc/hosts 文件挂载到容器的 /etc/distcc/hosts 中，并用参数 -it 以交互模式启动容器：

进入到容器中的 /mnt 目录，然后开始用 distcc 编译内核，加入 time 命令可以查看编译命令执行耗时，CC 参数指明用 distcc 进行编译：

注意： 如果用 PC 机作为客户端，则需要用以下命令进行编译：

编译过程中，可以在用于编译的容器内新的窗口中用命令 distccmon-text 1 查看编译情况：

最后编译命令完成后可以看到编译所用时间：

下边是单独使用一块开发板进行内核编译所耗费的时间:

对比可见，用采用 distcc 实现的分布式编译可以有效提高编译速度。

注意：

• 平台不同，所需的编译器也不同。如在 x86_64 平台上，需要安装对应的交叉编译工具 gcc-aarch64-linux-gnu。在 arm64 平台则只需要安装 gcc 编译工具即可。用户需要根据实际情况在对应的 Dockerfile 文件里指定安装正确的工具。

• 如果用 PC 机做客户端，则在用于编译的容器中编译内核的时候，要用参数 CC="distcc aarch64-linux-gnu-gcc" 指明用 aarch64-linux-gnu-gcc 交叉编译工具编译。