2.1. 硬件连接

连接设备 typec 和电脑，AIO-3588JD4 typec 有两种功能（串口/OTG升级）通过拨码开关控制，串口调试时候请将拨码开关拨向 “DBG”。

2.2. 串口参数

• 波特率：115200

• 数据位：8

• 停止位：1

• 奇偶校验：无

• 流控：无

1.1. 前言

AIO-3588JD4出厂默认会有一个操作系统，如果用户要运行其他操作系统，需要使用对应的固件烧写到主板。

AIO-3588JD4有灵活的启动方式。一般情况下，除非硬件损坏，AIO-3588JD4 开发板是不会变砖的。

如果在升级过程中出现意外，bootloader 损坏，导致无法重新升级，此时仍可以进入 MaskRom 模式来修复。

1.2. 固件获取

• 下载链接

1.3. 升级方式

AIO-3588JD4 支持通过以下两种方式升级固件：

• 使用USB线缆升级固件
  
  使用AIO-3588JD4 将主板连接到电脑上，通过升级工具将固件烧写到主板上。
   

• 使用SD卡升级固件
  
  通过升级卡制作工具，将MicroSD卡制作为升级卡(建议使用32G及以下容量的卡)，将升级卡插入主板，上电开机，机器自动执行升级。

1.4. 启动存储器

AIO-3588JD4 从以下的存储器中加载系统：

• eMMC 接口

• SDMMC 接口

1.5. 启动模式

AIO-3588JD4有三种启动模式：

• Normal 模式

• Loader 模式

• MaskRom 模式

2.1. 前言

本文介绍了如何将主机上的固件，通过Type-C 数据线烧录到 Core-3588JD4 开发板的存储器中。升级时，需要根据主机操作系统和固件类型来选择合适的升级方式。

2.2. 准备工具

• AIO-3588JD4 开发板

• 固件

• 主机

• 良好的Type-C 数据线

2.3. 准备固件

固件可以通过编译SDK获得，也可以通过资源下载处下载公版固件（统一固件）。固件文件一般有两种：

• 单个统一固件

  统一固件是由分区表、bootloader、uboot、kernel、system等所有文件打包合并成的单个文件。Firefly正式发布的固件都是采用统一固件格式，升级统一固件将会更新主板上所有分区的数据和分区表，并且擦除主板上所有数据。

• 多个分区镜像

  即各个功能独立的文件，如分区表、bootloader、kernel等，在开发阶段生成。独立分区镜像可以只更新指定的分区，而保持其它分区数据不被破坏，在开发过程中会很方便调试。

2.4. 安装烧写工具

2.5. 进入升级模式

通常我们升级固件的模式有两种，分别是Loader模式和MaskRom模式。烧写固件前，我们需要连接好设备，并让板子进入到可升级模式。

2.6. 烧写固件

2.7. 常见问题

3.1. 简介

MaskRom 模式是设备变砖的最后一条防线。强行进入 MaskRom 涉及硬件操作，有一定风险，因此仅在设备进入不了 Loader 模式的情况下，方可尝试 MaskRom 模式。进入 MaskRom 的原理是人为的把 EMMC 的数据脚与地线短接，系统会认为 EMMC 数据出错，从而清除 EMMC 数据。

请小心阅读，并谨慎操作！

操作步骤如下：

1. 设备断开电源

2. 按住 AIO-3588JD4 的 MaskRom 按键或者使用镊子短接 Core-3588JD4 上的两个测试点（均如下图所示）

3. 设备插入电源上电 此时设备就会进入 MaskRom 模式。

• 以下为 AIO-3588JD4 上相应的按键

• 以下为 Core-3588JD4 上的两个测试点

此时设备就会进入 MaskRom 模式。

4.1. 准备工具

• 主板

• 电脑

• SD卡

• USB读卡器

• SD_Firmware_Tool

4.2. 操作步骤

• 下载需要升级到主板上的统一固件。

• 打开SD_Firmware_Tool，勾选固件升级框，点击选择固件选择正确升级固件。

• 将MicroSD插入USB读卡器，再插入到电脑USB口上,在列表式组合框中选择正确的USB设备。

• 点击开始创建之后，等待创建结束。

• 取出MicroSD卡，插入主板的MicroSD卡插槽，对主板上电开机，主板自动开始升级。

• 升级完成后，取出MicroSD卡，主板自动重启，完成整个升级固件的流程。

1.1. 获取 SDK

请联系销售(sales@t-firefly.com)获取 SDK 下载链接。

注意：

1. SDK 采用交叉编译，所以要在 X86_64 电脑上使用 SDK，不要将 SDK 下载到板子上

2. 编译环境请使用 Ubuntu20.04（真机或 docker 容器），如果使用其他版本可能导致编译出错

3. 不要在虚拟机共享文件夹以及非英文目录存放、解压SDK

4. 获取、编译 SDK 请全程使用普通用户，不允许也不需要使用 root 权限（除非需要 apt 安装软件）

准备一个空文件夹用于存放 SDK，建议在 home 目录下，本文以~/proj为例

1.2. SDK 配置介绍

FIRMWARE_VER: 1.0
MACHINE_MODEL: RK3588
MACHINE_ID: 007
MANUFACTURER: RK3588
MAGIC: 0x5041524B
ATAG: 0x00200800
MACHINE: 0xffffffff
CHECK_MASK: 0x80
PWR_HLD: 0,0,A,0,1
TYPE: GPT
GROW_ALIGN: 0
CMDLINE: mtdparts=:0x00002000@0x00004000(uboot),0x00002000@0x00006000(misc),0x00040000@0x00008000(boot:bootable),0x00040000@0x00048000(recovery),0x00010000@0x00088000(backup),0x01c00000@0x00098000(rootfs),-@0x01c98000(userdata:grow)
uuid:rootfs=614e0000-0000-4b53-8000-1d28000054a9
uuid:boot=7A3F0000-0000-446A-8000-702F00006273

1.3. 编译 Ubuntu 固件

1.3.3. 编译

1.3.3.1. 完整编译

执行如下命令即可

编译完成后会生成完整固件 output/update/update.img

1.3.3.2. 部分编译

一般来说自定义开发只涉及 kernel 和 uboot。因此，在进行过一次完整编译后，如果后续又修改了 kernel 或 uboot，可以部分编译来加快速度。

1.4. 编译 Debian 固件

1.5. 编译 Buildroot 固件

2.1. 获取 SDK

首先准备一个空文件夹用于存放 SDK，建议在 home 目录下，本文以~/proj为例

注意：

1. SDK 采用交叉编译，所以要在 X86_64 电脑上使用 SDK，不要将 SDK 下载到板子上

2. 编译环境请使用 Ubuntu18.04（真机或 docker 容器），如果使用其他版本可能导致编译出错

3. 不要在虚拟机共享文件夹以及非英文目录存放、解压SDK

4. 获取、编译 SDK 请全程使用普通用户，不允许也不需要使用 root 权限（除非需要 apt 安装软件）

mkdir ~/proj/rk3588_sdk/
cd ~/proj/rk3588_sdk/

## 完整 SDK
repo init --no-clone-bundle --repo-url https://gitlab.com/firefly-linux/git-repo.git -u https://gitlab.com/firefly-linux/manifests.git -b master -m rk3588_linux_release.xml

## BSP （ 只包含基础仓库和编译工具 ）
## BSP 包括 device/rockchip 、docs 、 kernel 、 u-boot 、 rkbin 、 tools 和交叉编译链
repo init --no-clone-bundle --repo-url https://gitlab.com/firefly-linux/git-repo.git -u https://gitlab.com/firefly-linux/manifests.git -b master -m rk3588_linux_bsp_release.xml

2.2. Linux SDK 配置介绍

FIRMWARE_VER: 1.0
MACHINE_MODEL: RK3588
MACHINE_ID: 007
MANUFACTURER: RK3588
MAGIC: 0x5041524B
ATAG: 0x00200800
MACHINE: 0xffffffff
CHECK_MASK: 0x80
PWR_HLD: 0,0,A,0,1
TYPE: GPT
CMDLINE: mtdparts=rk29xxnand:0x00002000@0x00004000(uboot),0x00002000@0x00006000(misc),0x00020000@0x00008000(boot:bootable),0x00040000@0x00028000(recovery),0x00010000@0x00068000(backup),0x00c00000@0x00078000(rootfs),0x00040000@0x00c78000(oem),-@0x00cb8000(userdata:grow)
uuid:rootfs=614e0000-0000-4b53-8000-1d28000054a9

2.3. 编译 Ubuntu 固件

本章介绍 Ubuntu 固件的编译流程，推荐在 Ubuntu 18.04 系统环境下进行开发，若使用其它系统版本，可能需要对编译环境做相应调整。

本教程的编译部分适用于 v1.0.6e 以上 SDK 版本

2.4. 编译 Debian 固件

本章介绍 Debian 固件的编译流程，推荐在 Ubuntu 18.04 系统环境下进行开发，若使用其它系统版本，可能需要对编译环境做相应调整。

本教程的编译部分适用于 v1.0.6e 以上 SDK 版本

2.5. 编译 Buildroot 固件

本章介绍 Buildroot 固件的编译流程，推荐在 Ubuntu 18.04 系统环境下进行开发，若使用其它系统版本，可能需要对编译环境做相应调整。

本教程的编译部分适用于 v1.0.6e 以上 SDK 版本

4.1. 飞桨 FastDeploy

4.2. 容器虚拟安卓

AIC (Android in Container) 是指在 Linux 系统中使用容器来运行安卓。RK3588 Linux 即可使用 docker 来运行安卓并支持多开。

集群服务器搭配 AIC 可以增加安卓的密度，在云手机、云游戏等场景有很大的帮助。

此处有固件可供测试：点击前往 提取码 1234

1.1. MIPI CSI用法

RK3588/RK3588S平台支持两个DPHY硬件, 分别是 dphy0_hw/ dphy1_hw, 两个dphy硬件都可以工作在两个模式: full mode 和split mode, 其中 dphy0_hw 拆分为 csi2_dphy0/ csi2_dphy1/ csi2_dphy2 三个逻辑dphy(参见rk3588s.dtsi)。

1.2. DPHY

1.3. Full Mode配置

链接关系: sensor->csi2_dphy0->mipi2_csi2->rkcif_mipi_lvds2 - - -> rkcif_mipi_lvds2_sditf->rkisp0_vir0

1.4. Split Mode配置

链接关系:

sensor1->csi2_dphy1->mipi2_csi2->rkcif_mipi_lvds2 - - -> rkcif_mipi_lvds2_sditf->rkisp0_vir2

sensor2->csi2_dphy2->mipi3_csi2->rkcif_mipi_lvds3 - - -> rkcif_mipi_lvds3_sditf->rkisp1_vir0

1.5. 软件相关目录

1.6. 单目CAM-8MS1M/双目CAM-2MS2MF摄像头的使用

firefly已经配置好相应的dts，单目摄像头CAM-8MS1M和双目摄像头CAM-2MS2MF使用互斥，只需包含相应的dtsi文件即可使用单目摄像头CAM-8MS1M或双目摄像头CAM-2MS2MF

1.7. Camera底层调试

查找摄像头节点

使用v4l2-ctl抓取camera数据帧

v4l2-ctl --verbose -d /dev/video0 --set-fmt-video=width=1920,height=1080,pixelformat='NV12' --stream-mmap=4 --set-selection=target=crop,flags=0,top=0,left=0,width=1920,height=1080 --stream-to=/data/out.yuv

把out.yuv文件拷贝出来通过ubuntu去查看

1.8. Android 系统使用 Camera 应用

除了官方默认支持的摄像头外，Android系统使用camera的apk打开摄像头都需要配置camera3_profiles*.xml，具体可参考Android SDK hardware/rockchip/camera/etc/camera目录下的文件

1.9. Linux 系统预览摄像头

Ubuntu 固件集成了 test_camera-cifisp.sh 测试脚本，直接运行该脚本就可以了，脚本路径：test_camera-cifisp.sh。

1.10. IQ文件

raw摄像头支持的iq文件路径external/camera_engine_rkaiq/iqfiles/isp3x, 与以前不一样的地方是iq文件不再采用.xml的方式，而是采用.json的方式。虽有提供xml转json的工具, 但isp20的xml配置转换后也不适用isp3x，同样isp21的json也不适用isp3x。

若使用raw摄像头sensor，请留意isp3x目录所支持的iq文件

2.1. CAN 简介

CAN(Controller Area Network)总线，即控制器局域网总线，是一种有效支持分布式控制或实时控制的串行通信网络。CAN总线是一种在汽车上广泛采用的总线协议，被设计作为汽车环境中的微控制器通讯。 如果想了解更多的内容可以参考CAN应用报告

2.2. 硬件连接

CAN模块之间接线：CAN_H接CAN_H，CAN_L接CAN_L。

2.3. DTS 节点配置

由于系统根据上述dts节点创建的CAN设备只有一个，而第一个创建的设备为CAN0

2.4. 通信测试

2.6. FAQS

总结调试过程中遇到的几个问题及解决方法：

3.1. AIO-3588JD4 显示接口的配置

AIO-3588JD4 有一个 HDMI 接口，接口图如下所示：

• HDMI

下面对各个显示输出接口的配置和使用作基本的介绍，详细内容可以参考文件：

• kernel/arch/arm64/boot/dts/rockchip/aio-3588jd4.dtsi

3.2. 调试手段

• 在系统中设置分辨率

系统鼠标点击：‘设置->显示->HDMI->分辨率设置’

• 获取 HDMI/Display Port 的 edid(以 HDMI 为例)

• 获取 HDMI/Display Port 所支持的分辨率(以 HDMI 为例)

• 获取 HDMI/Display Port 的连接状态(以 HDMI 为例)

• 获取系统中正在使用的 Video Portx（与所连接的显示控制器） 信息

一般如果遇到 HDMI/Display Port 无法显示的问题，都需要先执行上面的命令去看一下连接状态、edid 和分辨率是否正确。

4.1. 简介

GPIO，全称 General-Purpose Input/Output（通用输入输出），是一种软件运行期间能够动态配置和控制的通用引脚。 所有的 GPIO 在上电后的初始状态都是输入模式，可以通过软件设为上拉或下拉，也可以设置为中断脚，驱动强度都是可编程的，其核心是填充 GPIO bank 的方法和参数，并调用 gpiochip_add 注册到内核中。

4.2. GPIO引脚计算

Core-3588JD4 有 5 组 GPIO bank：GPIO0~GPIO4，每组又以 A0~A7, B0~B7, C0~C7, D0~D7 作为编号区分，常用以下公式计算引脚：

4.3. 输入输出

首先在 DTS 文件中增加驱动的资源描述：

GPIO_ACTIVE_HIGH 表示高电平有效，如果想要低电平有效，可以改为：GPIO_ACTIVE_LOW，这个属性将被驱动所读取。

然后在 probe 函数中对 DTS 所添加的资源进行解析，代码如下：

of_get_named_gpio_flags 从设备树中读取 firefly-gpio 和 firefly-irq-gpio 的 GPIO 配置编号和标志，gpio_is_valid 判断该 GPIO 编号是否有效，gpio_request 则申请占用该 GPIO。如果初始化过程出错，需要调用 gpio_free 来释放之前申请过且成功的 GPIO 。在驱动中调用 gpio_direction_output 就可以设置输出高还是低电平，这里默认输出从 DTS 获取得到的有效电平 GPIO_ACTIVE_HIGH，即为高电平，如果驱动正常工作，可以用万用表测得对应的引脚应该为高电平。实际中如果要读出 GPIO，需要先设置成输入模式，然后再读取值：

4.4. 中断

在 Firefly 的例子程序中还包含了一个中断引脚，GPIO 口的中断使用与 GPIO 的输入输出类似，首先在 DTS 文件中增加驱动的资源描述：

然后在 probe 函数中对 DTS 所添加的资源进行解析，再做中断的注册申请，代码如下：

调用 gpio_to_irq 把 GPIO 的 PIN 值转换为相应的 IRQ 值，调用 gpio_request 申请占用该 IO 口，调用 request_irq 申请中断，如果失败要调用 free_irq 释放，该函数中 gpio_info-firefly_irq 是要申请的硬件中断号，firefly_gpio_irq 是中断函数，gpio_info->firefly_irq_mode 是中断处理的属性，firefly-gpio 是设备驱动程序名称，gpio_info 是该设备的 device 结构，在注册共享中断时会用到。

4.5. 复用

该案例仅供参考，最终以实际硬件接口为准
GPIO 口除了通用输入输出、中断功能外，还可能有其它复用功能，以GPIO1_D0为例，就有如下几个功能：

查看 /d/pinctrl/pinctrl-rockchip-pinctrl/pinmux-pins，查看各个引脚的作用，如果发现GPIO1_D0和GPIO1_D1被复用为I2c，则在dts中关闭它

Note: 此处 GPIO1_D0 仅作示例，实际使用中不推荐如此修改

上面介绍了在DTS上修改，那在运行时又如何切换功能呢？下面以 I2C7_m0 为例作简单的介绍，详细介绍可以参考RKDocs/common/PIN-Ctrl/Rockchip-Developer-Guide-Linux-Pin-Ctrl-CN.pdf。

查规格表可知，I2C7_SDA_M0 与 I2C7_SCL_M0 的功能定义如下：

在 kernel-5.10/arch/arm64/boot/dts/rockchip/rk3588s.dtsi 里有：

跟复用控制相关的是 pinctrl- 开头的属性：

• pinctrl-names 定义了状态名称列表： default (i2c 功能) 和 gpio 两种状态。

• pinctrl-0 定义了状态 0 (即 default）时需要设置的 pinctrl: &i2c7m0_xfer

• pinctrl-1 定义了状态 1 (即 gpio)时需要设置的 pinctrl: &i2c7m0_gpio

这些 pinctrl 在 kernel-5.10/arch/arm64/boot/dts/rockchip/rk3588s.dtsi 中这样定义：

在kernel-5.10/arch/arm64/boot/dts/rockchip/rk3588s-pinctrl.dtsi中有i2c7的定义

RK_FUNC_GPIO 的定义在 kernel-5.10/include/dt-bindings/pinctrl/rockchip.h ，此处简写作0：

知道了上面关于i2c7的定义后，在 kernel-5.10/arch/arm64/boot/dts/rockchip/rk3588-firefly-demo.dtsi 中为i2c7节点添加gpio的资源

i2c驱动注册流程如下：

pinctrl_select_state是选择pinctrl的函数,它用来选择我们dts中设置的pinctrl。

4.6. 调试方法

4.7. FAQs

5.1. 前言

可通过使用 LED 设备子系统或者直接操作 GPIO 控制该 LED。

5.2. 以设备的方式控制 LED

标准的 Linux 专门为 LED 设备定义了 LED 子系统。 在 AIO-3588JD4开发板中的LED 均以设备的形式被定义。用户可以通过 /sys/class/leds/ 目录控制LED。

开发板上的 LED 的默认状态为：

用户可以通过 echo 命令向其 brightness 属性输入命令控制每一个 LED：

5.3. 使用 trigger 方式控制 LED

Trigger 包含多种方式可以控制 LED，这里就用两个例子来说明。

• Simple trigger LED

• Complex trigger LED

更详细的说明请参考 leds-class.txt 。

首先我们需要知道定义多少个 LED，同时对应的 LED 的属性是什么。

注意：compatible 的值要跟 drivers/leds/leds-gpio.c 中的 .compatible 的值要保持一致。

6.1. 简介

AIO-3588JD4开发板采用HYM8563作为RTC(Real Time Clock)，HYM8563是一款低功耗CMOS实时时钟/日历芯片,它提供一个可编程的时钟输出,一个中断 输出和一个掉电检测器,所有的地址和数据都通过I2C总线接口串行传递。最大总线速度为 400Kbits/s,每次读写数据后,内嵌的字地址寄存器会自动递增

• 可计时基于 32.768kHz 晶体的秒,分,小时,星期,天,月和年

• 宽工作电压范围:1.0~5.5V

• 低休眠电流:典型值为 0.25μA(VDD =3.0V, TA =25°C)

• 内部集成振荡电容

• 漏极开路中断引脚

6.2. RTC驱动

驱动参考：kernel-5.10/drivers/rtc/rtc-hym8563.c

6.3. 接口使用

Linux 提供了三种用户空间调用接口。在 AIO-3588JD4开发板中对应的路径为：

• SYSFS接口：/sys/class/rtc/rtc0/

• PROCFS接口： /proc/driver/rtc

• IOCTL接口： /dev/rtc0

6.4. FAQs

7.1. 简介

AIO-3588JD4 开发板上有 1 个 M.2 接口

可以软件配置成 M.2 SATA3.0 接口，支持 SATA 协议的 SSD 使用，也可以软件配置成 M.2 PCIe2.0 接口，支持 NVMe 协议的 SSD 使用。

默认软件配置成 M.2 SATA3.0 接口, 支持 SATA 协议的 SSD 使用

7.2. 软件配置

7.3. 挂载

7.4. 读写测速

SATA3.0 的传输速率理论上达到 6.0 Gbps，可以参考如下命令进行读写速度测试：

• dd

• fio

8.1. 简介

AIO-3588JD4 有一个 RS232 和一个 RS485 接口

AIO-3588JD4 开发板的串口接口图如下：

8.2. DTS配置

开发板的 RS232 接口由主控的 UART1 扩展出来，而 RS485 接口由主控 UART6 扩展出来。

文件路径kernel/arch/arm64/boot/dts/rockchip/aio-3588jd4.dtsi

8.3. 收发验证

用户可以根据不同的接口使用不同的主机的 USB 转串口适配器向开发板的串口收发数据，例如 RS485 的调试步骤如下(AIO-3588JD4 RS485 是半双工，需要 gpio 控制收发)：

(1) 开发板发送, 主机接收

开发板调试串口终端即可接收到字符串 “firefly RS485 test…”

9.1. 简介

看门狗（watchdog）实际是一个定时器，启动之后会开始计时。系统或者软件需要在规定时间内与看门狗通信（俗称喂狗）重置计时，如此反复下去，以此来确定系统和软件正常运行。

如果规定时间内没有喂狗，看门狗超时，说明系统或应用陷入循环、卡死，此时看门狗会发出复位信号让主控复位，脱离卡死。

本章节主要介绍 AIO-3588JD4 开发板内部看门狗的使用。

9.2. DTS配置

AIO-3588JD4的 watchdog 的 DTS 节点在 kernel-5.10/arch/arm64/boot/dts/rockchip/rk3588s.dtsi 文件中定义，如下所示：

9.3. 使用

watchdog 默认是关闭的，需按上述说明在 DTS 文件中打开相关节点方能使用。

watchdog 的驱动文件为 kernel-5.10/drivers/watchdog/dw_wdt.c。下面介绍两种方法来使用 watchdog：

内部看门狗的设备名称为/dev/watchdog，用户可通过 echo 命令来控制该设备

也可以通过程序来控制看门狗，通过Android.mk编译生成可执行文件，在机器启动后，push到上面运行，demo代码如下：

demo说明：

1、内部看门狗在使用 open 函数打开后会立刻开始计时。

2、关于超时时间：用户可以用 ioctl 来设置超时时间和获取超时时间。当用户没有设置超时时间时，驱动会应用默认请求的超时时间为 30 s。需要说明的是驱动最终设置的超时时间并不一定是应用层传输的时间或者驱动一开始设置的默认时间。驱动函数里有一个超时时间的列表，该列表中存放了 16 个超时时间（前 9 个是 0）。驱动会在超时时间列表中找到一个合适的时间作为最终 watchdog 设置的超时时间。

以下为超时时间的详细列表：

参考文档：SDK/RKDocs(linux 为 docs)/common/watchdog

9.4. 外部看门狗

很多设备上有外部硬件看门狗，通过查看设备文件可以确认是否支持外部看门狗。如果有硬件看门狗 /dev/ 下应该会生成 wdt_XXX 的设备文件。

1.1. RKLLM 介绍

RKLLM SDK可以帮助用户快速将大语言模型部署到AIO-3588JD4上。 SDK下载

1.2. RKLLM-Toolkit 安装

RKLLM-Toolkit目前只适用于Linux PC，建议使用Ubuntu20.04(x64)。因为系统中可能同时有多个版本的 Python 环境，建议使用 miniforge3 管理 Python 环境。

1.3. 大语言模型部署例程

RKLLM已支持的大模型如下

(RKLLM-Toolkit-1.1.4) root@ea5d57ca8e66:/rkllm/rknn-llm/examples/DeepSeek-R1-Distill-Qwen-1.5B_Demo/export# python3 export_rkllm.py 
INFO: rkllm-toolkit version: 1.1.4
WARNING: Cuda device not available! switch to cpu device!
The argument `trust_remote_code` is to be used with Auto classes. It has no effect here and is ignored.
Downloading data files: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 15307.68it/s]
Extracting data files: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 2377.72it/s]
Generating train split: 21 examples [00:00, 3327.05 examples/s]
Optimizing model: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 28/28 [21:16<00:00, 45.59s/it]
Building model: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 399/399 [00:07<00:00, 52.78it/s]
WARNING: The bos token has two ids: 151646 and 151643, please ensure that the bos token ids in config.json and tokenizer_config.json are consistent!
INFO: The token_id of bos is set to 151646
INFO: The token_id of eos is set to 151643
INFO: The token_id of pad is set to 151643
Converting model: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 339/339 [00:00<00:00, 2494507.12it/s]
INFO: Exporting the model, please wait ....
[=================================================>] 597/597 (100%)
INFO: Model has been saved to ./DeepSeek-R1-Distill-Qwen-1.5B_W8A8_RK3588.rkllm!

1.4. 其他

更多demo和api使用请参考RKLLM SDK例程和文档。

1.5. FAQs

Q1：转换模型失败？

A1：检查 PC 可用运行内存，参数量越大的模型转换或者运行时所需的内存越大，可以尝试增大 swapfile 或者使用大内存的 PC。

2.1. RKNN 模型

RKNN 是 Rockchip NPU 平台使用的模型类型，以.rknn后缀结尾的模型文件。用户可以通过RKNN SDK提供的工具将自主研发的算法模型转换成 RKNN 模型

RKNN 模型可以直接运行在 RK3588 平台上，在rknpu2/examples中有例子，根据README.md编译生成 Android 或 Linux Demo（需要交叉编译环境）。也可以直接下载编译好的 Demo。

在 AIO-3588JD4 上运行yolov5 demo如下:

# Platform 为芯片平台，如RK3576，RK3588, RK3566_RK3568等
:/ # cd /data/rknn_yolov5_demo_Android  (Linux 系统使用 rknn_yolov5_demo_Linux 即可)
:/data/rknn_yolov5_demo_Android # chmod 777 rknn_yolov5_demo
:/data/rknn_yolov5_demo_Android # export LD_LIBRARY_PATH=./lib
:/data/rknn_yolov5_demo_Android # ./rknn_yolov5_demo model/Platform/yolov5s-640-640.rknn ./model/bus.jpg resize ./out.jpg
post process config: box_conf_threshold = 0.25, nms_threshold = 0.45
Loading mode...
sdk version: 2.3.0 (c949ad889d@2024-11-07T11:35:33) driver version: 0.9.3
model input num: 1, output num: 3
  index=0, name=images, n_dims=4, dims=[1, 640, 640, 3], n_elems=1228800, size=1228800, w_stride = 640, size_with_stride=1228800, fmt=NHWC, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
  index=0, name=output0, n_dims=4, dims=[1, 255, 80, 80], n_elems=1632000, size=1632000, w_stride = 0, size_with_stride=1638400, fmt=NCHW, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
  index=1, name=286, n_dims=4, dims=[1, 255, 40, 40], n_elems=408000, size=408000, w_stride = 0, size_with_stride=409600, fmt=NCHW, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
  index=2, name=288, n_dims=4, dims=[1, 255, 20, 20], n_elems=102000, size=102000, w_stride = 0, size_with_stride=122880, fmt=NCHW, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
model is NHWC input fmt
model input height=640, width=640, channel=3
Read ./model/bus.jpg ...
img width = 640, img height = 640
once run use 67.055000 ms
loadLabelName ./model/coco_80_labels_list.txt
person @ (209 243 286 510) 0.879723
person @ (479 238 560 526) 0.870588
person @ (109 238 231 534) 0.839831
bus @ (91 129 555 464) 0.692042
person @ (79 353 121 517) 0.300961
save detect result to ./out.jpg
loop count = 10 , average run  59.530100 ms

2.2. 非 RKNN 模型

对于 Caffe、TensorFlow 等其他模型，想要在 RK3588 平台运行，需要先进行模型转换。可以使用 RKNN-Toolkit2 工具将模型转换成 RKNN 格式。

2.3. RKNN-Toolkit2工具

2.4. 详细开发文档

AIO-3588JD4 NPU 及 Toolkit 详细使用方法请参考RKNN SDK下《Rockchip_RKNPU_User_Guide_RKNN_API_*.pdf》、《Rockchip_User_Guide_RKNN_Toolkit2_*.pdf》文档。