安装驱动

下载驱动并安装:

• CH340

• PL2303

• CP210X

如果在 Win8 上不能正常使用 PL2303，参考这篇文章， 采用 3.3.5.122 或更老版本的旧驱动即可。

如果在 Windows 系统上安装官网的 CP210X 驱动，使用 PUTTY 或 SecureCRT 等工具设置串口波特率为 1500000，如果出现设置不了或无效的问题，可以下载旧版本驱动。

插入适配器后，系统会提示发现新硬件，并初始化，之后可以在设备管理器找到对应的 COM 口：

安装软件

Windows 上一般用 putty 或 SecureCRT。其中我们推荐使用 MobaXterm 免费版本。这是一款功能强大的终端软件，在这里介绍一下，MobaXterm 的使用方法与之类似。

到这里下载 MobaXterm：

1. 选择 session 为 Serial。

2. 将 Serial port 修改为在设备管理器中找到的 COM 端口。

3. 设置 Speed (bsp) 为 1500000。

4. 点击 OK 按钮。

安装 minicom

把光标移动到“Serial port setup”，按enter进入串口设置界面，再输入前面提示的字母，选择对应的选项，设置成如下：

三、资料下载

Firefly USB转UART串口模块（驱动程序）

1.1. 前言

AIO-3576Q出厂默认会有一个操作系统，如果用户要运行其他操作系统，需要使用对应的固件烧写到主板。

AIO-3576Q有灵活的启动方式。一般情况下，除非硬件损坏，AIO-3576Q 开发板是不会变砖的。

如果在升级过程中出现意外，bootloader 损坏，导致无法重新升级，此时仍可以进入 MaskRom 模式来修复。

1.2. 固件获取

• 下载链接

1.3. 升级方式

AIO-3576Q 支持通过以下两种方式升级固件：

• 使用USB线缆升级固件
  
  使用Type-C 数据线 将主板连接到电脑上，通过升级工具将固件烧写到主板上。
   

• 使用SD卡升级固件
  
  通过升级卡制作工具，将 MicroSD 卡制作为升级卡，将升级卡插入主板，上电开机，机器自动执行升级。

1.4. 启动存储器

AIO-3576Q 从以下的存储器中加载系统：

• eMMC 接口

• SDMMC 接口

1.5. 启动模式

AIO-3576Q有三种启动模式：

• Normal 模式

• Loader 模式

• MaskRom 模式

3.1. 简介

MaskRom 模式是设备变砖的最后一条防线。强行进入 MaskRom 涉及硬件操作，有一定风险，因此仅在设备进入不了 Loader 模式的情况下，方可尝试 MaskRom 模式。进入 MaskRom 的原理是人为的把 EMMC 的数据脚与地线短接，系统会认为 EMMC 数据出错，从而清除 EMMC 数据。

请小心阅读，并谨慎操作！

操作步骤如下：

先断开电源，然后按住 maskrom 按键，再上电，几秒后松开

此时设备就会进入 MaskRom 模式。

4.1. 准备工具

• 主板

• 电脑

• SD卡

• USB读卡器

• SD_Firmware_Tool

4.2. 操作步骤

• 下载需要升级到主板上的统一固件。

• 打开SD_Firmware_Tool，勾选固件升级框，点击选择固件选择正确升级固件。

• 将MicroSD插入USB读卡器，再插入到电脑USB口上,在列表式组合框中选择正确的USB设备。

• 点击开始创建之后，等待创建结束。

• 取出MicroSD卡，插入主板的MicroSD卡插槽，对主板上电开机，主板自动开始升级。

• 升级完成后，取出MicroSD卡，主板自动重启，完成整个升级固件的流程。

1.1. 编译 Ubuntu 固件

本章介绍 Ubuntu 固件的编译流程，推荐在 Ubuntu 20.04 系统环境下进行开发，若使用其它系统版本，可能需要对编译环境做相应调整。

本教程的编译部分适用于 v0.1.0a 以上 SDK 版本

2.1. 准备工作

编译 Android 对机器的配置要求较高：

• 64 位 CPU

• 64GB 物理内存 交换内存

• 400GB 空闲的磁盘空间

如需编译 Android 14，您必须使用 Ubuntu 20.04 或更高版本。
如需安装 Ubuntu 20.04 或更高版本所需的软件包，请运行以下命令：

2.2. 编译FAQ

由于每个人的PC系统版本和环境配置不一样，安装软件包后编译并不一定都会成功，可能会出现缺少某些软件包而引起的错误，如：

3.1. 下载 Android14.0 SDK

SDK 源码与 bundle 压缩包均存放在云盘中。如有需要请联系商务 ： sales@t-firefly.com

3.2. iCore-3576Q 产品编译方法

3.3. 其他编译说明

3.4. 分区镜像

编译的时候执行 ./mkimage.sh 会重新打包 boot.img 和 super.img, 并将其它相关的镜像文件拷贝到目录 rockdev// 中。以下列出一般固件用到的镜像文件：

请参照 《使用USB线缆升级固件》 一文来烧写分区镜像文件。

3.5. OTA 编译

请参照《OTA编译》章节

3.6. 常见问题

6.1. 虚拟硬件技术

详情请参阅 虚拟硬件技术

6.2. 多设备启动系统

详情请参阅 多设备启动系统

6.3. 多屏异显

详情请参阅 RK3588多屏异显

6.4. 多屏拼接

详情请参阅 RK3588多屏拼接

1.1. PHY 介绍

RK3576 芯片有 1 个 DCPHY 和 2 个 DPHY, 两个 DPHY 可以工作在两个模式: full mode 和 split mode。DCPHY 则只有 full mode。

简单点来讲，如果用单目摄像头我们可以配置 full mode，若使用双目摄像头我们可以配置 split mode。

1.2. Full Mode 配置

AIO-3576Q 有 3 个摄像头接口，他们的配置链路如下：

1.3. Camera底层调试

查找摄像头节点

使用v4l2-ctl抓取camera数据帧

v4l2-ctl --verbose -d /dev/video0 --set-fmt-video=width=1920,height=1080,pixelformat='NV12' --stream-mmap=4 --set-selection=target=crop,flags=0,top=0,left=0,width=1920,height=1080 --stream-to=/data/out.yuv

把out.yuv文件拷贝出来通过ubuntu去查看

1.4. Android 系统使用 Camera 应用

除了官方默认支持的摄像头外，Android系统使用camera的apk打开摄像头都需要配置camera3_profiles*.xml，具体可参考Android SDK hardware/rockchip/camera/etc/camera目录下的文件

1.5. Linux 系统预览摄像头

Ubuntu 固件可以使用如下脚本进行预览。

2.1. CAN 简介

CAN(Controller Area Network)总线，即控制器局域网总线，是一种有效支持分布式控制或实时控制的串行通信网络。CAN总线是一种在汽车上广泛采用的总线协议，被设计作为汽车环境中的微控制器通讯。 如果想了解更多的内容可以参考CAN应用报告

2.2. 硬件连接

CAN模块之间接线：CAN_H接CAN_H，CAN_L接CAN_L。

2.3. DTS 节点配置

• 公共配置 kernel/arch/arm64/boot/dts/rockchip/rk3576.dtsi

• 板级配置 kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-aio-3576q.dtsi

另外可设置时钟频率 assigned-clock-rates，如果 CAN 的比特率低于等于 3M 建议修改 CAN 时钟到 100M，信号更稳定。高于 3M 比特率的，时钟设置 200M 就可以。

2.4. 通信测试

2.5. 更多指令

2.6. FAQS

总结调试过程中遇到的几个问题及解决方法：

3.1. AIO-3576Q 显示接口的配置

AIO-3576Q 有三种显示输出接口，分别是 HDMI、Display Port 以及 MIPI DSI，可以做到多屏同显/异显。

下面对各个显示输出接口的配置和使用作基本的介绍，详细内容可以参考文件：

• kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-aio-3576q.dtsi

• kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-aio-rk3576q-mipi101-BSD1218-A101KL68.dtsi

3.2. AIO-3576Q 多屏场景的配置

下面列出一些常规的场景下，关于 Portx 以及 显示控制器之间的配置方法：

• HDMI（4K@120Hz） Display Port MIPI DSI (2K@60Hz）

3.3. 调试手段

• 在系统中设置分辨率

系统鼠标点击：‘设置->显示->HDMI->分辨率设置’

• 获取 HDMI/Display Port 的 edid(以 HDMI 为例)

• 获取 HDMI/Display Port 所支持的分辨率(以 HDMI 为例)

• 获取 HDMI/Display Port 的连接状态(以 HDMI 为例)

• 获取系统中正在使用的 Video Portx（与所连接的显示控制器） 信息

一般如果遇到 HDMI/Display Port 无法显示的问题，都需要先执行上面的命令去看一下连接状态、edid 和分辨率是否正确。

4.1. 简介

GPIO，全称 General-Purpose Input/Output（通用输入输出），是一种软件运行期间能够动态配置和控制的通用引脚。 所有的 GPIO 在上电后的初始状态都是输入模式，可以通过软件设为上拉或下拉，也可以设置为中断脚，驱动强度都是可编程的，其核心是填充 GPIO bank 的方法和参数，并调用 gpiochip_add 注册到内核中。

AIO-3576Q 开发板为了方便用户开发使用，引出了GPIO口供用户调试和开发，其对应引脚如下

本文以 GPIO0_B4 , GPIO0_B5 这两个 GPIO 口为例写一份简单操作 GPIO 口的驱动，在 SDK 的路径为 kernel/drivers/gpio/gpio-firefly.c,以下就以该驱动为例介绍 GPIO 的操作。

4.2. GPIO引脚计算

iCore-3576Q 有 5 组 GPIO bank：GPIO0~GPIO4，每组又以 A0~A7, B0~B7, C0~C7, D0~D7 作为编号区分，常用以下公式计算引脚：

下面演示GPIO0_B4 pin脚计算方法：

bank = 0;      //GPIO0_B4 => 0, bank ∈ [0,4]

group = 1;      //GPIO0_B1 => 1, group ∈ {(A=0), (B=1), (C=2), (D=3)}

X = 4;       //GPIO0_B4 => 4, X ∈ [0,7]

number = group * 8 X = 1 * 8 4 = 12

pin = bank*32 number= 0 * 32 12 = 12;

GPIO0_B4 对应的设备树属性描述为:<&gpio0 12 GPIO_ACTIVE_HIGH>,由kernel/include/dt-bindings/pinctrl/rockchip.h的宏定义可知，也可以将GPIO0_B4描述为<&gpio0 RK_PB4 GPIO_ACTIVE_HIGH>。

当GPIO0_B4 脚没有被其它外设复用时, 我们可以通过export导出该引脚去使用

4.3. 输入输出

首先在 DTS 文件中增加驱动的资源描述：

这里定义了一个脚作为一般的输出输入口：

GPIO_ACTIVE_HIGH 表示高电平有效，如果想要低电平有效，可以改为：GPIO_ACTIVE_LOW，这个属性将被驱动所读取。

然后在 probe 函数中对 DTS 所添加的资源进行解析，代码如下：

of_get_named_gpio_flags 从设备树中读取 firefly-gpio 和 firefly-irq-gpio 的 GPIO 配置编号和标志，gpio_is_valid 判断该 GPIO 编号是否有效，gpio_request 则申请占用该 GPIO。如果初始化过程出错，需要调用 gpio_free 来释放之前申请过且成功的 GPIO 。在驱动中调用 gpio_direction_output 就可以设置输出高还是低电平，这里默认输出从 DTS 获取得到的有效电平 GPIO_ACTIVE_HIGH，即为高电平，如果驱动正常工作，可以用万用表测得对应的引脚应该为高电平。实际中如果要读出 GPIO，需要先设置成输入模式，然后再读取值：

下面是常用的 GPIO API 定义：

4.4. 中断

在 Firefly 的例子程序中还包含了一个中断引脚，GPIO 口的中断使用与 GPIO 的输入输出类似，首先在 DTS 文件中增加驱动的资源描述：

IRQ_TYPE_EDGE_RISING 表示中断由上升沿触发，当该引脚接收到上升沿信号时可以触发中断函数。 这里还可以配置成如下：

然后在 probe 函数中对 DTS 所添加的资源进行解析，再做中断的注册申请，代码如下：

调用 gpio_to_irq 把 GPIO 的 PIN 值转换为相应的 IRQ 值，调用 gpio_request 申请占用该 IO 口，调用 request_irq 申请中断，如果失败要调用 free_irq 释放，该函数中 gpio_info-firefly_irq 是要申请的硬件中断号，firefly_gpio_irq 是中断函数，gpio_info->firefly_irq_mode 是中断处理的属性，firefly-gpio 是设备驱动程序名称，gpio_info 是该设备的 device 结构，在注册共享中断时会用到。

4.5. 复用

该案例仅供参考，最终以实际硬件接口为准
GPIO 口除了通用输入输出、中断功能外，还可能有其它复用功能，以GPIO0_C1为例，就有如下几个功能：

查看 /d/pinctrl/pinctrl-rockchip-pinctrl/pinmux-pins，查看各个引脚的作用，如果发现GPIO0_C1被复用为I2c，则在dts中关闭它

Note: 此处 GPIO0_C1 仅作示例，实际使用中不推荐如此修改

上面介绍了在DTS上修改，那在运行时又如何切换功能呢？下面以 I2C0_M1 为例作简单的介绍，详细介绍可以参考RKDocs/common/PIN-Ctrl/Rockchip-Developer-Guide-Linux-Pin-Ctrl-CN.pdf。

查规格表可知，I2C0_SCL_M1 与 I2C0_SDA_M1 的功能定义如下：

在 kernel/arch/arm64/boot/dts/rockchip/rk3576.dtsi 里有：

跟复用控制相关的是 pinctrl- 开头的属性：

• pinctrl-names 定义了状态名称列表： default (i2c 功能) 和 gpio 两种状态。

• pinctrl-0 定义了状态 0 (即 default）时需要设置的 pinctrl: &i2c0m0_xfer

• pinctrl-1 定义了状态 1 (即 gpio)时需要设置的 pinctrl: &i2c0m1_gpio

这些 pinctrl 在 kernel/arch/arm64/boot/dts/rockchip/rk3576.dtsi 中这样定义：

在kernel/arch/arm64/boot/dts/rockchip/rk3576-pinctrl.dtsi中有i2c0的定义

RK_FUNC_GPIO 的定义在 kernel/include/dt-bindings/pinctrl/rockchip.h ，此处简写作0：

知道了上面关于i2c0的定义后，在 kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-demo.dtsi 中为i2c7节点添加gpio的资源

i2c驱动注册流程如下：

pinctrl_select_state是选择pinctrl的函数,它用来选择我们dts中设置的pinctrl。

4.6. 调试方法

4.7. FAQs

5.1. 简介

RK3576 有 10 个片上 I2C 控制器，但不是全都能使用，有些复用成了其他功能。

AIO-3576Q开发板上通过排针引出了 1 个 I2C6

用户空间可以使用 i2c-tools 的相关命令读写 I2C 设备。

如果是内核空间配置 I2C 设备，可分为两大步骤：

• 定义和注册 I2C 设备

• 定义和注册 I2C 驱动

下面以配置 GSL3680 为例。

5.2. 定义和注册 I2C 设备

在注册 I2C 设备时，需要结构体 i2c_client 来描述 I2C 设备。然而在标准 Linux 中，用户只需要提供相应的 I2C 设备信息，Linux 就会根据所提供的信息构造 i2c_client 结构体。

用户所提供的 I2C 设备信息以节点的形式写到 DTS 文件中，如下所示：

5.3. 定义和注册 I2C 驱动

5.4. FAQs

6.1. 前言

AIO-3576Q开发板上有两个LED灯，如下表所示：

可通过使用 LED 设备子系统或者直接操作 GPIO 控制该 LED。

6.2. 以设备的方式控制 LED

标准的 Linux 专门为 LED 设备定义了 LED 子系统。 在 AIO-3576Q开发板中的LED 均以设备的形式被定义。用户可以通过 /sys/class/leds/ 目录控制LED。

开发板上的 LED 的默认状态为：

• Yellow: 系统上电时打开状态

• Green: 用户自定义状态

用户可以通过 echo 命令向其 brightness 属性输入命令控制每一个 LED，比如：

6.3. 使用 trigger 方式控制 LED

Trigger 包含多种方式可以控制 LED，这里就用两个例子来说明。

• Simple trigger LED

• Complex trigger LED

更详细的说明请参考 leds-class.txt 。

首先我们需要知道定义多少个 LED，同时对应的 LED 的属性是什么。

在 kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-aio-3576q.dtsi 文件中定义 LED 节点，可以用 pwm 控制也可以用 gpio 控制，类似这样：

注意：compatible 的值要跟 drivers/leds/leds-gpio.c 中的 .compatible 的值要保持一致。

7.1. 简介

AIO-3576Q开发板采用 TT8563RH 作为RTC(Real Time Clock)，TT8563RH 是一款低功耗CMOS实时时钟/日历芯片,它提供一个可编程的时钟输出,一个中断 输出和一个掉电检测器,所有的地址和数据都通过I2C总线接口串行传递。

• 可计时基于 32.768kHz 晶体的秒,分,小时,星期,天,月和年

• 宽工作电压范围:1.0~5.5V

• 低休眠电流:典型值为 0.25μA(VDD =3.0V, TA =25°C)

• 内部集成振荡电容

• 漏极开路中断引脚

AIO-3576Q 存在电容给RTC供电，可以在短时间内保证RTC运行。

7.2. RTC驱动

DTS配置参考: kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-aio-3576q.dtsi

驱动参考：kernel/drivers/rtc/rtc-hym8563.c

7.3. 接口使用

Linux 提供了三种用户空间调用接口。在 AIO-3576Q开发板中对应的路径为：

• SYSFS接口：/sys/class/rtc/rtc0/

• PROCFS接口： /proc/driver/rtc

• IOCTL接口： /dev/rtc0

7.4. FAQs

8.1. 简介

iCore-3576Q 开发板上有 1 个 M.2 接口。

可以软件配置成 M.2 SATA3.1 接口，支持 SATA 协议的 SSD 使用，也可以软件配置成 M.2 PCIe2.1 接口，支持 NVMe 协议的 SSD 使用。

默认软件配置成 M.2 SATA3.1 接口, 支持 SATA 协议的 SSD 使用。

8.2. 软件配置

一般根据原理图在 DTS 中选择正确的控制器节点和 PHY 节点使能，并关闭与其复用的控制器节点就可以。

在 kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-aio-3576q.dts 以及 kernel/arch/arm64/boot/dts/rockchip/rk3576-firefly-aio-3576q.dtsi中有如下配置：

sata0：sata0 控制器节点

pcie0：pcie0 控制器节点

默认配置成SATA3.1，如果需要配置成 PCIe2.1，需做如下修改，二者只能使能其一

8.3. 挂载

8.4. 读写测速

SATA3.0 的传输速率理论上达到 6.0 Gbps，可以参考如下命令进行读写速度测试：

• dd

• fio

9.1. SPI 简介

SPI 是一种高速的，全双工，同步串行通信接口，用于连接微控制器、传感器、存储设备等。 AIO-3576Q 开发板提供了 SPI 接口，具体位置如下图：

9.2. SPI 工作方式

SPI 以主从方式工作，这种模式通常有一个主设备和一个或多个从设备，需要至少 4 根线，分别是：

• CPOL：表示时钟信号的初始电平的状态，0为低电平，1为高电平。

• CPHA：表示在哪个时钟沿采样，0为第一个时钟沿采样，1为第二个时钟沿采样。

SPI 的四种工作模式波形图如下：

9.3. 接口使用

Linux 提供了一个功能有限的 SPI 用户接口，如果不需要用到 IRQ 或者其他内核驱动接口，可以考虑使用接口 spidev 编写用户层程序控制 SPI 设备。在 AIO-3576Q开发板中对应的路径为： /dev/spidev1.0

spidev 对应的驱动代码：kernel-5.10/drivers/spi/spidev.c

内核 config 需要选上 SPI_SPIDEV：

spidev的详细使用说明请参考文档kernel-5.10/Documentation/spi/spidev.rst

9.4. FAQs

10.1. 硬件

iCore-3576Q 使用了 UART10 做 RS485，在系统中对应 /dev/ttyS10 设备；UART8 做 RS232，在系统中对应 /dev/ttyS8 设备。排针引出一个普通 UART，在系统中对应 /dev/ttyS5 设备。

接口图如下：

10.2. RS485 节点使用

11.1. 简介

看门狗（watchdog）实际是一个定时器，启动之后会开始计时。系统或者软件需要在规定时间内与看门狗通信（俗称喂狗）重置计时，如此反复下去，以此来确定系统和软件正常运行。

如果规定时间内没有喂狗，看门狗超时，说明系统或应用陷入循环、卡死，此时看门狗会发出复位信号让主控复位，脱离卡死。

本章节主要介绍 AIO-3576Q 开发板看门狗的使用。

11.2. DTS配置

AIO-3576Q的 watchdog 的 DTS 节点在 kernel/arch/arm64/boot/dts/rockchip/rk3576.dtsi 文件中定义，如下所示：

11.3. 使用

watchdog 默认是关闭的，需按上述说明在 DTS 文件中打开相关节点方能使用。

watchdog 的驱动文件为 kernel-5.10/drivers/watchdog/dw_wdt.c。下面介绍两种方法来使用 watchdog：

内部看门狗的设备名称为/dev/watchdog，用户可通过 echo 命令来控制该设备

也可以通过程序来控制看门狗，通过Android.mk编译生成可执行文件，在机器启动后，push到上面运行，demo代码如下：

demo说明：

1、内部看门狗在使用 open 函数打开后会立刻开始计时。

2、关于超时时间：用户可以用 ioctl 来设置超时时间和获取超时时间。当用户没有设置超时时间时，驱动会应用默认请求的超时时间为 30 s。需要说明的是驱动最终设置的超时时间并不一定是应用层传输的时间或者驱动一开始设置的默认时间。驱动函数里有一个超时时间的列表，该列表中存放了 16 个超时时间（前 9 个是 0）。驱动会在超时时间列表中找到一个合适的时间作为最终 watchdog 设置的超时时间。

以下为超时时间的详细列表：

参考文档：SDK/RKDocs(linux 为 docs)/common/watchdog

11.4. 外部看门狗

AIO-3576Q 还有 1 个外部看门狗，对应 /dev/wdt_crl

使用方法：

1.1. RKLLM 介绍

RKLLM SDK可以帮助用户快速将大语言模型部署到AIO-3576Q上。 SDK下载

1.2. RKLLM-Toolkit 安装

RKLLM-Toolkit目前只适用于Linux PC，建议使用Ubuntu20.04(x64)。因为系统中可能同时有多个版本的 Python 环境，建议使用 miniforge3 管理 Python 环境。

1.3. 大语言模型部署例程

RKLLM已支持的大模型如下

(RKLLM-Toolkit-1.1.4) root@ea5d57ca8e66:/rkllm/rknn-llm/examples/DeepSeek-R1-Distill-Qwen-1.5B_Demo/export# python3 export_rkllm.py 
INFO: rkllm-toolkit version: 1.1.4
WARNING: Cuda device not available! switch to cpu device!
The argument `trust_remote_code` is to be used with Auto classes. It has no effect here and is ignored.
Downloading data files: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 15307.68it/s]
Extracting data files: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:00<00:00, 2377.72it/s]
Generating train split: 21 examples [00:00, 3327.05 examples/s]
Optimizing model: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 28/28 [21:16<00:00, 45.59s/it]
Building model: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 399/399 [00:07<00:00, 52.78it/s]
WARNING: The bos token has two ids: 151646 and 151643, please ensure that the bos token ids in config.json and tokenizer_config.json are consistent!
INFO: The token_id of bos is set to 151646
INFO: The token_id of eos is set to 151643
INFO: The token_id of pad is set to 151643
Converting model: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 339/339 [00:00<00:00, 2494507.12it/s]
INFO: Exporting the model, please wait ....
[=================================================>] 597/597 (100%)
INFO: Model has been saved to ./DeepSeek-R1-Distill-Qwen-1.5B_W8A8_RK3588.rkllm!

1.4. 其他

更多demo和api使用请参考RKLLM SDK例程和文档。

1.5. FAQs

Q1：转换模型失败？

A1：检查 PC 可用运行内存，参数量越大的模型转换或者运行时所需的内存越大，可以尝试增大 swapfile 或者使用大内存的 PC。

2.1. RKNN 模型

RKNN 是 Rockchip NPU 平台使用的模型类型，以.rknn后缀结尾的模型文件。用户可以通过RKNN SDK提供的工具将自主研发的算法模型转换成 RKNN 模型

RKNN 模型可以直接运行在 RK3576 平台上，在rknpu2/examples中有例子，根据README.md编译生成 Android 或 Linux Demo（需要交叉编译环境）。也可以直接下载编译好的 Demo。

在 AIO-3576Q 上运行yolov5 demo如下:

# Platform 为芯片平台，如RK3576，RK3588, RK3566_RK3568等
:/ # cd /data/rknn_yolov5_demo_Android  (Linux 系统使用 rknn_yolov5_demo_Linux 即可)
:/data/rknn_yolov5_demo_Android # chmod 777 rknn_yolov5_demo
:/data/rknn_yolov5_demo_Android # export LD_LIBRARY_PATH=./lib
:/data/rknn_yolov5_demo_Android # ./rknn_yolov5_demo model/Platform/yolov5s-640-640.rknn ./model/bus.jpg resize ./out.jpg
post process config: box_conf_threshold = 0.25, nms_threshold = 0.45
Loading mode...
sdk version: 2.3.0 (c949ad889d@2024-11-07T11:35:33) driver version: 0.9.3
model input num: 1, output num: 3
  index=0, name=images, n_dims=4, dims=[1, 640, 640, 3], n_elems=1228800, size=1228800, w_stride = 640, size_with_stride=1228800, fmt=NHWC, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
  index=0, name=output0, n_dims=4, dims=[1, 255, 80, 80], n_elems=1632000, size=1632000, w_stride = 0, size_with_stride=1638400, fmt=NCHW, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
  index=1, name=286, n_dims=4, dims=[1, 255, 40, 40], n_elems=408000, size=408000, w_stride = 0, size_with_stride=409600, fmt=NCHW, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
  index=2, name=288, n_dims=4, dims=[1, 255, 20, 20], n_elems=102000, size=102000, w_stride = 0, size_with_stride=122880, fmt=NCHW, type=INT8, qnt_type=AFFINE, zp=-128, scale=0.003922
model is NHWC input fmt
model input height=640, width=640, channel=3
Read ./model/bus.jpg ...
img width = 640, img height = 640
once run use 67.055000 ms
loadLabelName ./model/coco_80_labels_list.txt
person @ (209 243 286 510) 0.879723
person @ (479 238 560 526) 0.870588
person @ (109 238 231 534) 0.839831
bus @ (91 129 555 464) 0.692042
person @ (79 353 121 517) 0.300961
save detect result to ./out.jpg
loop count = 10 , average run  59.530100 ms

2.2. 非 RKNN 模型

对于 Caffe、TensorFlow 等其他模型，想要在 RK3576 平台运行，需要先进行模型转换。可以使用 RKNN-Toolkit2 工具将模型转换成 RKNN 格式。

2.3. RKNN-Toolkit2工具

2.4. 详细开发文档

AIO-3576Q NPU 及 Toolkit 详细使用方法请参考RKNN SDK下《Rockchip_RKNPU_User_Guide_RKNN_API_*.pdf》、《Rockchip_User_Guide_RKNN_Toolkit2_*.pdf》文档。