上一篇记录了在 Ubuntu 24.04 ARM64 主机上编译 ImmortalWrt 时遇到的 Go bootstrap 问题。

后来又尝试编译 FriendlyARM NanoPi R2S 的固件,结果又碰到了一个 ARM64 编译主机特有的问题。

R2S 使用 Rockchip RK3328,ImmortalWrt 中选择:

Target System: Rockchip
Subtarget: ARMv8
Target Profile: FriendlyARM NanoPi R2S

正常配置完成以后开始编译,但是在生成 Rockchip 启动相关文件的时候失败了。

最后发现问题出在 rkbin

rkbin

Rockchip 平台构建固件的时候会使用到:

rkbin

项目地址:

https://github.com/rockchip-linux/rkbin

这个仓库里面除了 DDR、BL31 等二进制文件以外,还自带了一些编译过程中需要执行的工具。

问题是这些工具并不是根据当前 Build Host 编译出来的,而是 Rockchip 直接提供的预编译程序。

其中部分工具是:

x86_64

而我的编译主机是:

Ubuntu 24.04 ARM64

所以编译过程中执行这些工具时会失败。

类似:

cannot execute binary file: Exec format error

loaderimage 为例,可以先找到它的位置:

find ./ -name 'loaderimage'

在我的编译目录中会看到:

./staging_dir/target-aarch64_generic_musl/image/loaderimage
./build_dir/target-aarch64_generic_musl/rkbin-rk3328/rkbin-2025.06.13~74213af1/tools/loaderimage

其中 build_dir 下面这个就是 rkbin 包中自带的工具。

因为 rkbin 的版本以后可能会变化,所以后面直接用通配符来检查:

file ./build_dir/target-aarch64_generic_musl/rkbin-rk3328/*/tools/loaderimage

可以看到类似:

ELF 64-bit LSB executable, x86-64

这里需要区分一下 Target 和 Build Host。

虽然 R2S 本身也是 ARM64:

Build Host: ARM64
Target:     ARM64

但是编译过程中使用的 rkbin 工具却是:

rkbin Tool: x86_64

所以真正的问题不是生成的 R2S 固件架构,而是 ARM64 编译主机无法直接执行 x86_64 的 Host Tool。

使用 QEMU

解决方法是使用 QEMU user mode 来运行这些 x86_64 程序。

安装:

sudo apt update
sudo apt install qemu-user-static

上一篇安装编译环境的时候已经安装过:

qemu-utils

不过 qemu-utils 和这里不是一回事。

这里需要的是:

qemu-user-static

安装完成后可以确认:

which qemu-x86_64-static

正常可以看到:

/usr/bin/qemu-x86_64-static

不过只安装这个还不够。

QEMU_LD_PREFIX

最开始我安装完 qemu-user-static 以后,编译仍然有问题。

最后还需要设置:

export QEMU_LD_PREFIX=/usr/x86_64-linux-gnu

原因是 rkbin 里面的一些 x86_64 工具并不是完全静态链接的程序。

它们运行时还需要 x86_64 的动态链接器以及对应的运行库。

但是当前系统本身是 ARM64,所以系统默认的 /lib/usr/lib 中主要是 ARM64 的库。

需要通过:

export QEMU_LD_PREFIX=/usr/x86_64-linux-gnu

告诉 QEMU 去哪里寻找 x86_64 的运行环境。

例如 x86_64 ELF 通常需要:

/lib64/ld-linux-x86-64.so.2

设置 QEMU_LD_PREFIX 以后,QEMU 会去类似下面的位置寻找:

/usr/x86_64-linux-gnu/lib64/ld-linux-x86-64.so.2

上一篇为了在 ARM64 主机上编译 ImmortalWrt,已经安装过:

sudo apt install gcc-x86-64-linux-gnu g++-x86-64-linux-gnu

所以:

/usr/x86_64-linux-gnu

这套 x86_64 cross sysroot 已经存在,可以直接使用。

最终需要的就是:

sudo apt install qemu-user-static

export QEMU_LD_PREFIX=/usr/x86_64-linux-gnu

如果以后经常在这台机器上编译,也可以直接加入:

~/.bashrc

例如:

echo 'export QEMU_LD_PREFIX=/usr/x86_64-linux-gnu' >> ~/.bashrc
source ~/.bashrc

binfmt

Ubuntu 安装 qemu-user-static 后,可以通过 Linux 的 binfmt_misc 自动处理其它架构的 ELF。

检查:

ls /proc/sys/fs/binfmt_misc/

可以看看有没有:

qemu-x86_64

也可以:

cat /proc/sys/fs/binfmt_misc/qemu-x86_64

如果已经注册,那么编译系统执行 rkbin 中的 x86_64 工具时,不需要专门改成:

qemu-x86_64-static ./loaderimage

系统会自动调用 QEMU。

而:

export QEMU_LD_PREFIX=/usr/x86_64-linux-gnu

则负责让 QEMU 找到对应的 x86_64 loader 和运行库。

简单来说就是:

ARM64 Ubuntu
    |
    v
binfmt_misc
    |
    v
qemu-x86_64
    |
    | QEMU_LD_PREFIX
    v
/usr/x86_64-linux-gnu
    |
    v
rkbin x86_64 Tool

这样对于 ImmortalWrt 自己的 Makefile 来说基本是透明的,不需要修改 rkbin,也不需要修改编译脚本。

验证

这里主要检查 build_dir 里面 rkbin 自带的原始工具:

file ./build_dir/target-aarch64_generic_musl/rkbin-rk3328/*/tools/loaderimage

确认它是:

x86-64

然后直接运行测试:

./build_dir/target-aarch64_generic_musl/rkbin-rk3328/*/tools/loaderimage

如果不再出现:

Exec format error

而是能够正常输出程序自己的参数或者错误提示,说明 QEMU 已经可以正常执行这个 x86_64 程序了。

staging_dir 里面也会有一个:

./staging_dir/target-aarch64_generic_musl/image/loaderimage

这是构建过程中放到 staging area 中的版本,这里主要确认 build_dir 中 rkbin 包自带的工具能够正常运行即可。

之后重新编译:

make V=s -j1

确认能够通过之前失败的位置以后,再恢复正常并行编译:

make V=s -j$(nproc)

之后 R2S 固件就可以正常生成了。

鉴于目前OpenWrt官方已经更新到25.12版本了。而lede为了兼容性还是基于较旧的版本,并使用iptables等旧的核心模块。
做为x86_64软路由的用户,决定迁移到更活跃的ImmortalWrt分支上。紧跟官方步调。
使用的是ImmortalWrt的官方源:

https://github.com/immortalwrt/immortalwrt

大体步骤与文档中描述的基本一致,但是因为是在arm64的主机上。因此有几个点与x86机器编译不同,这里记录一下。

检出代码官方推荐基于release tag,这样的代码虽然不是最新,但是更为稳定。
比如基于最新的v25.12.1tag:

git clone -b v25.12.1 --single-branch --filter=blob:none https://github.com/immortalwrt/immortalwrt

编译的系统是Ubuntu 24.04 aarch64。
首先安装编译环境的包就与x86不太一样。具体是:

sudo apt update -y
sudo apt full-upgrade -y
sudo apt install -y ack antlr3 asciidoc autoconf automake autopoint binutils bison build-essential \
  bzip2 ccache clang cmake cpio curl device-tree-compiler ecj fastjar flex gawk gettext gcc-x86-64-linux-gnu \
  g++-x86-64-linux-gnu git golang gnutls-dev gperf haveged help2man intltool libelf-dev \
  libglib2.0-dev libgmp3-dev libltdl-dev libmpc-dev libmpfr-dev libncurses-dev libpython3-dev \
  libreadline-dev libssl-dev libtool libyaml-dev libz-dev lld llvm lrzsz mkisofs msmtp nano \
  ninja-build p7zip p7zip-full patch pkgconf python3 python3-pip python3-ply python3-docutils \
  python3-pyelftools qemu-utils re2c rsync scons squashfs-tools subversion swig texinfo uglifyjs \
  upx-ucl unzip vim wget xmlto xxd zlib1g-dev zstd

因为本人需要集成加强版geodata文件,要添加一个本地feeds:

src-link custom /home/ubuntu/openwrt/feeds

自用的feeds配置总结为:

src-link custom /home/ubuntu/openwrt/feeds
src-git lucky https://github.com/gdy666/luci-app-lucky.git
src-git passwall_packages https://github.com/Openwrt-Passwall/openwrt-passwall-packages.git;main
src-git passwall_luci https://github.com/Openwrt-Passwall/openwrt-passwall.git;main
src-git passwall2_luci https://github.com/Openwrt-Passwall/openwrt-passwall2.git;main

更新 feeds 什么的跟官方文档一样。

./scripts/feeds update -a
./scripts/feeds install -a

接下来,重点来了。必须多做一件与x86系统不同的配置,否则会报这个错误。

Makefile:366: * go-bootstrap cannot be installed on linux/arm64. Stop.

看报错信息,是编译过程无法安装go到arm64系统上。所以需要手动安装golang,并把路径设置到编译配置中。
在配置编译参数时:

make menuconfig

要加入以下设置:

Languages > Go > Configuration > External bootstrap Go root directory

按上面的环境安装后,go应该默认在 /usr/lib/go 目录下。将 /usr/lib/go 写入这项配置。

(/usr/lib/go) External bootstrap Go root directory

选好其它需要的配置后,开始编译:

make download -j8
make V=s -j1

慢慢等待编译完成吧。编译完成后输出路径:bin/targets

需要更新代码再次编译的话:

cd immortalwrt
git pull
./scripts/feeds update -a
./scripts/feeds install -a
make defconfig
make download -j8
make V=s -j$(nproc)

如果需要重新配置:

rm -rf ./tmp && rm -rf .config
make menuconfig
make V=s -j$(nproc)

地址:
https://winger.alundra.uk/dq7tools/

《勇者斗恶龙7》重制版中有一个全道具收集的成就。
想要达成就必须玩其中一个叫“好运对对碰”的小游戏。因为其中有很多限定道具。
但是这个小游戏非常坐牢。高难度下,即使录屏了也要反复倒带确认卡牌的位置。
所以搞了这个辅助工具,至少不用反复倒带……

使用chromium的工具链中的gn来生成的静态库,默认为thin archive。不适合用来发布为第三方可用的静态库。

在static_library()这个配置节点下,添加以下两个配置:

configs -= [ "//build/config/compiler:thin_archive" ]
complete_static_lib = true

这样生成的静态库,就是一个完整的full archive。可以发布第三方编译链接。

必须与上一个脚本配套使用!

import os
import pickle
import sys

if __name__ == "__main__":
    if len(sys.argv) < 2:
        print(f"Usage: {os.path.basename(__file__)} <human_patch.dat>")
        exit(0)

    data_list = []
    with open(sys.argv[1], "rb") as data_file:
        data_list = pickle.load(data_file)

    print("Start review auto patch failed files!")
    for work_file, rej_file in data_list:
        print(work_file)
        os.system("code %s" % work_file)
        os.system("view %s" % rej_file)