Skip to content

arm64 支持 — Raspberry Pi 4B

HayaKoe 不仅在 x86_64 上,在 aarch64 (ARM64) Linux 上也能用相同代码运行

为什么可行

因为具备两个条件。

因此预计在 Apple Silicon (macOS) 上也能运行,但由于没有测试设备未能确认。

已确认在 Raspberry Pi 4B 上可以运行。

Raspberry Pi 4B 实测

在 Raspberry Pi 4B (Linux 6.8, aarch64, ONNX Runtime 1.23.2) 上的测量结果。

文本推理耗时倍速
3.169 s0.3x
13.042 s0.3x
35.119 s0.3x

约为实时的 1/3 水平,不足以用于对话场景,但能在 ARM 开发板上运行本身就有意义。

实测脚本和复现方法请参考 基准测试 — 树莓派 4B