← 返回模型目录
- QCS6490
- 需适配
- QCS8550
- 49.1msFP16
- IQ9
- 需适配
- IQ8
- 需适配
机房真机实测，全部精度 ›
运行效果
真机输出
Where is the capital of France?
机房真机 QCS8550 · FP16 · 处理耗时 57.9 ms
板卡实测
真机处理时延的中位数。多阶段模型计入各阶段处理，生成模型的耗时受输入和输出长度影响。
部署指南
- 1
在工作流中跑通
用样例或自己的输入在机房的QCS8550 上运行，确认结果和速度。
- 2
导出工程
在工作流右上角选择「导出」，下载工程包。模型与样例按 sha256 锁定，前后处理与网站运行时一致。
- 3
在板卡上安装运行库
把工程拷到QCS8550（ARM64、Python 3.10 的 AidLux 环境，AidLux ≥ 2.0），在工程目录下载并校验已验证的配套运行库。
python3 install-sdk.py - 4
只需要模型文件？
各板卡的构建也发布在 Hugging Face ↗，按芯片下载，文件与工程包中的完全一致。
hf download APLUX-Agora/opus-mt-zh-en --include "targets/QCS8550/*" --local-dir ./resources - 5
运行
结果写入 outputs/，并打印每块积木的耗时。工程通过官方 AidLite 接口加载模型，代码完整随包提供。
python3 app/pipeline.py --sdk-root .sdk --input 你的文件
规格
- 任务
- 其他
- 来源
- Model Farm
- 已知限制
- 固定语言方向的 Marian 翻译模型。每次一段文本，最多 2000 字符、256 个输入 token（含结束标记），最多生成 255 token；达到生成长度上限会明确标记截断。使用原始双向 SentencePiece 和共享模型词表；已验证简短句子，不承诺专业领域翻译准确率。
- 许可证
- —
- 版本
- 1.0.0