用gpu 运行的sense_voice，提示Invalid handle. Cannot load symbol cublasLtGetVersion

[jujunchen]

我想让sherpa在gpu上跑，按照这个装的
pip install sherpa-onnx==1.12.13+cuda12.cudnn9 -f https://k2-fsa.github.io/sherpa/onnx/cuda-cn.html

sherpa_onnx.OfflineRecognizer.from_sense_voice(
model=self.model_path,
tokens=self.tokens_path,
num_threads=5,
sample_rate=16000,
feature_dim=80,
decoding_method="greedy_search",
debug=False,
provider="cuda",
use_itn=True,
hr_rule_fsts=self.replace_fst,
)

能实例化，但是一调用accept_waveform的时候就会报错，并中断主进程

[dosubot]

你遇到的 “Invalid handle. Cannot load symbol cublasLtGetVersion” 报错，基本可以确定是 CUDA/cuBLAS 版本不匹配或缺失导致的。sherpa-onnx 的 GPU 版本对 CUDA 和 cuDNN 的要求非常严格，必须与你安装的 wheel 完全匹配，否则会在调用 GPU 相关函数（如 accept_waveform）时报错或直接崩溃。

建议排查步骤如下：

1. 检查你本机已安装的 CUDA 版本（比如用 nvcc --version 或 nvidia-smi），确保和你安装的 sherpa-onnx==1.12.13+cuda12.cudnn9 wheel 对应（即 CUDA 12.x，cuDNN 9）。
2. 检查 cuDNN 是否正确安装，并且 CUDA 和 cuDNN 的 so/dll 路径已加入 LD_LIBRARY_PATH（Linux）或 PATH（Windows）。
3. 如果你用的是 Windows，只支持 CUDA 11.8，其他版本会直接报错，Linux 则需严格对应 CUDA 12 版本。
4. 建议升级到最新版的 sherpa-onnx CUDA 12 wheel（比如 1.12.17+cuda12.cudnn9），有时新版本会修复兼容性问题。
5. 如果依然崩溃且没有详细报错，可以参考官方文档提到的 issue #2138 进行排查。

官方文档详细说明了 CUDA 版本和环境变量的重要性，建议你严格按照 官方安装说明 配置环境，确保 CUDA、cuDNN、驱动和 wheel 版本完全一致，否则会出现类似的符号找不到或 handle 错误。参考1 参考2

如果还有问题，建议补充你的 CUDA、cuDNN、驱动版本和完整的报错信息，方便进一步定位。

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}   

[jujunchen]

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2025 NVIDIA Corporation
Built on Wed_Jan_15_19:20:09_PST_2025
Cuda compilation tools, release 12.8, V12.8.61
Build cuda_12.8.r12.8/compiler.35404655_0

[dosubot]

你的 CUDA 版本是 12.8，但 sherpa-onnx 官方文档明确说明 x86_64 平台（无论是 Linux 还是 Windows）只支持 CUDA 11.8，其他版本（包括 CUDA 12.8）都不保证能用，容易出现你遇到的 cublasLtGetVersion 报错或崩溃。建议卸载当前 CUDA，安装 CUDA 11.8，并确保 cuDNN 版本匹配，再重新安装 sherpa-onnx 的 GPU 版本 wheel，这样才能保证兼容性和稳定性。如果 GPU 不是必须，也可以直接用 CPU 版本 wheel 运行。参考

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}   

[csukuangfj]

信息有限，没法提供帮助。

建议提供详细复现步骤和详细log