internlm-chat-7b-mnn

internlm-chat-7b导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-31].mnn

phi2-mnn-int4

phi-2导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-31].mnn

qwen-1.8b-mnn-int8

Qwen-1_8B-Chat导出onnx转换得到的int8量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-23].mnn

qwen-1.8b-mnn

Qwen-1_8B-Chat导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-23].mnn

qwen-1.8b-apk

基于mnn-llm与qwen-1.8b-int4模型构建的完全离线的安卓聊天程序。

chatglm3-6b-mnn

chatglm3-6b导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-27].mnn

llama2-7b-chat-mnn

Llama-2-7b-chat-ms导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-31].mnn

qwen-7b-chat-mnn

Qwen-7B-Chat导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-31].mnn

codegeex2-6b-mnn

codegeex2-6b导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-27].mnn

chatglm2-6b-mnn

chatglm2-6b导出onnx转换得到的int4量化版本mnn模型。

模型列表：

• tokenizer.txt
• embedding.mnn
• lm.mnn
• block_[0-27].mnn