因项目需要,把PyTorch模型转为onnx。 Huggingface的模型无法直接转为onnx(仅有部分支持),如果是huggingface的模型,需要先转成PyTorch,详见文章《Huggingface模型转PyTorch模型》。 onnx是一种通用的模型架构,详细介绍可参考官网。 转换代码: from transformers import AutoTokenizer from transformers import AutoModel from transformers import LlamaToken…