使用lora权重推理 #42

Open

opened

使用lora训练出来的文件，在通过API推理时，通过什么参数来选择这个训练的LORA文件来使用trt进行推理呢？

Metadata

Assignees

No one assigned

Labels

No labels

No labels

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests