-
Notifications
You must be signed in to change notification settings - Fork 1.9k
Model Reconstruction
Yiming Cui edited this page Apr 15, 2023
·
4 revisions
为了将LoRA模型与原版LLaMA进行合并,目前提供了两种方式:
-
在线转换:适合Google Colab用户,可利用notebook进行在线转换并量化模型
-
手动转换:适合离线方式转换,生成不同格式的模型,以便进行量化或进一步精调
- 模型合并与转换
- 模型量化、推理、部署
- 效果与评测
- 训练细节
- 常见问题
- Model Reconstruction
- Model Quantization, Inference and Deployment
- System Performance
- Training Details
- FAQ