使用QLoRA对Llama 2进行微调的详细笔记

发布时间 2023-09-21 11:26:01作者: deephub

使用QLoRA对Llama 2进行微调是我们常用的一个方法,但是在微调时会遇到各种各样的问题,所以在本文中,将尝试以详细注释的方式给出一些常见问题的答案。这些问题是特定于代码的,大多数注释都是针对所涉及的开源库以及所使用的方法和类的问题。

 

https://avoid.overfit.cn/post/903a50f5e8ec469f890a1e8854d64716