大模型调优（finetuning）不仅仅是参数的优化，同样会受到非功能性约束的挑战，例如：计算效率约束：训练过程应该快速而廉价。内存计算高效：不应该需要大量的GPU来微调LLM。易于部署：不应该为每个要解决的任务部署LLM的多个副本。在一定程度上，LoRA（Low-Rank Adaptation）可以较好地面对这些挑战。使用LoRA，可以降低微调专用LLM的门槛，同时实现与端到端微调相当的性能，能...