基于lp正则化的大语言模型LoRA自动秩分配方法

低秩适应（LoRA）已成为大语言模型中广泛应用的参数高效微调方法，但如何确定各适应矩阵的秩仍是核心挑战。针对现有自适应秩分配方法多依赖人工设计重要性评分的问题，该研究提出了lp-LoRA方法。该方法基于信号处理中经典的稀疏诱导技术，利用0

原标题：Automatic Rank Allocation for Low-Rank Adaptation in Large Language Models via lp Regularization