GLOSSARY

LoRA

고급자동화

이 페이지는 자동화 문맥에서 자주 쓰이는 LoRA의 뜻과 쓰임을 고급 난이도 기준으로 정리한 AI 용어사전 항목입니다. 정의와 맥락, 관련 용어 8개, 관련 글 1개 순서로 묶었으니, 아래 설명을 먼저 읽고 연결된 개념과 글까지 이어서 보면 이해가 빨라집니다.

LoRA(Low-Rank Adaptation)는 사전학습 모델의 기본 가중치를 고정하고, 선택한 층에 작은 저랭크 업데이트 행렬을 더해 새 작업에 맞추는 파라미터 효율 파인튜닝 기법입니다. 전체 모델을 다시 학습하지 않고도 분류, 요약, 지시 이행처럼 목표가 분명한 작업에 적응시킬 수 있어, 같은 기반 모델 위에 목적별 어댑터를 따로 관리할 때 특히 유용합니다.

고정 가중치에 작은 업데이트를 더합니다

LoRA는 원래 가중치 행렬 W를 그대로 두고, 학습할 변화량을 두 작은 행렬 A와 B의 곱으로 표현합니다. 추론 때는 W와 BA를 함께 적용하므로, 학습 과정에서는 A와 B만 갱신해도 모델 출력이 달라집니다. LoRA 원 논문은 이 저랭크 분해로 대규모 모델의 적응을 다룹니다.

저랭크라는 말은 업데이트 행렬의 중간 차원인 랭크 r을 원래 행렬 차원보다 작게 정한다는 뜻입니다. r이 작으면 학습할 파라미터와 어댑터 파일이 줄지만, 필요한 변화를 표현하지 못할 수 있습니다. r을 크게 하면 표현력은 늘어도 메모리, 학습 시간, 저장 공간이 함께 늘어납니다. 그래서 적당한 r은 모델 크기만 보고 정할 수 없으며, 데이터와 과제의 평가 결과로 정해야 합니다.

예를 들어 고객 문의를 짧은 한국어 답변으로 분류하는 모델을 만든다고 해보겠습니다. 기본 모델은 문장 이해 능력을 이미 갖고 있고, LoRA는 "환불", "배송 지연", "계정 문제" 같은 회사의 분류 기준과 답변 형식을 배우는 역할을 맡습니다. 학습된 어댑터만 바꾸면 같은 기본 모델을 다른 업무용으로 전환할 수 있습니다.

전체 파인튜닝과 QLoRA는 다릅니다

전체 파인튜닝은 기본 모델의 전체 가중치를 직접 갱신하는 반면, LoRA는 기본 가중치를 동결하고 선택한 모듈의 업데이트만 학습합니다. Hugging Face PEFT의 LoRA 안내도 원래 가중치는 고정하고, 두 작은 업데이트 행렬을 학습한다고 설명합니다. 다만 학습할 파라미터가 적어도 활성값, 배치 크기, 시퀀스 길이, 옵티마이저 상태는 메모리를 사용하므로 어떤 장비에서나 저비용이라고 일반화할 수는 없습니다.

QLoRA는 4비트로 양자화해 저장한 기본 모델 위에 LoRA 어댑터를 학습하는 조합입니다. Transformers의 양자화 문서는 4비트 기본 모델 학습에 NF4와 계산 데이터 형식을 설정하는 방법을 안내합니다. 양자화는 기본 가중치 메모리를 낮추지만, LoRA의 랭크 선택이나 데이터 품질 검증을 대신하지 않습니다.

적용 위치도 결과에 영향을 줍니다. 트랜스포머에서는 어텐션의 선형 투영층이나 피드포워드 선형층을 대상으로 고를 수 있습니다. PEFT에서 target_modules는 업데이트를 넣을 모듈을, lora_alpha는 업데이트의 스케일을 정합니다. 모든 층에 같은 설정이 최선이라는 보장은 없으므로, 대상 모듈과 랭크를 바꾼 실험을 같은 검증 세트에서 비교해야 합니다.

ℹ️학습 메모리에는 중간 계산값도 포함됩니다

LoRA는 갱신하는 가중치 수를 줄입니다. 하지만 긴 입력, 큰 배치, 높은 랭크, 저장해야 하는 활성값과 옵티마이저 상태는 여전히 학습 메모리와 시간을 키울 수 있습니다.

데이터와 평가가 한계를 정합니다

LoRA는 기반 모델이 이미 가진 일반 능력을 특정 과제에 맞게 조절하는 데 적합합니다. 반대로 새 지식을 정확히 넣어야 하는데 학습 데이터가 적거나 서로 모순되면, 어댑터가 그 지식을 안정적으로 배우지 못할 수 있습니다. 문체 예시만 많이 넣으면 사실 정확성까지 높아진다고 볼 수도 없습니다. 데이터의 출처, 최신성, 정답 기준, 중복 여부를 먼저 점검해야 합니다.

과도한 적응도 주의할 대상입니다. 좁은 형식의 예시만 반복해 학습하면 같은 형식에는 잘 맞아도 조금 다른 표현에서 성능이 떨어질 수 있습니다. 기본 모델과 LoRA 모델을 같은 안전성, 사실성, 작업 정확도 평가에 함께 넣어 차이를 확인해야 합니다. 평가 질문에는 실제 사용자 표현, 드문 예외, 금지해야 할 응답도 포함하는 편이 좋습니다.

여러 어댑터를 같은 기반 모델에 붙일 수 있다는 장점도 조건이 있습니다. 어댑터는 기반 모델의 이름뿐 아니라 정확한 버전, 토크나이저, 대상 모듈, 랭크와 스케일 설정에 의존합니다. 호환 조건이 다른 어댑터를 섞거나 가중치를 임의로 합치면 기대한 동작이 나오지 않을 수 있습니다. 배포할 때는 기반 모델 리비전과 학습 데이터 범위, 평가 결과를 함께 기록해야 다시 검증할 수 있습니다.

RELATED TERMS