Why
The PoC fine-tunes a small model with LoRA on a style dataset and contrasts it with RAG, making the 'style vs facts' boundary the deliverable.
How it works
Not yet built.
Workspace Index › Dev Notes › Fine-tuning and LoRA — teaching a model style without retraining it
#191PoC
Fine-tuning and LoRA — teaching a model style without retraining it
LoRA fine-tunes a model by training a small number of added weights instead of all of them, cheap enough to run on one GPU — best for form and format, rarely the right tool for new facts.
파인튜닝과 LoRA — 재학습 없이 모델에 스타일을 가르치기
LoRA는 모든 가중치가 아니라 소수의 추가 가중치를 학습해 모델을 파인튜닝하며, GPU 한 대로 돌릴 만큼 쌉니다 — 형식과 문체에 최적이고, 새 사실에는 좀처럼 맞는 도구가 아닙니다.
왜
이 PoC는 스타일 데이터셋에 LoRA로 작은 모델을 파인튜닝하고 RAG와 대조하여, '문체 대 사실' 경계를 산출물로 삼습니다.
동작 방식
아직 만들지 않음.