로컬에서 AI로 전용 Gemma를 파인튜닝해보자 (Gemma Trainer)

 

gemma-skills/skills/gemma-trainer at main · google-gemma/gemma-skills

 

Google이 오픈소스 저장소 **google-gemma/gemma-skills**에 **gemma-trainer**라는 AI 에이전트용 스킬을 추가했습니다.

이 도구의 목적은 사용자가 복잡한 학습 설정을 직접 다루지 않아도, AI에게 자연어로 요청해 자신의 컴퓨터에서 Gemma 모델을 미세조정할 수 있게 하는 것입니다.

---

1. Gemma Trainer란?

gemma-trainer는 일반적인 GUI 프로그램이나 새로운 학습 프레임워크가 아닙니다.

구성은 크게 두 가지입니다.

• AI 에이전트가 읽는 학습 지침서인 SKILL.md
• 바로 사용할 수 있는 Python 스크립트 5개

SKILL.md 안에는 다음과 같은 내용이 정리되어 있습니다.

• 어떤 학습 방식을 선택해야 하는지
• 데이터 형식은 어떻게 만들어야 하는지
• LoRA 파라미터를 어떻게 설정해야 하는지
• GPU 메모리 부족을 어떻게 피해야 하는지
• 학습 결과를 어떻게 평가해야 하는지
• 학습한 모델을 모바일용 형식으로 어떻게 변환하는지

즉, AI가 단순히 “미세조정 방법을 알고 있는 상태”가 아니라, 실제 환경에서 어떤 스크립트와 파라미터를 사용해야 하는지 판단할 수 있도록 만든 실행 지침서입니다.

---

2. 사용 방식

사용자는 AI에게 자연어로 요청합니다.

예를 들면 다음과 같습니다.

Gemma 4 E2B 모델을 이 데이터셋으로 미세조정해 줘.

그러면 AI 에이전트가 gemma-trainer 지침을 읽고 다음 작업을 수행합니다.

사용자 요청
→ 데이터 형식 검사
→ 학습 방식 선택
→ LoRA 및 메모리 설정
→ 학습 실행
→ 결과 평가
→ 필요하면 파라미터 수정 후 재학습

별도의 학습 명령어나 복잡한 옵션을 사용자가 모두 기억할 필요가 없다는 것이 핵심입니다.

---

3. 지원하는 세 가지 학습 방식

SFT: 감독 미세조정

정답이 포함된 학습 데이터를 사용해 모델에 새로운 지식이나 작업 방식을 가르치는 방법입니다.

활용 예시는 다음과 같습니다.

• 특정 업종 전문용어 학습
• 회사 내부 문서 기반 질의응답
• 특정 형식으로 답변하도록 학습
• 한국어 교육이나 법률·의료 등 특정 분야 모델 제작

DPO: 선호도 정렬

같은 질문에 대한 좋은 답변과 좋지 않은 답변을 비교해, 원하는 말투나 응답 방식을 학습시키는 방법입니다.

예를 들면 다음과 같습니다.

• 더 간결하게 답하도록 만들기
• 특정 브랜드 말투 적용
• 공격적이거나 불필요한 표현 줄이기
• 사용자가 선호하는 답변 스타일 학습

RM: 보상 모델 학습

여러 답변 중 어떤 답변이 더 좋은지 점수를 매기는 평가 모델을 만드는 방식입니다.

활용 예시는 다음과 같습니다.

• 생성 결과 자동 평가
• 답변 순위 결정
• 강화학습용 보상 점수 계산
• 여러 모델의 결과 비교

---

4. 포함된 Python 스크립트

제공된 설명 기준으로 총 5개의 스크립트가 포함되어 있습니다.

• SFT 학습 스크립트
• DPO 학습 스크립트
• Reward Model 학습 스크립트
• 데이터 형식 검증 스크립트
• 데이터 증류 스크립트

따라서 단순한 설명 문서가 아니라, 실제 학습을 실행할 수 있는 기본 템플릿까지 제공하는 구조입니다.

---

5. Unsloth 기반의 저사양 학습

gemma-trainer는 가능하면 Unsloth를 우선 사용하도록 구성되어 있습니다.

제공된 글에서는 Unsloth 측의 주장으로 다음 성능이 언급됩니다.

• GPU 메모리 사용량 최대 70% 절감
• 학습 속도 최대 2배 향상
• 소비자용 단일 GPU에서도 비교적 큰 모델 미세조정 가능

[Unverified] 8GB VRAM으로 실제 어느 크기의 Gemma 모델까지 안정적으로 학습할 수 있는지는 모델 구조, 양자화 방식, 시퀀스 길이, 배치 크기, LoRA 설정에 따라 크게 달라집니다.

8GB GPU에서는 일반적으로 다음과 같은 절약 설정이 중요합니다.

• 4비트 양자화
• QLoRA
• 작은 배치 크기
• Gradient Accumulation
• Gradient Checkpointing
• 짧은 Context Length
• 낮은 LoRA Rank

---

6. 텍스트뿐 아니라 이미지·오디오도 지원

Gemma 모델의 종류에 따라 다음 형태의 데이터 학습을 지원하는 방향으로 설계되어 있습니다.

• 텍스트
• 이미지
• 오디오

다만 모든 Gemma 모델이 모든 입력 형식을 지원하는 것은 아닙니다.

예를 들어 제공된 사례에서는 사용자가 음성 작업에 맞지 않는 모델을 선택했을 때, AI 에이전트가 모델의 기능 제한을 확인하고 다른 모델을 추천했습니다.

이처럼 스킬 파일에는 모델별 기능 제한과 선택 기준도 포함되어 있어 잘못된 학습 요청을 사전에 확인하는 역할을 합니다.

---

7. 학습한 모델의 활용

학습이 끝난 모델은 서버에서만 사용하는 것이 아니라 경량 형식으로 변환할 수 있습니다.

대표적으로 다음 형식과 환경이 언급됩니다.

• GGUF 변환
• 로컬 PC에서 실행
• LiteRT-LM 기반 모바일 실행
• 스마트폰과 IoT 기기 탑재

따라서 전체 흐름은 다음과 같습니다.

Gemma 모델 선택
→ 자체 데이터 준비
→ 로컬 LoRA 미세조정
→ 평가 및 수정
→ LoRA 병합 또는 양자화
→ GGUF·LiteRT-LM 형식 변환
→ PC·모바일·IoT에서 실행

---

8. 이 도구의 가장 큰 의미

기존에는 Gemma를 미세조정하려면 사용자가 직접 다음 내용을 공부해야 했습니다.

• Transformers
• PEFT
• LoRA와 QLoRA
• TRL
• 데이터 전처리
• GPU 메모리 설정
• 체크포인트 관리
• 평가 방법
• 모델 변환

gemma-trainer는 이런 판단 기준을 AI가 읽을 수 있는 스킬 문서로 표준화했습니다.

즉, 새로운 학습 기술을 만든 것보다는 기존 미세조정 절차와 노하우를 AI 에이전트가 직접 실행할 수 있는 운영 매뉴얼로 만든 것에 가깝습니다.

---

한 문장 요약

Gemma Trainer는 사용자가 자연어로 요청하면 AI 에이전트가 데이터 검사, SFT·DPO·RM 선택, LoRA 설정, 로컬 학습, 평가, 모바일용 모델 변환까지 안내하거나 실행할 수 있도록 만든 Gemma 미세조정용 오픈소스 스킬입니다.