fix: sync training/train_sft.py

training/train_sft.py

@@ -2,16 +2,16 @@
 train_sft.py — TeenEmo SFT（教師あり微調整）
 
 フロー:
-    1. LFM2-1.2B-Base を HF Hub からロード
+    1. LFM2.5-1.2B-Base を HF Hub からロード
     2. LoRA アダプタを設定
     3. SFT データセットを HF Hub から取得・変換
     4. SFTTrainer で学習
-    5. LoRA アダプタを保存 + HF Hub へ push
-    6. GGUF 形式で保存 + HF Hub へ push
+    5. SFT 完了 → HF Hub にチェックポイントを push（STEP 1/3）
+    ※ GGUF保存は DPO 完了後に train_dpo.py が行う
 
 実行例:
     python train_sft.py
-    BASE_MODEL=liquidai/LFM2-1.2B SFT_EPOCHS=2 python train_sft.py
+    SFT_EPOCHS=2 SFT_BATCH_SIZE=16 python train_sft.py
 """
 
 from __future__ import annotations
@@ -22,7 +22,6 @@ import traceback
 from datetime import datetime, timezone
 from pathlib import Path
 
-# ── 環境変数チェック ──────────────────────────────────────────
 if not os.environ.get("HF_TOKEN"):
     print("[ERROR] HF_TOKEN が未設定です。export HF_TOKEN='hf_...' を実行してください。")
     sys.exit(1)
@@ -30,7 +29,6 @@ if not os.environ.get("HF_TOKEN"):
 import torch
 from unsloth import FastLanguageModel, is_bfloat16_supported
 from trl import SFTTrainer, SFTConfig
-from datasets import Dataset
 
 import train_config as cfg
 from train_utils import (
@@ -48,7 +46,6 @@ def main() -> None:
     logger = setup_logger("sft", str(log_file))
     logger.info(f"=== TeenEmo SFT 開始 [{start_time.isoformat()}] ===")
 
-    # ── GPU 情報 ──────────────────────────────────────────────
     log_gpu_info(logger)
     log_training_config(logger, "SFT")
 
@@ -58,8 +55,8 @@ def main() -> None:
         model, tokenizer = FastLanguageModel.from_pretrained(
             model_name=cfg.BASE_MODEL,
             max_seq_length=cfg.MAX_SEQ_LENGTH,
-            dtype=None,       # auto: A100 は bfloat16
-            load_in_4bit=False,  # LFM2 は bf16 LoRA 推奨
+            dtype=None,          # A100 → bfloat16 自動選択
+            load_in_4bit=False,  # LFM2.5: bf16 LoRA 推奨
             token=cfg.HF_TOKEN or None,
         )
         logger.info("モデルロード完了 ✅")
@@ -96,8 +93,6 @@ def main() -> None:
     logger.info("データセット準備中...")
     try:
         raw_ds = load_sft_dataset(logger)
-
-        # チャットテンプレート適用
         logger.info("チャットテンプレート適用中...")
         ds = raw_ds.map(
             lambda x: apply_chat_template_sft(x, tokenizer, logger),
@@ -105,19 +100,16 @@ def main() -> None:
             remove_columns=raw_ds.column_names,
             desc="チャットテンプレート適用",
         )
-        # 空テキスト除去
         before = len(ds)
         ds = ds.filter(lambda x: len(x["text"]) > 0)
-        logger.info(f"  テキスト変換後: {before} → {len(ds)} 件")
-
-        # サンプル確認
-        logger.debug(f"  変換後サンプル[0]:\n{ds[0]['text'][:300]}")
+        logger.info(f"  変換後: {before} → {len(ds)} 件")
+        logger.debug(f"  サンプル[0]:\n{ds[0]['text'][:300]}")
     except Exception as e:
         logger.error(f"データセット準備エラー: {e}")
         logger.debug(traceback.format_exc())
         raise
 
-    # ── SFT 学習 ──────────────────────────────────────────────
+    # ── SFTTrainer 初期化 ─────────────────────────────────────
     logger.info("SFTTrainer 初期化中...")
     try:
         trainer = SFTTrainer(
@@ -154,21 +146,21 @@ def main() -> None:
         raise
 
     # ── 学習実行 ──────────────────────────────────────────────
-    logger.info("学習開始...")
+    logger.info("SFT 学習開始...")
     try:
         train_result = trainer.train()
-        logger.info(f"学習完了 ✅")
-        logger.info(f"  train_loss:     {train_result.training_loss:.4f}")
-        logger.info(f"  train_runtime:  {train_result.metrics.get('train_runtime', 0):.0f}s")
-        logger.info(f"  train_samples/s:{train_result.metrics.get('train_samples_per_second', 0):.2f}")
+        logger.info("SFT 学習完了 ✅")
+        logger.info(f"  train_loss:      {train_result.training_loss:.4f}")
+        logger.info(f"  train_runtime:   {train_result.metrics.get('train_runtime', 0):.0f}s")
+        logger.info(f"  samples/sec:     {train_result.metrics.get('train_samples_per_second', 0):.2f}")
     except Exception as e:
-        logger.error(f"学習エラー: {e}")
+        logger.error(f"SFT 学習エラー: {e}")
         logger.debug(traceback.format_exc())
         raise
 
-    # ── LoRA アダプタ保存 ──────────────────────────────────────
+    # ── LoRA アダプタ保存 ─────────────────────────────────────
     lora_dir = Path(cfg.SFT_OUTPUT_DIR) / "lora"
-    logger.info(f"LoRA アダプタ保存中: {lora_dir}")
+    logger.info(f"LoRA アダプタ保存: {lora_dir}")
     try:
         model.save_pretrained(str(lora_dir))
         tokenizer.save_pretrained(str(lora_dir))
@@ -178,45 +170,21 @@ def main() -> None:
         logger.debug(traceback.format_exc())
         raise
 
-    # ── HF Hub への push ──────────────────────────────────────
+    # ── [STEP 1/3] HF Hub に SFT チェックポイント push ───────
     if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
-        logger.info(f"HF Hub へ push 中: {cfg.SFT_HF_REPO}")
+        logger.info(f"[STEP 1/3] HF Hub に SFT チェックポイント push: {cfg.SFT_HF_REPO}")
         try:
             model.push_to_hub(cfg.SFT_HF_REPO, token=cfg.HF_TOKEN)
             tokenizer.push_to_hub(cfg.SFT_HF_REPO, token=cfg.HF_TOKEN)
-            logger.info(f"HF Hub push 完了 ✅: https://huggingface.co/{cfg.SFT_HF_REPO}")
-        except Exception as e:
-            logger.error(f"HF Hub push エラー: {e}")
-            logger.debug(traceback.format_exc())
-
-    # ── GGUF 保存 ──────────────────────────────────────────────
-    if cfg.SAVE_GGUF:
-        logger.info(f"GGUF 保存中 ({cfg.GGUF_QUANTIZATION})...")
-        try:
-            gguf_dir = Path(cfg.SFT_OUTPUT_DIR) / "gguf"
-            gguf_dir.mkdir(parents=True, exist_ok=True)
-            if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
-                model.push_to_hub_gguf(
-                    cfg.GGUF_HF_REPO,
-                    tokenizer,
-                    quantization_method=cfg.GGUF_QUANTIZATION,
-                    token=cfg.HF_TOKEN,
-                )
-                logger.info(f"GGUF HF push 完了 ✅: https://huggingface.co/{cfg.GGUF_HF_REPO}")
-            else:
-                model.save_pretrained_gguf(
-                    str(gguf_dir),
-                    tokenizer,
-                    quantization_method=cfg.GGUF_QUANTIZATION,
-                )
-                logger.info(f"GGUF ローカル保存完了 ✅: {gguf_dir}")
+            logger.info(f"  ✅ https://huggingface.co/{cfg.SFT_HF_REPO}")
         except Exception as e:
-            logger.error(f"GGUF 保存エラー: {e}")
+            logger.error(f"SFT push エラー: {e}")
             logger.debug(traceback.format_exc())
 
     elapsed = (datetime.now(timezone.utc) - start_time).total_seconds()
-    logger.info(f"=== SFT 完了 (所要時間: {elapsed/60:.1f}分) ===")
-    logger.info(f"ログファイル: {log_file}")
+    logger.info(f"=== SFT 完了 ({elapsed/60:.1f}分) ===")
+    logger.info(f"次のステップ: python train_dpo.py")
+    logger.info(f"ログ: {log_file}")
 
 
 if __name__ == "__main__":