ジョジョの奇妙な PEFT LoRA ファインチューニング - 究極生命体カーズとは? -

大規模言語モデルをファインチューニングして、究極の大規模言語モデルにするのが本日のミッション。究極の大規模言語モデルで解きたい問題は、

```python
question = "究極生命体カーズとは？"
```

# 環境設定



```python
# パッケージのインストール
!pip install -q bitsandbytes datasets accelerate loralib
!pip install -q git+https://github.com/huggingface/transformers.git@main git+https://github.com/huggingface/peft.git
```


```python
import torch

torch.cuda.empty_cache()
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
```

# base model をそのまま使う


```python
model_name = "cyberagent/open-calm-large"
```

ベースになる事前学習済みモデルとトークナイザーを読み込む。


```python
# モデルの読み込み
import os

os.environ["CUDA_VISIBLE_DEVICES"] = "0"
import bitsandbytes as bnb
import torch
import torch.nn as nn
from transformers import AutoConfig, AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    #load_in_8bit=True,
    device_map="auto",
    #torch_dtype=torch.float16,
)

tokenizer = AutoTokenizer.from_pretrained(model_name)
```

    2023-08-29 01:31:20.625774: I tensorflow/core/util/port.cc:110] oneDNN custom operations are on. You may see slightly different numerical results due to floating-point round-off errors from different computation orders. To turn them off, set the environment variable `TF_ENABLE_ONEDNN_OPTS=0`.
    2023-08-29 01:31:20.669403: I tensorflow/core/platform/cpu_feature_guard.cc:182] This TensorFlow binary is optimized to use available CPU instructions in performance-critical operations.
    To enable the following instructions: AVX2 AVX512F AVX512_VNNI FMA, in other operations, rebuild TensorFlow with the appropriate compiler flags.
    2023-08-29 01:31:21.535199: W tensorflow/compiler/tf2tensorrt/utils/py_utils.cc:38] TF-TRT Warning: Could not find TensorRT


「究極生命体カーズとは?」という問いをインプットにする。

```python
inputs = tokenizer(question, return_tensors="pt").to(model.device)
```

準備はできた。ではいよいよ、問いに答える文章を１０個生成するッ！


```python
for _ in range(10):
    with torch.no_grad():
        tokens = model.generate(
            **inputs,
            max_new_tokens=256,
            do_sample=True,
            temperature=0.9,
            top_p=0.75,
            top_k=40,
            num_beams=10,
            repetition_penalty=5.0,
            pad_token_id=tokenizer.pad_token_id,
        )
    output = tokenizer.decode(tokens[0], skip_special_tokens=True)
    print(output)
    print()
```

    究極生命体カーズとは?
    【ネタバレ注意】劇場版「Fate/stay night [Heaven’s Feel]」III.spring song 感想(前編)
    
    究極生命体カーズとは?
    【ネタバレ】映画『アベンジャーズ/インフィニティ・ウォー』のあらすじと感想!MCU(マーベル・シネマティック・ユニバース)シリーズの完結編
    
    究極生命体カーズとは?
    【tdr0361】東京ディズニーリゾートのCMには現役の学生キャストも出演していた!
    【tdr0314】超低額宿泊許可制度・特例第一種(優先)指定制度って何?
    
    究極生命体カーズとは?
    【ネタバレ】映画『ファンタスティック・ビーストと黒い魔法使いの誕生』感想(あらすじ&評価)
    
    究極生命体カーズとは?
    【tdr0351】ジャングル・クルーズに登場するリサルガって何者?
    
    究極生命体カーズとは?
    【tdr0601】東京ディズニーリゾートのCMには○○の表示がない?!
    
    究極生命体カーズとは?
    【動画あり】若々しく歳を重ねたいなら筋トレを!パーソナルトレーナーが徹底解説
    
    究極生命体カーズとは?
    【ネタバレ】『恋んトス』男性新メンバーの有力候補は誰!? 第1話レビュー
    
    究極生命体カーズとは?
    【ネタバレ】映画『スパイダーマン:ファー・フロム・ホーム』感想(レビュー)
    
    究極生命体カーズとは?
    【ネタバレ】『恋んトス』男性新メンバーのプロフィール解禁!気になる相手には“亜麻色の髪”で触れようとする!?
    

し...質問に答えてねえエェェーーーッ！！

「答えよう」という「姿勢」すらねえエェェーーーッ！！

# ファインチューニング用のデータセット

ということで、この「答えようという姿勢すらねェ」言語モデルをファインチューニングするッ！ 訓練に用いるのはこのQ&Aデータセット！


```python
dataset_name = "kunishou/databricks-dolly-15k-ja"
```


```python
import transformers
from datasets import load_dataset

data = load_dataset(dataset_name)
```


```python
data = data.map(lambda samples: tokenizer(samples["output"]), batched=True)
```


    Map:   0%|          | 0/15015 [00:00<?, ? examples/s]


# PEFTを用いたLoRAファインチューニング

では、ここから huggingface （ハギング・フェイス）にある PEFT というライブラリでLoRAファインチューニングを行う！


```python
for param in model.parameters():
    param.requires_grad = False  # モデルをフリーズ
    if param.ndim == 1:
        # 安定のためにレイヤーノルムをfp32にキャスト
        param.data = param.data.to(torch.float32)

model.gradient_checkpointing_enable()
model.enable_input_require_grads()


class CastOutputToFloat(nn.Sequential):
    def forward(self, x):
        return super().forward(x).to(torch.float32)


model.lm_head = CastOutputToFloat(model.embed_out)
```


```python
def print_trainable_parameters(model):
    """
    モデル内の学習可能なパラメータ数を出力
    """
    trainable_params = 0
    all_param = 0
    for _, param in model.named_parameters():
        all_param += param.numel()
        if param.requires_grad:
            trainable_params += param.numel()
    print(
        f"trainable params: {trainable_params} || all params: {all_param} || trainable%: {100 * trainable_params / all_param}"
    )


from peft import LoraConfig, get_peft_model

config = LoraConfig(
    r=16,
    lora_alpha=32,
    # target_modules=["q_proj", "v_proj"],
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM",
)

model = get_peft_model(model, config)
print_trainable_parameters(model)
```

    trainable params: 2359296 || all params: 842357760 || trainable%: 0.28008242008716105


訓練開始ッ！

```python
trainer = transformers.Trainer(
    model=model,
    train_dataset=data["train"],
    args=transformers.TrainingArguments(
        per_device_train_batch_size=4,
        gradient_accumulation_steps=4,
        warmup_steps=100,
        max_steps=200,
        learning_rate=2e-4,
        fp16=True,
        logging_steps=1,
        output_dir="outputs",
    ),
    data_collator=transformers.DataCollatorForLanguageModeling(tokenizer, mlm=False),
)
model.config.use_cache = False  # 警告を黙らせます。 推論のために再度有効にしてください。
trainer.train()
```

    You're using a GPTNeoXTokenizerFast tokenizer. Please note that with a fast tokenizer, using the `__call__` method is faster than using a method to encode the text followed by a call to the `pad` method to get a padded encoding.




    <div>

      <progress value='200' max='200' style='width:300px; height:20px; vertical-align: middle;'></progress>
      [200/200 02:24, Epoch 0/1]
    </div>
    <table border="1" class="dataframe">
  <thead>
 <tr style="text-align: left;">
      <th>Step</th>
      <th>Training Loss</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <td>1</td>
      <td>3.763700</td>
    </tr>
    <tr>
      <td>2</td>
      <td>3.280300</td>
    </tr>
    <tr>
      <td>3</td>
      <td>3.034100</td>
    </tr>
    <tr>
      <td>4</td>
      <td>3.464900</td>
    </tr>
    <tr>
      <td>5</td>
      <td>3.155600</td>
    </tr>
    <tr>
      <td>6</td>
      <td>3.547800</td>
    </tr>
    <tr>
      <td>7</td>
      <td>3.444300</td>
    </tr>
    <tr>
      <td>8</td>
      <td>3.649600</td>
    </tr>
    <tr>
      <td>9</td>
      <td>3.376100</td>
    </tr>
    <tr>
      <td>10</td>
      <td>3.108800</td>
    </tr>
    <tr>
      <td>11</td>
      <td>3.226000</td>
    </tr>
    <tr>
      <td>12</td>
      <td>4.007900</td>
    </tr>
    <tr>
      <td>13</td>
      <td>3.232700</td>
    </tr>
    <tr>
      <td>14</td>
      <td>3.412200</td>
    </tr>
    <tr>
      <td>15</td>
      <td>3.515400</td>
    </tr>
    <tr>
      <td>16</td>
      <td>3.246000</td>
    </tr>
    <tr>
      <td>17</td>
      <td>2.965100</td>
    </tr>
    <tr>
      <td>18</td>
      <td>3.515900</td>
    </tr>
    <tr>
      <td>19</td>
      <td>3.429800</td>
    </tr>
    <tr>
      <td>20</td>
      <td>4.067200</td>
    </tr>
    <tr>
      <td>21</td>
      <td>3.390800</td>
    </tr>
    <tr>
      <td>22</td>
      <td>3.307400</td>
    </tr>
    <tr>
      <td>23</td>
      <td>3.568200</td>
    </tr>
    <tr>
      <td>24</td>
      <td>3.423400</td>
    </tr>
    <tr>
      <td>25</td>
      <td>3.318000</td>
    </tr>
    <tr>
      <td>26</td>
      <td>3.470600</td>
    </tr>
    <tr>
      <td>27</td>
      <td>3.366900</td>
    </tr>
    <tr>
      <td>28</td>
      <td>3.443400</td>
    </tr>
    <tr>
      <td>29</td>
      <td>3.222800</td>
    </tr>
    <tr>
      <td>30</td>
      <td>3.555100</td>
    </tr>
    <tr>
      <td>31</td>
      <td>3.087100</td>
    </tr>
    <tr>
      <td>32</td>
      <td>3.550800</td>
    </tr>
    <tr>
      <td>33</td>
      <td>3.526700</td>
    </tr>
    <tr>
      <td>34</td>
      <td>3.326400</td>
    </tr>
    <tr>
      <td>35</td>
      <td>3.025200</td>
    </tr>
    <tr>
      <td>36</td>
      <td>2.831000</td>
    </tr>
    <tr>
      <td>37</td>
      <td>3.794000</td>
    </tr>
    <tr>
      <td>38</td>
      <td>3.287500</td>
    </tr>
    <tr>
      <td>39</td>
      <td>3.234800</td>
    </tr>
    <tr>
      <td>40</td>
      <td>3.658000</td>
    </tr>
    <tr>
      <td>41</td>
      <td>3.281300</td>
    </tr>
    <tr>
      <td>42</td>
      <td>3.419900</td>
    </tr>
    <tr>
      <td>43</td>
      <td>3.246300</td>
    </tr>
    <tr>
      <td>44</td>
      <td>3.517200</td>
    </tr>
    <tr>
      <td>45</td>
      <td>2.909100</td>
    </tr>
    <tr>
      <td>46</td>
      <td>3.263900</td>
    </tr>
    <tr>
      <td>47</td>
      <td>3.497800</td>
    </tr>
    <tr>
      <td>48</td>
      <td>3.555900</td>
    </tr>
    <tr>
      <td>49</td>
      <td>3.374100</td>
    </tr>
    <tr>
      <td>50</td>
      <td>3.539200</td>
    </tr>
    <tr>
      <td>51</td>
      <td>3.449700</td>
    </tr>
    <tr>
      <td>52</td>
      <td>3.543500</td>
    </tr>
    <tr>
      <td>53</td>
      <td>3.152900</td>
    </tr>
    <tr>
      <td>54</td>
      <td>3.586600</td>
    </tr>
    <tr>
      <td>55</td>
      <td>3.439200</td>
    </tr>
    <tr>
      <td>56</td>
      <td>3.301100</td>
    </tr>
    <tr>
      <td>57</td>
      <td>3.088100</td>
    </tr>
    <tr>
      <td>58</td>
      <td>3.308500</td>
    </tr>
    <tr>
      <td>59</td>
      <td>3.389100</td>
    </tr>
    <tr>
      <td>60</td>
      <td>3.305100</td>
    </tr>
    <tr>
      <td>61</td>
      <td>3.106700</td>
    </tr>
    <tr>
      <td>62</td>
      <td>3.375400</td>
    </tr>
    <tr>
      <td>63</td>
      <td>3.938300</td>
    </tr>
    <tr>
      <td>64</td>
      <td>3.520700</td>
    </tr>
    <tr>
      <td>65</td>
      <td>3.049000</td>
    </tr>
    <tr>
      <td>66</td>
      <td>3.375400</td>
    </tr>
    <tr>
      <td>67</td>
      <td>3.082500</td>
    </tr>
    <tr>
      <td>68</td>
      <td>3.312400</td>
    </tr>
    <tr>
      <td>69</td>
      <td>3.538900</td>
    </tr>
    <tr>
      <td>70</td>
      <td>3.448900</td>
    </tr>
    <tr>
      <td>71</td>
      <td>2.978700</td>
    </tr>
    <tr>
      <td>72</td>
      <td>3.486800</td>
    </tr>
    <tr>
      <td>73</td>
      <td>3.217400</td>
    </tr>
    <tr>
      <td>74</td>
      <td>3.372400</td>
    </tr>
    <tr>
      <td>75</td>
      <td>3.369900</td>
    </tr>
    <tr>
      <td>76</td>
      <td>2.880600</td>
    </tr>
    <tr>
      <td>77</td>
      <td>3.129500</td>
    </tr>
    <tr>
      <td>78</td>
      <td>3.104000</td>
    </tr>
    <tr>
      <td>79</td>
      <td>3.033800</td>
    </tr>
    <tr>
      <td>80</td>
      <td>3.569300</td>
    </tr>
    <tr>
      <td>81</td>
      <td>3.164900</td>
    </tr>
    <tr>
      <td>82</td>
      <td>3.162200</td>
    </tr>
    <tr>
      <td>83</td>
      <td>3.335400</td>
    </tr>
    <tr>
      <td>84</td>
      <td>3.274300</td>
    </tr>
    <tr>
      <td>85</td>
      <td>2.953800</td>
    </tr>
    <tr>
      <td>86</td>
      <td>3.517600</td>
    </tr>
    <tr>
      <td>87</td>
      <td>3.330300</td>
    </tr>
    <tr>
      <td>88</td>
      <td>3.531300</td>
    </tr>
    <tr>
      <td>89</td>
      <td>3.157800</td>
    </tr>
    <tr>
      <td>90</td>
      <td>3.348100</td>
    </tr>
    <tr>
      <td>91</td>
      <td>3.547000</td>
    </tr>
    <tr>
      <td>92</td>
      <td>3.272600</td>
    </tr>
    <tr>
      <td>93</td>
      <td>3.443300</td>
    </tr>
    <tr>
      <td>94</td>
      <td>3.435500</td>
    </tr>
    <tr>
      <td>95</td>
      <td>3.304300</td>
    </tr>
    <tr>
      <td>96</td>
      <td>2.908200</td>
    </tr>
    <tr>
      <td>97</td>
      <td>3.194600</td>
    </tr>
    <tr>
      <td>98</td>
      <td>3.406600</td>
    </tr>
    <tr>
      <td>99</td>
      <td>3.129400</td>
    </tr>
    <tr>
      <td>100</td>
      <td>3.324200</td>
    </tr>
    <tr>
      <td>101</td>
      <td>3.486200</td>
    </tr>
    <tr>
      <td>102</td>
      <td>2.799900</td>
    </tr>
    <tr>
      <td>103</td>
      <td>3.501100</td>
    </tr>
    <tr>
      <td>104</td>
      <td>3.342600</td>
    </tr>
    <tr>
      <td>105</td>
      <td>3.288700</td>
    </tr>
    <tr>
      <td>106</td>
      <td>3.568300</td>
    </tr>
    <tr>
      <td>107</td>
      <td>3.368600</td>
    </tr>
    <tr>
      <td>108</td>
      <td>3.341900</td>
    </tr>
    <tr>
      <td>109</td>
      <td>3.275300</td>
    </tr>
    <tr>
      <td>110</td>
      <td>2.866300</td>
    </tr>
    <tr>
      <td>111</td>
      <td>3.409100</td>
    </tr>
    <tr>
      <td>112</td>
      <td>3.190300</td>
    </tr>
    <tr>
      <td>113</td>
      <td>3.484400</td>
    </tr>
    <tr>
      <td>114</td>
      <td>3.159600</td>
    </tr>
    <tr>
      <td>115</td>
      <td>3.373800</td>
    </tr>
    <tr>
      <td>116</td>
      <td>3.200800</td>
    </tr>
    <tr>
      <td>117</td>
      <td>3.215100</td>
    </tr>
    <tr>
      <td>118</td>
      <td>3.040700</td>
    </tr>
    <tr>
      <td>119</td>
      <td>3.364300</td>
    </tr>
    <tr>
      <td>120</td>
      <td>3.553900</td>
    </tr>
    <tr>
      <td>121</td>
      <td>3.037000</td>
    </tr>
    <tr>
      <td>122</td>
      <td>3.467100</td>
    </tr>
    <tr>
      <td>123</td>
      <td>3.318700</td>
    </tr>
    <tr>
      <td>124</td>
      <td>3.043100</td>
    </tr>
    <tr>
      <td>125</td>
      <td>3.283600</td>
    </tr>
    <tr>
      <td>126</td>
      <td>3.771500</td>
    </tr>
    <tr>
      <td>127</td>
      <td>3.209900</td>
    </tr>
    <tr>
      <td>128</td>
      <td>3.498100</td>
    </tr>
    <tr>
      <td>129</td>
      <td>3.322300</td>
    </tr>
    <tr>
      <td>130</td>
      <td>2.963200</td>
    </tr>
    <tr>
      <td>131</td>
      <td>3.181600</td>
    </tr>
    <tr>
      <td>132</td>
      <td>3.170100</td>
    </tr>
    <tr>
      <td>133</td>
      <td>3.613200</td>
    </tr>
    <tr>
      <td>134</td>
      <td>3.184200</td>
    </tr>
    <tr>
      <td>135</td>
      <td>3.044100</td>
    </tr>
    <tr>
      <td>136</td>
      <td>3.339600</td>
    </tr>
    <tr>
      <td>137</td>
      <td>3.098500</td>
    </tr>
    <tr>
      <td>138</td>
      <td>2.887900</td>
    </tr>
    <tr>
      <td>139</td>
      <td>3.397600</td>
    </tr>
    <tr>
      <td>140</td>
      <td>2.750500</td>
    </tr>
    <tr>
      <td>141</td>
      <td>3.353500</td>
    </tr>
    <tr>
      <td>142</td>
      <td>3.304300</td>
    </tr>
    <tr>
      <td>143</td>
      <td>3.008700</td>
    </tr>
    <tr>
      <td>144</td>
      <td>3.128500</td>
    </tr>
    <tr>
      <td>145</td>
      <td>3.456000</td>
    </tr>
    <tr>
      <td>146</td>
      <td>3.111500</td>
    </tr>
    <tr>
      <td>147</td>
      <td>3.265000</td>
    </tr>
    <tr>
      <td>148</td>
      <td>3.170000</td>
    </tr>
    <tr>
      <td>149</td>
      <td>3.490500</td>
    </tr>
    <tr>
      <td>150</td>
      <td>3.173100</td>
    </tr>
    <tr>
      <td>151</td>
      <td>3.485900</td>
    </tr>
    <tr>
      <td>152</td>
      <td>3.114800</td>
    </tr>
    <tr>
      <td>153</td>
      <td>3.145900</td>
    </tr>
    <tr>
      <td>154</td>
      <td>3.405300</td>
    </tr>
    <tr>
      <td>155</td>
      <td>3.305400</td>
    </tr>
    <tr>
      <td>156</td>
      <td>2.818800</td>
    </tr>
    <tr>
      <td>157</td>
      <td>3.155200</td>
    </tr>
    <tr>
      <td>158</td>
      <td>3.188900</td>
    </tr>
    <tr>
      <td>159</td>
      <td>3.327900</td>
    </tr>
    <tr>
      <td>160</td>
      <td>3.385000</td>
    </tr>
    <tr>
      <td>161</td>
      <td>3.285300</td>
    </tr>
    <tr>
      <td>162</td>
      <td>3.161700</td>
    </tr>
    <tr>
      <td>163</td>
      <td>3.008000</td>
    </tr>
    <tr>
      <td>164</td>
      <td>2.968700</td>
    </tr>
    <tr>
      <td>165</td>
      <td>2.921000</td>
    </tr>
    <tr>
      <td>166</td>
      <td>3.233200</td>
    </tr>
    <tr>
      <td>167</td>
      <td>3.522600</td>
    </tr>
    <tr>
      <td>168</td>
      <td>3.256600</td>
    </tr>
    <tr>
      <td>169</td>
      <td>3.195000</td>
    </tr>
    <tr>
      <td>170</td>
      <td>3.651500</td>
    </tr>
    <tr>
      <td>171</td>
      <td>3.254200</td>
    </tr>
    <tr>
      <td>172</td>
      <td>3.303700</td>
    </tr>
    <tr>
      <td>173</td>
      <td>3.153100</td>
    </tr>
    <tr>
      <td>174</td>
      <td>2.899100</td>
    </tr>
    <tr>
      <td>175</td>
      <td>3.081000</td>
    </tr>
    <tr>
      <td>176</td>
      <td>2.918000</td>
    </tr>
    <tr>
      <td>177</td>
      <td>3.282900</td>
    </tr>
    <tr>
      <td>178</td>
      <td>3.352800</td>
    </tr>
    <tr>
      <td>179</td>
      <td>3.427300</td>
    </tr>
    <tr>
      <td>180</td>
      <td>3.413900</td>
    </tr>
    <tr>
      <td>181</td>
      <td>3.114600</td>
    </tr>
    <tr>
      <td>182</td>
      <td>3.120700</td>
    </tr>
    <tr>
      <td>183</td>
      <td>3.117800</td>
    </tr>
    <tr>
      <td>184</td>
      <td>3.139100</td>
    </tr>
    <tr>
      <td>185</td>
      <td>3.014600</td>
    </tr>
    <tr>
      <td>186</td>
      <td>3.097700</td>
    </tr>
    <tr>
      <td>187</td>
      <td>3.391100</td>
    </tr>
    <tr>
      <td>188</td>
      <td>3.188200</td>
    </tr>
    <tr>
      <td>189</td>
      <td>3.418200</td>
    </tr>
    <tr>
      <td>190</td>
      <td>3.257300</td>
    </tr>
    <tr>
      <td>191</td>
      <td>3.208800</td>
    </tr>
    <tr>
      <td>192</td>
      <td>3.226200</td>
    </tr>
    <tr>
      <td>193</td>
      <td>3.090200</td>
    </tr>
    <tr>
      <td>194</td>
      <td>3.116800</td>
    </tr>
    <tr>
      <td>195</td>
      <td>2.832700</td>
    </tr>
    <tr>
      <td>196</td>
      <td>3.350500</td>
    </tr>
    <tr>
      <td>197</td>
      <td>3.221900</td>
    </tr>
    <tr>
      <td>198</td>
      <td>3.577800</td>
    </tr>
    <tr>
      <td>199</td>
      <td>3.098700</td>
    </tr>
    <tr>
      <td>200</td>
      <td>2.987700</td>
    </tr>
  </tbody>
</table><p>


『ハギング・フェイス』ッ！
ディ・モールト ディ・モールト
(非常に 非常に) 良いぞッ！
良く学習してるぞッ！


    TrainOutput(global_step=200, training_loss=3.288494335412979, metrics={'train_runtime': 145.2264, 'train_samples_per_second': 22.035, 'train_steps_per_second': 1.377, 'total_flos': 2511526591881216.0, 'train_loss': 3.288494335412979, 'epoch': 0.21})


学習結果を確認しよう。質問に答える文章を１０個生成するッ！



```python
batch = tokenizer(question, return_tensors="pt").to(device)

for _ in range(10):
    with torch.cuda.amp.autocast():
        output_tokens = model.generate(**batch, max_new_tokens=50)
    
    print("\n\n", tokenizer.decode(output_tokens[0], skip_special_tokens=True))
```

      warnings.warn(
    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.
    /usr/local/lib/python3.10/site-packages/torch/utils/checkpoint.py:31: UserWarning: None of the inputs have requires_grad=True. Gradients will be None
      warnings.warn("None of the inputs have requires_grad=True. Gradients will be None")
    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    主人公のレーシングカーに乗って、レースをするという、
    
    とてもシンプルなストーリーです。
    
    しかし、このキャラクターには、
    
    様々な秘密が隠されています。
    
    


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    映画「カーズ」は、アメリカで大ヒットした映画です。
    
    カーズの主人公は、主人公であるライトニング・マックィーンです。
    
    マックィーンは、カーズの主人公


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、アメリカの漫画家、スティーブ・マックイーンによって描かれた、自動車を題材とした漫画です。
    
    主人公のカーズは、自動車を運転する能力を持ち、自動車を運転する能力で、自動車を運転する能力で、自動車を


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    映画「カーズ」は、アメリカで大ヒットした映画です。
    
    カーズの主人公は、主人公であるレーサーのライトニング・マックィーンです。
    
    マックィーンは


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    映画「カーズ」は、車好きの少年カーと、レーサーとしての才能を持つ少女レーサーのカーとの友情を描いた作品です。
    
    カーとレーサーの2人は


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    映画「カーズ」は、1989年に公開された映画です。
    
    この映画は、車好きの人なら誰でも知っている、車好きにはたまらない映画です。
    
    この映画は、車


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    映画「カーズ」は、1989年に公開された映画です。
    
    この映画は、アメリカで大ヒットし、続編も製作されました。
    
    続編は、カーズ2と3です


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    主人公のレーシングカーに乗って、レースをするという、
    
    とてもシンプルなストーリーです。
    
    しかし、このキャラクターには、
    
    様々な秘密が隠されています。
    
    


    Setting `pad_token_id` to `eos_token_id`:0 for open-end generation.


    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    映画「カーズ」は、車好きの少年カーと、レーサーとしての才能を持つ少女レーサーのカーとの友情を描いた作品です。
    
    カーとレーサーの2人は
    
    
     究極生命体カーズとは?
    カーズとは、映画「カーズ」に登場するキャラクターです。
    
    映画「カーズ」は、アメリカで大ヒットした映画です。
    
    カーズの主人公は、主人公であるレーサーのライトニング・マックィーンです。
    
    マックィーンは


良お～～～～しよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよしよし、

ファインチューニングして「質問に答える」ことができるようになったぞッ！答えが正しいかどうかは別として！

# 謝辞

[Google Colab で PEFT による大規模言語モデルのファインチューニングを試す](https://note.com/npaka/n/n932b4c0a2230)をめちゃくちゃ参考にしました。ありがとうございます！