LoRAにおいてlora_upの重みを固定化出来るか？

LoRAはStableDiffusionにおいて少ない重みでオブジェクト学習を行うための手法である。

CustomDiffusionに倣いUnetのある$K,V$重みにおいてLoRAモジュールを計算するとする。
この場合、LoRAは例えば$(768,320)$の全結合重みに対して、LoRAのRank=4とすれば並列に$(768,4)$と$(4,320)$の二種類の全結合重みを付け加える。それぞれの全結合重みをlora_down、lora_upという。
lora_downとlora_upの行列を掛けると$(768,4)×(4,320)=(768,320)$で元の全結合重みの変化差分を低次元の二個の行列で学習する事が出来る。
input_dimは$K,V$重みの場合768(TextEncoderの次元)でそれ以外の場合はoutput_dimと等しい。
output_dimはUnetの層によって異なる。通常は$320,640,1280$のいずれかである
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/4ae92444-bf66-e433-1bde-2b37931145db.png)

さて、自分が考えたのはlora_upの重みをembedding重みで固定し、lora_downのみの重みで学習できないかという事を考えた。この考察の目的はlora_downの重みが768長だからTextual Inversion重みに変換して保持する事が可能なのではないかという仮定を考えた時、seedを固定したらEmbeddingは毎回同じガウス分布を生成するので、**$K,V$重みのみを持つLoRAを任意のTextual Inversion重みに変換できるのでは**と考えた。これはExtended Textual InversionみたいにAttention毎に異なるTextual Inversion重みを取り出すAttnProcessorを設計せねばならないが、まあそれはさておきこの記事内では単に**lora_downの初期重みをゼロ、lora_upにEmbedding重みで固定化した場合、LoRAが学習可能かどうかを確認してみたい。**
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/39e58777-d478-3dfd-1c4a-1c2bdf34aaf2.png)

# LoRAコード
diffuserにおける従来のLoRALinearLayerは以下の通りである。
従来は**lora_downが正規分布、lora_upが初期重みをゼロ**である。
これを**lora_downが初期重みをゼロ、lora_upにEmbedding重みで固定化**としたい。

```python
class LoRALinearLayer(nn.Module):
    def __init__(self, in_features, out_features, rank=4, network_alpha=None):
…
        self.down = nn.Linear(in_features, rank, bias=False)
        self.up = nn.Linear(rank, out_features, bias=False)

        nn.init.normal_(self.down.weight, std=1 / rank)
        nn.init.zeros_(self.up.weight)
…
```

これを変えて以下の様に変更してみる。
embeddings = nn.Embedding(vocab_size, emb_dim)で、lora_upとembeddingは行列の次元が逆なので転置させている。lora_upのrequires_gradは固定化し、lora_downのみゼロから学習させるように変更している。
```python
class LoRALinearLayer(nn.Module):
    def __init__(self, in_features, out_features, rank=4, network_alpha=None):
…
        self.down = nn.Linear(in_features, rank, bias=False)
        self.up = nn.Linear(rank, out_features, bias=False)

        seed = 0
        torch.manual_seed(seed)
        embedding = nn.Embedding(rank, out_features)

        nn.init.zeros_(self.down.weight)
        self.up.weight = nn.Parameter(embedding.weight.T.detach())
        self.up.weight.requires_grad=False
…
```

また、LoRACrossAttnProcessorからto_q_loraとto_out_loraを消し、$K,V$のLoRA重みのみにした。
```python
class LoRACrossAttnProcessor(nn.Module):
    def __init__(self, hidden_size, cross_attention_dim=None, rank=4):
...

        #self.to_q_lora = LoRALinearLayer(hidden_size, hidden_size, rank)
        self.to_k_lora = LoRALinearLayer(cross_attention_dim or hidden_size, hidden_size, rank)
        self.to_v_lora = LoRALinearLayer(cross_attention_dim or hidden_size, hidden_size, rank)
        #self.to_out_lora = LoRALinearLayer(hidden_size, hidden_size, rank)

    def __call__(
        self, attn: CrossAttention, hidden_states, encoder_hidden_states=None, attention_mask=None, scale=1.0
    ):
...

        #query = attn.to_q(hidden_states) + scale * self.to_q_lora(hidden_states)
        query = attn.to_q(hidden_states)
...
        #hidden_states = attn.to_out[0](hidden_states) + scale * self.to_out_lora(hidden_states)
        hidden_states = attn.to_out[0](hidden_states)
```

# 学習結果
学習データ
![1.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/7ad87cca-2308-69be-7364-d3e091b786d0.jpeg)

## ①TI学習のみ
SD1.5モデルを元にnum_vec_per_tokenを変えてTI学習を行った。
diffusers/examples/research_projects/mulit_token_textual_inversion/を少し改造して使用。
具体的はMultiTokenCLIPTokenizerを使わずに学習する。

## ①-1: num_vec_per_token=1, infer_token=1
prompt="A \<cat-toy\>"
![cat-backpack_cat_1_TI_1_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/81189259-e398-5a2a-ad4a-2cec4d8b039d.png)
prompt="A \<cat-toy\> backpack"
![cat-backpack_cat_1_TI_1_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/70ee7862-6aab-41a9-467e-c19175be84fa.png)
## ①-2: num_vec_per_token=2, infer_token=2
prompt="A \<cat-toy\>_0 \<cat-toy\>_1"
![cat-backpack_cat_2_TI_2_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/06598f0a-cd8f-05cd-20a1-ad1f99fbb877.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 backpack"
![cat-backpack_cat_2_TI_2_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/c0e1cca3-961b-3df6-f03c-a00f8b65a1b7.png)
## ①-3: num_vec_per_token=4, infer_token=4
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 \<cat-toy\>_3"
![cat-backpack_cat_4_TI_4_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/b08f7eb1-2e6d-97b2-454a-9ada46204c94.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 \<cat-toy\>_3 backpack"
![cat-backpack_cat_4_TI_4_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/fec06591-be31-9d2b-cee9-9bae6adfafb9.png)
## ①-4: num_vec_per_token=4, infer_token=3
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2"
![cat-backpack_cat_4_TI_3_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/d39bfd45-4c9f-dfd3-8504-3b6e62363c9e.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 backpack"
![cat-backpack_cat_4_TI_3_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/33552554-358a-fe9c-3049-4c8c85b86a77.png)
## ①-5: num_vec_per_token=8, infer_token=8
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 ... \<cat-toy\>_7"
![cat-backpack_cat_8_TI_8_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/cc17df4c-c25f-8e2f-1764-4136e357c2be.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 ... \<cat-toy\>_7 backpack"
![cat-backpack_cat_8_TI_8_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/a90c9b88-e5dd-3915-931d-20531863d343.png)

学習時のnum_vec_per_tokenが多いほど、オブジェクト精度のimageアライメントが上昇するが、代わりにprompt変化性であるtextアライメントが低下する。示した例ではリュックサックになる割合が減る。生成時(inference)において生成promptのTI token長さを減らして調整するとtextアライメントを上昇させることは出来る。

## ②TI学習+従来LoRA
①のTI学習したモデルを元にdiffuserの従来LoRA学習を行う。
diffusers/examples/dreambooth/train_dreambooth_lora.pyを使用。

num_vec_per_token=4の場合の--instance_prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 \<cat-toy\>_3"としている。
通常DreamBoothやLoRAでは学習対象にsksトークンなどの出現頻度の低いレアトークンを使用するが、今回は①で追加したTIトークンを対象にして学習をする。
multitoken TIの場合は作法として(TIトークン)_数字という形式で複数のTIトークンが追加されている。

## ②-1: num_vec_per_token=1, infer_token=1
prompt="A \<cat-toy\>"
![cat-backpack_cat_1_TI_1_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/ebb4d84a-fd5f-a2b6-fbcc-efc9704465eb.png)
prompt="A \<cat-toy\> backpack"
![cat-backpack_cat_1_TI_1_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/a9a97641-934a-77b0-f6d7-852fdc156135.png)
## ②-2: num_vec_per_token=2, infer_token=2
prompt="A \<cat-toy\>_0 \<cat-toy\>_1"
![cat-backpack_cat_2_TI_2_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/12789092-3cf2-dd4a-e38e-22bdb4e00ca4.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 backpack"
![cat-backpack_cat_2_TI_2_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/459dc44e-c965-b980-6387-9aea9e0f3a00.png)
## ②-3: num_vec_per_token=4, infer_token=4
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 \<cat-toy\>_3"
![cat-backpack_cat_4_TI_4_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/900ecd72-755b-c434-8757-e51591df469f.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 \<cat-toy\>_3 backpack"
![cat-backpack_cat_4_TI_4_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/08e47799-4a8d-9599-d40c-d114aa4289b9.png)
## ②-4: num_vec_per_token=4, infer_token=3
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2"
![cat-backpack_cat_4_TI_3_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/b99f3fa3-8e23-aa79-227e-b6be0dd5a404.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 backpack"
![cat-backpack_cat_4_TI_3_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/12ee8d41-2013-0ed7-3e71-d0b88bccb01a.png)
## ②-5: num_vec_per_token=8, infer_token=8
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 ... \<cat-toy\>_7"
![cat-backpack_cat_8_TI_8_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/e285a673-9497-6df9-9a56-daac2f85fff1.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 ... \<cat-toy\>_7 backpack"
![cat-backpack_cat_8_TI_8_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/554825e9-cec4-70c1-f74f-43c0c39060a2.png)


## ③TI学習+LoRA_up固定化
cross_attention.pyを改造。LoRA_downの初期値ゼロ、LoRA_upをembedding初期重みで固定化した。
このLoRAサイズは$K,V$のみなので**1.6MB**。従来の$Q,K,V,out$の時は**3.2MB**。
LoRA_upは生成できるので学習重みは実質これの更に半分だが、今回は自動生成のLoRA_upも含まれている。

## ③-1: num_vec_per_token=1, infer_token=1
prompt="A \<cat-toy\>"
![cat-backpack_cat_1_TI_1_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/92185259-31a6-127c-43c2-f75783288f93.png)
prompt="A \<cat-toy\> backpack"
![cat-backpack_cat_1_TI_1_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/625167da-45a1-dedd-7d16-24375d9a71e1.png)
## ③-2: num_vec_per_token=2, infer_token=2
prompt="A \<cat-toy\>_0 \<cat-toy\>_1"
![cat-backpack_cat_2_TI_2_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/4e045e73-e374-4434-e75e-06070760cb92.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 backpack"
![cat-backpack_cat_2_TI_2_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/1496f7d5-b2a7-1664-50cb-6dd13ed8511c.png)
## ③-3: num_vec_per_token=4, infer_token=4
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 \<cat-toy\>_3"
![cat-backpack_cat_4_TI_4_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/73423738-2192-1f65-c8e3-b24dccd23d45.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 \<cat-toy\>_3 backpack"
![cat-backpack_cat_4_TI_4_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/6c48e15a-014c-2167-8fe4-c1c709655863.png)
## ③-4: num_vec_per_token=4, infer_token=3
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2"


prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 backpack"
![cat-backpack_cat_4_TI_3_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/0f65202d-68e8-09dc-47e8-6a34825e71b7.png)
## ③-5: num_vec_per_token=8, infer_token=8
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 ... \<cat-toy\>_7"
![cat-backpack_cat_8_TI_8_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/cd48ed7e-cfd6-8bfd-557b-02fe7f0fdc2e.png)
prompt="A \<cat-toy\>_0 \<cat-toy\>_1 \<cat-toy\>_2 ... \<cat-toy\>_7 backpack"
![cat-backpack_cat_8_TI_8_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/3de65c47-9bc3-d754-01f5-ed241892fcae.png)

## ④TI学習+LoRA_up固定化(Self-Attention除外)
再度確認して分かったのだが今回の③学習ではLoRAはCross-AttentionのみではなくSelf-AttentionにおいてもLoRA重みを形成していた。 Cross-Attentionの場合のLoRA_downは$(768,4)$次元なのでTextEncoderの次元$(768)$と等しいので結合可能だが、Self-Attentionの場合のLoRA_downは$(320,4),(640,4),(1280,4)$のいずれかなのでこれをTextEncoderのEmbeddingには計上できない。
Self-AttentionとCross-Attentionは同数でそれぞれ16層ずつだった。出力次元は320が5層、640が5層、1280が6層である。

Self-Attention除外するにはLoRACrossAttnProcessorを更に以下の様に変更する必要がある。
③の学習LoRA重みからSelf-AttentionのLoRA重みの適用を除外した。
この[論文](https://arxiv.org/pdf/2303.18181v2.pdf)や[CustomDiffusion](https://arxiv.org/pdf/2212.04488.pdf)によればCross-Attentionの効果が重要であり、Self-AttentionのLoRA重みを除外してもそこまで影響はないと思われる。

```python
class LoRACrossAttnProcessor(nn.Module):
    def __init__(self, hidden_size, cross_attention_dim=None, rank=4):
...
        if cross_attention_dim is not None:
            self.to_k_lora = LoRALinearLayer(cross_attention_dim or hidden_size, hidden_size, rank)
            self.to_v_lora = LoRALinearLayer(cross_attention_dim or hidden_size, hidden_size, rank)
...
    def __call__(
        self, attn: CrossAttention, hidden_states, encoder_hidden_states=None, attention_mask=None, scale=1.0
    ):
...
        if encoder_hidden_states is not None:
            encoder_hidden_states = encoder_hidden_states
            key = attn.to_k(encoder_hidden_states) + scale * self.to_k_lora(encoder_hidden_states)
            value = attn.to_v(encoder_hidden_states) + scale * self.to_v_lora(encoder_hidden_states)
        else:
            encoder_hidden_states = hidden_states
            key = attn.to_k(encoder_hidden_states)
            value = attn.to_v(encoder_hidden_states)
```

## ④-1: num_vec_per_token=1, infer_token=1
prompt="A \<cat-toy\>"

prompt="A \<cat-toy\> backpack"
![cat-backpack_cat_1_TI_1_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/9f94fd6d-cade-3dc9-207f-4fd8c0375b9a.png)

## ④-2: num_vec_per_token=2, infer_token=2
prompt="A \<cat-toy\>_0 \<cat-toy\>_1"

prompt="A \<cat-toy\>_0 \<cat-toy\>_1 backpack"
![cat-backpack_cat_2_TI_2_sample_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/b06c950a-2d0c-adef-99dc-bf5c53e92bd8.png)

と、ここまで書いてQiitaのアップロードできる画像の上限に達してしまったので以下省略。
最初からリサイズしてから画像を張ればよかった…。

これにてLoRA_downはUnetの層によらず全て$(768,4)$次元なので、これをTextEncoderのEmbeddingに計上する事が理論上は出来る。
TIおよびLoRAのファイルサイズは以下。

|TI(1token) |TI(2token) |TI(4token)  |TI(8token)  |TI(4\*16\*[K,V]token)  |
|---|---|---|---|---|
|4KB  |7KB  |13KB  |25KB      |400KB？      |

|従来LoRA  |K,Vのみ(Q,out除外) |Self-Attention除外  |lora_up固定化  |
|---|---|---|---|
|3.2MB  |1.6MB  |0.8MB  |0.4MB？      |

TI学習の学習率は10.0e-04の1500step
LoRA学習の学習率は1.0e-04の500step

# 参考：Textアライメント（編集性）
・DreamBoothにおいて学習stepを大きすぎ（過学習）にならないよう調整する。（ただ、必要学習stepは初期class_tokenの生成近さ、学習元モデルの描画可能かどうか、学習画像のばらつきの大きさ（≒学習画像枚数）、Data Augmentation（random_crop、flip等）の手法、学習率の大きさ、TextEncoderの学習の有無、正則学習の有無等に依存するので、実際の学習途中の生成結果を見ずに最適stepは決めにくい）
・上述の例では付与単語"backpack"を複数回繰り返したり、強調したりすればTextアライメントが向上すると思われる。
・逆にnum_vec_per_token=4, infer_token=3のように生成トークンを意図的に削ったり、TIトークンのテキスト強度を弱めればTextアライメントが向上すると思われる。

・LoRAの適用scaleを減らしてもTextアライメントが向上すると思われる。（知見なし）
・学習時に学習promptをランダムでDropする手法等がある。（知見なし）

# まとめ
LoRA重みをTextEncoderのembeddingテーブル上のTI重みに計上することは出来ないだろうかという考えから、LoRA_up重みを固定化してLoRA学習を実行してみた。結果としては**従来LoRA学習よりも精度は若干下がるようだが、学習が破綻するほどではない。**

従って$K,V$重みのみを考えるCrossAttentionのみのLoRAにおいてLoRA重みをTI重み(TextEncoderのEmbedding重み)に結合できる可能性を示した。なお、結合する事自体には特にメリットはない。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/ac16e0df-1bbd-b36c-fc2e-af7a68c46d63.png)

# 考察：LoRAの挿入位置の移動
ここで本来の全結合重み$W$に対して逆行列$W^{-1}$が存在すると仮定すると、この逆行列を使用してLoRAの位置を任意の位置に移動が可能ではないかと思われる。
ここで$W\cdot W^{-1},W^{-1}\cdot W$は共に単位行列。全結合重み$W$の大きさは$(768,320)$、$W^{-1}$の大きさは$(320,768)$である。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/66afa2c4-52ac-5ce6-50d4-f684d1f429d3.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/592fb948-5a01-841b-dc33-096eba61311f.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/82726e78-965a-244b-b16d-3c97de1c6ba6.png)

すなわちsoftmaxを考えない単純な任意の$QK^TV$計算を考えた場合、$W_Q,W_K,W_V,W_{out}$の各LoRAは以下の様にまとめられるから、$W_Q,W_{out}$のLoRAは同ランクの$W_K,W_V$のLoRAにまとめられ、4つのLoRAは2倍のランク大きさの$W_K,W_V$のLoRAと等しいのではないかと思った。この場合、CrossAttention構造の前後に挿入するAdapterと等しいように思える。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/4e28fd2b-fe02-8167-46fa-26cefd9bcf61.png)

また、以下の様であればTextEncoderとUnet間に挿入するAdapterと解釈できる。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/d7114c10-62e1-ddac-a50d-5e8a69f24c43.png)

この[論文2](https://arxiv.org/pdf/2302.12228v3.pdf)や[CustomDiffusion](https://arxiv.org/pdf/2212.04488.pdf)によればCross-Attentionの寄与は以下の通りである。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/c4593f19-0320-726f-d037-fec79b368050.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/5397e3dd-1391-26f0-c515-86dbbdfd080c.png)

またこの[論文](https://arxiv.org/pdf/2303.18181v2.pdf)では上記考察のようにLoRAを変形できるAdapterの内、
$CA_{C}-CA_{C}$…TextEncoderとUnetの間
$CA_{in}-CA_{in}$…CrossAttentionの入口
$CA_{out}-FFN_{in}$…CrossAttentionの出口
の位置に挿入すると影響はいずれも高いように見える。