ASTERIAでSQL文自動生成に挑戦

##きっかけ
CSVからDBにデータをUPLOADする際に下記のようなことができないか？という話題になった。
例えば

![9040_元ネタ４.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/ef1b2a1c-e795-54a6-a2f5-71d3059659a9.png)


というテーブルとデータがあったとして次のようなCSV
![9050_元ネタ５（CSV）.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/b67bf5ac-2d1f-a457-f454-c1f05b779cac.png)
を取り込んだ際に
![9060_元ネタ６.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/86da88d3-e599-f8d8-dcd7-4290102f882d.png)
という結果が欲しい。と。（id=2のオーナーidだけ更新したい）
当然素直に取り込めば
![9070_元ネタ７（こうなる 更新後DB）.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/8dc4c73b-2e7d-8636-eef3-51160e064fdb.png)
という結果になるのだが「2,,3」はNULLではなく「更新しない」という扱いにしてほしい、と。

…イヤイヤ、それは無理でわ？
そもそも「,,」を「更新しない」なのか「NULL」なのかを判断できないのでは？というところだが「そこを何とか」と
。
そこで無理やり次のようなSQL文を放り込んだ。
###仮テーブルを作成してCSVを取り込んでから本テーブルにUPDATEをかける
`（仮テーブルはここでは「tmpdog」という名前のテーブル）`
![9010_元ネタ１（SQLだらけのフロー）.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/37b9f088-273c-c6c2-f92c-af054f98f467.png)

■参考にさせていただいたWebサイト様
　「[【SQL】UPDATEでNULLだったら更新しない方法](https://oreno-it.info/archives/2767 "【SQL】UPDATEでNULLだったら更新しない方法")」
ちなみに３つ目のSQLCallコンポーネント（COPYコマンドのやつ）の中身は

![9020_元ネタ２（コピーコマンド）.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/15a582de-70c3-909a-ad93-bc5f392ca99f.png)

```ruby:PostgreSQL
copy tmpdog from '/tmp/koushin.csv' with null '' csv;
```

で、
４つ目のSQLCallコンポーネント（UPDATEコマンドのやつ）の中身は
![9030_元ネタ３（NULLにならないSQL文）.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/e996f7a3-fc1b-f19f-e246-472bf30af09f.png)

```ruby:PostgreSQL
update public.犬テーブル
set id=case 
 when tmpdog.tmpID is not null then tmpdog.tmpID
 else id
 end,
名前 = case
 when tmpdog.tmp名前 is not null then tmpdog.tmp名前
 else 名前
 end,
オーナーid = case
 when tmpdog.tmpオーナーID is not null then tmpdog.tmpオーナーID
 else オーナーid
 end
from tmpdog
where
public.犬テーブル.ID=tmpdog.tmpID;
```

です。

そして次に出た要望は「このSQL（のコンポーネントの使い方）だとテーブルごとに書かなきゃいけないから、自動で何かパパっとできない？」。

##環境
サーバ：WindowsServer2012 R2 StandardのHYPER-V上で動くCentOS8
クライアント：ごくごく普通のWindows10Pro
DB：PostgreSQL（9.2.24-1.el7_5）
ASTERIA：Asteria(1912)

###苦労した点
１．とにかくASTERIAの情報が少ない
２．筆者はASTERIAもPostgreSQLも2019年11月から触っている。とにかく初心者。
※執筆時点は2020年02月。
３．周りにも頼れる仲間がいない。
４．開発業務は初めて。当然Javaもできないので新規コンポーネントの開発などできない。
`（余談ですがQiitaもこれが初投稿です；）`

###困難は分割すべし
とりあえず構想をかき出してみる。
>１．DBのフィールド名を読み込み（フィールド名を外部変数などから取得することはしたくなかった。あくまでできる範囲は自動化）
>２．フィールドの個数を数える（例えば,の数＋１）
>３．フィールドの個数は処理を実行する回数
>４．フィールドの個数分だけ
>　　id=case 
> 　　when tmpdog.tmpID is not null then tmpdog.tmpID
> 　　else id
> 　　end,
>　のような定型文を作成する
>　※「id」、「tmpid」等は変数
>５．SQL文を作成する
>　　update public.犬テーブル
>　　set
>　　…
>　　when tmpdog.tmpオーナーID is not null then tmpdog.tmpオーナーID
>　　…
>　　from tmpdog
>　　where
>　　public.犬テーブル.ID=tmpdog.tmpID;
というのが出発点でした。
この時点で
・Where句以降はその時々で異なる「条件」なので自動生成は出来ないだろう
　（できたとしても外部変数の指定などが多すぎて）


##結果
全体像はこのような形になりました。

![NotNullUpdate.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/f5bdbe00-47b4-279d-09f6-e0c1ceaa11b0.jpeg)

各処理の概要はコメント化しています。
細かい解説を入れます。

#####１．サブフローで呼び出すイメージで作成しているので外部変数が必要になります。
内容は図の通りです。

![0010_外部変数.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/e8be0789-bbf3-8844-7302-29061b89080a.png)


「tmp」と「work」はお好みで。「tmpSQLtxt」は定数ではなくセッション変数なんかで外から受け渡した方がよいのかもしれませんがパスはともかくファイル名、ということにしました。

#####２．次に外部変数を受け取るためのフロー変数です。
![0020_フロー変数.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/4fb38a4d-f47e-c4e2-8ea8-1ad63e4e2301.png)

外部変数を直接使ってもいいのかもしれませんが、一応フロー内で使うものはフロー変数に退避した方がいいですよ…とはだれからも言われてないのですが何となくそんな気がするので。

#####３．スタートコンポーネント直後のマッパーの内容です。
![0030_Map1.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/2d93ed07-05c7-bd30-d73a-ee7cce922e1b.png)

外部変数を（多少加工して）フロー変数に退避します。

#####４．次のVelocityの内容です。

![0040_Vel1.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/823b9d56-2b05-8dc1-ae96-822de683a9d6.png)

```ruby:PostgreSQL
SELECT
    attname
FROM
    pg_attribute
WHERE
    attrelid = '${exvar.CSVNullCheck.Tablename}'::regclass
    and attnum>0;
```

これはカラム名を取得するPostgreSQLの命令文です。（修正＞だ、そうです；）
この後でDBを読み込みたいのですが変数指定したSQL文はDBGetコンポーネントに直接記入はできない（動かない）そうなのでVelocityでテンプレを作成してそれをマッパーでDBGetコンポーネントのSQL文プロパティに突っ込みます。

■参考にさせていただいたWebサイト様
　「[PostgreSQLでテーブル名カラム名を取得する方法](http://chopl.in/post/2013/11/07/how_to_retrieve_tables_and_columns_with_postgres/ "PostgreSQLでテーブル名カラム名を取得する方法")」

#####５．次のマッパーの内容です。
UPDATE分を一時ファイルに吐き出して置き、本命はVelocityの作成したSQLをDBGetに突っ込むという単純な内容です。
![0050_Map2.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/41945c8d-811f-1ade-1419-660b33354997.png)

#####６．DBGet、RecordTranspose、Converter
全体像のコメント通りです。

![0055_フローDBGet周辺.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/0ac30202-c8ac-e638-a930-ae516b6b7589.png)

補足するとすれば
DBGetでは

| カラム名 |
|:-:|
| id  |
| 名前  |
| オーナーid  |

と縦に出力されるので縦横並び替えとカンマ区切りをしてテキストに変換、というところで結果は

id，名前，オーナーid

となります。
※DBのコネクションはマッパーなどから指定できるプロパティではないのでここはコンポーネントに対して直接指定が必要です。

#####７．Converterの次（左側）のマッパーです。

![0060_Map3.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/c2f6ad5f-5fa7-19d3-1d4f-a607cf2e4a60.png)

レコード件数（最後のレコードになったらループ終了）としたかったのですが、上手くいかなかったので最後のカラム名を取得しています。

#####８．Converterの次（右側）のTextSplitLoopです。
カンマ区切りでループさせます。

![0065_フローループ部分.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/6adb5f64-2e1e-1494-8859-0db0ec86c79e.png)

#####９．分岐（BranchStart）条件は以下の通りです。
　最後のレコード右->（true）
最後のレコード以外
（ ＄record.Object} =  ＄flow.orgLastColName）
※不一致条件でも良かったのですが、最後のレコードだけ右に通す方がそれっぽかったので。

#####１０．分岐後のマッパー、Velocityの違いはほとんどありません。
マッパーではオリジナルのカラム名（「id」など）、比較するための一時的なテーブル名、カラム名をVelocityのローカル変数に格納します。（個々の違いまはまったくありません）


![0070_Map4.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/9f0e0488-0a00-0c27-67d4-60c257f4dc28.png)

Velocityのテンプレートは次の図のような形になります。

![0080_Vel2・3.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/18970008-f496-0cf5-7f98-b791563cbbfc.png)

```ruby:PostgreSQL
set ${local.orgColName}=case
 when ${local.tmpTableName}.${local.orgColName} is not null then ${local.tmpTableName}.${local.orgColName}
 else ${local.orgColName}
 end,
```

結局
>set...
> when...
> else...
> end,

の成型をしたい（しているだけ）ですが全部繋げた後に最後のendのカンマを取ろうとしたのですがマッパー関数の文字列などでどうしても取れなかったのでテンプレートを分けている、とただそれだけです。

#####１１．作成したテンプレート（SET～END）を合成しています。
合成中に改行コードを入れています。

![0090_Map5.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/7f8d1862-fdd0-9899-f771-11aa88b32635.png)

#####１２．７同様、一時的に作成したSQL文を追記保存してループさせます。

#####１３．ループが終わったらfrom句を追記するために一時保存SQLを読み込み、次のマッパーで追記させます。

![0095_フロー最後周辺.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/62fc3224-8048-07f7-dae5-bedf79cdd85d.png)

![0100_Map6.PNG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/522027/4d0daa64-1902-115e-8609-50d13bedac72.png)

`※本当はこのあたりでフロー変数などを初期化したほうがいいんでしょうね。
　あと、本運用を想定していない練習版なので汎用エラーなども特に設定はしていません。`

#####１４．最後は分岐していますがあまり意味はありません。
Velocityでフローを続けてもよし、テキストに書き出しておいてメインフローでSQL文をテキストから読み込ませてWhere句以降をつなげてもよし、といった感じです。

##最後に
ここまで記載しておいてなんですが「どこまでできるかな？」で作ったものなので実際サブフロー化して使うかかどうかはわかりません。すみません。
ただ、

・こんなところまではできる
・改善できないだろうか（特に９の分岐、いちいち一時テキストに保存している箇所）というところ
・できることできないこと（DBのコネクションの指定）

など勉強になったのも事実です。

もっともっといろいろ簡単にできるよ～という情報あったら是非教えてください。
ご清覧ありがとうございました。