K8s のMetaparticle は相当未来を感じる

Kubernetes の co author として著名な Brendan Burns が始めたプロジェクトで、[Metaparticle](https://metaparticle.io/about/) というのがあり、触ったことがなかったので試して見た。

とりあえず、Go と、Javascript のtutorial を試して見たが、どちらもそのままでは動かなかった。だから、２つともIssue を上げておいた。

* [The Golang Tutorial doesn't work](https://github.com/metaparticle-io/package/issues/104)
* [The Javascript tutorial doesn't work on Mac](https://github.com/metaparticle-io/package/issues/105)

ちなみに、Javascript の方は、既に [fix済み](https://github.com/metaparticle-io/package/pull/11)で、npm パッケージに反映されていないだけなので、対応が簡単なので、２つから選ぶなら、今は`javascript` にしておくのが無難かもしれない。`fix` の方法はあとで追加のしておく。言語は他には、Java, .Net, Python が存在する。

# Metaparticle とは

Kubernetes 上のクラウドネイティブアプリのためのスタンダートライブラリだ。分散システムをだれでも使えるようにするためのもの。初心者でも扱えて、ベテランは時間を節約できるといいうためのもの。

* [Metaparticle/Package for Javascript Tutorial](https://metaparticle.io/tutorials/javascript/)

最初のチュートリアルを流すだけで今回はいっぱいで、時間がないなかったが、チュートリアルには、[シャーディングのチュートリアル](https://metaparticle.io/tutorials/javascript-sharding/)
や、分散環境でも、ステートを保持できる[Storage プロジェクト](https://github.com/metaparticle-io/storage)、分散環境コンテナでのロック、排他制御、リーダーエレクションを司る[Sync プロジェクト]()など面白そうなものが沢山ある。主なプロジェクトへのリンクを付けておこう。Metaparticle のコンパイラは`mp-compiler` コマンドのソースで、Metaparticleのコンフィグをk8sのAPIに変換するもの。

* [Package](https://github.com/metaparticle-io/package)
* [Storage](https://github.com/metaparticle-io/storage)
* [Sync](https://github.com/metaparticle-io/sync)
* [Metaparticle compiler](https://github.com/metaparticle-io/metaparticle-ast)

ちなみに、メインページによると、Metaparticle はこんなことを助けてくれるらしい。

* アプリをコンテナ化する
* k8s にdeployする
* ロードバランスされたリプリケーションされたサービスを素早く開発する
* ロックや、分散レプリカのリーダーエレクションを実施する
* クラウドネイティブのパターンを簡単に実装する。シャーディングとか。

# tutorial を始める

* [Metaparticle/Package for Javascript Tutorial](https://metaparticle.io/tutorials/javascript/)

先ほど書いた通り、そのままでは、チュートリアルは動かない。基本的にチュートリアルの手順でいいのだが、`@npm install -s @metaparticle/package` のパッケージが現在のMaster より古く、Mac で動作しないという感じになっている。fix はこれなので、このソースの部分のみを変更してあげれば良い。

* [修正部分: index.js](https://github.com/metaparticle-io/package/commit/b71287cb2432821617f7bbbd45b049457e6d5819)

# コードを愛でる

下記のコードを書いて、`npm start` を実施すると、`node` のサーバのアプリのを作って、コンテナにパックしてくれる。そして、ポートとかも公開してくれるといった具合だ。ちなみに、自分の`dockerhub`に公開もしてくれる。

```javascript
const http = require('http');
const os = require('os');
const mp = require('@metaparticle/package');

const port = 8080;

const server = http.createServer((request, response) => {
	console.log(request.url);
	response.end(`Hello World: hostname: ${os.hostname()}\n`);
});

mp.containerize(
	{
		ports: [8080],
		repository: 'docker.io/docker-user-goes-here',
		publish: true,
		public: true
	},
	() => {
		server.listen(port, (err) => {
			if (err) {
				return console.log('server startup error: ', err);
			}
			console.log(`server up on ${port}`);
		});
	}
);
```

コンテナが立ち上がって、実行された。

```
$ npm start

> metaparticle-example@0.0.1 start /Users/ushio/Codes/metaparticle/package/tutorials/javascript
> node ./index.js

Sending build context to Docker daemon  676.9kB
Step 1/4 : FROM node:6-alpine
 ---> f03aeae05553
Step 2/4 : COPY ./ /metaparticle-example/
 ---> a4df8ddccd9f
Step 3/4 : RUN npm --prefix /metaparticle-example/ install
 ---> Running in 31ac3e1c2e5b
npm WARN metaparticle-example@0.0.1 No repository field.
Removing intermediate container 31ac3e1c2e5b
 ---> 83c8fc972b49
Step 4/4 : CMD npm --prefix /metaparticle-example/ start
 ---> Running in 7a5dee27e6a2
Removing intermediate container 7a5dee27e6a2
 ---> bdc2b5d88438
Successfully built bdc2b5d88438
Successfully tagged tsuyoshiushio/metaparticle-example:latest
The push refers to repository [docker.io/tsuyoshiushio/metaparticle-example]
143f071599a1: Preparing
1c97fb857dde: Preparing
2653039e3c74: Preparing
5a72cbf266a2: Preparing
e53f74215d12: Preparing
e53f74215d12: Layer already exists
5a72cbf266a2: Layer already exists
2653039e3c74: Layer already exists
143f071599a1: Pushed
1c97fb857dde: Pushed
latest: digest: sha256:aae574948fa86f44dec58dd0d622dbad79540c9f9d6a41e602a88e90b45a3e35 size: 1368
c5c4b27ba06f0861952ae1961f1dce14d430f93aeb43289390da06288eca5e86

> metaparticle-example@0.0.1 start /metaparticle-example
> node ./index.js

server up on 8080
```

ちなみに、metaparticle のコードを見てみると、コードをパックして、イメージを作って、コンテナの中でもこのアプリを動かす。そのファイルが、先ほど修正した`index.js` だ。この辺りのコードを読んでいると、今自分が、ローカルマシンか、Container (docker) か、Container (kubernetes) の中であるかを判断している。

_/package/javascript/metaparticle-package/index.js_

```javascript
     inDockerContainer = () => { |

         switch (process.env.METAPARTICLE_IN_CONTAINER) { 
             case 'true': 
             case '1': 
                 return true; 
             case 'false': 
             case '0': 
                 return false; 
         } 
         try { 
             var info = fs.readFileSync("/proc/1/cgroup"); 
         } catch (err) { 
            return false; 
         } 
         // This is a little approximate... 
         if (info.indexOf("docker") != -1) { 
             return true; 
         } 
         if (info.indexOf("kubepods") != -1) { 
             return true; 
         } 
         return false; 
     }; 
```

で、この`docker-runner.js` が動いているという感じ

_/package/javascript/metaparticle-package/docker-runner.js_

```javascript
 (function () { 

     var shell = require('shelljs'); 
  
     portString = (options) => { 
         if (!options || !options.ports) { 
             return ''; 
         } 
         var portArr = options.ports.map((port) => { 
             return `-p ${port}:${port}` 
         }); 
         return portArr.join(' '); 
     }; 
  
    module.exports.run = (img, name, options) => { 
         ports = portString(options); 
          
         shell.exec(`docker run --name ${name} ${ports} -d ${img}`); 
         shell.exec(`docker logs -f ${name}`, () => { 
             console.log('done'); 
         }); 
     }; 
  
     module.exports.cancel = (name) => { 
         shell.exec(`docker kill ${name}`); 
         shell.exec(`docker rm ${name}`); 
     }; 
 })(); 
```

# kubernetes にデプロイする

kubernetes にデプロイ先をかえるのはちょっと設定部を変えるだけ。Brendanが常々、kubernetes は、開発する人が、サーバーとかそんなものを意識しなくてもいいようにするためのものみたいな発言をしているけど、これを見てもその方向を感じられる。

```javascript
const http = require('http');
const os = require('os');
const mp = require('@metaparticle/package');

const port = 8080;

const server = http.createServer((request, response) => {
	console.log(request.url);
	response.end(`Hello World: hostname: ${os.hostname()}\n`);
});

mp.containerize(
	{
        	ports: [8080],
        	replicas: 4,
		runner: 'metaparticle',
		repository: 'docker.io/docker-user-goes-here',
		publish: true,
		public: true
	},
	() => {
		server.listen(port, (err) => {
			if (err) {
				return console.log('server startup error: ', err);
			}
			console.log(`server up on ${port}`);
		});
	}
);
```

さっきまで ローカルの `docker` で動いてたけど、`k8s` に変わった。コードの違いは、`runner: 'metaparticle'` のところと、`replicas: 4,` のところだけ。

```
$ npm start

> metaparticle-example@0.0.1 start /Users/ushio/Codes/metaparticle/package/tutorials/javascript
> node ./index.js

Sending build context to Docker daemon  676.9kB
Step 1/4 : FROM node:6-alpine
 ---> f03aeae05553
Step 2/4 : COPY ./ /metaparticle-example/
 ---> 861905ecb943
Step 3/4 : RUN npm --prefix /metaparticle-example/ install
 ---> Running in 66f0ba1a4eb4
npm WARN metaparticle-example@0.0.1 No repository field.
Removing intermediate container 66f0ba1a4eb4
 ---> af31bf35f46c
Step 4/4 : CMD npm --prefix /metaparticle-example/ start
 ---> Running in 486dc81df5b2
Removing intermediate container 486dc81df5b2
 ---> 50774bea555b
Successfully built 50774bea555b
Successfully tagged tsuyoshiushio/metaparticle-example:latest
The push refers to repository [docker.io/tsuyoshiushio/metaparticle-example]
32c06497258b: Preparing
c2154a7e64c3: Preparing
2653039e3c74: Preparing
5a72cbf266a2: Preparing
e53f74215d12: Preparing
2653039e3c74: Layer already exists
5a72cbf266a2: Layer already exists
e53f74215d12: Layer already exists
32c06497258b: Pushed
c2154a7e64c3: Pushed
latest: digest: sha256:9ff2e4588bc206c839f4d73cf279dd366e780d480e5171716edbe7162268e9e4 size: 1368
2018/03/03 23:48:41 object is being deleted: deployments.extensions "metaparticle-example" already exists
==> Detected container metaparticle-example-78b84568df-d7ct9:metaparticle-example-0
==> Leaving container metaparticle-example-78b84568df-d7ct9:metaparticle-example-0

```

`kubectl` コマンドで見て見たら、いい感じで動いている。レプリカもセットされているね。

```
 kubectl get pods
NAME                                    READY     STATUS             RESTARTS   AGE
metaparticle-example-78b84568df-6d7kv   1/1       Running            0          33s
metaparticle-example-78b84568df-cm9gh   1/1       Running            0          33s
metaparticle-example-78b84568df-d7ct9   1/1       Running            0          33s
metaparticle-example-78b84568df-qslf9   1/1       Running            0          33s
minecraft-57cdddb95d-tbzgp              0/1       ImagePullBackOff   0          6d
omsagent-2nqdz                          1/1       Running            0          29d
omsagent-bp4nd                          1/1       Running            0          29d
omsagent-ngnhd                          1/1       Running            0          29d
invincible:ARM ushio$ kubectl get services
NAME                   TYPE           CLUSTER-IP     EXTERNAL-IP     PORT(S)                           AGE
kubernetes             ClusterIP      10.0.0.1       <none>          443/TCP                           31d
metaparticle-example   LoadBalancer   10.0.121.123   52.186.84.XXX   8080:30532/TCP                    47s
minecraft-svc          LoadBalancer   10.0.13.15     52.170.2.XXX    25575:31322/TCP,25565:32563/TCP   6d
```

# シャーディング

さて、シャーディングを決めてみよう。

![Sharding](https://metaparticle.io/img/sharded_layers.png)

さっきの所に、`shards: 3` と、その、`urlPattern` を追加したのみ。`urlPattern` がシャーディングキーとして使われる。

```javascript
const http = require('http');
const os = require('os');
const mp = require('@metaparticle/package');

const port = 8080;

const server = http.createServer((request, response) => {
	console.log(request.url);
	response.end(`Hello World: hostname: ${os.hostname()}\n`);
});

mp.containerize(
	{
		ports: [8080],
		shardSpec: {
			shards: 3,
			"urlPattern": "\\/users\\/(.*)[^\\/]"
		},
                repository: 'docker.io/your-docker-user-goes-here',
                publish: true,
                public: true,
		runner: 'metaparticle',
	},
	() => {
		server.listen(port, (err) => {
			if (err) {
				return console.log('server startup error: ', err);
			}
			console.log(`server up on ${port}`);
		});
	}
);
```

# ステートフル（ストレージ）

k8s はステートをコンテナ間で共有するのは苦手っぽいけど、先のストレージプロジェクトでできる感じ。Service Fabric の Stateful Dictionary のようだ。

```js
var mp = require('@metaparticle/storage');
mp.setStorage('file');

var server = http.createServer((request, response) => {
    // Define a scope for storage, in this case it is a shared 'global' scope.
    mp.scoped('global', (scope) => {
        if (!scope.count) {
            scope.count = 0;
        }
        scope.count++;
        return scope.count;
    }).then((count) => {
        response.end("There have been " + count + (count == 1 ? ' request.' :  ' requests.'));
    });
});
```

# リーダーエレクション

こんな感じでできる模様。

```javascript

var mp = require('@metaparticle/sync');

var election = new mp.Election(
    // Name of the election shard
    'test',
    // Event handler, called when a program becomes the leader.
    () => {
        console.log('I am the leader');
    },
    // Event handler, called when a program that was leader is no longer leader.
    () => {
        console.log('I lost the leader');
    });

election.run();
```

# まとめ

いきなり動かなくて辛かったが、プロジェクト自体は相当いけているのではないだろうか？個人的には、今は Microservice の世代だけど、色々めんどくさい。だから、Serverless とか、PaaS/SaaS/FaaS とかがどんどんはやってきてる感じ。k8s もマネージドのオファーが普通になってきて、今後は、k8s が基盤になって、コンテナやk8sすら意識しなくてよくなるようになるのだろうか。凄い世界が来そうでプログラマとしてはとても楽しい世界だなと思う。元々DevOpsやクラウドのテクノロジーが気に入ったのは、インフラですらコードで書けてしまう世の中になったのが楽しかったのだ。これがどんどん簡単になっていっていますね。

* [Metaparticle](https://metaparticle.io/about/)
* [The Golang Tutorial doesn't work](https://github.com/metaparticle-io/package/issues/104)
* [The Javascript tutorial doesn't work on Mac](https://github.com/metaparticle-io/package/issues/105)
* [Package](https://github.com/metaparticle-io/package)
* [Storage](https://github.com/metaparticle-io/storage)
* [Sync](https://github.com/metaparticle-io/sync)
* [Metaparticle compiler](https://github.com/metaparticle-io/metaparticle-ast)