upload exp_1 models

gpt2-untrained_sample_prop:None/seed-0/checkpoint-100000/config.json

@@ -0,0 +1,39 @@
+{
+  "_name_or_path": "./logs/sokoban/source:boxoban/model:gpt2-untrained/level_key:level/annotation_keys:None/num_annotation_buckets:None/holdouts:None/chunk_size-128_lr-0.0001/sample_prop:None/seed-0/checkpoint-2000",
+  "activation_function": "gelu_new",
+  "architectures": [
+    "GPT2LMHeadModel"
+  ],
+  "attn_pdrop": 0.1,
+  "bos_token_id": 50256,
+  "embd_pdrop": 0.1,
+  "eos_token_id": 50256,
+  "initializer_range": 0.02,
+  "layer_norm_epsilon": 1e-05,
+  "model_type": "gpt2",
+  "n_ctx": 1024,
+  "n_embd": 768,
+  "n_head": 12,
+  "n_inner": null,
+  "n_layer": 12,
+  "n_positions": 1024,
+  "reorder_and_upcast_attn": false,
+  "resid_pdrop": 0.1,
+  "scale_attn_by_inverse_layer_idx": false,
+  "scale_attn_weights": true,
+  "summary_activation": null,
+  "summary_first_dropout": 0.1,
+  "summary_proj_to_labels": true,
+  "summary_type": "cls_index",
+  "summary_use_proj": true,
+  "task_specific_params": {
+    "text-generation": {
+      "do_sample": true,
+      "max_length": 50
+    }
+  },
+  "torch_dtype": "float32",
+  "transformers_version": "4.25.1",
+  "use_cache": true,
+  "vocab_size": 9343
+}

gpt2-untrained_sample_prop:None/seed-0/checkpoint-100000/global_step.txt

@@ -0,0 +1 @@
+100000

gpt2-untrained_sample_prop:None/seed-0/checkpoint-100000/optimizer.pt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b932db48e48874e43e3f09437b0d73ed47d58ad54c5ccc43ea35bb40170c5f42
+size 744264005

gpt2-untrained_sample_prop:None/seed-0/checkpoint-100000/pytorch_model.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:98f235bb0f2fb0880336a921927d5d39ab7871860e2f1d97284e4f8b6029cad7
+size 384710205

gpt2-untrained_sample_prop:None/seed-0/config.json

@@ -0,0 +1 @@
+{"game": "sokoban", "source": "boxoban", "level_key": "level", "annotation_keys": null, "num_annotation_buckets": null, "holdout_solution_lens": null, "chunk_size": 128, "novelty_threshold": 5, "sample_prop": null, "model": "gpt2-untrained", "warmup_proportion": 0.0002, "weight_decay": 0.01, "max_grad_norm": 1, "learning_rate": 0.0001, "exp_name": "pretraining", "overwrite": false, "seed": 0, "batch_size": 32, "num_train_steps": 100000, "save_freq": 1000, "eval_freq": 1000, "no_log": false, "render": false, "num_eval_proc": 1, "num_eval_samples": 10, "gen_freq": 500, "gen_len": 128, "gen_temp": 1.0, "gen_beams": 5, "gen_top_k": 50, "gen_top_p": 1.0, "gen_typical_p": 1.0, "sample_contexts": false, "sample_sequential": false, "eval_tolerance": 5}

gpt2-untrained_sample_prop:None/seed-0/events.out.tfevents.1675911849.learnfair1074.2762412.0

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f85da0e7f77d5658188944f30cb815839d0739f941b489314127a4f16d77f2e7
+size 112323

gpt2-untrained_sample_prop:None/seed-0/events.out.tfevents.1675912932.learnfair1164.4020482.0

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:82913f12e247b9c5f42323e95b29d73177f394e411a86295ad98001c7cb368ef
+size 4948179

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-0.33_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.01,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-0.33_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.1,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-0.33_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.01,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-",
+        "##########\n#--------#\n#-$------#\n#--------#\n#--------#\n#--------#\n#-------#\n#---#-#\n#----------#-#--#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-#-"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-0.66_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.1,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$--.#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$--.#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$--#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#.-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-##--#\n#-$-.-$.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$-#-..#\n#------.##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---.-#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.-$..##\n#-----####\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$--.#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-.----$-#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-0.66_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.3,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-0.66_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.28,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-----.-#\n#-$-#-$.#\n#--.---.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-#-#--#\n#-$--..-#\n#.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--####--#\n#--####--#\n#-$--..-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.--$@#\n#-.--.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$-#\n#-$-.-..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#-----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#--#--#--#\n#-#####--#\n#-#####--#\n#-$-----.#\n#-$-.--..#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--####--#\n#--####--#\n#-$.-$-..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#-#####--#\n#--####--#\n#-$.---$-#\n#---.--..#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-.-$@#\n#-.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-------#\n#-$-$-..#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----.#\n#-.--.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$--.#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#--####--#\n#--####-.#\n#-$-.--.#\n#---.---#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#--#-#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#.-----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---.-#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$---..#\n#------.##\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$---..#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$---..#\n#------.##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#.-----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#-#####--#\n#-#####--#\n#-.----$-#\n#-$---..#\n#-.----##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#----##-.#\n#-$---..#\n#------.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-.-----#\n#-$-$-..#\n#--.----#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$-#\n#-$-..-$-#\n#-.---####\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.---.#\n#---.---#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#-#####--#\n#-#####--#\n#-.----$-#\n#-$---..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$-#\n#-$-.-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$--.#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$.-$..##\n#-----####\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#--####--#\n#--####--#\n#-$--##-.#\n#-$.---.#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--..-#\n#.-----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#------.#\n#-$.-$.-#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#--.-.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$----..#\n#-$---..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$-.-..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$--..-#\n#-.---####\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-------#\n#-$-$-..#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$-.-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---$.-#\n#-$.-.-.#\n#--#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$--..-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.---..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$.--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$----..#\n#-$---..#\n#-----####\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$-.-$.-#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--#-##--#\n#-$---..#\n#.---.--#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-1.0_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.39,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--####--#\n#-#####-.#\n#-$.--$@#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####.-#\n#-#####--#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$.-$-..#\n#-------##\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---.-#\n#-$---..#\n#--.----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$-$-$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--.-.#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#--####--#\n#--####-.#\n#-$.--$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$.---$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$--.-.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--####--#\n#--####--#\n#-$-.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--..-#\n#.-----.-#\n##########",
+        "##########\n#--------#\n#-$--$-$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-.-$.-.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-.-$--.#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--#-#-#-#\n#-$-..--#\n#-.-----.#\n##########",
+        "##########\n#--------#\n#-$---$.-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$--.-.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$-..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-..-$-#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-#-#-#\n#-$--..-#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#.-------#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---.-#\n#-$.--$.-#\n#.--######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--..-#\n#.-----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-.-$.-#\n#.-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.---.--#\n##########",
+        "##########\n#--------#\n#-$---$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-.---$.-#\n#-$.---.#\n#--#######\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.--$.-#\n#-$.-.--#\n#--#######\n##########",
+        "##########\n#--------#\n#-$---#--#\n#--####--#\n#-#####--#\n#-#####--#\n#------$-#\n#-$.--..#\n#-.--#####\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$--....#\n#-------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-.---$.-#\n#-$-.-#--#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#####-#\n#-$.--..#\n#---.---#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$.-.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-#-#-#\n#-$..-$.-#\n#.-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-.-$.#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-######-#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$.---.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#-#-##-#\n#-$--..-#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-######-#\n#-#####--#\n#-#####-.#\n#-$.--$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$--.-$@#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#--#####-#\n#-#####--#\n#-#####--#\n#-$---.-#\n#-$-#-..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$-$-$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$---$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#-------##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$-.-#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$---..#\n#---.---#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-$....#\n#-------#\n##########",
+        "##########\n#--------#\n#-$---$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#--####--#\n#--####--#\n#-$--..-#\n#.----.-#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-#-#-#\n#-$-$--..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----.-#\n#-$---..#\n#.-----##\n##########",
+        "##########\n#--------#\n#-$-$--.-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$---..#\n#----.-.##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#--####--#\n#--#-#-#-#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-#-#-#\n#-$-$-..#\n#.-.----#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-.#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-.-$..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-#-#-#\n#-$.-$-..#\n#----.---#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-###--#\n#-$.--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$--$.-#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####.-#\n#-$-$.-.#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$-$-#--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$--$-$-#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--..-#\n#-.--.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-#-#--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--.-.#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$.-#\n#-$-#-..#\n#------.##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-##--#\n#-$---..#\n#.----.-#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-##--#\n#-$-$-..#\n#.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-.-$.-$@#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--..-#\n#.-----.-#\n##########",
+        "##########\n#--------#\n#-$---$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$.-..#\n#-------##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-######-#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----..#\n#.------#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-1.0_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.6,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n#--------#\n#-$----$-#\n#-######-#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-$----..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-##-#\n#-$---..#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-#-$-#\n#-$--..-#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--####--#\n#-#####--#\n#-$---..#\n#-.--.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.-----.#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-1.0_topk-50_topp-1.0_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 0.62,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.---..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----.-#\n#-#####--#\n#-#####--#\n#--####--#\n#----#-$-#\n#-$.-$.-#\n#-----.--#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-#####--#\n#--####--#\n#--####--#\n#-$--##--#\n#-$---..#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#--####--#\n#---#-#--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-######-#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.-.-$.#\n#-------.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.-$.-#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$-$--.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-$--..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----.-#\n#-$-.-$..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---$.-#\n#-.---..#\n##########\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#--####--#\n#--####--#\n#--#-#-#-#\n#-$-.--..#\n#-----.--.-.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$--$-$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####.-#\n#-$-.--.#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#---.--$-#\n#-$.-#-.-#\n#---######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--$.-#\n#.----.-#\n##########",
+        "##########\n#--------#\n#-$--.-$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---$..#\n#------.-#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-.--$@#\n#-$--.-.#\n#-########\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$--.-$-#\n#-$--.-.-#\n#--.#######\n##########",
+        "##########\n#--------#\n#------$-#\n#--####--#\n#--####--#\n#--####--#\n#-$-###-.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----.#\n#.----.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####$-#\n#-#####-.#\n#-$----..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#-------.#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$-.-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-----$.-#\n#-$.--#-.#\n#-.#######\n##########",
+        "##########\n#--------#\n#--------#\n#--####--#\n#--####--#\n#--####--#\n#-$.---$-#\n#-$.--.-.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----.-#\n#-$-$-..#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#------.#\n#-$.-$.-#\n#.-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-$-$.--.#\n#----.---#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----$-#\n#-$-#-..#\n#-.--.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#--####--#\n#--####--#\n#--####-.#\n#-$--.-.#\n#------.#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#-#####--#\n#-----#-#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#--####--#\n#--####--#\n#--#####-#\n#--####-.#\n#-$-.--.#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#--#-#-#-#\n#-$-$.-..#\n#-----.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#-$-$..$-#\n#-$.-.-.-#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-#####--#\n#-#####--#\n#--------#\n#-$-#-#--#\n#-$-#--..#\n#---.-.-.-..#\n##########",
+        "##########\n#------.-#\n#-$-$-$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-.--.#\n#-------#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#--####--#\n#--####--#\n#-$-.-..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#--------#\n#-#####--#\n#-#####--#\n#-#####--#\n#--$--$.-#\n#-$.-.--#\n#.-#######\n##########",
+        "##########\n#--------#\n#-$-$-$.-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--$.#\n#-.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$.-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$-$.-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-$-$.-..#\n#-------##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#--####--#\n#--####--#\n#--####-.#\n#-$.--$.-#\n#.-----#\n##########",
+        "##########\n#--------#\n#-$------#\n#--#####-#\n#-#####--#\n#--####--#\n#-$-----#\n#-$.--..#\n#.----####\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--------#\n#-$-#-$.-#\n#-.----..#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$--$.-#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$--$-$-#\n#-#####--#\n#-#####--#\n#--####--#\n#--####-.#\n#-$.-.--#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-#####-.#\n#-$----..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#--#####-#\n#-#####--#\n#--#-##--#\n#-$-.-$.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#--####--#\n#--####--#\n#-#####-.#\n#-#####-.#\n#-$.---.#\n#-------#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-#-#-#\n#-$--..-#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#------$-#\n#-$--..-#\n#-.-######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-######-#\n#-#####--#\n#-.----$-#\n#-$.-.-.#\n#----######\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.-$-..#\n#---.---#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--#####-#\n#--#####-#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$----..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#------..#\n#-$-$.--#\n#.-#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#--####--#\n#--####--#\n#---##--#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#--####--#\n#--####--#\n#----#--.#\n#-$.---.#\n#--.-----.#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#--####--#\n#--####--#\n#-#####--#\n#----.-$-#\n#-$.-.--#\n#---######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$--....#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#-.--.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#--####--#\n#--####--#\n#-----$.-#\n#-$---..-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-#-#-#\n#-$---..#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--####--#\n#--####--#\n#-$.-$-..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-.-$-#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-######-#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-####---#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-$.-$.-#\n#---.----#\n##########",
+        "##########\n#--------#\n#-$---$.-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$---..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.--..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#--#####-#\n#--####--#\n#--####--#\n#-.-$-$.#\n#.---.--#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-$-..#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---.-#\n#.----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-.-$.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-.----$-#\n#-$.--$.-#\n#----#-.--.#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-######-#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$---..#\n#-.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$-.-$.#\n#-.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#--####--#\n#--####-.#\n#-$---..#\n#-----.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$---..#\n#--.----#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#--####--#\n#--####--#\n#-$---..#\n#-.--.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#--####--#\n#-$----.-#\n#-$--.-.-#\n#-.-######\n##########",
+        "##########\n#--------#\n#-$---$.-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$--..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$.--.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.--..#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#--####--#\n#-#####--#\n#-#####--#\n#--.---$-#\n#-$-.--.#\n#-.-######\n##########",
+        "##########\n#--------#\n#-$-$----#\n#--####--#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-$.-$.-#\n#-.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-######-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.-$-..#\n#-.-----#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#-$-$..$-#\n#-.-.-$.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$---..#\n#.------#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-0.33_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.05,
+    "prop_novel": 0.98,
+    "prop_novel_playable_accurate": 0.05,
+    "diversity": 0.9,
+    "restricted_diversity": 0.05,
+    "samples": [
+        "##########\n##########\n##########\n##########\n#----#####\n#-$--#####\n#-$-######\n#-$.----.#\n#-.-.-$.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$-$.-#\n#--#--#-.#\n#-$.-.--#\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n#--####-.#\n#-#####--#\n#--#####-#\n#-#####-.#\n#-$-----#\n#-----.-.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.--$-.#\n#-$.-$.--#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####-.#\n#--------#\n#-$.-$.-#\n#-$.-######\n##########\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-----#\n#-$.--$.-#\n#.-#######\n##########",
+        "##########\n#--------#\n#------$-#\n#--####--#\n#-#####-.#\n#-#####--#\n#-$----.#\n#-$-.-$-#\n#-.#######\n##########",
+        "##########\n#--------#\n#--$-----#\n#-#####--#\n#-#####-.#\n#-#####-.#\n#-$---$-#\n#-$.---.#\n#--#######\n##########",
+        "##########\n#--------#\n#-$-$-$--#\n#-.-######\n#-.#######\n#--#######\n#-.#######\n#-$.######\n#-.-######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-.----$-#\n#-.----.#\n#-.-######\n##########",
+        "##########\n#--------#\n#-$-$----#\n#--####--#\n#-#####-.#\n#-#####-.#\n#-$---.-#\n#-$---#--#\n#-.#######\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.######\n#-$.-#####\n#-$--#####\n#.-.---$@#\n##########",
+        "##########\n#--------#\n#-$------#\n#--#####-#\n#.-####-.#\n#--------#\n#-----$.-#\n#-$.-#---#\n##########",
+        "##########\n##########\n##########\n#---######\n#-$-######\n#---######\n#-$.######\n#-$.-#####\n#-.----$@#\n##########",
+        "##########\n##########\n##########\n##########\n#--------#\n#-$-$.-$.-#\n#-#--##-#\n#-$.----.#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####-.#\n#-#####--#\n#-#####-.#\n#-----$-#\n#--$--..#\n######---#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#--#-$-$-#\n#-#-#-#-#\n#-$..--..#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#--####--#\n#--####--#\n#-----$-#\n#-$.---.#\n#.------#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$-$-#-.#\n#-$-#-#-.#\n#-$.-.--.#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$-######\n#-$.######\n#-$.-#####\n#-$.---.@#\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n#--####-.#\n#--####--#\n#-#####--#\n#--####-.#\n#-$####--#\n#-----.-.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$.-.#\n#-$----$-#\n#----.--#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#-$..$-$-#\n#-$.-.--.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$--$.-.#\n#-$-#-$.-#\n#-.---.--#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####-.#\n#--####--#\n#-#####-.#\n#--####-.#\n#-$-$--.#\n#.-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####-.#\n#-#####-.#\n#-#####--#\n#-------#\n#-$-$--.#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####-.#\n#--####--#\n#-$####-.#\n#-$---.-#\n#-.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-######-#\n#--------#\n#.-$.---#\n##-$--#-.#\n###---.-.#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-#####-.#\n#-$.---$-#\n#-----.-.#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####--#\n#-#####-.#\n#-#####-.#\n#-----$.-#\n#-$-$.-#\n#--#######\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.######\n#-$--#####\n#-$.-#####\n#-.---$@##\n##########",
+        "##########\n#--------#\n#-$-$----#\n#--####--#\n#-#####-.#\n#-#####-.#\n#-$----.#\n#-$----.#\n#--#######\n##########",
+        "##########\n#-.------#\n#-$------#\n#--#-#####\n#-$-######\n#-.-######\n#-$.######\n#-$.######\n#---######\n##########",
+        "##########\n#--------#\n#-$-$---.#\n#--####--#\n#--####-.#\n#--####--#\n#-$####-.#\n#-$----.#\n#.------#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--$-..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#--####-.#\n#-#####--#\n#-#####--#\n#-------#\n#-$---..#\n#.-----##\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#--------#\n#-.---$.-#\n#-$-$.-$-#\n#----.--.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#--$-$-$.-#\n#-$.-#--.#\n#---.-.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####-.#\n#--####--#\n#--####--#\n#.--$-$.-#\n#.------#\n##########",
+        "##########\n#--------#\n#-$---$--#\n#--####-.#\n#-#####--#\n#-#####--#\n#-#####-.#\n#----$-.#\n#----.-.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####-.#\n#--####-.#\n#-$-$---#\n#-$----.#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####-.#\n#--####-.#\n#--####--#\n#-$#####-#\n#-$---.-#\n#-------.#\n##########",
+        "##########\n#--------#\n#-$------#\n#.---#####\n#----#####\n#-$-######\n#-$.######\n#-$.-#####\n#--.-#####\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$.-.#\n#-$-$--.-#\n#-----.--#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.---$.#\n#-$-#--$-#\n#.--.--.-#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.######\n#-$.-#####\n#-$.######\n#-.-$---.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n##-####--#\n#--####-.#\n#-$-----.#\n#.----#--#\n#-$#######\n#.-#######\n##########",
+        "##########\n#-.------#\n#------$-#\n#--####-.#\n#-#####--#\n#--####--#\n#------$-#\n#-$---..#\n#----#####\n##########",
+        "##########\n#-.------#\n#--------#\n#--####-##\n#-------##\n#--#----##\n#-$---$@##\n#-$.-.-###\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n#--####--#\n#-#####-.#\n#-#####-.#\n#--#####-#\n#.-----$-#\n#.-------#\n##########",
+        "##########\n#-.------#\n#-$-$-$--#\n#-#####--#\n#-#####-.#\n#-#####--#\n#--#####-#\n#.-----$.#\n#-------#\n##########",
+        "##########\n#--------#\n#--------#\n#---#-#--#\n#--#--#--#\n#--#----#\n#-$.--$.#\n#-$------.#\n#-.--.-.-.-.#--.#-.#-#\n#-$.#-.#-$.-----#\n#---#--.#-#---#\n#-",
+        "##########\n#-.------#\n#-$-$--$-#\n#-#####--#\n#.-#####-#\n#-#####--#\n#-#####-.#\n#----$--#\n#--.-----#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$----.#\n#.---.--#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$-$.-#\n#-$-#-#-.#\n#-.--.--#\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n##---#####\n##--######\n##-.######\n##--######\n#-$.-#####\n#.----####\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.-.-$@#\n#-------.#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#--####-.#\n#--####--#\n#-$-----#\n#-$-.--.#\n#.------#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---$-#\n#----..-.#\n##########",
+        "##########\n##########\n##########\n##########\n#--------#\n#------$.-#\n#-#-#-#-#\n#-$-$--$-#\n#.--.-.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#--#--$.-#\n#-$.-$.--#\n#-$.--.-#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$-######\n#-$.-----#\n#-$.-$-..#\n#--------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$----.#\n#-.--.-.#\n##########",
+        "##########\n#-.------#\n#-$-$----#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--.-.#\n#.------#\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n#-#####--#\n#-#####-.#\n#--####--#\n#-$-----#\n#-.---.-#\n##########\n##########",
+        "##########\n#--------#\n#-$------#\n#--#####-#\n#-#####-.#\n#-------.#\n#---$-$.-#\n##---#--.#\n##########\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----.#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#-#####-.#\n#------$-#\n#-$----..#\n#-------.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####-.#\n#--#####-#\n#-#####-.#\n#------.#\n#-$.--$.-#\n##-#######\n##########",
+        "##########\n#-.------#\n#------$-#\n#--#-#####\n#-$--#####\n#----#####\n#-$.-#####\n##-$--####\n#-.---.###\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$--$.--#\n#-$--#-..#\n#-$--.-.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.--$-.#\n#-$-#-$.-#\n#-.---.--#\n##########",
+        "##########\n#-.------#\n#-$----$-#\n#-#####--#\n#--####-.#\n#--------#\n##-$--#--#\n##-----..#\n##########",
+        "##########\n#-.------#\n#-$----$-#\n#-#####-.#\n#-#####-.#\n#------$-#\n#-$.--#--#\n#######--#\n#######-.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#-------##\n#-$-.--$-#\n##-$-#-$.-#\n#-.----..#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####-.#\n#-#####-.#\n#-----#--#\n#-$---$-#\n#---.-#-.#\n#######--#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####-.#\n#-#####--#\n#-#####-.#\n#-----$-#\n#-$.-$--#\n#.-#######\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####-.#\n#--#####-#\n#-$-----.#\n#-$----.#\n#----#--#\n#-.#######\n##########",
+        "##########\n#--------#\n#-$------#\n#--####-.#\n#-#####-.#\n#--####--#\n#-$-----#\n#-$---..#\n#.-------#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$-######\n#-$.######\n#-$.-#####\n#--.--$@##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#-$..$-$-#\n#-$.-.--.#\n##########",
+        "##########\n#-.------#\n#--------#\n#--####--#\n#-----#--#\n#-$-----#\n##----$.-#\n#-$--#-..#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$-######\n#-$.######\n#-$.---$@#\n#-.----.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#-$-$.-$@#\n#-$.-.-.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-----$-.#\n#-$.-$-$-#\n#--.-.-.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#.-####--#\n#--####--#\n#-$----$@#\n#-$--.-.#\n#--#######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#--####--#\n#-#####--#\n#--####-.#\n#-$.-$--#\n#.------#\n##########",
+        "##########\n#--------#\n#-----$--#\n#-#####-.#\n#--####--#\n#-$------#\n#-$---#-.#\n#------..#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####-.#\n#-#####--#\n#-#####-.#\n#-$---$-#\n#-$---..#\n#--------#\n##########",
+        "##########\n##########\n##########\n##########\n#--------#\n#-$----$-#\n#--####--#\n#-$.---..#\n#.----$.-#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####-.#\n#--####--#\n#-------.#\n#-$---$-#\n#-.----.#\n##########\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#.-####--#\n#--####--#\n#--####-.#\n#-$---$.-#\n#.------#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.######\n#-$.######\n#-$.-#####\n#-$.----.#\n##########",
+        "##########\n#-.------#\n#--------#\n##---#---#\n##-------#\n#---#---#\n#-$-----#\n#-$-$--..#\n#.-.--#--#----..#-#-.#--.#\n#-$.-#-.#--#\n#-$.#-.#--.#--.#\n#-$.#-.#\n#-",
+        "##########\n##########\n##########\n#-----####\n#-$---####\n#-$--#####\n#-------.#\n#-$.-$-..#\n#-------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#-#####--#\n#-------.#\n#-$-#-#-.#\n#-.-$.---#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####-.#\n#--------#\n#-$---$.#\n#-.----.#\n##########\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#--$-$-$.-#\n#-$-#-#-.#\n#-.-.-.-#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#--####--#\n#-#####--#\n#--####--#\n#-.----$-#\n#.----..#\n##########",
+        "##########\n#-.------#\n#-$------#\n#--#-#####\n#----#####\n#-$-######\n#-$.######\n#-$.######\n#.--######\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11112113222114314314",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1111212221144314433333111112312223444143",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "122111114443222224433434",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11114111223414333331111221223444",
+        "11211111431433333221421143",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        false,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        false,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 20
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 40
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 32
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 26
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 13,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-0.33_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n#-.------#\n#-$---$--#\n#-#####--#\n#--#####-#\n#--#####-#\n#------.#\n#-$-$.-.#\n#.-#######\n##########",
+        "##########\n#--------#\n#--------#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---$.-#\n#-$-$.-.-#\n#--#######\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####-.#\n#-#####--#\n#--------#\n#.--$--.#\n#------.#\n#-########\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####-.#\n#-#####-.#\n#-#####--#\n#-#####-.#\n#-$----$@#\n#.------#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$-$.--.#\n#-$.--$.-#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####-.#\n#-#####-.#\n#-------#\n#-$.--$-#\n#-.#######\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$-$-#\n#-.-#-#-.#\n#-$.--.--#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$--.#\n#-$-#-#-#\n#.----.-.#\n##########",
+        "##########\n#-.------#\n#-$--$-$-#\n#--####-.#\n#-#####--#\n#-#####-.#\n#--#####-#\n#-$####--#\n#-.-----.#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$-######\n#-$-######\n#-$.----.#\n#-$.-.-.-#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-0.33_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.1,
+    "prop_novel": 0.99,
+    "prop_novel_playable_accurate": 0.1,
+    "diversity": 0.93,
+    "restricted_diversity": 0.08,
+    "samples": [
+        "##########\n##########\n##########\n##########\n#---######\n#-$-######\n#-$.######\n#-$.-#####\n#-$.---.@#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$.--#\n#-$.---$@#\n#-----.--#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#----##--#\n#-$--##--#\n#-$----.#\n#------..#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####-.#\n#--#####-#\n#--####-.#\n#-$----.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####-.#\n#-#####--#\n#------$-#\n#-$-----.#\n#-.--#-.-#\n##########",
+        "##########\n#--------#\n#-----$--#\n#-#####--#\n#-#####-.#\n#--####--#\n#-$-----#\n#-$---..#\n#--.----#\n##########",
+        "##########\n#--------#\n#-$-$-$--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-#####-.#\n#-$----..#\n#-------#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.######\n#-$.######\n#-$.-#####\n#-$.----.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$--.#\n#-$-#-$.-#\n#---.--.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#----##--#\n#--####--#\n#--####-.#\n#-$-----#\n#-$-.-.-.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#--------#\n#-$-.-#-.#\n#-$.---.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$--$.--#\n#-$.-$.--#\n#-----.-.#\n##########",
+        "##########\n#-----####\n#-----####\n#------###\n#-------##\n#-$.----##\n#-#--$-###\n#-$.-$-###\n#-.--.-###\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#----#####\n#-$.-----#\n#-$-$.-$@#\n#---.--.-#\n##########",
+        "##########\n#--------#\n#-$-$----#\n##----#--#\n#--.-##--#\n#----##-.#\n#-$.--#--#\n#-------.#\n##########",
+        "##########\n##########\n##########\n#---######\n#---######\n#-$-######\n#-$.-#####\n#-$.--$@##\n#-.--.-###\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#-$..$-$@#\n#-$-.---.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####-.#\n#-#####-.#\n#--#####-#\n#----##--#\n#-$---$.#\n#-.---#--#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$--$--.#\n#-$-#--..#\n#-$--.-.-#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####-.#\n#-#####--#\n#-------#\n#-$.---.#\n#-.-----#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-$--##--#\n#--####--#\n#-#####-.#\n#-#####-.#\n#-$---.-#\n#-----.-#\n##########",
+        "##########\n#--------#\n#--$---$-#\n#--####--#\n#-#####--#\n#-#####--#\n#--####--#\n#-$.-$.-#\n#--.--.--#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$---#\n#-.-$-#-.#\n#-$-.-.--#\n##########",
+        "##########\n##########\n##########\n#---######\n#-$-######\n#---######\n#.-$-#####\n#-$.-$-###\n#-.-.---##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#-$-$-$.-#\n#-$.-.-.-#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$.-$-.#\n#.----#-#\n##########",
+        "##########\n#---######\n#-$-######\n#---######\n#---######\n#.-#######\n#-$.######\n#-$.######\n#--.-#####\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n#--####-.#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$----.#\n#.------#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####-.#\n#----##--#\n#-$-----#\n#-$---.-#\n#--.---.-.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#--#####-#\n#-------.#\n#-$-.---.#\n#-$-.######\n##########",
+        "##########\n#--------#\n#-$------#\n#--####-.#\n#--------#\n#-----#-.#\n#-------#\n#-$-$-#-.#\n#-.--.-..#-.#----#\n#-$.-#-#---.#\n#-$.-#-#-.#---#\n#---#-#--#-",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$--$-..#\n#-$--$.--#\n#----.--.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#-$..$-$@#\n#-$-.-.-##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####--#\n#-#####--#\n#--####--#\n#-$-----.#\n#-$-.---#\n#-.#######\n##########",
+        "##########\n#-.------#\n#------$-#\n#--####--#\n#-$------#\n#--#--#--#\n#-----#-#\n#-$--.-..#\n#--.-.--.-#-#-#-$---#-..#--#-#-#--#\n#-.#-#-.#-#-#---#\n#-.#-",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#----##--#\n#--$-----#\n#-$.-#--#\n#-.---#--.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####-.#\n#--------#\n#-$-$-..#\n#------.#\n##########\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####-.#\n#--#####-#\n#--#####-#\n#-$-----#\n#-$.-$-.#\n#---.---#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####-.#\n#-#####--#\n#--#####-#\n#-$-----#\n#-----..#\n#.------#\n##########",
+        "##########\n##########\n##########\n#---------#\n#--------#\n#--####--#\n#-----$-.#\n#-$-$-..#\n#.------#\n##########",
+        "##########\n#--------#\n#-$------#\n##-------#\n#--#-#####\n#-$.---###\n#-$----.##\n#------.##\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####-.#\n#--------#\n##-------#\n#-$.-#-$-#\n#--.----.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$.---$-#\n#-.----.#\n#-.#######\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.--$.-#\n#-$--#-$-#\n#-.-.-.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--#####-#\n#--#####-#\n#--####--#\n#.------#\n#---$-$.#\n#-.---.-#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####-.#\n#--####-.#\n#----##--#\n#-------#\n#-$-.--.#\n#--#######\n##########",
+        "##########\n#--------#\n#--$-----#\n#--####--#\n#-#####-.#\n#-#####--#\n#---$---#\n#-$.--..#\n#-----####\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.######\n#--------#\n#-$-$.-$@#\n#----.--.#\n##########",
+        "##########\n#-.------#\n#------$-#\n#-#####--#\n#-#####-.#\n#--------#\n#----$-$-#\n#--#-.-#-.#\n##########",
+        "##########\n#-.------#\n#------$-#\n#-#####--#\n#-#####--#\n#--#####-#\n#-$-----#\n#--$--..#\n#.------#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#---$.-$-#\n#-$.-#-$-#\n#-.-.-.-#\n##########",
+        "##########\n##########\n##########\n##########\n#-########\n#--------#\n#--$.-$-.#\n#-$.--$-.#\n#----.--#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#-#####--#\n#-#####-.#\n#--####-.#\n#-$-----#\n#-$---..#\n#-------#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#-$..$-$-#\n#-$.-.-.-#\n##########",
+        "##########\n#--------#\n#--------#\n#--####--#\n#--####-.#\n#--------#\n#-$---$.-#\n##-$-#--.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#-$..$-$@#\n#-$-.---.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#-$-$-$.@#\n#-$-.-.-.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#-$.-$.$-#\n#-.-.-$.-#\n##########",
+        "##########\n##########\n##########\n##########\n#--------#\n#-$------#\n#-#--##-#\n#-$.--$..#\n#----.-$@#\n##########",
+        "##########\n#--------#\n#--------#\n#-#####--#\n#--####--#\n#-$----$-#\n#-$.--#-.#\n#-$.-######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####-.#\n#-#####--#\n#-#####-.#\n#-----$-#\n#-$---..#\n#--------#\n##########",
+        "##########\n#--------#\n#-$-$----#\n##--######\n##--######\n##--######\n##-.######\n##-$.--$@#\n##-.--.-#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####-.#\n#--####--#\n#--####--#\n#-#-#-##--#\n#-$-$--..#\n#----.-.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.--$.-#\n#-$.-$--.#\n#-------#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-#####-.#\n#--------#\n#-$.-$.-#\n#-$.----#\n##########\n##########",
+        "##########\n#-.------#\n#-$------#\n#--#####-#\n#-#####--#\n#-#####--#\n#-$-----#\n#-$-$.-.#\n#-.-----#\n##########",
+        "##########\n#--------#\n#--------#\n#--#---#-#\n#-$------#\n#-.---$-#\n#--#--#-.#\n#---$-#-.#\n#--$.-#-#--#--#---#-#-#-#-#-.#-#-#---#\n#-.#-#-.#-.#-#\n#",
+        "##########\n#--------#\n#-$---$--#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$-$-#-.#\n#-----.-#\n##########",
+        "##########\n#-.-----##\n#-$----###\n#----#####\n#-$--#####\n#-$-######\n#-.-######\n#-$.######\n#--.######\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-------.#\n#--------#\n#-$.----#\n#-$.--#-.#\n#---.-####-#-.#--#\n#---#------#-#--#--#\n#-.#-.#-#-#\n#------#-",
+        "##########\n##########\n##########\n##########\n#--------#\n#-$------#\n#-#-#--#-#\n#-$--$..-#\n#-$.--.-#\n##########",
+        "##########\n#-.------#\n#-$----$-#\n#--####--#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-$---$.-#\n#-------.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.---$-#\n#--$.--$@#\n#-.----.-#\n##########",
+        "##########\n#--------#\n#------$-#\n#-#####-.#\n#-#####--#\n#--------#\n#---$-$..#\n#------.#\n##########\n##########",
+        "##########\n#-.------#\n#------$-#\n#-$-######\n#---######\n#-.-######\n#-$.######\n#-$-######\n#.--######\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####-.#\n#--####--#\n#--####--#\n#-$####--#\n#.--$.--#\n#.------#\n##########",
+        "##########\n#--------#\n#-$-$----#\n#.---#####\n#----#####\n#--.-#####\n#-$-######\n#.---####\n#--.---.#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#--#####-#\n#-------.#\n#-$---#-#\n##-$---..#\n##----.##\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#-$--.--#\n#-.-$.--#\n#----######\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$.$-#\n#-$.-.--.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-#####--#\n#-----#--#\n#---#----#\n#-$.-$.-#\n#--.--#--#\n##########",
+        "##########\n#--------#\n#-$------#\n#--####--#\n#-#####-.#\n#-#####-.#\n#-$---$-#\n#-$----.#\n#.---#####\n##########",
+        "##########\n##########\n##########\n##########\n#--------#\n#-$.-$-$.-#\n#-#####--#\n#-$---.-.#\n#------.#\n##########",
+        "##########\n#--------#\n#-$------#\n#--#-#####\n#-$--#####\n#-.-######\n#-$.######\n#-.-######\n#.--######\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####--#\n#--####-.#\n#-$-$--..#\n#-------#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--------#\n#-$.-$-$-#\n#--#--#-.#\n#-$.--.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####-.#\n#-#####-.#\n#--#####-#\n#---####-#\n#-$-$--.#\n#----.-.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####-.#\n#-#####--#\n#-#####--#\n#-------#\n#-$.--$.-#\n#-.#######\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n#--####--#\n#-#####--#\n#--####--#\n#-#####-.#\n#-$-----#\n#.-----.#\n##########",
+        "##########\n#--------#\n#-$------#\n#-$-######\n#-.-######\n#-$-######\n#-.-######\n#-$.######\n#.--######",
+        "##########\n#--------#\n#------$-#\n#---###--#\n#--####-.#\n#--####--#\n#------$-#\n#-$----..#\n#---.-.-.#\n##########",
+        "##########\n#--------#\n#--------#\n#--#----#\n#--#----#\n#--#----#\n#-$--$.-#\n#-$.---.##\n#-.-.######\n#-.-.-----####-###--##-##-##-##\n#.--##-##-##\n#\n#\n#\n#--$-.-$-",
+        "##########\n#-.------#\n#-$----$-#\n##--###-.#\n#--------#\n#-$-----#\n#-.---#-.#\n#--#######\n##########\n##########",
+        "##########\n#-.------#\n#--------#\n#--####--#\n#--------#\n#.-$-----#\n#-$-$-#--#\n##-.#######\n##########",
+        "##########\n#--------#\n#-$------#\n#--#-#####\n#-$-######\n#------.##\n#-$.--$@##\n##-.--####\n##########",
+        "##########\n#--------#\n#------$-#\n#--####-.#\n#--####--#\n#--------#\n#-$.-$--#\n#-.-----.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#--####-.#\n#-#####--#\n#-#####--#\n#-------#\n#-$---..#\n#.-----##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#-$-$..$-#\n#-$.-.--.#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-#####--#\n#-#####--#\n#-#####-.#\n#-#####-.#\n#-$---$-#\n#--.--.-#\n##########",
+        "##########\n#--------#\n#--------#\n#--#-#####\n#------###\n#-$----###\n#-#-$--.##\n#-$--.-.##\n##########"
+    ],
+    "solutions": [
+        "1111212221144314433333111112312223444143",
+        "121411231121143143",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "21411214141123123433",
+        "",
+        "1141122341431112312234422234",
+        "411223414312121111431433",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1214121111431433",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "2141431111231211234414333",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "411223414312121111431433",
+        "2111111143143333332214211141432333",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "2142111211443",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        false,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 40
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 18
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 20
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 28
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 16
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 25
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 34
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 13
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 15,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-0.66_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.12,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.12,
+    "diversity": 1.0,
+    "restricted_diversity": 0.12,
+    "samples": [
+        "##########\n##########\n##########\n#-########\n#----#####\n#-.--#####\n#-.-----#\n#-$.-$.$-#\n#--.---$-#\n##########",
+        "##########\n#---######\n#-$-######\n#-.-######\n#-$.######\n#-.-######\n#-$.######\n#-$-######\n#.--######\n##########",
+        "##########\n###--.---#\n####-----#\n######--##\n#####--###\n######-###\n#----$-###\n#-$---$@##\n#-$.-.--#\n##########",
+        "##########\n##########\n##-----###\n##-$--.###\n##---##-##\n##---#---##\n##-$-.-.##\n##--$-$.-#\n##---.---#\n##########",
+        "##########\n##----.--#\n##--$--$-#\n######-###\n######--##\n#---###-###\n#--$-#-.##\n#.----$.##\n#.------##\n##########",
+        "##########\n###--.---#\n###-$..$-#\n#######--#\n######-$-#\n######---#\n######---#\n#####-$--#\n####---.-#\n##########",
+        "##########\n#-########\n#-########\n#-########\n#-$.######\n#-.-$-####\n#-$.-#####\n#-$.-#####\n#--.-#####\n##########",
+        "##########\n#---######\n#-.-######\n#---######\n#-$#######\n#--#######\n#-$.######\n#-$-----.#\n#.---.-$@#\n##########",
+        "##########\n###-----##\n#--$----##\n#---###-###\n#--##---##\n#--.---.-##\n#-$-#.-###\n#--$-$###\n#.-----###\n##########",
+        "##########\n###------#\n###---#--#\n##-$-##--#\n##----#--#\n##--$---.#\n##-----.#\n##-$-#-.#\n###-.----#\n##########",
+        "##########\n#------###\n#-$-----###\n#-###-####\n#-#-#-####\n#-$.-#####\n#--#--####\n#-$..$-###\n#.----####\n##########",
+        "##########\n#-.-######\n#-$-######\n#-$--#####\n#-$.######\n#.-#######\n#-########\n#---######\n#.--$@####\n##########",
+        "##########\n##---#####\n#---######\n#-$-######\n#.--######\n#-$--#####\n#--.######\n#-$.-#####\n#.---#####\n##########",
+        "##########\n##########\n##########\n#--------##\n#-$-#-$-##\n#--#---###\n#--#-$-###\n#-$-.-..##\n#---.--##\n##########",
+        "##########\n#-$------#\n#--------#\n#-#-######\n##--######\n##-----###\n##-$.-####\n##-$.--.##\n##-.--####\n##########",
+        "##########\n#-----####\n#-$--.-###\n#-#---####\n#--#-#####\n#----#####\n#-$.-#####\n#-$--$-###\n#--..--###\n##########",
+        "##########\n#----.-###\n#--$--####\n#---######\n##-#######\n##--######\n#-$-######\n#-$-.--$@#\n#.------#\n##########",
+        "##########\n#-.-----##\n#--$--$.##\n##-##-$###\n#-###--###\n#-###--###\n#-###--###\n#.-----##\n#-.---$.##\n##########",
+        "##########\n#-.------#\n##--$--.-#\n##--######\n#---######\n##-$######\n##-.######\n##----$@##\n##--$---.#\n##########",
+        "##########\n##########\n##########\n###------##\n##------.#\n#---##--#\n#-$-$-$.-#\n##---.-$-#\n#----.-.#\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n######-.-#\n######---#\n######--.#\n######.-.-#\n#####-$--#\n##########",
+        "##########\n######---#\n######---#\n######-.-#\n######--##\n######---#\n######-$-#\n#-$--$.-.#\n#-$--.--.#\n##########",
+        "##########\n##########\n#------###\n#-$-.-####\n#-##--####\n#-$.--####\n#.-$---.##\n#---#--###\n#---.-####\n##########",
+        "##########\n##########\n#--#######\n#--#######\n#-########\n#-########\n#.--.--###\n#-$$-$.###\n#-.--$@###\n##########",
+        "##########\n#--.----##\n##-$--$-##\n#--##--###\n#--##--###\n#--#--####\n#-$#.-####\n#-$.--####\n#-.#######\n##########",
+        "##########\n#-.----###\n#-----####\n#-$--#####\n#-.-######\n#-$.-#####\n#--$-#####\n#-.-$-####\n#---.--###\n##########",
+        "##########\n##########\n##########\n##########\n###--#####\n###-$#####\n###-$---.#\n##--$.-$.#\n##--.---.#\n##########",
+        "##########\n#--------#\n#----$-.-#\n#-.#######\n#-########\n#-$---####\n#---$-####\n#-$..-####\n#-.--#####\n##########",
+        "##########\n#-$------#\n#-.-$--$-#\n#-#-######\n#------###\n#--.-#--###\n#-#-#-$####\n#.-.--####\n##########",
+        "##########\n##---.---#\n##----#--#\n###-$-#--#\n##---##-.#\n##-$---#-#\n##-$-.---#\n#-.---#--#\n##########",
+        "##########\n#--.--####\n#-----$@##\n#-$----###\n#-###--###\n#--#-#####\n#-#---####\n#-$.$.####\n#.----####\n##########",
+        "##########\n#-.-######\n#-.-######\n#-$-######\n#-$-######\n#-.#######\n#---######\n#-$.-#####\n#--.---###\n##########",
+        "##########\n#-----####\n#--$.-####\n#-$--#####\n#-.-######\n#-.-######\n#-$.-#####\n#-$--#####\n#-----####\n##########",
+        "##########\n####-#####\n#-------###\n#.-#-$####\n#-##---###\n#-##-$####\n#-###--###\n#.$-$.--##\n#---.---#\n##########",
+        "##########\n#--.---###\n#--$.-####\n#-$----###\n#-###---##\n#--#--####\n#-$#---###\n#-$--.-###\n#-.---####\n##########",
+        "##########\n#-----####\n#-$.-#####\n#---######\n#-.-######\n#--#######\n#.-$--####\n#-$.-$-####\n#--.---###\n##########",
+        "##########\n#-.-######\n#---######\n#--#######\n#---######\n#-$.######\n#--$######\n#---$@####\n#.--.-####\n##########",
+        "##########\n##########\n##########\n##########\n#-----####\n#.-$--####\n#-.--#####\n#-$--$-$@#\n#@---.--#\n##########",
+        "##########\n#--.--####\n#-$-######\n#-########\n#.-#######\n#-$#######\n#-$#######\n#-.---####\n#-$--.-###\n##########",
+        "##########\n##########\n##########\n#---######\n#---######\n#.--######\n#-$.######\n#.-$---$@#\n#.-----$@#\n##########",
+        "##########\n#--#######\n#-$-######\n#---######\n#-$-######\n#.---#####\n#-$--#####\n#.-$.--###\n#---.--###\n##########",
+        "##########\n##-------#\n#----$--##\n##--#-####\n##--######\n##-.-#####\n##-$.-#####\n###-$.-$@#\n###-----.#\n##########",
+        "##########\n#-----####\n#-$--#####\n#--#######\n#-########\n#-########\n#-########\n#.$-.-$@##\n#-$.----##\n##########",
+        "##########\n#---######\n#---######\n#-########\n#--#######\n#-.-$@####\n#-$-$-####\n#-.-$-####\n#.--.-####\n##########",
+        "##########\n#---.---##\n#--.-$-###\n#---######\n##-.######\n##--######\n#--$-#####\n#-$.-#####\n#.-----###\n##########",
+        "##########\n##--######\n##-$-#####\n##-----###\n##--#-####\n##---#####\n##-$-#####\n#-$..--$-#\n#.---.--#\n##########",
+        "##########\n#---######\n#-$.######\n#-.-######\n#-.#######\n#--#######\n#-$-######\n#-$----###\n#-.----$@#\n##########",
+        "##########\n#--.---###\n#-$.--$-###\n#-###--###\n#-###--###\n#--#--####\n#-$#--####\n#-$--.-###\n#.-----###\n##########",
+        "##########\n###--.---#\n####--$.-#\n####--#--#\n#####-#--#\n####-$---#\n###---#-.#\n###-$-#$-#\n###----.-#\n##########",
+        "##########\n#---######\n#-.-######\n##--######\n##---#-###\n##----$@##\n#--$-#-###\n#--$.---##\n#--.-$-.##\n##########",
+        "##########\n#-.---.--#\n#-$-$--$-#\n#.-#-#####\n#-########\n#.########\n#---######\n#--$-#####\n#-----####\n##########",
+        "##########\n#---.--###\n#-$---####\n#-$.######\n#-.#######\n#-########\n#-.#######\n#--$--####\n#----$@###\n##########",
+        "##########\n#-.----###\n#---$--###\n#-.------#\n#-$.-.---#\n#--$-#-###\n#--#######\n#--#######\n##########",
+        "##########\n######---#\n######---#\n#####-$.-#\n#####-#--#\n#####-$--#\n#####-.-.#\n#####-$--#\n#####-$.-#\n##########",
+        "##########\n##-------#\n##.-$-#--#\n##--##--##\n##--###--##\n##--#--###\n##--#-$.##\n#-$-----#\n#.----.--#\n##########",
+        "##########\n#-----.--#\n#-$-$-$.-#\n#-######-#\n#-########\n#--#######\n#.-#######\n#--$.######\n#--.---###\n##########",
+        "##########\n##########\n##########\n#-########\n#--------#\n#.-$-----#\n#-#-######\n#.-$-$..##\n#-.-----##\n##########",
+        "##########\n##########\n##--######\n##-$---###\n##-------##\n##--#.--##\n##-$-#.--##\n##-$---$-#\n##-.--..-#\n##########",
+        "##########\n###-######\n#---######\n#-$-######\n#-.--#####\n#---######\n#--.######\n#-$.-$@###\n#-$.--####\n##########",
+        "##########\n#---######\n#-$.-#####\n#-.#######\n#--#######\n#-$---####\n#----#####\n#-$.######\n#.-----$@#\n##########",
+        "##########\n#-.---.-##\n#------###\n#-##--####\n#-###--###\n#-#---####\n#-$-$--###\n#-$--$.###\n#.----###\n##########",
+        "##########\n##---#####\n##----####\n##---#####\n##-.--####\n##-$---###\n###-$-.-##\n###-$--$@#\n#----..-##\n##########",
+        "##########\n#-$--.---#\n#-$.-----#\n##-#-#####\n##-$-#####\n###-######\n##-.######\n##-$.-####\n##-.----##\n##########",
+        "##########\n#-.------#\n#--$-$.-##\n#-#-.#####\n#-$#######\n#-.-######\n#----#####\n#-$.######\n#---######\n##########",
+        "##########\n#-.---####\n#-$.-#####\n#-----####\n#------###\n#--#--####\n#--#.--###\n#-$#$-####\n#-.---####\n##########",
+        "##########\n#--------#\n#-$-$--$-#\n#.-#######\n#.########\n#--#######\n#.-#######\n#---######\n#---$@####\n##########",
+        "##########\n##########\n##########\n#--#######\n#---######\n#-.--#####\n#--.-#####\n#--$-$@###\n#-$.-$.-##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--------#\n#.-$.$-$@#\n#@$---.-.#\n##########",
+        "##########\n#----#####\n#-$-######\n#-.--#####\n#----#####\n#.#----###\n#-#-$-####\n#-$--$@###\n#-.-.--###\n##########",
+        "##########\n#-------##\n#-$-$-####\n##-#-#####\n##.-######\n##-.######\n#-$-######\n#-.--#####\n#.-----$@#\n##########",
+        "##########\n##########\n##########\n##-----###\n##-$-$-###\n#-$.######\n#-$.######\n#-.--#####\n#--.----.#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--#######\n#-.-######\n#-$--$.--#\n#-.$--.-.#\n##########",
+        "##########\n##########\n##########\n#---------#\n#-$-#--.-#\n#-#####--#\n#-#-$----#\n#-$.$-.-#\n#.-#----#\n##########",
+        "##########\n###---.--#\n###------#\n####--####\n####-#####\n####--####\n#--$-$--##\n#-$-..-$@#\n#--.----#\n##########",
+        "##########\n##########\n##########\n##########\n#-----####\n#-$-$-####\n#-$.######\n#----.-$@#\n#--.-.---#\n##########",
+        "##########\n##---#####\n#-$---####\n##-#--####\n##-#-#####\n###--#####\n##-$.--###\n##-$-$..##\n##-.----##\n##########",
+        "##########\n#-.-----##\n#-----####\n#-########\n#-########\n#.-#######\n#-$$######\n#.---$@###\n#-----$@##\n##########",
+        "##########\n###------#\n####-$--##\n#####-$###\n#####-.-##\n#####-.-##\n#-##-#-$-##\n#-$----.##\n#-.-----#\n##########",
+        "##########\n#--.---###\n#---$----##\n#-$.--####\n#-$--#####\n#-$-######\n#-.-######\n#-.#######\n#-.#######\n##########",
+        "##########\n#-$----.-#\n#------.-#\n#-#--#####\n#-$--#####\n#-$.-#####\n#--.######\n#-$#######\n#@--######\n##########",
+        "##########\n##------##\n##-$.--###\n##-.######\n###--#####\n##-$-#####\n##---######\n#-.-$.-###\n#.-----$@#\n##########",
+        "##########\n##---.---#\n##---$.--#\n##---##--#\n##--####--#\n##----##--#\n##.$-##-$#\n##--.----#\n##########",
+        "##########\n######-.-#\n######---#\n#####-.--#\n#####---##\n######--##\n#-$---$-##\n#-$--$--##\n#--.--..##\n##########",
+        "##########\n#----.---#\n##---$-.-#\n#-.--##-##\n##--######\n#-$--#####\n##-$-#####\n##----####\n##-.---.##\n##########",
+        "##########\n#-########\n#-########\n#.-#######\n#-########\n#-$-######\n#-$-######\n#-.-$---.#\n#-$--.-.-#\n##########",
+        "##########\n##########\n##########\n#-------###\n#-$----###\n##--######\n#--.-#####\n#-$-$-$@##\n#-.-..--##\n##########",
+        "##########\n#-----####\n#-$----###\n#------###\n#-##--####\n#-##--####\n#--#--####\n#-$-$-$@##\n#-.-.--.##\n##########",
+        "##########\n#####----#\n#####-$-.#\n######-$@#\n######-.-#\n#######--#\n#######$-#\n#######$.#\n#######--#\n##########",
+        "##########\n#####----#\n######-$-#\n#####-$.-#\n######-$-#\n######--.#\n######--##\n#####--$-#\n#--.--.-#\n##########",
+        "##########\n##########\n#--#######\n#-.#######\n#-.-######\n#-$-######\n#--.######\n#-$$-#####\n#--.---.##\n##########",
+        "##########\n#-########\n#--#######\n#--#######\n#---######\n#-$-######\n#--$.----#\n#-.--$.-##\n#-$.-.--##\n##########",
+        "##########\n##########\n#---######\n#--#######\n#---######\n#-------##\n#.----$@##\n#---$-$.##\n#-.--.-###\n##########",
+        "##########\n##########\n#--#######\n#-$#######\n#-.#######\n#-.--#####\n#-$.$-####\n#.-$--####\n#-.---####\n##########",
+        "##########\n#---######\n#-$-######\n#-$--#####\n#.---#####\n#-$--#####\n#---######\n#--.-$@###\n#-.--.-###\n##########",
+        "##########\n#--------#\n#-$---#--#\n######--##\n######-.##\n#-$------##\n#-$-.-$@##\n#-.-#---##\n##########\n##########",
+        "##########\n##########\n##-------#\n##------##\n##-----.##\n##-$-##-##\n##-.-##-$-#\n##-$-#-$.#\n##-----.#\n##########",
+        "##########\n#-########\n#---------#\n#.-$--$.-#\n#--#####-#\n#.-#####--#\n#-$#####-#\n#-$.######\n#-@----##\n##########",
+        "##########\n##-----.--#\n##--$.$-##\n#####-#--#\n#####.-#-#\n#####-.--#\n#####-#--#\n####-$-$-#\n####--.-#\n##########",
+        "##########\n##########\n##########\n#-.-######\n#--$--####\n#.----####\n#-$--#####\n#-.$---$@#\n#---.---#\n##########",
+        "##########\n#---######\n#-$--#####\n#-$.######\n#--.-#####\n#-$-######\n#-.-######\n#--.######\n#-----$@##\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "111212222223344121443",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11114122223412223333111414444343333",
+        "",
+        "",
+        "",
+        "",
+        "221144112321333344111323",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1114121144444433234111222222334121444443",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "41321142121444323341",
+        "",
+        "",
+        "112114111232224444332141233334111212212223",
+        "",
+        "",
+        "111414122223444143343321",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "114122114314322223422214",
+        "11111121232341221223",
+        "",
+        "12141411231224334",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "114111121223234441433122223341214144143",
+        "",
+        "",
+        "",
+        "",
+        "32123122334322123331141411431222233333",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 21
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 35
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 40
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 20
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 42
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 20
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 17
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 39
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 38
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-0.66_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.1,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.1,
+    "diversity": 1.0,
+    "restricted_diversity": 0.1,
+    "samples": [
+        "##########\n#--.-----#\n#-$-$----#\n#--#######\n#-########\n#.########\n#-------##\n#--$.-$@##\n#----.-###\n##########",
+        "##########\n##########\n##########\n#-.-######\n#.---#####\n#-$------#\n#--#--$-#\n#-#-#-$.-#\n#--.--$.-#\n##########",
+        "##########\n#--#######\n#-$#######\n#-.#######\n#.-#######\n#--#######\n#-$#######\n#------$@#\n#-.----$@#\n##########",
+        "##########\n#---######\n#-$-######\n#-.-######\n#-$-######\n#-.------#\n#--$----.#\n#-$-.----#\n#--#######\n##########",
+        "##########\n###-######\n###---####\n###-----##\n##-$---$.-#\n##-.-#---#\n#-.----$-#\n##-$-#-.##\n##---.--##\n##########",
+        "##########\n#---######\n#-$-######\n#-.#######\n#--#######\n#-.#######\n#----$@###\n#-$.-$-###\n#--.---###\n##########",
+        "##########\n#------###\n#-$.--####\n#--#######\n#-.-######\n#-.------#\n#-$.--$-##\n#-$---####\n#-----####\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-.-######\n#--$-.---#\n#.-$-$.$-#\n##########",
+        "##########\n#-$---.-##\n#--#-$-###\n#-#--#####\n#--#-#####\n#-#--#####\n#---.-####\n#-$-$-####\n#--.-.-###\n##########",
+        "##########\n####-.---#\n#####---.#\n######--##\n######-###\n#####-$-##\n#--#---###\n#-----$-##\n#-$.-$..##\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "111441123234343321121112222234",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 30
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-0.66_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.07,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.07,
+    "diversity": 1.0,
+    "restricted_diversity": 0.07,
+    "samples": [
+        "##########\n#--.---###\n#-$--$-###\n#-##-#####\n#-.-######\n#--.-#####\n#-$-######\n#-$.######\n#---######\n##########",
+        "##########\n#---.----#\n#.-#-#---#\n#-#####--#\n#-#####--#\n#-#####-##\n#-$.-----#\n##-$-$.--#\n#####---##\n##########",
+        "##########\n#-----.--#\n#-$.-$--.#\n#--#######\n#--#######\n#-########\n#.########\n#-$-######\n#.-----###\n##########",
+        "##########\n#-$----.-#\n#-$.$-$.-#\n#.-#####-#\n#-########\n#-########\n#.-#######\n#-########\n##########\n##########",
+        "##########\n#--#######\n#-########\n#.-#######\n#-$#######\n#-.#######\n#.-#######\n#--$-.-$-#\n#------.-#\n##########",
+        "##########\n#--------#\n#-$----$-#\n#-$--##-.#\n#-#-######\n#---######\n#-$--#####\n#.--.#####\n#--.-#####\n##########",
+        "##########\n##-------#\n##-----$.#\n##-$-######\n#--------##\n#--.-.---#\n#####-$-##\n###-#----#\n##########",
+        "##########\n#---######\n#---######\n#--.---###\n#-$---####\n#.--$--###\n##--$-.###\n###.-$-###\n###----###\n##########",
+        "##########\n#----#####\n#-$---####\n#---######\n#--##-####\n#-##--####\n#-$-$-####\n#-$..-###\n#-.--.-###\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#-.-######\n#----$@###\n#-.-$-####\n#-$.--$@##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n##--######\n##--$..$-#\n#.--$.-$@#\n##########",
+        "##########\n###-######\n##-------##\n##----#---#\n##--##---#\n##--##---#\n##-$-#-$.#\n##-$---$@#\n##-.--.-##\n##########",
+        "##########\n#-----.--#\n#-$----$.#\n#-#####-##\n#.-#####-##\n#--#####--#\n#--####--#\n#-.-##-$$-#\n#-----.--#\n##########",
+        "##########\n#####---.#\n######-$.#\n######-#-#\n######-.-#\n#######--#\n#######-.#\n#-$---$$-#\n#-------#\n##########",
+        "##########\n##-------#\n##---.---#\n###--###--#\n##--$----#\n##---#---#\n##.-$-$.-#\n##--$.--##\n##--#######\n##########",
+        "##########\n######---#\n######$--#\n######---#\n######.-##\n######-.-#\n#####-.--#\n#-$--$-$.-#\n#-----.--#\n##########",
+        "##########\n#--------#\n#-$--$---#\n#-######-#\n#-#####--#\n#.--####-#\n#-$--##-.#\n##-$.$---#\n#.-.----#\n##########",
+        "##########\n####--.--#\n####-$-$-#\n###---##-#\n##-$-----#\n#----#-#-.#\n#.--###-.#\n#----#-$-#\n#----#---#\n##########",
+        "##########\n##########\n#-----####\n#-$----.##\n#--##--.##\n#-###--###\n#.-#-$####\n#--$-$-###\n#-.----##\n##########",
+        "##########\n#---######\n#---######\n#-.#######\n#---######\n#-$--#####\n#--$--####\n#-.-$-.###\n#-.-.--###\n##########",
+        "##########\n####--####\n#--------##\n#-#---.###\n#-##--####\n#-#-$-####\n#--#--.###\n#-$$--$@##\n#.-----##\n##########",
+        "##########\n######-.-#\n#######$-#\n#######--#\n#######-.#\n######-$-#\n#####-$.-#\n######.--#\n######-.-#\n##########",
+        "##########\n#####--###\n#####--###\n#####-$###\n#####-$--#\n#--##----#\n#-#--##--#\n#---$.-..#\n#----.-##\n##########",
+        "##########\n#-$-.---.#\n#-$------#\n#######$-#\n#######-.#\n#######.-#\n########-#\n#######--#\n#####-$.-#\n##########",
+        "##########\n##########\n##########\n##########\n##-.-----#\n##----$--#\n##---.-$@#\n##-#-$#-#-#\n#@$--.--.#\n##########",
+        "##########\n#-########\n#---######\n#-$-######\n#.--######\n#-.-######\n#-$-######\n#.-$-#####\n#--.----##\n##########",
+        "##########\n##---#####\n##-----###\n##--#-####\n#-##---###\n#-----#-##\n#-$.-$..##\n#-$$-.-###\n##----####\n##########",
+        "##########\n#--#######\n#-$.######\n#-$-######\n#----#####\n#------.##\n#-$----###\n#.-#---###\n#---.--###\n##########",
+        "##########\n##########\n#-########\n#-----####\n#--#----##\n#---#--###\n#-$#.-####\n#-.$$-$@##\n#.---.--##\n##########",
+        "##########\n##########\n##########\n##########\n#--#######\n#--#######\n#.---#####\n#-$-$-####\n#.-.$--.-#\n##########",
+        "##########\n##########\n#--------##\n#-----$-##\n#--#---###\n#-##---###\n#----$-###\n#-$.-$.###\n##.---.-##\n##########",
+        "##########\n##########\n#------###\n#--.--$-##\n#-###--###\n#--##--###\n#-$---$@##\n#-$-.-.##\n#.--#--###\n##########",
+        "##########\n#---######\n#-$-######\n#-.-######\n#.--######\n##--######\n#-----$@##\n##--$$-.##\n##--.---#\n##########",
+        "##########\n#---######\n#-.-######\n#.--######\n#-$.-#####\n#----#####\n#-$---####\n#--$---$@#\n#-.-----#\n##########",
+        "##########\n#-$-.-.--#\n#-$-$.---#\n#--#######\n#-########\n#-########\n#--#######\n#.----$@##\n#------###\n##########",
+        "##########\n###---.-##\n#-.--$--##\n#-$.######\n#-$.######\n#--#######\n#.-#######\n#--$-#####\n#----#####\n##########",
+        "##########\n#--.----##\n#-$-$-####\n##---#####\n##-.######\n##--######\n##---#####\n##-$.$-###\n##--.----#\n##########",
+        "##########\n##########\n##########\n##########\n#-.-######\n#-$.######\n##----####\n#-$--$-$@#\n#.---.---#\n##########",
+        "##########\n##########\n##########\n#--#######\n#-$#######\n#.-#######\n#-----.-$@#\n#-$$---.-#\n#---#---.#\n##########",
+        "##########\n#-----####\n#-$.-$@###\n#--#-#####\n#--##-####\n#.------##\n#-$-$-####\n#--#-#####\n#.----###\n##########",
+        "##########\n#.--######\n#-$-######\n#---######\n#----#####\n#-.-----##\n#--#-.-$-#\n#-##-$$.-#\n##---.--#\n##########",
+        "##########\n##########\n##########\n##########\n#####-####\n####---$-#\n#####.-$-#\n#-$----$.#\n#---.--.--#\n##########",
+        "##########\n#---.----#\n#-$--$-.##\n#--#######\n#-$-######\n#-########\n#-########\n#-$.-#####\n#--.-#####\n##########",
+        "##########\n##-.-#####\n##-------#\n##--$----#\n#-#-#####\n#----#####\n#-$-----##\n#---$.--#\n#---..-.##\n##########",
+        "##########\n#-----####\n#-$-$-####\n##---.-###\n#-------##\n#-.----###\n#-.#######\n#-$#######\n#--.--.##\n##########",
+        "##########\n###--.---#\n##-$.-$--#\n##-$-##--#\n##-$-##-.#\n###--###--#\n##----##-#\n#-$-###--#\n#.------.#\n##########",
+        "##########\n######---#\n#####-.$-#\n######--##\n######---#\n#####--###\n#####--$-#\n#-#-..$--#\n#-$.----.#\n##########",
+        "##########\n#---######\n#--$-#####\n#-.-######\n#-$.######\n#--#######\n#--$######\n#-.-######\n#..--#####\n##########",
+        "##########\n#####----#\n#####.-$-#\n#####---##\n######---##\n#####-$.##\n#####-$-##\n#--#-$-.##\n#----.--##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#---.---##\n#-$-$..$@##\n#-$.--.-##\n##########",
+        "##########\n#-########\n#-.#######\n#---######\n#------$@##\n#---#-####\n#-$.$-####\n#.---$@###\n#-----####\n##########",
+        "##########\n##########\n##########\n#-########\n#--.-#####\n#-$---#--##\n#-.-$--$@#\n#-##---$-#\n#-.----.-#\n##########",
+        "##########\n#---######\n#-$--#####\n#----#####\n#-.#######\n#--#######\n#-$-######\n#@$----$@#\n#-.-.----#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n###------#\n#--$-$.--#\n#.-$---.#\n#-$-.--.-#\n##########",
+        "##########\n###-######\n##---#####\n##--######\n##--######\n##---#####\n#-$.-#####\n#@$---$--#\n#-$.-.-.-#\n##########",
+        "##########\n#-----####\n#-$---####\n##---#####\n#---######\n#--------#\n#-$-#.-$-#\n##-#-.-$-#\n#.--.---#\n##########",
+        "##########\n##########\n##########\n#####-.--#\n#####--#-#\n#-##-#-#-#\n#---$--$-#\n#-$--$-.-#\n#@--.-.-#\n##########",
+        "##########\n##########\n##########\n#--.------#\n#-#-$-#--#\n#--#####-#\n#-#####--#\n#-$---..#\n#-$-.-$-#\n##########",
+        "##########\n#-----####\n#-$---####\n#-########\n#--#--####\n#-$-----##\n#-.-$.--##\n#--#.-$-##\n#@--.--###\n##########",
+        "##########\n#--.---###\n#------###\n#-$--#-###\n##------##\n#-##-$-###\n#-$--..###\n#--$---###\n##-.---###\n##########",
+        "##########\n#------###\n#------###\n##-----###\n#-.---####\n##----#--#\n#-.-$-$.-#\n#---$-$.-#\n#.----##\n##########",
+        "##########\n##########\n##########\n#---######\n#.------##\n#---#-$.##\n#-###--###\n#--$-$.###\n#-.----$@#\n##########",
+        "##########\n##########\n##########\n##########\n#######--#\n######-.-#\n####-$.$-#\n#####--$.#\n####--.--#\n##########",
+        "##########\n####---###\n#-$---$-###\n#--#-$--###\n#--#--####\n#-#-.-####\n#.-#-.####\n#-$.-#####\n#---.-####\n##########",
+        "##########\n#--.-----#\n#----.-$-#\n##--####-#\n#---###--#\n##-#---$-#\n##--$-#-.#\n##----#.--#\n##########",
+        "##########\n##########\n##########\n##########\n#-.#######\n#-$.-#####\n#-$-$#####\n#-$--#####\n#.-.----.#\n##########",
+        "##########\n##########\n##########\n#-$----###\n#-------.##\n#-#--#####\n#-#-$#####\n#-.$---.-#\n#-$-.-.-#\n##########",
+        "##########\n##########\n##-#######\n#-$.######\n#-$-######\n#.--######\n#-.#######\n#-$.-#####\n#------$@#\n##########",
+        "##########\n##--.----#\n##---$-$.#\n######-.-#\n#######--#\n#######--#\n######-$-#\n######-.-#\n#######--#\n##########",
+        "##########\n##########\n##########\n##-#######\n#-.--#####\n#-.-$--###\n#-$---####\n#.$-$---##\n#.---.--##\n##########",
+        "##########\n#--#######\n#-$-######\n#-.-######\n#---######\n#-$.######\n#-$.######\n#-.-######\n#-.-######\n##########",
+        "##########\n#------###\n#-$--$-.##\n##-#-.--##\n##-##-$###\n###---.---#\n###----$-#\n#####---@#\n######--.#\n##########",
+        "##########\n##-----.--#\n##-$.$---#\n######--##\n#####----#\n######-.##\n######--##\n#####--$.-#\n####--.--#\n##########",
+        "##########\n#--.-----#\n#-$---#--#\n#-$.-###-#\n#-$--##-.#\n##----#--#\n###--#---#\n###--#.-$-#\n##########",
+        "##########\n#------###\n#---$--###\n#--#---###\n#-##--###\n#-###-#--##\n#--$.--$@#\n#.--.--##\n######-###\n##########",
+        "##########\n##-.---.-#\n##---$-$-#\n##-$-##--#\n#-$--###-#\n#--.--.--#\n#---#---#\n#-########\n##########",
+        "##########\n#-.#######\n#---######\n#-$-######\n#--#######\n#-$-######\n#-.#######\n#.$--#####\n#.----####\n##########",
+        "##########\n##---##--#\n#-$.----.#\n#-$-.--$-#\n##---###-#\n##-.--#####\n##---#####\n##-$-#####\n##-.-#####\n##########",
+        "##########\n###-######\n#-$-------#\n#------$-##\n##-###---#\n##-#-.--##\n#-$----.##\n#.--$--##\n#.---#####\n##########",
+        "##########\n###------#\n#####--.-#\n####----##\n###-$.-###\n####--####\n###---####\n##-$--$-#\n#-.-.-$@#\n##########",
+        "##########\n##########\n##########\n#---######\n#----#####\n#-#-######\n#-$.-#####\n#-$.-$@###\n#-$-.----#\n##########",
+        "##########\n#----#####\n#-$--#####\n##-#######\n#---######\n#-$.######\n#---######\n#.---$--##\n#--..----#\n##########",
+        "##########\n##--######\n##.-######\n##---#####\n#-$.######\n##---#####\n##-.-#####\n##-$-$-###\n#-.----$@#\n##########",
+        "##########\n##-------##\n##-$----##\n##-#-#####\n##------##\n##-.---$.##\n#-$-#--###\n#--.-$-###\n#---.-####",
+        "##########\n#---######\n#---######\n#--#######\n#---######\n#-.-$-####\n#---$.--##\n##-.-$-$@#\n###----.-#\n##########",
+        "##########\n#-.-######\n#.---#####\n#----#####\n#-$.######\n#-$-######\n#.-#######\n#-$-######\n#--.----#\n##########",
+        "##########\n###------#\n###---$--#\n##--##--##\n##---##--#\n##-.-#---#\n##--#--$.#\n##-$--#-.#\n##.-----#\n##########",
+        "##########\n#--.--####\n#--$-#####\n#---######\n#--#######\n#.---####-#\n#---$--$-#\n#.----$.-#\n#####-#-.#\n##########",
+        "##########\n#-.#######\n#.-#######\n#-########\n#-########\n#-########\n#-#-######\n#-$----$@#\n#-$-$-..-#\n##########",
+        "##########\n##########\n#---------#\n#-$-$-$-##\n#-.-######\n#--#######\n#--.######\n#-$.-#####\n#-.----.##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-$-.-####\n#-$-$.--##\n#-$-.-..##\n##########",
+        "##########\n#-.--.-###\n#-$-$---##\n#--##-$###\n#-####---#\n#-------.#\n#-.-.--$-#\n##########\n##########\n##########",
+        "##########\n#-########\n#--#######\n#--#######\n#-$.######\n#---######\n#----#####\n#-$.$-####\n#.-.-$@###\n##########",
+        "##########\n##########\n##########\n#-.-----###\n#-$--$--###\n#-##-.####\n#-##-#####\n#.-$-----#\n#----..-#\n##########",
+        "##########\n##-#######\n#-----####\n#.-$----##\n#-$----###\n#--###--##\n#-###-$###\n#.-##---#\n#----..-#\n##########",
+        "##########\n#------###\n#--$----##\n#-###--.##\n#-###--###\n#---#----#\n#--##-$$-#\n#--##-$.#\n#.----.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#------.-#\n#.#-$--$-#\n#-$.--#-.#\n#------.-#\n##########",
+        "##########\n##########\n##########\n##-#######\n#--####--#\n#-$.-----#\n#-.--$-.-#\n#.$-#---#\n#--#######\n##########",
+        "##########\n##--######\n#-$-######\n#--------#\n#--$---$-#\n#.-####-.#\n#######-.#\n#####---.#\n####-.---#\n##########",
+        "##########\n######-###\n######--##\n######---#\n######-$-#\n#######-##\n#-----.-#\n#-$-.$-###\n#.----..##\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "14112112142223442223334444",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "111112122222333311114432123343",
+        "",
+        "",
+        "41111223434332111141221244341",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11122232111141443333411",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1111122122244432344433211412",
+        "",
+        "12141132211434433",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11112123122343434341",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 26
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 30
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 29
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 23
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 28
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 17
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 20
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-1.0_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#-#--#####\n#---$-####\n#-#--$####\n#@-#.-####\n#.#--#####\n#-#-$-####\n#-#-.#####\n#-----@###\n##########",
+        "##########\n#-$--.--.#\n#--$-$-$-#\n#-#####--#\n#.########\n##########\n##########\n##########\n##########",
+        "##########\n##########\n##########\n##########\n##########\n####---.-#\n#----$-$$-#\n#-@--#.-#\n#-.-.----#\n##########",
+        "##########\n#-@--$.--#\n#--#-$-$-#\n#-#####$-#\n#-####---#\n#-#####--#\n#--####-.#\n#.#####--#\n#-------#\n##########",
+        "##########\n####-#####\n###-@-####\n###-$-####\n####$-####\n#--.$#####\n#---.-####\n#-#-$-####\n#---.--.##\n##########",
+        "##########\n##########\n##########\n#####-####\n###--$####\n#-------##\n#.--$#-##\n#@$-#-#-#-#\n#--..--.-#\n##########",
+        "##########\n##########\n#####---##\n####-$.--#\n#---.----#\n#-$#-#####\n#-----####\n#-#-$.####\n#-.--$####\n##########",
+        "##########\n####--####\n####---###\n##-$---###\n###-.#-###\n#-$---####\n#-$-.-@###\n#-$-######\n#-..-#####\n##########",
+        "##########\n#--#-.-###\n#--$-$.-##\n#-$-#-###\n#--####--#\n#@--##---#\n#---##--##\n#-$-#.-###\n##-----###\n##########",
+        "##########\n#-.--#####\n#--$-#####\n###-######\n###--#####\n##-$######\n#-..-#####\n#--.-$-###\n#-----.-##\n##########",
+        "##########\n#@-#######\n#-$-######\n#-$-######\n#.-------#\n#--$----.#\n###--##-##\n####--#-$-#\n###-.---#\n##########",
+        "##########\n######-.-#\n######.-.-#\n#####---##\n#####--$##\n#####--$##\n#####--$.##\n##--#--$-##\n#-----.-#\n##########",
+        "##########\n#-------.#\n#-.$-.--.#\n#-$#####-#\n#--#####--#\n#---####-.#\n#-$-###--#\n#-$--###-#\n#--#--#---#\n##########",
+        "##########\n##########\n#-########\n#--#######\n#-########\n#--#######\n#-#----$-#\n#-$..-#-#\n#-$@-$--.#\n##########",
+        "##########\n####-.-###\n#-$-$---.#\n#--#--##--#\n#---#####-#\n#-$.######\n#---$---#\n#-.-#----#\n##------.#\n##########",
+        "##########\n###--#####\n###$-#####\n###--.####\n##-------#\n###-$-#-.#\n##----##-#\n###-$-##-.#\n#-$--.--#\n##########",
+        "##########\n######-.-#\n#####--#-#\n######---#\n######--##\n#####----#\n#####-$$..#\n#####--$$#\n#####@-.##\n##########",
+        "##########\n######---#\n#--.-.$$-#\n#--$----.#\n#---##--#\n#-.#######\n#-########\n#-########\n##########",
+        "##########\n##----.-.#\n###-$.-$-#\n###---##-.#\n##--###-.#\n#---#####-#\n#-$-####-#\n##-$-###-#\n##------#\n##########",
+        "##########\n##########\n########-#\n#######--#\n######--##\n###--##--#\n##-.--#$-#\n##-$$----#\n#.-.---..#\n##########",
+        "##########\n#.----.-##\n#-$$-#-.##\n#---##-$##\n#--##--##\n#@-#######\n#-########\n#-########\n#@########\n##########",
+        "##########\n#.--######\n#-$-$--###\n#---$-####\n#.$-######\n#---.######\n#.########\n#.########\n#@########\n##########",
+        "##########\n#-----..-#\n#--$-$-$.#\n##----##-#\n###-###-$-#\n#-#--#---.#\n#----#---#\n##########\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.-#-###\n#-$..-####\n#-$--$--##\n#-----.--#\n##########",
+        "##########\n#--#######\n#--#######\n#-########\n#..#######\n#-$.######\n#$$#######\n#.-$@#####\n#--#######\n##########",
+        "##########\n#-$-----##\n#---$--###\n#-###-$###\n#-###-.###\n#-###--#-#\n#-##-.---#\n#---$-#-.#\n#-------#\n##########",
+        "##########\n#######--#\n######-$-#\n###------#\n##-#---#.-#\n#-$--##-##\n#.--$-#-.##\n##---$.-##\n##--##--##\n##########",
+        "##########\n#--#######\n#-.#######\n#--$######\n##-.######\n##--######\n##-.-$-$-#\n##--#.-$-#\n#-----#--#\n##########",
+        "##########\n####--####\n#####-$-###\n#####-$@##\n####---$-##\n####--#--#\n#####--##\n#-$..-#--##\n#----.-###\n##########",
+        "##########\n#-$.--.-##\n#--#--$###\n#-##--####\n#-#-#-$-##\n#--#--####\n#.-.-#####\n#----$-###\n#------@##\n##########",
+        "##########\n#-$--.--##\n#.--$-$-##\n#-##-.####\n#-$---####\n#--##-####\n#.#----####\n###---####\n##-.---##\n##########",
+        "##########\n#-----####\n#---$--###\n#-.----.##\n#-.---$###\n#-###----#\n#-$-#---##\n#-#-$--###\n#.---.-###\n##########",
+        "##########\n#----.---#\n#-$--.-$-#\n#####----#\n####-###-#\n##--##--.#\n##-$---$-#\n##.--#-##\n#-----#--#\n##########",
+        "##########\n#-.--.-###\n###---$###\n###--#####\n####---###\n#---$-####\n#-##----##\n#-.--$-###\n#.-----##\n##########",
+        "##########\n#-----####\n#-$-$.####\n#---######\n##---#####\n###.----#\n#----#.-$-#\n#--#--#-.#\n#-------#\n##########",
+        "##########\n##########\n##########\n##########\n#-.-######\n##-$-#####\n##--######\n##-.######\n#-$.-$@####\n##########",
+        "##########\n#------.##\n#---#-$.##\n#-$-#-####\n##-.--####\n#---.-####\n###---####\n####-$####\n###---##############",
+        "##########\n###---####\n#--$.-####\n#----$--###\n#-###-####\n#.##--###-#\n#-#---$-##\n#-.-.--$@#\n#---#--###\n##########",
+        "##########\n#------.##\n#--$-$-$@##\n######-###\n#######--#\n#####----#\n######--.#\n#####--$.#\n######-.-#\n##########",
+        "##########\n#-$.---###\n#.$-$-####\n#-###-####\n#-##-#####\n#--.----##\n#-$-.--###\n#-########\n#@########\n##########",
+        "##########\n#--#######\n#-$.######\n#-.-######\n#-$#######\n#--#######\n#.$#######\n#.-#######\n#-$.######\n##########",
+        "##########\n######-.-#\n######$$-#\n######-$.#\n######-$-#\n######-#-#\n#-#-----#\n#.----.--#\n##########\n##########",
+        "##########\n#@-$.---##\n#--$-$-.##\n#-#---####\n#-##-#####\n#-#-######\n#-.-######\n#-.----#-#\n##------#\n##########",
+        "##########\n#####--###\n####-$####\n#--.---###\n#----.--###\n#-##-$####\n#--#.--###\n#-$##--###\n#-$-.--###\n##########",
+        "##########\n##########\n#######--#\n#----##.-#\n#-#-$.---#\n#-$.--#--#\n#-$--##--#\n##-$#--.-#\n#-.----#-#\n##########",
+        "##########\n##-$.--.-#\n##-$-$--.#\n#####-####\n#####-####\n#####$-#-#\n####-----#\n#-$--@--#\n##-.-----#\n##########",
+        "##########\n####-----#\n#####-$$-#\n#-#----#-.#\n#-.-##--#\n#.---##-##\n#--$-##--#\n#--#-$.--#\n##-------#\n##########",
+        "##########\n#----.--##\n#--#--####\n####--####\n#####--###\n####---####\n#--#$$--###\n#.$.--$-###\n#-.#######\n##########",
+        "##########\n#--#######\n#--#######\n#.-#######\n#.-#######\n#-$.######\n#-$---$@##\n#.---##-###\n#-$----###\n##########",
+        "##########\n####-#-###\n#@$------##\n##-$.-$.-##\n##-------#\n#-$---#---#\n###-###-.#\n#-$-.---#\n#---#----#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--###-##\n#-.-@-$---#\n#.-$.-.$-#\n#-----#--#\n##########",
+        "##########\n######-###\n#-.--.--###\n#---##-###\n#-$#.-####\n#-----###\n#-$--$--##\n#-.##-$-##\n#--#----##\n##########",
+        "##########\n##-#######\n#-$.######\n#-$-######\n#---######\n#.$#######\n#@-.######\n#-$-######\n#------.@#\n##########",
+        "##########\n#-.-$---.#\n#-$--$.-##\n#-####-###\n#-###-.-##\n#---#-.-##\n#-#---###\n#---#-####\n#--#-$-###\n##########",
+        "##########\n#----#####\n#-$-$-####\n#-.#--#-###\n#-##--$.##\n#-##-.--##\n#--##-####\n#-#-$-.-##\n#------.##\n##########",
+        "##########\n####-----#\n####--$$-#\n###---####\n####-#-.##\n###.-##--#\n##-$-$-.##\n###----.##\n##########\n##########",
+        "##########\n##-----###\n###-$---##\n##--#---##\n##-.-##-##\n##-.##---##\n##-$-#-###\n#-$--$.-#\n#------@##\n##########",
+        "##########\n#####--.-#\n####--$..#\n####-$---#\n####--####\n###--$####\n##-$.--###\n####-.-###\n####---###\n##########",
+        "##########\n##-.-----#\n#--$-$.-.#\n#-$-#--#--#\n#@--#-##-#\n##-#-###-#\n#----###--#\n#-$-##---#\n#.--.---.-.--.#\n##########",
+        "##########\n#####--#-#\n#####-$$-#\n######.$-#\n#######-.#\n#######.-#\n#######$-#\n####--.--#\n#####-.--#\n##########",
+        "##########\n#-@-######\n#-----####\n#--#--####\n#--#-#####\n#-$.----##\n#---.$-###\n#-$#-$####\n#---.---#\n##########",
+        "##########\n##------##\n##--.--.-##\n##$-###--#\n##-$##--#\n##--###.-#\n##---$---#\n##--#----#\n##.-$----#\n##########",
+        "##########\n###--#####\n##--$.-###\n##--..-###\n###-$-####\n###----###\n###-#-$###\n##-$#--###\n##--.---##\n##########",
+        "##########\n#---$.-.-#\n#-#-.#-$-#\n#-#####--#\n#-######-#\n#$-####-$-#\n#.-####--#\n#-####-##--#\n#------.-#\n##########",
+        "##########\n##########\n######--##\n######---##\n####-$-$--#\n#-$-$.--##\n#--.---..##\n#-########\n#--#######\n##########",
+        "##########\n###-----##\n###-$.-$-##\n###-##--##\n####--#-##\n####--#--##\n###-.-#---#\n###-$.$--#\n####---.-#\n##########",
+        "##########\n#---.-####\n#-$---####\n##-##-####\n##------##\n###-#-$.###\n##--#-$-##\n#####-.-##\n#####-.$-#\n##########",
+        "##########\n##########\n##---.---#\n###---#--#\n###-$#####\n##-$-#####\n##--#-##-@#\n##--$.-$@#\n#-------#\n##########",
+        "##########\n###.----.#\n##---$.-.#\n#######$-#\n#####-##-#\n######-.##\n####-$-$.-#\n###-----#-#\n##########\n##########",
+        "##########\n##########\n#---######\n#-$#######\n#--##-####\n#-$----###\n#@-.--####\n#--.-$--##\n#.--$-###\n##########",
+        "##########\n##########\n#-########\n#-.#######\n#-----####\n#-.--$.-##\n##-$---.##\n##-----$##\n##-.--.-#\n##########",
+        "##########\n#------###\n#-$--$####\n#-###-.###\n#.-###-$##\n#-##---###\n#.-#--.-##\n#-#--$-###\n#------##\n##########",
+        "##########\n#---######\n#-$-######\n#.-.######\n#-$.######\n#-$.-#####\n#--##-#####\n#-------##\n#-$---.--#\n##########",
+        "##########\n#-.-----.#\n#--$-$-$@##\n#-$.######\n#-.-######\n###-#######\n##########\n##########\n##########\n##########",
+        "##########\n##---@-.-#\n##----#$-#\n##--##--#\n#--####--#\n#---####-.#\n#-$---#.-#\n#@$-##-$-#\n##-#######\n##########",
+        "##########\n##########\n##########\n##########\n##--######\n#-..-#####\n#-$--#####\n#---$-####\n#-$-.-$@##\n##########",
+        "##########\n###----###\n####--####\n###-$#####\n##----####\n###.---##\n####--$$.##\n###-..--##\n##---.--#\n##########",
+        "##########\n######-@##\n######--##\n######-.##\n###-#--#-##\n##-$.-$-##\n##---#---##\n#-$-.--##\n#--.--.-##\n##########",
+        "##########\n##########\n##-------#\n###-.-$.-#\n###-$.--.#\n######-$-#\n#######-.#\n##########\n##########\n##########",
+        "##########\n##########\n##########\n##########\n#####-#-##\n####---$-#\n####@$--.#\n#--.---$$#\n#@--.--###\n##########",
+        "##########\n####-----#\n###-$--$@#\n##--##--##\n#-.-##-$##\n#---##---##\n#-.---$-##\n#-$.-#--##\n##--.---##\n##########",
+        "##########\n#####-####\n#------####\n#----#####\n#.#--#--#\n#--###---#\n#-$-#-$--#\n#---..$-#\n#--.-#-#-#\n##########",
+        "##########\n#-.-######\n#-$$######\n##--######\n##-..----#\n#--$.----#\n####-----#\n#######$-#\n#######--#\n##########",
+        "##########\n#--#---#-#\n#.-#-$--#\n#-$---#-.#\n#-#---#--#\n#-##--#-#\n#-####--.#\n#----$--#\n#--.-.-#-..##\n##########",
+        "##########\n##########\n##########\n##########\n######--##\n#####--.##\n#--#-.$--##\n#-#-$-$.##\n#-$.---.-#\n##########",
+        "##########\n#.----$@##\n#-$---$.-#\n#-$#######\n#-#-######\n#-.-######\n#-.#######\n#-########\n#--#######\n##########",
+        "##########\n###----@-##\n###-$----##\n######-###\n######.-##\n#####--###\n#-.--.-$###\n#-$$.---##\n#-----####\n##########",
+        "##########\n##-.######\n#--$.-####\n#.-$--####\n##---#####\n##---#####\n##-$-#####\n##-#--####\n##-$--.###\n##########",
+        "##########\n##---#####\n###-$--###\n##--$-####\n###--#-.##\n###--.---##\n####-.---##\n###--$-$@#\n####-.--##\n##########",
+        "##########\n##########\n##---#####\n##---#####\n###---####\n##----..##\n##--$-$.##\n#---#-$.##\n#---.--###\n##########",
+        "##########\n##########\n##########\n###-.---##\n##--.--###\n##--$#####\n##-$.-####\n#-.$$#####\n#---.######\n##########",
+        "##########\n##########\n######-###\n###------##\n##-$---###\n##---#--##\n##.-#-.-##\n##.-$.-$-#\n##-$-----#\n##########",
+        "##########\n##----.-##\n##--#-$###\n##-##---##\n##----#--#\n#---#---.#\n#--#-#$$-#\n#-$-#-#-.-#\n#@-#--#-#\n##########",
+        "##########\n##########\n##########\n##--######\n##-.######\n##.----$--#\n###-$-#--#\n##-$-#.--#\n##.----$-#\n##########",
+        "##########\n##--######\n##---$-###\n##---#--###\n##.-##---#\n##--.##-$-#\n##-$-##--#\n#---.-#--#\n#@$--#--##\n##########",
+        "##########\n#---######\n#------###\n#.#-#--###\n#-###-$###\n#-$-.-####\n#-.-$-####\n##--$.-##\n##-----##\n##########",
+        "##########\n##########\n##########\n##########\n##--######\n##$-######\n##.--#--###\n##-$-..-##\n#@$----$@#\n##########",
+        "##########\n###----.-#\n#####-$--#\n####-##-#\n###-$-####\n###---.###\n####----.##\n##-$#$-###\n##---.-.##\n##########",
+        "##########\n#-.-######\n#---######\n#--.-#####\n#-$--#####\n#------###\n#--#-$@###\n##$$--####\n#---@-.###\n##########",
+        "##########\n##--.----#\n#--$-#---#\n#----###-#\n#-$.####-#\n#---####-#\n#-$-#--#-#\n#-$-----.#\n#.-#-#--.-.#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-1.0_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n#----#####\n#-$-######\n#-$-----##\n#--##---##\n#-##--####\n#-#--.-####\n#.-$---.-#\n#-$.-----#\n##########",
+        "##########\n#---.---##\n#.----$-##\n##----#--##\n#--##---##\n#---.-#-##\n##-#----##\n#-$---$.##\n#-.---##############",
+        "##########\n##########\n#-########\n#-$--#####\n#---$.####\n#--#-.####\n#-##--####\n#-$.--$@##\n#----.--#\n##########",
+        "##########\n######-.-#\n######-$-#\n######-.-#\n######-.##\n######-$-#\n######--##\n#--.-$-###\n#-$-.--###\n##########",
+        "##########\n##########\n##------##\n##---.--##\n#-.-##-$##\n#-.-##--###\n##-$#.---##\n##-$--$##\n##-----##\n##########",
+        "##########\n##########\n#----------#\n#-$#-$-#-#\n#--#-###-#\n#-.---#--#\n#-$.-#-#-#\n#.-$-##-#\n#-.#######\n##########",
+        "##########\n##########\n##########\n#-.-######\n#-$-######\n##-$-#####\n#-.-######\n#-.$######\n#.-@--$@###\n##########",
+        "##########\n####-----#\n#####-$$-#\n####--#.-#\n###---##-#\n####--#-.#\n####-##.--#\n##--$$--#\n#----.--#\n##########",
+        "##########\n##--.----#\n##-$---$-#\n###-##-.-#\n##--###--#\n##-$###---#\n##--.##--#\n##-$--#---#\n#-.------#\n##########",
+        "##########\n#--#######\n#-$.######\n#--$.---###\n#--------#\n####--#--#\n#####-##-#\n#-##-#-$-#\n#.--.--$@#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-2.0_topk-50_topp-1.0_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.02,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.02,
+    "diversity": 1.0,
+    "restricted_diversity": 0.02,
+    "samples": [
+        "##########\n##########\n#---.-###\n#.---$####\n#--##.####\n#--##-$-##\n#-$###--###\n#-###-$###\n#-..---###\n##########",
+        "##########\n#---######\n#--#######\n#-$-######\n#--#######\n#.-##--#\n#-$---@--#\n#$-#-..--#\n#####--#-#\n##########",
+        "##########\n##########\n##########\n######---#\n#####-.$-#\n######--##\n######--##\n#-$..$--##\n#-$-..----#\n##########",
+        "##########\n#-----####\n#----.####\n#-..######\n#--#-#####\n##-#-#####\n##-$$-####\n###-$.#####\n###-$-#####\n##########",
+        "##########\n##########\n##########\n####-#-###\n#-$.---..##\n#-#-.-$--#\n#-###-##-$#\n#-$-----##\n#.----####\n##########",
+        "##########\n#---.-####\n#-$.-#####\n#-$-######\n#--#######\n#-#--#####\n#.-$@#####\n#--$--####\n#--#######\n##########",
+        "##########\n##########\n######--##\n######.--#\n######$-##\n##-#-----##\n#.-$-#--##\n#-.-#.-$-##\n##--.---#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#.--.--$@#\n#-$--$-####\n#--#######\n#.$---$.@##\n##########",
+        "##########\n###-######\n#-$-------#\n#..-$-$.-#\n#-#####-.#\n#######-##\n##########\n##########\n##########\n##########",
+        "##########\n#######-@#\n######-$-#\n#######--#\n#######$-#\n#######$-#\n####-#-#-#\n####.--$.#\n#---..---#\n##########",
+        "##########\n##--.--.-#\n##--$-#-$-#\n###--##--#\n###--###.-#\n#-$-###-#\n#--.-######\n#-$--######\n#-@-######",
+        "##########\n##########\n###-@-####\n###.$--###\n##-$-#####\n##--######\n#--$-#####\n#-.$-#####\n#-@--.--##\n##########",
+        "##########\n##########\n##########\n##########\n###-######\n#--.---###\n#--.$.####\n#-$--$$###\n#--.-.-###\n##########",
+        "##########\n#####--@##\n#####-$$###\n#####-$###\n#-##--####\n#.-##-####\n#-$.-.-####\n#.-#-$-###\n#-#----##\n##########",
+        "##########\n#-$---.--#\n##---$$-.#\n##-.-###-##\n##--#-####\n#---#.-####\n##---#####\n##--$#####\n#-.---####\n##########",
+        "##########\n####-----#\n#####-$-##\n#####-$.##\n#####-#-#\n#--##--#-#\n#-.#-$---#\n#-#--#@-#\n#.--$--.#\n##########",
+        "##########\n##-----$.-#\n##-$.$-$-#\n###---#-@#\n##-.-#####\n#-@-######\n##########\n##########\n##########",
+        "##########\n##########\n##-#######\n#--#######\n#.-#######\n#-$--.#-###\n#-$---####\n#-$#######\n#..--#####\n##########",
+        "##########\n#.---#####\n#----#####\n#-#--#####\n#.##-#####\n##-#######\n#.-$-#####\n##-$$--###\n##----.--#\n##########",
+        "##########\n######--##\n######-###\n######--##\n######$--##\n######-.##\n######.-##\n##-$-..$-#\n#@$---.--#\n##########",
+        "##########\n#----.---#\n#--.--$-##\n#-$#######\n##--######\n#..-######\n##--######\n##--$-###\n#----.-###\n##########",
+        "##########\n#-$----.-#\n#.-$-$-#-#\n#.####-#--#\n##---#---#\n####---#--#\n###---#--#\n##--$.-..#\n#####--#-#\n##########",
+        "##########\n##---.-.--#\n#-$..-#-$-#\n#####-####\n####.-####\n####-----#\n#####$-$-#\n######---#\n#####----#\n##########",
+        "##########\n######---#\n######$--#\n######--.#\n######-..#\n####-##--#\n###-#--#-#\n#---$-$$-#\n#.------#\n##########",
+        "##########\n##########\n##########\n#-.----.-#\n#--.$-$$-#\n#--$-###-#\n#-.#######\n#.########\n#-########\n##########",
+        "##########\n#--.--$.###\n#-----.###\n###-$#####\n##---#####\n#-#--####\n#-$.-#####\n#-$.######\n#----#####\n##########",
+        "##########\n##########\n##########\n####@#####\n#----#####\n#-$-$--###\n#-#-.-####\n#.#-$$-###\n#.------#\n##########",
+        "##########\n#--#######\n#-$-######\n#-.------#\n#-----$.-#\n#--#-.#--#\n####-$-.-#\n######---#\n##########\n##########",
+        "##########\n#--#######\n#-$..#####\n#.-$---$-##\n#--#---###\n#-########\n#.-#-#####\n#-$-######\n#.-#######\n##########",
+        "##########\n######-###\n######$---#\n######---#\n######-$.#\n#####-$--#\n######-.-#\n#-#-##-.$-#\n##--.---#\n##########",
+        "##########\n#---######\n#-$.######\n#---######\n##-------##\n##--$---.-#\n##--.--$.#\n##---#-$###\n###--.-###\n##########",
+        "##########\n#--------#\n##-$-..--#\n######--##\n######-@##\n######$-##\n###----$.##\n##--.-$-##\n#--#-----#\n##########",
+        "##########\n#######-##\n#######--#\n#######$-#\n#######--#\n######-.-#\n####-$--.#\n#-$-.-$-.#\n#------@#\n##########",
+        "##########\n######--##\n###-$-.--#\n###-$-$---#\n##----#.-#\n###-.-##--#\n##-.---#-#\n###---$--#\n#-.---####\n##########",
+        "##########\n#@--.-$--#\n#-.$--#--#\n######-#-#\n######-..#\n######-$-#\n#####----#\n#####-$-##\n#####--##\n##########",
+        "##########\n#--.--@###\n#--.$-$@##\n#--##-####\n#-####-###\n#-####-###\n#--.--##-##\n#-$-$-####\n#----#####\n##########",
+        "##########\n###--.-.-#\n###-$.-$.#\n###-$--#--#\n#######-@#\n#######--#\n#######--#\n########-#\n##########\n##########",
+        "##########\n#--------#\n#---$-..$-#\n##-#######\n##------##\n###$---###\n##-.######\n##-#-#####\n#.---###############",
+        "##########\n#@$----.-#\n#--#--.-##\n#-$.######\n#---######\n#-$$######\n#-@#######\n#-########\n##########\n##########",
+        "##########\n#.---.---#\n#-$--#-$-#\n##-####$-#\n##-##----#\n##---#---#\n##--.##--#\n##--##--$#\n###---.-#\n##########",
+        "##########\n#------.-#\n##$$-.--##\n##$-######\n##--######\n#---######\n#.-#######\n#-$.-#####\n#---.--###\n##########",
+        "##########\n####-#####\n###.------#\n####-----#\n####---###\n##-$--$####\n#--#.--$@#\n#---..-$-#\n##--##-###\n##########",
+        "##########\n##---@--##\n#-$--.---##\n##---######\n##-.######\n##-.######\n##-$######\n##$-######\n#.-$-#####\n##########",
+        "##########\n##########\n##########\n##########\n##-$.-####\n##--.#####\n##-.--#-##\n##-$$.$@##\n##--.----#\n##########",
+        "##########\n###------#\n##-..-$-$-#\n###-#-.####\n##---#####\n###$-#####\n#####.####\n###-$-#####\n##--@----#\n##########",
+        "##########\n#----#####\n##-$$-####\n###-$-####\n#####-####\n###-.-####\n#-.$-#####\n#-.-----.#\n#@----###\n##########",
+        "##########\n#####-#--#\n######---#\n#######-.#\n#######$-#\n#----###-#\n#@--.$-.#-#\n#--$-.--#\n#----##-#\n##########",
+        "##########\n##########\n##--###.##\n#---#-$###\n##--#-.####\n##---#--###\n##--$--###\n###$$--.##\n#.----####\n##########",
+        "##########\n######--##\n#--##--###\n#.---.----#\n#--$-$-$-#\n#-####---#\n#-.-##-.##\n#-$.---###\n#--#######\n##########",
+        "##########\n###-$.---#\n###------#\n####-###-#\n######--#\n#-$--.-.--#\n#-$-##-$-#\n#.---###-#\n##-@----##\n##########",
+        "##########\n#--.--####\n#-$$-#####\n##-$--####\n##-.-#####\n#---.-####\n#-.$-#####\n###---####\n##---.####\n##########",
+        "##########\n###--.-###\n####---###\n#####---##\n###--..-.#\n##-$---#-#\n##$-$----#\n###-$#---#\n###---#--#\n##########",
+        "##########\n#####--###\n#####-$.##\n#####-.###\n#####-$$@##\n####--$###\n###--#-###\n#.--#--###\n#------###\n##########",
+        "##########\n#-.----###\n#-$---$###\n#@-#-#####\n#-##-#####\n#.-#######\n#--#######\n#-$--#####\n#.----.###\n##########",
+        "##########\n#--.--####\n#--$$#####\n#--.######\n#.#-######\n#---######\n#--#######\n#-$#######\n#-.---$@##\n##########",
+        "##########\n##-####--#\n#--$.--.$-#\n##-$---$-#\n######--.#\n######-..#\n######--##\n########-#\n##########\n##########",
+        "##########\n##--.----#\n###-.----#\n###--#--##\n#--$-$-.##\n#----#--##\n#######$-#\n######--##\n###-.--$@#\n##########",
+        "##########\n#-########\n#@########\n#-###--###\n#.-#-$-###\n#---#---##\n#-$----$.##\n#--$-#.-##\n#-##.--###\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#-.---.###\n#.$-$.---#\n#-##-$$-##\n#---.----#\n##########",
+        "##########\n#-$.--####\n#-.----@##\n#-###-$-##\n#--##---##\n#-##-.-###\n#-$----###\n#-#--#-###\n#-$-.--###\n##########",
+        "##########\n##########\n########@#\n######-$-#\n######---#\n#######.-#\n#####-#--#\n#@$-$--$.-#\n#-----.--#\n##########",
+        "##########\n##########\n##########\n######--##\n######-###\n####--.###\n#--$..$-##\n#--$$-####\n#---.-####\n##########",
+        "##########\n##########\n##########\n#####--###\n###----###\n#-$#$-#-###\n#-.----.##\n#-$#---###\n#-...$-###\n##########",
+        "##########\n#####-$--#\n#####-.$@##\n#####--###\n#-###---###\n#-#-.#-####\n#--#--####\n#-$#-----#\n#----$.-#\n##########",
+        "##########\n##########\n##########\n#--#######\n#.$--#####\n#-$.-#####\n#.--######\n#.$#######\n#-.-######\n##########",
+        "##########\n#--#######\n#-$#######\n#-########\n#--#######\n#.-#-#-####\n#-$$.-###\n#----.$--#\n#.-#######\n##########",
+        "##########\n######-.##\n#####-$.-#\n######$--#\n#####-..##\n####-$--##\n####----##\n##-$----##\n#--.---###\n##########",
+        "##########\n###.----##\n##-----.-##\n####-.--##\n######-###\n#####-$-##\n####--$.-#\n####--$-##\n####-.--.#\n##########",
+        "##########\n##---#####\n#--$.$--###\n#-----####\n#-..-#####\n#-#$-####\n#---$-####\n##---#####\n#@----####\n##########",
+        "##########\n#######--#\n#####---.#\n#####-#-@#\n#####-#-.#\n#--.---#--#\n#-$--.-#-#\n#-.$--$-#\n##--######\n##########",
+        "##########\n#---######\n#---######\n#-$-##-###\n#-..--.###\n#-$-#-####\n#--#$--####\n#-$#######\n#@-#######\n##########",
+        "##########\n#####-#--#\n######----#\n#######--#\n######-#.#\n#---##-$-#\n#.--#-$-.#\n#-.-$-#--#\n###----.#\n##########",
+        "##########\n#-.------#\n##-$-.--.#\n#-$-######\n#--#######\n#-$-######\n#-$.######\n#--#######\n#.########\n##########",
+        "##########\n#----#####\n#.-$-#####\n##--.#####\n##$--#####\n#-$-######\n##-.-#####\n##-$.######\n#-@-######\n##########",
+        "##########\n######---#\n######-.##\n#####-$.-#\n######.-##\n#---##-###\n#.------##\n#$$-#--###\n#.------#\n##########",
+        "##########\n##-#-.-###\n##----.--##\n###-.----##\n####--$-##\n####-.-$-##\n####-$-###\n#####-$###\n#####--###",
+        "##########\n###-.--###\n###-$--####\n####-##-##\n#####--###\n###.---###\n#####-$-##\n####---$$-#\n###.---..#\n##########",
+        "##########\n##########\n######-###\n#####@-$-#\n######--.#\n##---##--#\n##--$---.#\n##-$-##--#\n#-$...---#\n##########",
+        "##########\n########-#\n#######-.#\n#######$-#\n#######-.#\n######-$.#\n######$.-#\n#######.-#\n########-#\n##########",
+        "##########\n######--##\n######.-$@#\n#####.-$-#\n######-.-#\n######--##\n#-$--.---#\n#----#-$$-#\n######--@#\n##########",
+        "##########\n#####--.-#\n######--@#\n#######$-#\n######-.##\n######-###\n####-#-###\n#@$-$---$@##\n#------###\n##########",
+        "##########\n#----@---#\n#-$$-$-.-#\n###-###--#\n##----##-.#\n##--####--#\n#----##--#\n##---#-$.#\n###----@#\n##########",
+        "##########\n######---#\n#####-$.$#\n#####-..##\n#####--###\n#####--.##\n######-$-#\n######.-##\n##########\n##########",
+        "##########\n####--####\n####$-####\n#-----####\n#----.-###\n#-##-$####\n#-#-----##\n#-$.$-###\n#-#----.##\n##########",
+        "##########\n##########\n####---###\n#-$@-$--###\n#.-$----###\n##-.######\n###--#####\n###-$.-####\n#-----.###\n##########",
+        "##########\n#@------##\n#--$.---##\n#-$.-$-###\n#--.@#####\n#-########\n#--#######\n#$########\n#.########\n##########",
+        "##########\n##-------#\n###-..--.#\n###-$-#-##\n#####--###\n####-----##\n####--$-##\n######-$.#\n###-.--###\n##########",
+        "##########\n#---######\n##-.######\n###-######\n###--#---.#\n###-----#\n###-$----#\n###.-$$#.#\n##----.-#\n##########",
+        "##########\n#.-.--$-##\n#---$--###\n#--#######\n#-##--####\n#-##-#####\n#-#.-$-####\n#.---$-@##\n#####-#-###\n##########",
+        "##########\n####--####\n####-.####\n#-.---####\n#-$-#---##\n#-$----$-#\n#-.-#-#-.#\n##-#-$####\n###----.#\n##########",
+        "##########\n####--####\n###---$###\n####-$####\n###.-#####\n####$-####\n####-.-###\n###-$.-#-#\n###--.-.-#\n##########",
+        "##########\n#####---.#\n####-.-$.-#\n####--#-##\n###-----.#\n##---##$-#\n##--$.---#\n##---#-#-$#\n#----#-###\n##########",
+        "##########\n#--.-.-###\n#------###\n#-##--####\n#$-#-#####\n#--$--####\n#--#--####\n#-$-.#####\n#-.--#####\n##########",
+        "##########\n#####-$--#\n#####---.#\n####-#.--#\n###-.--#-#\n#-$#-#####\n#.#-$---##\n#---.--###\n#-##--###\n##########",
+        "##########\n##-.-#--#\n##---$--.#\n##---#-.##\n##-.#--###\n#---#-####\n#-$-$$--##\n##------#\n###---##---#\n##########",
+        "##########\n#####--.-#\n#---$.--$-#\n#-$---#-##\n##-.##---##\n##-#-##--##\n#-$-###-##\n#--.---##\n#-------##\n##########",
+        "##########\n##########\n##########\n#---@--###\n#---#-.-.##\n#-$#$--###\n#-$---$-##\n#.-##-@###\n#------###\n##########",
+        "##########\n####--####\n####$$-###\n#-$------##\n#-$--#-.##\n#.#----###\n#.--######\n#-.-######\n#.----###\n##########",
+        "##########\n#####-####\n#-$.--$-###\n#-$--$@###\n#-##--####\n#-#-######\n#-##-#####\n#.-.-######\n#-.#######\n##########",
+        "##########\n##-.---.-#\n###.-.---#\n####-##$-#\n#--#--##-#\n#---#-##--#\n#-$------#\n##-$---$.#\n###-.---#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "12222223211141444112343224334344411",
+        "",
+        "",
+        "4121111123144444333314433222223211113344344111114433",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 35
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 52
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-0.33_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.12,
+    "prop_novel": 0.99,
+    "prop_novel_playable_accurate": 0.12,
+    "diversity": 1.0,
+    "restricted_diversity": 0.12,
+    "samples": [
+        "##########\n##-.-#####\n#-$---####\n#-----####\n#-$.-#####\n#.-------#\n#---#----#\n##-$----#\n##---.-.-#\n##########",
+        "##########\n##########\n#-########\n#-########\n#-########\n#-########\n#------###\n#-$..$-###\n#-$.-.-$@##\n##########",
+        "##########\n#--------#\n#----$-$-#\n#.-#######\n#-########\n#------###\n#-$.-.-###\n#-$---####\n#--.---###\n##########",
+        "##########\n##########\n##########\n#-########\n#--#######\n#-$.--####\n#--$-#####\n#-$.-#####\n#-.----$@#\n##########",
+        "##########\n##########\n##########\n##########\n#----#####\n#-$.######\n#-$.-----#\n#.-$.-$.-#\n#######--#\n##########",
+        "##########\n#------###\n#-$.-$-###\n#-#--#####\n#-########\n#--#######\n#--#######\n#-$----$@##\n#-..---.##\n##########",
+        "##########\n##########\n#-########\n#-########\n#--#######\n#-$#######\n#--#######\n#.-$.--$-#\n#-$--.-.@#\n##########",
+        "##########\n#-.------#\n#-$----$-#\n#--####--#\n#-----##-#\n#-$-----.#\n#---#----#\n##--#-.-.#\n#------#-#-.#--#-#-.#\n#------#--#-#\n#-$---#-#---#-.#-#-#\n#",
+        "##########\n##########\n##########\n#-########\n#-.#######\n#-$#######\n#-.#######\n#-$--$--.#\n#-$--.--.#\n##########",
+        "##########\n##########\n##########\n#---######\n#-$-######\n#-.-######\n#--$.######\n#-$--.---#\n#-.---$.-#\n##########",
+        "##########\n##########\n##########\n#---######\n#---######\n#.-$-#####\n#---######\n#-.-$-$-##\n#.--.--$@#\n##########",
+        "##########\n##--------#\n#-$.--#--#\n#-$--##--#\n##-$-##-.#\n#--------#\n#-$.--#-.#\n#--#######\n##########",
+        "##########\n#-----####\n#----#####\n#-$-######\n#--.-#####\n#-.--#####\n##-$######\n#-$-----#\n#-.-$.-.#\n##########",
+        "##########\n#--.----##\n#-$---$.##\n#-##----##\n#-###-####\n#--#--####\n#-$---####\n#.-$--####\n#.---#####\n##########",
+        "##########\n#---######\n#-$-######\n#---######\n#-$.######\n#---######\n#-.-----##\n#-$----$@#\n#.------#\n##########",
+        "##########\n##-.---.-#\n###-$-#--#\n##--.-##-#\n##---##--#\n##--$-#--#\n##-$.-##-#\n##-$--#---#\n##------.-.#\n##########",
+        "##########\n#-.------#\n#-.-$--$-#\n##------.#\n#-$.-#####\n##---#####\n###-######\n###----$-#\n##-.-----#\n##########",
+        "##########\n#-.-######\n#-$-######\n#-.#######\n#-$--#####\n#-$-######\n#.--######\n#-$-######\n#-.-######\n##########",
+        "##########\n#-----####\n#-$--#####\n#-$--#####\n#---######\n#-----####\n#----$@###\n#-$.-$.@##\n#.---####\n##########",
+        "##########\n##----.--#\n#---$----#\n#-$.######\n#-.-######\n#-$-######\n#-.#######\n#--$-#####\n#---######\n##########",
+        "##########\n##########\n#-########\n#-########\n#-------##\n#.----.-##\n#-$-$.--##\n##--$-$###\n#-.-.--###\n##########",
+        "##########\n##########\n##########\n#---######\n#-$.---###\n#-$----###\n#-------##\n#-.-#-$.-#\n#.-$---.-#\n##########",
+        "##########\n#-----####\n#-$---####\n#-$.######\n#-$.######\n#---######\n#-.#######\n#-$.######\n#---######\n##########",
+        "##########\n##########\n##########\n#--------##\n#-$.---###\n#-$-----##\n#-$-#---##\n#-$.----#\n#-.-.--##\n##########",
+        "##########\n##########\n##########\n#-.-######\n#-$#######\n#---######\n#-$-######\n#----$..##\n#--.--$@##\n##########",
+        "##########\n##########\n##########\n##########\n#---------#\n#-$-.-$.-#\n##---##--#\n##-$.-$--#\n#-.----.-#\n##########",
+        "##########\n#-$-.-.-.#\n#-$---$-##\n######-###\n######-###\n######--##\n#####----##\n#--##-$-##\n#-.--.--##\n##########",
+        "##########\n##-------#\n##--$-$--#\n#-------.#\n#-$.--#--#\n#-.-######\n##----###\n##-$-.-##\n##-.----##\n##########",
+        "##########\n##########\n##########\n##########\n#--------#\n#-$--.---#\n#-$-#-#-#\n#-$----..#\n#-$--.--#\n##########",
+        "##########\n##-.-#####\n###-$-####\n##---#####\n#---######\n##----####\n##-$.---##\n##-$---$@#\n##--.-.--#\n##########",
+        "##########\n#---######\n#-$.######\n#---######\n#---######\n#-$-######\n#-$--#####\n#--.-#####\n#.-.---$@#\n##########",
+        "##########\n#-----.--#\n##-$-$--##\n##--######\n##--######\n##--######\n##-.######\n##-.---$-#\n##---.-$@#\n##########",
+        "##########\n#-.-######\n#---######\n#----#####\n##-$######\n##-.######\n##-$---###\n#-$-$.--##\n#-.--.--##\n##########",
+        "##########\n#--.--####\n#-$--$-###\n#---#-####\n#-##--####\n#--#--####\n#-##-$--##\n#-$-..-###\n#-.---####\n##########",
+        "##########\n#--.-----#\n#-$.--$.-#\n##---#####\n###--#####\n###---####\n###--#####\n###-$--$@#\n##----.-#\n##########",
+        "##########\n##########\n##########\n#-########\n#.-#######\n#-$.-#####\n#--$.----#\n#----#-$-#\n#-$.-.--#\n##########",
+        "##########\n#---.-####\n#----$####\n#-##-#####\n#---######\n#------###\n#-$.-$-###\n##---$.###\n#----.--#\n##########",
+        "##########\n#-.-######\n#-$-######\n#-$-######\n#-.#######\n#-$-######\n#--#######\n#.--######\n#--.---$@#\n##########",
+        "##########\n#-----.-##\n#-$-$--.##\n#--###--##\n#---##--##\n#-.---$-##\n#---#--###\n#-$#######\n#.-#######\n##########",
+        "##########\n##########\n#--#######\n#--#######\n#-########\n#-########\n#----$-###\n#.-$.--$@#\n#-$.-.---#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#---.-####\n#-$--$-$.-#\n#-$.--.--#\n##########",
+        "##########\n##########\n##########\n#-########\n#-.#######\n#--#######\n#-$.######\n#-$.---$@##\n#.-$--####\n##########",
+        "##########\n##########\n##########\n#------###\n#---$--###\n#--##---##\n#.---$..##\n#-$--.-$@##\n#-------#\n##########",
+        "##########\n###--.-.-#\n###-$-$-##\n###---####\n##---#####\n##---#####\n#-$-----##\n#-$-.-.-##\n#----.--##\n##########",
+        "##########\n#----.---#\n#-$-$.-$-#\n#-#####-@#\n#-#####-.#\n#-#####--#\n#--####-$#\n#------.-#\n##########\n##########",
+        "##########\n##---.-###\n###-$--###\n##-----###\n##--#-####\n##--#---##\n###-$-$-##\n##---$-.##\n##---.-.#\n##########",
+        "##########\n#---######\n#---######\n#---######\n#-$.######\n##-$-#####\n##-------#\n#-$.-.-$@#\n#------.#\n##########",
+        "##########\n##-----.-#\n#-----$-##\n#-$-######\n#---######\n#.--######\n#---######\n#--$.--$@#\n#-.-----##\n##########",
+        "##########\n##########\n#---######\n#-$.-#####\n##--######\n##--######\n##-.---###\n#--$..$--##\n#---.---##\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#-$.-----##\n#-$--..$-##\n#-$.----##\n#-.-----##\n##########",
+        "##########\n##########\n##########\n#-########\n#.---#####\n#-$--#####\n#-$.-#####\n#-$---$@##\n#-.--.--##\n##########",
+        "##########\n##########\n#------###\n#-$--$-###\n#--##-####\n#--##--###\n#-###-$-##\n#.----$.##\n#-.---.-#\n##########",
+        "##########\n#--.######\n#-$-######\n#---######\n#---######\n##--######\n##------.#\n##-$--$-.#\n##--.-.--#\n##########",
+        "##########\n#--------#\n#-$---#--#\n##---##-.#\n##-$-##--#\n##---##--#\n##-$-##--#\n#--.--#-.#\n#-.----..#\n##########",
+        "##########\n#---######\n#-$-######\n#----#####\n##--######\n#-$--#####\n#--.-#####\n#.-$--$.-#\n#-.---.--#\n##########",
+        "##########\n##--######\n#-$-######\n#-.-######\n#.--######\n##------##\n##-$--$.-##\n##-.-#---#\n##---.-$-#\n##########",
+        "##########\n###-.--.-#\n###--$-$-#\n###------#\n###--##-.#\n###-$-##-#\n##-$----#\n##--.-##--#\n###---.-#\n##########",
+        "##########\n#-$-.-.-##\n#-$----###\n#--#---###\n#--#--####\n#-##-#####\n#-##-#####\n#.----$@##\n#-$.---###\n##########",
+        "##########\n#-########\n#--#######\n#--#######\n#-.#######\n#--#######\n#----$@##\n#-$.$-####\n#-.--.--##\n##########",
+        "##########\n##-------#\n##----$--#\n#-$.######\n##--######\n#---######\n#--.######\n#-$---$@##\n#.--.---##\n##########",
+        "##########\n#-.--.---#\n#--$--$-##\n#--#######\n#-.#######\n#--#######\n#-########\n#------$@#\n#-$--.-###\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-----####\n#-$$---$-#\n#-$.-...-#\n##########",
+        "##########\n##########\n##########\n##########\n##--.---.#\n##---$-$--#\n##-$-#-.-#\n#-$.-##--#\n#----.---#\n##########",
+        "##########\n#-.------#\n#-$-$--$-#\n#.-#-#####\n#----#####\n#---######\n#.---#####\n#-$.######\n#-.-######\n##########",
+        "##########\n##-.---.-#\n##---$--##\n#-$-######\n#-$-######\n#-.-######\n#--#######\n#-$--#####\n#-.---@###\n##########",
+        "##########\n##########\n##########\n#-########\n#-.-######\n#-$.######\n#-$-######\n#-.-$--###\n#--.---$@#\n##########",
+        "##########\n##########\n##########\n#--------##\n#-$-$----##\n##--#--.##\n#-$-#---##\n#-$.-.--#\n#----.--#\n##########",
+        "##########\n#-----####\n#-$--#####\n##----####\n#-$--#####\n##---#####\n##-------#\n#-..$--.#\n#---.---#\n##########",
+        "##########\n##########\n##########\n##########\n#--#######\n#-$.-#####\n#--.---$@#\n#-$---$-.#\n#--.-----#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#---######\n#-----$@##\n#-$-.$-$@#\n#-.--.---#\n##########",
+        "##########\n#-----####\n#--$-#####\n#-----####\n##---#####\n##-$-#####\n##-$.-####\n#-------.#\n#.--.-$-#\n##########",
+        "##########\n##-----###\n##-$-$-###\n##--#---##\n#---##--##\n#-$------##\n#-$-.---#\n#-----#-.#\n#.-.--#-#\n##########",
+        "##########\n#---######\n#-$-######\n#---######\n##--######\n#---######\n#-$.######\n#-$.-#####\n#.--.--$@#\n##########",
+        "##########\n#-------##\n#------###\n#-########\n#.-#######\n#-$----###\n#-.--$@###\n#-$.-$####\n#.-#######\n##########",
+        "##########\n##########\n##########\n#--------##\n#-------##\n#-$-#--###\n#-$-#-.###\n#-$.$.-###\n#-.-.--###\n##########",
+        "##########\n##########\n#---######\n#-.--#####\n#-$.######\n#-$.######\n#---######\n#-$.######\n#------$@#\n##########",
+        "##########\n##########\n##########\n#-########\n#------###\n#-$-$-$-###\n##-----.##\n#--$.-.--#\n#---.--.-#\n##########",
+        "##########\n#---######\n#---------#\n#----$---#\n#.--###-##\n#-$-##-###\n#-$---###\n#-.-.-###\n##########",
+        "##########\n##-------#\n##--$-$--#\n#---###-.#\n#----###--#\n##-$####--#\n##--#---.#\n#---.--$@#\n##########",
+        "##########\n#---######\n#-.-######\n#-$.######\n#----#####\n#-$-######\n#----#####\n#-$.-#####\n#-.----$@#\n##########",
+        "##########\n##-.-----#\n#-$-$.-$-#\n#-.-######\n##--######\n#---######\n#-.#######\n#-$-######\n#.---#####\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#-########\n#.--######\n#-$.-$--$-#\n#-$.-..--#\n##########",
+        "##########\n##-.---###\n#-$---####\n#-$-######\n##--######\n##-.----##\n##----$-##\n##-$.--.##\n##--.--###\n##########",
+        "##########\n#-.-----##\n#-$----###\n#--#######\n#---######\n#.-----###\n##-$-$-###\n##--.--###\n##-.--.###\n##########",
+        "##########\n##-----.-#\n#-$-$-$--#\n##-.-###-#\n##---###--#\n##--###--#\n#-$--##--#\n#--.----#\n#-----.--.#\n##########",
+        "##########\n##########\n##########\n##########\n#-########\n#------###\n#-$--$.--#\n#-#-$.-$-#\n#.--.---#\n##########",
+        "##########\n#---.--###\n#------###\n##----####\n#-$.-#####\n#--$######\n#-$.######\n#.--######\n#-.-----#\n##########",
+        "##########\n#-.----###\n#----$--###\n#-$.######\n#--#######\n#---######\n#---######\n#-$.######\n#.-----$@#\n##########",
+        "##########\n##--######\n#--.--####\n#--$--####\n#-$-######\n#-.#######\n#-$.-#####\n#-$.-#####\n#----#####\n##########",
+        "##########\n#---######\n#-$-######\n#-.-######\n#--.######\n#-.-######\n#-$-######\n#-$.-#####\n#------$@#\n##########",
+        "##########\n##-----.-#\n###---$.-#\n######-$-#\n#######-.#\n#######$-#\n######--.#\n#####-$--#\n####-.---#\n##########",
+        "##########\n#----.---#\n#-$-----.#\n##-####--#\n##----#--#\n##-$-----#\n#-$.-.-$-#\n#---######\n##########\n##########",
+        "##########\n##########\n##########\n#--------##\n#-.-$-$..##\n##--######\n##-----###\n#-$--$.-##\n#-.----###\n##########",
+        "##########\n#-.-######\n#-$-######\n#-$.######\n#-$-######\n#-.-######\n#---######\n#-$.######\n#.--######\n##########",
+        "##########\n##-.---###\n#--$--####\n#---######\n#---######\n#---######\n#-$.---$@##\n#-.-$.-###\n#-----####\n##########",
+        "##########\n##########\n##########\n#-########\n#--#######\n#-$.######\n#-$.######\n#-.-######\n#.-$--$@##\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#----#####\n#-$.$#####\n#--$----.#\n#-.-.--$@#\n##########",
+        "##########\n##-.---###\n##--$---##\n##--#-$###\n#--##-$###\n#--##-####\n#.-##---##\n##-$-.-###\n#-.--.-###\n##########",
+        "##########\n#---######\n#-$-######\n#.--######\n#--#######\n#-$.-#####\n#.-$-#####\n#-$-######\n#.---#####\n##########",
+        "##########\n#----.-###\n#-$----###\n#-##-#####\n#-#----###\n#-#---####\n#-$.--####\n#--$--$@##\n#----.-.##\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11111332114122122334134414323343321111",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "111233111221244143333",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11112122142212231444443",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1111121143212222223344121444432",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1141212141223234344143",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1411211143122222233112333344124444443321111",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "111112222234322123333411211443241144434",
+        "11111211232443433211211443",
+        "",
+        "",
+        "111134331114111222344143",
+        "",
+        "",
+        "",
+        "111121212221232344441144343",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "111112211432212324432",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1211112234121143433333411",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        false,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 38
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 21
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 23
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 31
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 22
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 43
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 39
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 26
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 27
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 21
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 25
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-0.33_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.1,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.1,
+    "diversity": 1.0,
+    "restricted_diversity": 0.1,
+    "samples": [
+        "##########\n##########\n##########\n#-########\n#.-#######\n#-$-------#\n#.-#-$---#\n#-#--$-#-#\n#-$.-.--.#\n##########",
+        "##########\n##---.-###\n#-----####\n#----#####\n##-.######\n##-.-----#\n###------#\n###-$$$--#\n###--.--.#\n##########",
+        "##########\n##########\n##########\n##########\n#-########\n#.-------#\n#-$-$---.#\n#--#-$-$-#\n#.--.--.#\n##########",
+        "##########\n#---######\n#----#####\n#---######\n#--.######\n#------$@#\n#----$-$-#\n#----#--.#\n#-.-.######\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#--#######\n#-$------##\n#-$.$-.-.#\n#-.-----.#\n##########",
+        "##########\n##-.-----#\n##-$--$--#\n##-.######\n#-.--#####\n#-$.######\n#-$-######\n#-.-######\n#----#####\n##########",
+        "##########\n#---######\n#-$.######\n#---######\n#-$-######\n#-$--#####\n#-.------#\n#.-$----#\n#-.-----#\n##########",
+        "##########\n#-$-.---.#\n#-$.--$-##\n#--#######\n#-########\n#-########\n#-########\n#.--######\n#.-----$@#\n##########",
+        "##########\n#-.-######\n#---######\n#.----####\n#----#####\n#-$--#####\n#-$.######\n#-$$######\n#.------#\n##########",
+        "##########\n#--.######\n#---######\n#-$.######\n#--#######\n#---######\n#-$---####\n#-$.--$@##\n#---.--###\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1121121224144432334211221232123"
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 31
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-0.33_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.13,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.13,
+    "diversity": 1.0,
+    "restricted_diversity": 0.13,
+    "samples": [
+        "##########\n#-$---.-.#\n#---$-#--#\n#-#####--#\n#.-#####-#\n#-#####--#\n#.-####--#\n#-$####-$#\n#--.----#\n##########",
+        "##########\n#-.---####\n#-$---####\n#-#-.#####\n#-----####\n#-##---###\n#--#--####\n#-$-$-$@##\n#---.-####\n##########",
+        "##########\n##-.-----#\n##---#-$.-#\n##-$--#--#\n##-.-##--#\n##-$-##-.#\n##-$-##--#\n###--###--#\n##########",
+        "##########\n##-------#\n###--$-.-#\n######-$-#\n#######-.#\n######-$-#\n######---#\n######-$-#\n#####-.-.#\n##########",
+        "##########\n######--##\n#####-$-##\n#####-$.-##\n#####----#\n######--##\n#####-$.-#\n#------.-#\n#-$-.-.--#\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#.-#######\n#-$-######\n#-$.-----#\n#-$-.--$@#\n##########",
+        "##########\n##########\n##########\n#-########\n#--#######\n#--.------#\n#--$.-.$-#\n#-$-----.#\n#---.-#--#\n##########",
+        "##########\n#--.-#####\n#---######\n#-########\n#--#######\n#-$#######\n#--#######\n#-$.--$@##\n#---.--$@#\n##########",
+        "##########\n##########\n##########\n##########\n#--#######\n#-$--#####\n#-$--#####\n#-$.-#####\n#.---.-$@#\n##########",
+        "##########\n##--######\n##----####\n#-$.-#####\n#---######\n#---######\n#-$------#\n#.-$-$.-#\n#.----#--#\n##########",
+        "##########\n##########\n#--#######\n#-$.######\n#---######\n#---######\n#.$-######\n#-$.######\n#-.-######\n##########",
+        "##########\n##########\n##########\n#-########\n#------###\n#.--$-$-###\n#-$..-####\n#-$.--####\n#-----####\n##########",
+        "##########\n###---.-##\n##--$---##\n##-$--#-.##\n###--#--##\n##--##--##\n##-$---.##\n##--$.-###\n##--.---##\n##########",
+        "##########\n#---######\n#-$-######\n#.--######\n#-$-######\n#-$.######\n#.--######\n#-.--#####\n#-$.######\n##########",
+        "##########\n#-----.--#\n#-$---$-##\n##--######\n#--#######\n#-.#######\n#-$-######\n#.-.######\n#------$@#\n##########",
+        "##########\n#-----####\n#-$--$@###\n#-$.--####\n#-.#######\n#-########\n#--#######\n#.--$-####\n#---.-####\n##########",
+        "##########\n##-.-#####\n#-----####\n##-$-#####\n#-$-######\n#---######\n##--######\n##-$.--$@#\n#--.--.--#\n##########",
+        "##########\n###-######\n##---#####\n##-.-#####\n##------##\n###-$----#\n###--#---#\n##-$-$-$@#\n##-.--.-#\n##########",
+        "##########\n#-########\n#--#######\n#-$#######\n#--#######\n#.-#######\n#.--######\n#$$-######\n#-..----##\n##########",
+        "##########\n#--------#\n##-$-----#\n#-$.-##--#\n#--####-.#\n##--###--#\n##--###--#\n#--#--$-#\n#-.-.--..#\n##########",
+        "##########\n##########\n##########\n#-########\n#.--######\n#.-$----##\n#-$-.-$@##\n#-.----###\n#------###\n##########",
+        "##########\n##-.-----#\n##----$--#\n##--######\n##---#####\n#-------##\n#-$..$-##\n#-.-#--.##\n#--#######\n##########",
+        "##########\n###-######\n###-######\n#-.--#####\n#--$------#\n#-$---#-.#\n##--$-#--#\n##-$.-#-.#\n###---.--#\n##########",
+        "##########\n##########\n#-########\n#----#####\n#-$.-#####\n#--#######\n#-.-######\n#-$.######\n#-.-$--$@#\n##########",
+        "##########\n##########\n##########\n##########\n#--#######\n#--#######\n#-$.-#####\n#.-$.-####\n#-$-$.-####\n##########",
+        "##########\n###------#\n##--$----#\n#--$-##--#\n#-$-###--#\n#----###--#\n##--#-#--#\n##--.-.-.#\n##########",
+        "##########\n#--------#\n#-$.-----#\n#-#####$-#\n#--####--#\n#--####-.#\n#-$####--#\n#-.-$-#-#\n#---.-.--#\n##########",
+        "##########\n##########\n##########\n##########\n##-#######\n##-$--####\n#-$----###\n#-$--.-$@#\n#--.-..-##\n##########",
+        "##########\n#-----####\n#-$---####\n#-#---####\n#-#--#####\n#--#--####\n#----$-###\n#-.--$.###\n#-.-.-##############",
+        "##########\n##########\n#-----####\n#-$------#\n##----#-##\n##---#-###\n##-$--.###\n##-$.-$###\n#.--.---#\n##########",
+        "##########\n#-.------#\n#.-$.-$-##\n#----#####\n#-$-######\n#.-#######\n#---######\n#-$#######\n#-.#######\n##########",
+        "##########\n##########\n##########\n#--#######\n#-$-######\n#-.-######\n#----#####\n#.-$.-$-##\n#---.--$@##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n###---####\n#-$--$-$-.#\n#-.-.-.-.#\n##########",
+        "##########\n#---######\n#-$.######\n#.-#######\n#--#######\n#----#####\n#-$--#####\n#.$--#####\n#--.-----#\n##########",
+        "##########\n##-------#\n##-$---$-#\n##--##-.##\n##--##-###\n##--##-###\n##-$-#---#\n##-$--.-.#\n##--.---##\n##########",
+        "##########\n#-.--#####\n#-$--#####\n#-$-######\n#.-#######\n#------###\n#-$--.-###\n#--#--####\n#--$.--###\n##########",
+        "##########\n##########\n##########\n#-.-######\n#-$#######\n#-$.######\n#----#####\n#-.$-#####\n#-$---.--#\n##########",
+        "##########\n##########\n##########\n##########\n#--#######\n#-$-.-$@##\n#-$-.-$--#\n#.-#######\n#--.######\n##########",
+        "##########\n##########\n#---######\n#---######\n##-----.-##\n#--.----##\n##-$-$-###\n#-.-$-####\n#--.---.##\n##########",
+        "##########\n##########\n#---######\n#-.#######\n#-$-----##\n#-$.--$-##\n#.--#--###\n#-$#######\n#.--######\n##########",
+        "##########\n#-.-######\n#------###\n#-$--..###\n##---#--##\n##--##---#\n##-.--$--#\n##-$-#---#\n##-.-----#\n##########",
+        "##########\n##-------#\n##--$-$.-#\n##-$-#-.-#\n###---#--#\n##----#--#\n##-$-#-.-#\n###------#\n##########",
+        "##########\n#-########\n#.-#######\n#-$#######\n#-.#######\n#--#######\n#---######\n#--$---$@##\n#----.--.#\n##########",
+        "##########\n##########\n##########\n##########\n##-#######\n#-$.######\n#-$.######\n#-$.######\n#-$-.-.--#\n##########",
+        "##########\n#--------#\n#-$---#--#\n#-######-#\n#-#####-.#\n#-######-#\n#-#####-.#\n#--$.$--#\n#---.---#\n##########",
+        "##########\n#--.-----#\n#-$----$@#\n#-######-#\n#---####-.#\n#-$------#\n#.-$-#-#--#\n#---######\n##########",
+        "##########\n###------#\n####-----#\n#####-#--#\n#---#-##-#\n#--------#\n#-$.$--.#\n#-$-#-#.--#\n#--.----.#\n##########",
+        "##########\n##########\n##########\n##########\n##-------#\n##--$-#--#\n##-#-##--#\n#--..$-$.#\n#----.-$@#\n##########",
+        "##########\n##########\n#-########\n#------###\n#-$-.-####\n#-#--#####\n#---$#####\n#-$--$@###\n#.-.---##\n##########",
+        "##########\n#--.---###\n#-$--$@###\n#-##-.####\n#-##--####\n#--#-#####\n#---$-####\n#-.-$-####\n#--.--####\n##########",
+        "##########\n#-.---####\n#--$-#####\n#---######\n#-$-######\n#-.-######\n#.------##\n#-$--$-###\n#--.--####\n##########",
+        "##########\n##########\n##########\n#---######\n#-$.######\n##---#####\n##-$-#####\n##-$-.-###\n#-$.---.-#\n##########",
+        "##########\n#-.------#\n#-----$--#\n#-######-#\n#.--####--#\n##-------#\n##-$-#-$-#\n#---$.---#\n##-@--.-.-.#\n##########",
+        "##########\n#-.-######\n#-$.######\n#----#####\n#-$.######\n#--#######\n#.--######\n#-$--#####\n#--.-#####\n##########",
+        "##########\n#####----#\n#####-$--#\n######--##\n######--##\n#####--.##\n#---$-$-##\n#.--.-$-##\n#-.----###\n##########",
+        "##########\n#------###\n#-$-----##\n#-#-######\n#.--######\n#-.----###\n#-$--$-.##\n#------###\n##########",
+        "##########\n##########\n##########\n#-########\n#--#######\n#-$.-#####\n#-.--#####\n#-$.$@####\n#-.-$-####\n##########",
+        "##########\n##########\n#-########\n#-.------#\n#.-$-#---#\n#----#-$-#\n#-$-###--#\n#---##-$.#\n#@--.----#\n##########",
+        "##########\n##--------#\n#-$--$---#\n#--#-#####\n#-#--#####\n#.-#--####\n#---$.####\n#-$.--####\n#-.#######\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-------##\n#.$-$..###\n#-$-.-$.-#\n##########",
+        "##########\n##########\n##--######\n##--######\n##-.######\n##--######\n##--$--$-#\n##---$--.#\n##-.---.-#\n##########",
+        "##########\n##########\n##########\n##########\n#--#######\n#-$.-#####\n#-------##\n#.-$-$-$@#\n##-.---.-#\n##########",
+        "##########\n#---######\n#-$.######\n#---######\n#-.#######\n#-$#######\n#-.#######\n#--$-#####\n#.-----$@#\n##########",
+        "##########\n##---#####\n##--$--###\n##--#-####\n#-.-----##\n##---#--##\n#-----$.##\n#-$-$.-##\n#---.######\n##########",
+        "##########\n##########\n##########\n##########\n##########\n####-#####\n#----.-###\n#-$..$--##\n#.--$.-$@#\n##########",
+        "##########\n##########\n##########\n#---######\n#-$--#####\n#-$.---.-#\n#-$--.--.#\n##-------#\n###----$-#\n##########",
+        "##########\n##########\n#---######\n#.-$-#####\n#-$.######\n#.--######\n#.--######\n#---$--###\n#------$@#\n##########",
+        "##########\n##########\n##########\n#---------#\n#-----#-.#\n#--#----#\n#--$-$-$@#\n#.--$.-#\n#----#####\n##########",
+        "##########\n##########\n##########\n##########\n#-.-######\n#-$.######\n#.-----$-#\n##---$-$.#\n##------#\n##########",
+        "##########\n##########\n#--#######\n#---######\n#-$--#####\n#-$.######\n#-.-######\n#-.--$-###\n#.----$@##\n##########",
+        "##########\n##########\n##########\n##########\n##--------#\n##-$-#--.-#\n##--#-#--#\n##-$.$-$.#\n#----.--.#\n##########",
+        "##########\n##########\n##########\n#----#####\n#.-$-#####\n#-$-######\n#------###\n#-$--.--##\n#-$-.-..##\n##########",
+        "##########\n#------###\n#-----####\n#-------###\n#-.------#\n#-$.--$-##\n#-.---$-##\n#-.#######\n##########",
+        "##########\n###--.--##\n##-$.----#\n##----##--#\n##--##-.##\n#---##-$-##\n#-$-#-$###\n##---.--##\n##---.--##\n##########",
+        "##########\n#-.-----##\n#-$.-$.-##\n##--#-####\n#--#-#####\n#----#####\n#--#--####\n#-$-$-####\n#--@--####\n##########",
+        "##########\n#------###\n#.-----###\n#-$---####\n#----#####\n#-$---####\n#--#.-####\n#-$-$.-###\n#-.----###\n##########",
+        "##########\n#--#######\n#-$-######\n#---######\n#--#######\n#.--######\n#-.---####\n#-$.$-####\n#--.-#####\n##########",
+        "##########\n##########\n##########\n##########\n#-.---####\n#--$-#####\n#--$-#####\n#-$-.--$@#\n#-.----.-#\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#-.----.-#\n#-$-$--$-#\n#--..--$@#\n##########",
+        "##########\n##########\n##########\n#--------##\n#.-$---###\n#-$.######\n#-$-######\n#-.--#####\n#-$----.##\n##########",
+        "##########\n##########\n#--#######\n#-$-.--###\n#.-------##\n##-##-$-##\n#--#-#-####\n#-$---$.##\n#-.----##\n##########",
+        "##########\n##########\n##########\n##----####\n#----#####\n#-$.-#####\n#--.-#####\n#-$.$-$@##\n#---.--###\n##########",
+        "##########\n##########\n#--#######\n#--#######\n#----#####\n#-$.######\n#.-#######\n#$-----$@#\n#.-----$@#\n##########",
+        "##########\n#-.------#\n#-$------#\n##-#-#####\n##---#####\n###---####\n##-.$-####\n##-$---$@#\n###-.---#\n##########",
+        "##########\n##########\n##########\n#--#######\n#-$-######\n#--.-#####\n#-$--#####\n#--.$-####\n#-.-$.---#\n##########",
+        "##########\n#--.--####\n#-$-$-####\n#----#####\n#---######\n#-########\n#.-#######\n#-$-----.#\n#----.-$@#\n##########",
+        "##########\n#--------#\n#------$-#\n#####-##-#\n######---#\n######-$-#\n#####-#--#\n#-$.-.-$-#\n#.-----.##\n##########",
+        "##########\n#---######\n#-$-######\n#-.-######\n#-$-######\n#.--######\n#---######\n#-$.-#####\n#-$.-#####\n##########",
+        "##########\n##########\n##########\n#-########\n#--#######\n#-$.######\n#-$-######\n#.--$@####\n#-$.--####\n##########",
+        "##########\n##########\n##########\n#--#######\n#-$-######\n#.-#######\n#.----$-##\n#-$--$-###\n#.-.---###\n##########",
+        "##########\n#-----####\n#-$---####\n#.#--#####\n#-$-######\n#.-.######\n#-$-######\n#.--######\n#------$@#\n##########",
+        "##########\n##########\n##########\n##---#####\n#----#####\n#-.------#\n##-$-$--.#\n##-$..$--#\n###----.-#\n##########",
+        "##########\n##########\n#---######\n#--.######\n##-$######\n##-.-----#\n##--$---.#\n##-$--#-$-#\n##-----..#\n##########",
+        "##########\n##########\n##########\n#--#######\n#-$----###\n#.--.-####\n#-$--#####\n#-$$-#####\n#-.--.####\n##########",
+        "##########\n##########\n#--------##\n#-$.-$-###\n#-#-######\n#---######\n#.-.######\n#-$----$@#\n#-------#\n##########",
+        "##########\n#----.-###\n#-$-$--###\n#--##-.###\n#-$-######\n#-.#######\n#-$-######\n#.-#######\n#--#######\n##########",
+        "##########\n##-----###\n#----$.###\n#------###\n#------###\n##-##-$-##\n##----$-##\n##-$---.##\n##-.-.---#\n##########",
+        "##########\n##########\n##########\n#-.-######\n#----#####\n#-$--#####\n##----$-##\n#-$-#--.##\n#----..$@##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n##########\n#--#######\n#-$.-.-$-#\n#.-$.--$@#\n##########",
+        "##########\n#------###\n#-------##\n#---#-####\n##-##--###\n##----$@##\n#--#-$.###\n#-$--$-###\n#.---.-##\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11141112234143331122222214414323444",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "11411214414322221443333233411",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1121133322211144",
+        "",
+        "214112114331144443443332132114112234332222321",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "13411221122341443",
+        "3333323222321111134114441433",
+        "",
+        "",
+        "",
+        "121141133323414112112123",
+        "11111122244433214121222223",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "111113333211121122342234",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "1141122214124432341433321",
+        "12411212142114432",
+        "",
+        "",
+        "141124332114112123123233444",
+        "",
+        "",
+        "",
+        "1121141112333333111112122222344332321414412144",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 35
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 29
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 16
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 45
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 17
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 28
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 26
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 24
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 25
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 17
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 27
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 46
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-0.66_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n###-.---##\n###-.-$-##\n###--##--##\n##-###-###\n#---$.-###\n#-$##-$-###\n#-.---.###\n#-##---###\n##########",
+        "##########\n######-###\n###-@--$-#\n##---.#--##\n##-.-##-##\n#.-.--$--##\n##--#---##\n##------#\n##-$.--$-#\n##########",
+        "##########\n###--.-###\n###$-$---##\n###--.--.##\n####--$###\n####-.-####\n#--.-$--##\n#-----####\n##########\n##########",
+        "##########\n#-$.-.-.-#\n#-$-#--##\n#.-##-$-##\n##---#-####\n##--.-$--##\n###--#--##\n###-##-###\n######----#\n##########",
+        "##########\n#####-.-##\n#####-$###\n#####.-$-##\n#####-.###\n####-.-###\n#--$.----##\n##---#---#\n#####----#\n##########",
+        "##########\n#------@--#\n#-$------##\n#-##-#-###\n#.##-$----#\n#.------#-#\n####---$-#\n###-#--#-#\n##########",
+        "##########\n##########\n##########\n##########\n#####-#-##\n####-$-$@#\n####.---##\n######-$.#\n######-$@#\n##########",
+        "########\n#--#---###\n#--$.-$@###\n##----####\n##-#######\n#-###---##\n#.---.--##\n#--.$$-###\n##---#---#\n##########",
+        "##########\n###-----##\n#-$--.--###\n##-.--#####\n##---#####\n###---#-.#\n####--.#-##\n#-$$$---##\n#@---#####\n##########",
+        "##########\n##########\n#--#######\n##--######\n##$------#\n##-..-$.##\n#--##-$.##\n#-###---##\n##---@---#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-0.66_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n###-.---##\n#--$-$..##\n#-$-##--###\n#--####-###\n#-#####-.##\n#--$-----#\n#--#--#--#\n###------#\n##########",
+        "##########\n#####-####\n#----.--$-#\n#-.#-#--###\n##-----$-#\n##---#-$.-#\n###--#--#\n###-#--#--#\n##-$-...-#\n##########",
+        "##########\n#-.-$-.###\n#.--$-$@##\n##-$######\n###-######\n##---#####\n##-.######\n#--$######\n#.---#####\n##########",
+        "##########\n#---######\n#-$---####\n#--.---$-##\n#--$--.-##\n##--#-.###\n######-###\n##-.---###\n##--$-###",
+        "##########\n####-----#\n#-$--..-.#\n#---###-##\n##---##-##\n##-$-#-$###\n#-$#--####\n#-##-#---#\n#-----.-#\n##########",
+        "##########\n###-######\n###---#####\n###-.--.-#\n###-.$-.-#\n#####--###\n######$-##\n#####--$.##\n##########",
+        "##########\n##########\n#.--######\n#-.-$-####\n#-.-$#####\n###-######\n###-$######\n##$----###\n#.-.----##\n##########",
+        "##########\n####--####\n####-$.###\n##--.-#---#\n#--#-#-$-#\n#-$-##---#\n#.-.-#-#-#\n#--$-###--#\n##--.---#\n##########",
+        "##########\n######--##\n#####-$..##\n#####--###\n#---##-###\n#-$-##--##\n#---##-$.##\n#.----$###\n#------##\n##########",
+        "##########\n#####---##\n#####--$-##\n#####---##\n#####.-$-##\n#####-.-##\n####---###\n##-$-.-.-#\n#.--$-###\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-0.66_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#####-####\n#####---##\n#####-$--#\n#####.--##\n#####--###\n####----##\n##-$#.$-$@#\n#-@--.-###\n##########",
+        "##########\n##########\n###-#-#-###\n#@$-.--.-##\n##-#-.---#\n#-##-#-#---#\n#-$$-$-$-#\n#-.--#---#\n#---#####\n##########",
+        "##########\n##########\n##########\n#######-.#\n#----#-$.#\n##-$---.#-#\n#####-$.-#\n######--$#\n######-@-#\n##########",
+        "##########\n##--######\n##.--#####\n#-$$######\n#--$.#####\n#.-#######\n#.########\n#$-#######\n#---######\n##########",
+        "##########\n##########\n##-###-#-#\n##.-$@-.-#\n#-#-@-$--#\n#---$.--##\n##-$@######\n#--#######\n#@--#######\n##########",
+        "##########\n#--.--.--#\n#@$---#--#\n#-$--##-##\n#-$.-##-$##\n##--@-#--##\n##---#-#-#\n###-$####-#\n######--############",
+        "##########\n#####-$-##\n######--##\n######$-.#\n#####--.-##\n#####-#-##\n######---##\n#-$-$.@--##\n#------.##\n##########",
+        "##########\n######---#\n#---##-$.-#\n#.-#-@-$@#\n#-$--.-$-#\n#--#--#-###\n#-###---###\n#-##$---##\n#-@------##########",
+        "##########\n##########\n##########\n##########\n###---#-.##\n####--$$-##\n###-.-..##\n##-$-##--#\n#-@---$--#\n##########",
+        "##########\n#--@--####\n##-#--$-##\n#-##--.###\n#-##.-####\n#.-.-----#\n#-$-.-$--#\n####-$-#--#\n#######--#\n##########",
+        "##########\n#######-##\n#######$-#\n####-.--.#\n####-#-$$#-#\n#--#-.--#\n#---#-##-#\n#-$.-###-#\n#-@-##--#\n##########",
+        "##########\n##-.-.---##\n##-$$-##-##\n#-.--##--#\n##.-$--.-#\n##-$#-#####\n##########\n###-#######\n##########",
+        "##########\n##--######\n#-.--$.-@##\n#-#-$.-###\n#-##.-####\n#---######\n#$-#######\n#-$#######\n#-########\n##########",
+        "##########\n##########\n#####--.##\n####--$###\n####--$--#\n##--#-.-##\n#.---##-##\n#.---#-$###\n#---$-###\n##########",
+        "##########\n####.-####\n#--$-.$####\n#-----####\n#-$-.$@###\n#------###\n#-##-.####\n#-##--####\n##---.####\n##########",
+        "##########\n##########\n##########\n######-###\n#####-.###\n###---$###\n####-$.-###\n#---$---##\n#.--.$-##\n##########",
+        "##########\n######--##\n######--##\n######.-##\n#####--###\n#####-#--#\n####---$.#\n#-$----..#\n#@$----$.-#\n##########",
+        "##########\n##########\n##########\n##-##-####\n#-$-...###\n##--$-####\n##-#-#####\n#--$----##\n#.----$@##\n##########",
+        "##########\n######-###\n####-$.-##\n####---.##\n######-###\n#####-$-##\n#-#-$.--##\n#.-----$@##\n#-##-#####\n##########",
+        "##########\n#--.-$.-##\n##--.-$.##\n#####-$###\n#--##-###\n#-#--####\n#-$-$--###\n#-##---##\n#---##--#\n#--.---##########",
+        "##########\n#-.-#-#-###\n#---$...##\n#-.--$-###\n##########\n##########\n##-$---###\n##-$$######\n##########\n##########",
+        "##########\n#####---##\n#--.---###\n#-#--.####\n##-##$--#\n##-$---.-#\n##--#--..#\n#---#-#--#\n#####-$@##\n##########",
+        "##########\n####---.-#\n#@$-$---#\n###-$--.-#\n####-#-.##\n###--##-###\n##-$###-.##\n#------##\n#--##-#-###\n##########",
+        "##########\n#-$-######\n#$--######\n#@-$@#####\n#.$#######\n#.########\n#@---#####\n#--#--#####\n#@-----##\n##########",
+        "##########\n###---.###\n###--$$-###\n###-..-###\n####--####\n#####-$@##\n####---###\n####---$-##\n###---.-#\n##########",
+        "##########\n#--$--#--.#\n#--$$--$.#\n#######-.#\n########-#\n#######--#\n########-#\n########.#\n########-#\n##########",
+        "##########\n#####----#\n#####--$@#\n##--##-###\n#-$---####\n#-..-----##\n#-$.$-####\n#-########\n#.------#\n##########",
+        "##########\n#####---.#\n######-$.#\n#######--#\n#######-.#\n######-.-#\n#######$.#\n#######$-#\n##########\n##########",
+        "##########\n#######-.#\n#######$$#\n###--.--.#\n###-$-.#-$#\n###--######\n###--#####\n###.-#####\n##---######\n##########",
+        "##########\n#.---#####\n#.$--#####\n#$.-######\n#.#--####\n##-.---####\n##-$--####\n##-$#-#--##\n##----###\n##########",
+        "##########\n##########\n###--#####\n##-..#####\n###---####\n#-$--#####\n#.--$-###\n#-.-$$--##\n###--.-###\n##########",
+        "##########\n#####-#-.#\n##--#-$-#\n##$-$.--.#\n#-##-#####\n#----#####\n#--.######\n#-$.######\n#------###\n##########",
+        "##########\n##-..$-###\n###--#-####\n##-----..##\n##--#----#\n##-$##$--#\n#-$--##-#\n#@----#--#\n#--##--##\n##########",
+        "##########\n##########\n##########\n###--#---##\n#-----.-##\n#--.#--.##\n###-$.$$-#\n#####-#---#\n##########",
+        "##########\n######--##\n#####--$--#\n######-$@#\n##----.-.#\n##-$---###\n#-$-$--###\n#@-#-####\n#------.#\n##########",
+        "##########\n#-.-######\n#.$--..$-##\n##-$.--###\n#####---##\n#-###--###\n##-----$-#\n#-----#--#\n#####-#-#\n##########",
+        "##########\n#######-@#\n######-$.#\n#######$.#\n######--##\n######--##\n##-$.--###\n##----$@##\n###--#####\n##########",
+        "##########\n#####---##\n######-$-#\n#####----#\n#####-$###\n######-.##\n#####@-$.##\n#####-.$$-#\n#####@---##\n##########",
+        "##########\n##-#######\n###--#--###\n#-----$-##\n#-#-$--###\n#--##-####\n#---#--####\n#.-#-$####\n#...-$.###\n##########",
+        "##########\n####--####\n###$--.-###\n#---$.-###\n#.-#-#####\n#.-#######\n#-########\n#-#---$-##\n#-.-$--##\n##########",
+        "##########\n##########\n####-#####\n#----$@###\n#.$---.###\n#.-$-##-##\n##--.--###\n#-$--#--##\n#-----###\n##########",
+        "##########\n##-#----@#\n#--.$$-.-#\n##--@-##-##\n######--##\n######-###\n##-###-$##\n##--$##--#\n##---.@--#\n##########",
+        "##########\n##########\n#-########\n#-$.######\n#$-#-#####\n#.-.--####\n#-$..--###\n#-###---###\n#-$----###\n##########",
+        "##########\n##---@---#\n###$--$$-#\n##-$--##--#\n#--@-##-.#\n##---.-#--#\n##--#--#-#\n###-.-####\n##########",
+        "##########\n##########\n##-@-.-###\n##----$###\n####-$-###\n##-#--.###\n##-#-$--##\n#-$..-$-##\n#----##-##\n##########",
+        "##########\n######-.-#\n######$-##\n######.-###\n######--##\n######-.-#\n####--$$.##\n##---$-.##\n#-----#####\n##########",
+        "##########\n####--$.##\n##--$--###\n##-$-.-###\n#-##-.-###\n#-.#######\n#-$--#####\n#-#-#-#####\n#.-----###\n##########",
+        "##########\n####-#####\n####--####\n##------.#\n##--#---#\n##-$##--#\n##--#.-###\n##--$.-$.-#\n#-.----#-##\n##########",
+        "##########\n#####-###-##\n####--.--##\n#---$-#$-##\n#-###-$.##\n#-###--.##\n#--####--##\n#-###-$.##\n#-.---###\n##########",
+        "##########\n######--##\n######--##\n#-$-#--###\n#.--#-$-###\n##--#-$####\n#-...-####\n#.-$--####\n##----####\n##########",
+        "##########\n#####--###\n####-$--##\n######-#-#\n######-.##\n#####--###\n#####--####\n#####-$$@##\n##-.@---$@#\n##########",
+        "##########\n##########\n######-###\n#####-#-.-#\n##@$-$.$-#\n###-----#\n#####-#####\n#####-$-##\n###---.$@##\n##########",
+        "##########\n#.-------#\n##--$-#-.#\n##-$.--.-#\n##-$-.#--#\n###--#####\n###----####\n####-$-####\n###--.#####\n##########",
+        "##########\n###--@-###\n##----#-###\n###-$--$-##\n###-.-#--##\n####-$--.##\n##-$-.#-###\n###.--####\n###-----##########",
+        "##########\n##########\n##########\n##--######\n##-.--####\n##---$@###\n#-$..-#-##\n#-$##-#-###\n#@$--.--##\n##########",
+        "##########\n#---.-####\n#----#####\n#-##-----#\n#-#-#--.-##\n#.-$.$--##\n#------###\n#---$$-#\n######----#\n##########",
+        "##########\n######-###\n#--.-.-###\n##-.-#---##\n#---###---#\n#.-####-$##\n#-$-#----##\n#-.-$$-##\n#-#-###---##\n##########",
+        "##########\n#####-####\n#####--###\n#####-####\n#####-$###\n####@-####\n####-.$-.#\n#---$-$-@#\n#--@---.-##\n##########",
+        "##########\n##-..--$-#\n##--.--#-#\n#######--#\n########-#\n########-#\n#-----.--#\n#-$$$--#--#\n#-@-----#\n##########",
+        "##########\n#------###\n##-----.-#\n##-.##-###\n##.-$-####\n###.-#####\n###--$-####\n#-.-$-#--#\n#------##\n##########",
+        "##########\n##---#####\n###---####\n##-$-#####\n###-..#####\n##--##--##\n##--#---###\n##.-$-.###\n#-$$$--##\n##########",
+        "##########\n#####--###\n####--.-###\n#####-$.##\n#####-$###\n#--$-.---#\n#---#----##\n#-$.---###\n#.-#######\n##########",
+        "##########\n#-.--#####\n#-$.-#####\n##-$-----#\n#-.-#--##\n#####-####\n######--##\n##-.$$.-##\n##---#--##\n##########",
+        "##########\n##########\n#--#######\n#---------#\n##--.--$.#\n#######.-#\n######-$-#\n#####-.$@#\n#####--#-#\n##########",
+        "##########\n###-######\n##-.-#####\n#--$.-$@##\n#.-#-#####\n###---####\n#--#---##\n#-##-$#--##\n#-.$--####\n##########",
+        "##########\n##########\n##-----###\n#-$-.#####\n#-$#######\n#.########\n#-$.######\n#--#######\n#-.#######\n##########",
+        "##########\n#--#--.###\n#@$---.###\n###-$.####\n#-$-######\n#--#######\n#-$#-----#\n#@-----#-#\n#--#######\n##########",
+        "##########\n##########\n######-.@#\n#####-$..#\n#####-$.##\n#-#---$-###\n#-$--@-###\n#-----####\n#-###-####\n##########",
+        "##########\n####-.-$@#\n####-$$#.#-#\n######.-##\n#####--#-#\n#####-#.-#\n#####-----#\n#####.-$-#\n######-###\n##########",
+        "##########\n######--##\n#####.-.@#\n#####-$$-##\n#--###---##\n#.-#--####\n#.-#-$####\n#-.----###\n#-$---####\n##########",
+        "##########\n######-.##\n#####-$###\n#####--###\n#####-.###\n####-$-###\n####-.-###\n####-$$-##\n####--@--#\n##########",
+        "##########\n#--#-##-##\n#-$...$--#\n#-.--$-$-#\n#-########\n#--#######\n#.########\n##########\n##########\n##########",
+        "##########\n##########\n##########\n#--.--.-.#\n###-$-.$$#\n###-#---#\n#######-##\n#-$--##-##\n#.----@-##\n##########",
+        "##########\n##--@#####\n##-.-#####\n#-$-#####\n##.-######\n##--###-#\n##-$$-#@-#\n##--$-.-##\n##--.-####\n##########",
+        "##########\n###-.-.--#\n##-$-#---#\n#-###--.##\n#@$-##-.##\n##-$##-$###\n###-----###\n##########\n##########",
+        "##########\n######-###\n#####.-###\n###---$--##\n####-.--.##\n#-$#-.####\n#-$-######\n#-.-######\n#--.-#####\n##########",
+        "##########\n#-$-######\n#--####-$-#\n#-$####.-#\n#-$-#-.#--#\n#--#-#--.-#\n#.-#####-#\n######--#\n######-@#\n##########",
+        "##########\n#--.######\n##--------#\n###--###-.#\n###-.###.-#\n###-$--$.-#\n##--$---#\n#######--#\n##########",
+        "##########\n####-.-###\n####-$-.##\n#####--$@#\n#####--###\n######-.##\n#####-$-##\n#####-$-#\n####-.---#\n##########",
+        "##########\n##########\n##-.-#####\n##$-######\n##---#####\n###--#-###\n##.----$@#\n##.-$$-###\n##-----@##\n##########",
+        "##########\n#--------#\n#-$$--$@##\n#####-####\n#####-####\n#####.-###\n###--#--##\n##-..-.--##\n##------#\n##########",
+        "##########\n##########\n##---.-.##\n#--$-$-###\n#--###-$###\n#@-##-###\n#-.--#-###\n#@$-##--##\n#.------##\n##########",
+        "##########\n###--@-###\n##--.$.####\n##-$-.####\n###-.#####\n##########\n#--$---###\n#---.$-###\n##---#####\n##########",
+        "##########\n#--.---$@##\n#---#-$-###\n####--.###\n###--#-####\n###-##-###\n#-$--#--@##\n#.-#-$.##\n#-----###\n##########",
+        "##########\n##-$-.--.#\n###---$.##\n######--##\n#####--###\n####-$-###\n#---.-$####\n#-#--.-##\n#-########\n##########",
+        "##########\n##---@-###\n##-$$.-$-##\n#####-.--#\n######--##\n#####---.#\n#####.---#\n######--##\n###-#--$@#\n##########",
+        "##########\n#####--.##\n#####$-$.##\n#####--###\n#####-..##\n######-$##\n######-###\n##-$--$.-##\n#----.--##\n##########",
+        "##########\n####-#####\n###-------#\n##--..-#-.#\n#####-##-#\n#-##---##\n#-$-$@$-##\n#@$----###\n#----#####\n##########",
+        "##########\n##-----.##\n####--$-##\n#####-####\n##---.-###\n##-$.$#####\n###---####\n#------#-#\n#-$--@--#\n##########",
+        "##########\n###---####\n##-$-#####\n##---.####\n##--$#####\n##.---$@##\n##--#--###\n###-$--###\n##.-.---#\n##########",
+        "##########\n##--######\n##--$-$.###\n###.--.###\n####---$@##\n#####-$###\n#####---##\n###-###-##\n#-.-----#\n##########",
+        "##########\n##########\n##########\n####-#####\n####.-.$.##\n###-#-$-###\n##--#---##\n##---$.-.##\n#----.-###\n##########",
+        "##########\n#-.-----@#\n#---$.-.##\n#---######\n#-#-######\n#--$-#####\n#-#-#####\n##---#####\n#-$.--####\n##########",
+        "##########\n######-.-#\n####-.----#\n######---#\n#-#####-##\n#.-##--###\n#-$$--$--#\n#-#-$.@##\n#####--##\n##########",
+        "##########\n####--####\n####$-$-##\n#####---##\n####-#--##\n####-$.@##\n####-.-.-##\n#####$-###\n#####----#\n##########",
+        "##########\n##----.-##\n##.-$-#-###\n#--$#####\n#--#######\n#-#-######\n##---#####\n#-$$.--.-#\n#.---#---#\n##########",
+        "##########\n##-$----.#\n#-$----.##\n##-.---###\n###---####\n###$---###\n####-$####\n####--#-###\n##-.-.--##\n##########",
+        "##########\n##--######\n##--######\n##---#-##\n#--.--$.-#\n##----$.##\n#####-.###\n#####-$-##\n###-.---##\n##########",
+        "##########\n###-$--.##\n####-.--##\n##-.-#-$.##\n###-$-####\n###---####\n###--######\n##-$$--###\n##----####\n##########",
+        "##########\n######--##\n#--##----##\n#--##-.-.##\n#$--#.-$-#\n##-------##\n###--#-.###\n##-#--$.##\n##----####\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-1.0_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "-##\n###-.--###\n##----$###\n##.--#####\n##-.#-#####\n##$--##-#\n##--$-##-$#\n##.-----#\n#@-#-##-\n##########",
+        "##########\n##########",
+        "##########\n##-$..-###\n##--#.--###\n#----.-.###\n#-$--.$###\n##--####-##\n#-###-##--.##\n#-#--###$\n#--#----##\n##########",
+        "##########\n##########\n##-#######\n##-$--#-##\n###.$--###\n###-..#####\n###-$#####\n##$-#-####\n#.-----.##\n##########",
+        "########\n####.-##.#\n####-$#--#\n##---.-.##\n###---.-##\n##-$-.-$###\n###-.--$--#$\n#####-####\n##--#@--##############\n####################",
+        "##########\n##---####-#\n#-$.------#\n#-.#---#.-#\n##--###-$##\n##$-##--##\n##--.#-#-##\n###-@#-$$$\n###@--##\n##########",
+        "##########\n######--##\n#-$----###--#\n#-$-.######\n###-.--#-#\n####$-#.--#\n####-#.-.@#\n#####---$##\n######--#\n##########",
+        "##########\n#---@-.-##\n#-$@$.$-#\n#####--$@##\n##-####-##\n#-.##---##\n#--#######\n#--##--##\n#----#--##\n##########",
+        "##########\n##########\n##########\n##.#######\n##---$@##-#\n##--.-$$-#\n##--###.--#\n###.-##-$#\n@----.#-#\n##########",
+        "##########\n##########\n#####---@#\n######-$.#\n##########\n#####--$##\n####-.-.##\n#-$@##$-$##\n#.@------.##\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 2,
+            "num_targets": 0,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-1.0_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n#--#---###\n#.$-.-.###\n#--#-#####\n#.#--$---##\n#-$#----##\n#.###-$-###\n#--########\n#----############",
+        "##########\n#######-##\n###-##-#-$##\n##-$.-$$@#\n#@-$--#-.#\n##-###---##\n##--###@-#\n#---##--#\n#-###---#\n##########",
+        "##########\n####-.####\n####-#####\n####$---##\n#-#--$.###\n#.-$.---##\n###-#.--###\n#--##-.-#\n#$---#####\n##########",
+        "##########\n#-.-######\n##--######\n##@#######\n######--##\n###-#.--###\n#@$--.----#\n#--#--$$#\n#######-.#\n##########",
+        "##########\n##########\n########-#\n#######.-#\n####.-$@##\n####-$$####\n#####.-#-#\n######--.#\n#-.--$-####\n##########",
+        "##########\n#######-$#\n######.-.#\n###-.--$-#\n######-..#\n#--####-###\n#--#-$-###\n#--#-$--###\n#--##----@#\n##########",
+        "##########\n#.--$---..#\n#-$$#---.#\n#.#-###-$#\n#-.-####-$#\n#-#-#-###--#\n##########\n#######-@#\n-#-#-######\n##########",
+        "##########\n#####-$.##\n#####-#-#-##\n#-.##--##\n#-$-##-$-#\n#..$-#.--#\n###---####\n#####-#####\n########\n##########",
+        "##########\n######--.#\n######--$#\n###--$.@##\n###----#-##\n##--####-.#\n####-.#---##\n###.$-##--#\n#---#---#\n##########",
+        "##########\n##---###-.#\n##-.---##\n#####-$###-##\n#####$-$@##\n#--$-##--##\n#.--$---###\n##-#@---##\n##@-#--.-###\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-3.0_topk-50_topp-1.0_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#-..-##@##\n#$--$-$@#\n##-#####-##\n#-$####--#\n##-####-##\n#.-##-#-@##\n##--$-####\n##.---##--#\n######---##########",
+        "##########\n######@#-.#\n#####-$-$#\n#####@-.#\n######.###\n#####----#\n######-###\n#####-$@--#\n#####-$--##\n######$-.-##########@#",
+        "##########\n###-.$@###\n###-#.-####\n#####-####\n#-#---#####\n#$.$-#####\n#-$-$-###\n#@---##-@#\n####-##-##\n##########",
+        "##########\n##########\n##########\n#####@####\n#.---#-$-###\n#---$#-.###\n#-.$######\n#--#---###\n#-$$-#---#\n#---.####",
+        "##########\n##-@$-$@##\n##.-.$-$-##\n##.-######\n##-##-$###\n#--#######\n#---.#####\n#@--#--####\n##---######\n##################",
+        "##########\n####-..###\n#####--$@##\n#####-$.##\n#####-####\n#--##-$###\n#@--##$---##\n#-$####-###\n##----####\n##########",
+        "##########\n######--###\n###-#-$###\n##-.-.-$.#\n###--.-#-##\n########.#\n#####-.###\n######-$###\n#-#-----@##\n###########",
+        "##########\n#--#-#####\n#----$---#\n#-$.#.-$@##\n#-$##-#.--#\n#-#--#-####\n#-#-@--####\n####-#####\n##########",
+        "##########\n#-..-.-.-#####\n###$-###\n###--######\n##-$@#####\n#-#-#####\n##-#-#####\n###-$-####\n####-@--#\n##########",
+        "##########\n###.-#####\n##-.-#####\n#--.#-####\n##-@$-###\n###---.###\n##########\n$-$$####\n####-$.--###\n#####@####\n##########",
+        "########\n##########\n######-###\n#####-.-#\n#####@-#-#\n#####.--##\n#-#####$-#\n#----$$.-##\n#@$-------#\n##########",
+        "##########\n##-#-.@-###\n#-.-$#-.$@##\n##.-##$-###\n#####-$.-##\n####-#--###\n#####$-@##\n#####--##\n#####-##-#-##.\n###-##########",
+        "##########\n#-.#######\n#$$#######\n#.-#@-@###\n#.-$-###########\n#.#--####\n#@-#$-#####\n#---######\n#.$-#####\n######-#-#############",
+        "##########\n##-----####\n##-.$--.##\n##---#-.##\n####-##--#\n####-###.-##\n##--###-$##\n###$$----#\n##--.---@-##########",
+        "##########\n#####-..--#\n#####-$$#-#\n######.$-#\n######---.#\n#######$.#\n########.#\n###--####$-#\n#-#--#@-###-####\n##########",
+        "##########\n######.--#\n#--.--##-.#\n##-.$.$###\n##@$-######\n#-$-#######\n##########\n##########\n###########--#----#\n##########",
+        "##########\n#######-.\n######-$.#\n#######$.#\n#####-$-##\n#--##--#\n##-.#-.#--#\n#.#-#-#####\n#---.---#\n------#\n##########",
+        "##########\n#.----.-$-#\n#.$---$.##\n##-##---#\n#--####-.#\n##-######-#\n##---###-#\n######-#-$#\n####---##\n##########",
+        "##########\n###---..--#\n##@$---$.#\n######$-##\n##########\n###-###-##\n##-###-.##\n##$$--##\n###.----###\n##########",
+        "##########\n#####-#-##\n##--$#-$.@#\n#@$--$-.$-#\n#.####-@@#\n#####-#-#\n#######--\n#####--#\n#--##--###\n########\n##########",
+        "##########\n#--##--.##\n#-$-$$$.###\n#-#-@-$####\n#.#-#-###\n#.##-##-##\n##---#---##\n##-##-#-#\n########--#\n##########",
+        "##########\n##########\n##########\n###-######\n#--.######\n#.-.$--#-#\n#---..--#\n#@$-$#-$--#\n#######--#\n##########",
+        "##########\n#---#####\n#--$-..###\n##----####\n####$#####\n###.######\n###.----##\n#--.-$$####\n#####--##@#\n##########",
+        "##########\n#@$-.-###--#\n#-@#-#--.##\n###-##$$-##\n##--##--###\n##.--$.-$@#\n##-.-----##\n#######--##\n#######-##",
+        "##########\n#-########\n#@-####-.#\n#.--$..$@#\n##--@--$$#\n##---#-##\n##-@#######\n###########-##@#\n###@---###\n###########",
+        "##########\n######--##\n#-$$-##-###\n#.-$@##-.##\n#..-$----##\n#@--######\n#-##--#-$##\n##-#######\n#-########\n##########",
+        "##########\n#-..-.$####\n#@$--#####\n#-##-#####\n#--.-#####\n#$---####-##\n#.-###----#\n##$#-#####\n#-----##@#\n##########",
+        "##########\n######-.###\n###@$-$@###\n#####--$.###\n######-###\n#-###@--##\n#-$##-$--##\n#-#.--#-##\n##-.---###\n###-#--########\n##########",
+        "##########\n###-.#####\n####$-.$-#\n###.-.$-.#\n#--##--###\n#-$##-----#\n#--@--####\n#--########\n#-##-####\n##########",
+        "##########\n##----.###\n###-###-.##\n###$-#-.##\n###-.-$#-#\n###-$-#-##\n###.-##-.-#\n##---##-$#\n##--#-#-#\n##########",
+        "##############--..-##\n##-$-$-###\n#--#--####\n#.-##-##-##\n#-###-###\n#.##----##\n#-.-$-$@##\n#####--####\n##########",
+        "##########\n#--.--$-.#\n#@-...-##\n#-$$-#####\n##-##---##\n###-##$--##\n#-----###\n#--.-####\n#-$-####\n#--#######\n##########",
+        "##########\n###------##\n##---.-###\n##-.-$-###\n####--####\n##--#.-#-###\n##-$$#.-#\n##-$.$-.-#\n#####--#\n##########",
+        "########\n#---.@--.#\n#.$$--$.$@#\n##########\n##########\n##########\n##-$-####-#\n#-###--#-#\n##--@##---#\n##########",
+        "##########\n##########\n#######@##\n###$######\n##-###-$###\n##-##-$###\n#-.-.---.#\n#--$--$#--#\n#--#@---###\n##########",
+        "##########\n######-@##\n#####$-@.#\n#--###--##\n#-$####.-##\n#-$-##-$##\n#--@##-####\n######--##\n######--..##$\n##########",
+        "##########\n###--@-.-#\n###.-$-###\n#####$-###\n######.-##\n###@$-.-##\n#######-##\n######-####\n####-.---###\n##########",
+        "##########\n######-.@#\n########$#-#\n######.---\n#####-$.$#\n######--#\n##############\n#@########\n#####-#.-#\n######-@.#\n##########",
+        "##########\n#.--$.--.#\n#--$@---.##\n#-##$#####\n#.#-######\n#@########\n#$--#$#####\n####-#######\n#@--####--#####\n##########",
+        "##########\n######--@#\n##-$.-$$-#\n#--.$-$.##\n#.--####-#\n########.#\n#--###--##\n##-####-$##-#\n#####-##--##\n##########",
+        "##########\n#.-#######\n#-$$-####\n#.--.$-####\n#-.--.#-###\n####--$@##\n#####-##-#\n#######--#\n########-#\n#####-...$-#\n##########",
+        "##########\n#-$---###-##\n#-$.-$..--#.\n######-.-#\n####---#-#\n####-$#---#\n#####-#####\n####--####\n###-.################",
+        "##########\n#.-----###\n##$----$##\n###-$#---#\n##@--.#.-#\n##-$###--#\n###-####-.#\n##---##-@#\n###--#####-#\n##########",
+        "#$########\n##########\n####-.@###\n##----####\n##----#@##-#\n##-$#-#$####\n##-..-$-#\n###@-#--#\n####--#####\n##########",
+        "##########\n##@---@.--#\n##-#-#.--##\n#-$-$.####\n##-.$#####\n##--#-#####\n####--#####\n###$#--#####\n#-#-@-######\n##########",
+        "##########\n#####-#-###\n###-#$--##\n###-$-$.-#\n####-#---##\n######.--#\n#####---.-#\n###---.--#\n#@$--.-#--###########",
+        "##########\n##########\n##---.#####\n###-$$-$-##\n#######-@#\n#######..#\n###----##-#\n##@$---###\n###@---##\n##########\n##########",
+        "##########\n#---@-..##\n#-$$$.$-##\n#-.@######\n##########\n####-#####\n####$-####\n#####$--####\n####---####\n##########",
+        "##########\n####@--.##\n###-#-$-###\n#####-####\n#####-####\n#####$$--#\n####@-$.@.#\n###--$-@-#\n####-#-#\n####-.###\n##########",
+        "##########\n##########\n#####-###-##\n#####$---#\n#####-$##.#\n######---#\n#####.-#-#\n#-##---$-#\n#.---$....##\n##########",
+        "##########\n##-#-...##\n##$--$$-##\n#--$.-#####\n#.-##########\n######--@#\n---#-######\n####-#####\n#----@---###\n#########################",
+        "##########\n#-#-.---##\n#-$$$-.-.##\n#.#-.-###\n#--##$--##\n####---####\n######.-###\n####-#-#-#---#\n#####--@-##########",
+        "##########\n#######-.#\n#####-#-.#\n###-$#.$-#\n#@$-#-..-#\n#--#######\n#@------###\n#-##-$$####\n#####-.--#######\n###########################",
+        "##########\n####---$-#\n####$.-..#\n##-#--#-$.#\n#######$-#\n########.#\n--##-.-#\n#####$-##\n#######-@-#\n####----#\n####################",
+        "##########\n######-.-#\n#-#---.$-$.#\n#-#--#.-###\n##-####-$##\n#--#######\n#-$#######\n##--.#####\n#---#####\n##########",
+        "##########\n##########\n######---##\n####--.###\n####---.##\n###.-#-$###\n#-$##-#####\n#$$$-@###\n##.------#\n##########",
+        "##########\n####-.@--@#\n######$-$#\n######-@.#\n##########\n#####-##-$#\n####@$-###\n###-#-#---##\n####-.---#\n##########",
+        "##########\n####-$@-.#\n##--..-$.#\n#-$-##-#$###\n##--######\n###-#######\n#.-#######\n#-@#####\n#--######\n######-######\n##########",
+        "##########\n#####---.--#\n#---$-..-#\n#.#####-$-#\n####--###-#\n##-$-####-#\n#-$--######\n#.########\n#---#######",
+        "########@#\n#-$--.-###\n##-#$$####\n#####-####\n##-#-@-.@.#\n###-##--###\n##########\n-$$######\n#.--####-#######\n##########",
+        "##########\n######-..#\n##-$---.##\n###--$##-#\n###-###---#\n#-#-####-.#\n#-$-#-#.-#\n#.-##-#$##\n##---###--##\n##########",
+        "-#@\n#####--###\n####-$####\n#-$--#-###\n#.---.-$##\n#.-#@--###\n#.########$#######\n######-####\n#-$@######\n##########",
+        "##########\n########-.##\n######-$--#\n#-####-.##\n#-$###-$@#\n#-###-#-#@\n#-.###--#-#\n##-#-##.-$##\n#---##-#\n##########",
+        "##########\n#####--###\n##-.$@-..##\n##-$-$--##\n#####-$-##\n######@--##\n###-###-###\n#@$-##-####\n##@-##-.-###########",
+        "##########\n####@#####\n####--$$-#\n#####$-@.#\n######-.##-#\n######-###\n###--#-.##--#\n####-.#-$$@#\n#--@--@-$-#######.@#######\n##########",
+        "##########\n#####-#-.##\n####$-.-##\n####-$..##\n#####-.$-##\n#####--####\n###--$--###\n###.--$.###\n##-@###---###\n##########",
+        "##########\n#@--######\n##--$##--##\n#@--@-$--##\n#.-.$-###\n###-######\n###.-#####\n##----###\n###$--###\n##########",
+        "##########\n##########\n############\n####---###\n###--$-.##\n##-$-.-##\n###$--####\n#####-$###\n#-.-.--###\n##########",
+        "##########\n#.--####-.#\n#-.-$-$-$.#\n#-@-----##\n##-##---###\n#####---##\n###-----##\n###--$###-#\n#--###-@##\n##########",
+        "##########\n##########\n######--###\n#-#####-.##\n#.-###-.##\n#-$#-.-###\n#-##---###\n#.$----###\n###-$---##\n##########",
+        "##########\n#######-.#\n##--$-.-##\n####--##-@#\n###-$#-$##\n##@---##-##\n##--$-#-.##\n##-#-#.-#####\n#-#---@###\n##########",
+        "##########\n##########\n#####-#--#\n####-#@--.#\n#-#.-#-$##-#\n#$-$---$.#\n#-@#######\n#--#######\n#-----####\n##########",
+        "##########\n##.-$---##\n#-$.-#-###\n###--##-.##\n####$-#-.##\n###.-#--#\n###-$#####\n###--###-#\n#----####-#@####",
+        "##########\n####--####\n###$--.###\n##-$-$$-.#\n###-.#-.--#\n####-----@#\n####$---###\n###.--####\n###---.--##############",
+        "#######@##\n######---#\n######$-.##\n######-$.##\n######.-.##\n###-###-$@#\n##-#-$--##\n#@--$-##--#\n#####---##\n##########",
+        "##########\n#.--.#-$@#\n#$-$..$@.#\n##--#-######\n###@######\n##########\n##########\n#$$#######\n###---#-##\n##########",
+        "##########\n#-..$-$@#\n#$$$--$-.-##########\n#.-#######\n##########\n#@-#######\n#--######\n#######@#---####\n##########",
+        "##########\n##########\n#---.-###\n#.-$$-####\n###-$.####\n##-$#.####\n#-########\n#.########\n##---.---#\n##---#-@############",
+        "##########\n#####-####\n##-.-#--#@#\n##--#$--###\n##.-.#$####\n###-$@-###\n##--#-#####\n###-$$\n--.--#-#\n###----.-#\n##########",
+        "##########\n###.-$-..#\n####@$--.#\n######-#.#\n#######--#\n######---#\n#####-.--#\n#$########\n####@--#$-#-#\n#######--##################",
+        "##########\n#@--.-####\n##-.-#####\n####--#@##\n##-$.$#####\n###--$@###\n#####-#####\n#####$####\n##--######\n##########",
+        "########\n#.-.######\n#-$#-######\n#.$#######\n#-########\n#.-######\n#-$$######\n#@-@######\n#-#####-#####\n#----@-###\n##########",
+        "##########\n##########\n##########\n#@########\n#$$#######\n#--#######\n#.-#-$-#--##\n#--$$..$.##\n###--##@##\n#-######-.############",
+        "##########\n#@-$...$-#\n#-.--$#-##\n#-$#######\n#-#####---#\n#-#####-$@#\n#-#######\n#\n#######------#\n##########",
+        "################--#@\n###.-$.-#\n####@-..-#\n######-###\n######@$-#\n#####--$-#\n#####-$#--#\n#####--#.#\n#---###--########",
+        "##########\n##-$-..-$@#\n#-$.-#-$.#\n#######-$#\n#######-.-#\n###############@#\n##############-##\n#----####\n##---##-#\n##################",
+        "##########\n####-#####\n#####--$@#\n#####@--##\n####--$--#\n#######-$#\n########.#\n####--.$--#\n#-----@###\n##########",
+        "##########\n####.--$-#\n######--$#\n###-.-#-##\n##-$.######\n##--$-####\n#-@---####\n###-##-$--#\n###-##--#\n##########",
+        "##########\n#####@--##\n#####-$###\n#####--.##\n######.--#\n#-$--#$-##\n#..$-##-###\n#.--##-###\n###-#---#\n##########",
+        "##########\n##########\n##-$-.####\n###.-.####\n##-#$-#--.#\n#####-$--#\n####-..--$#\n####-#-####\n########-#.@#######\n##########",
+        "###########\n#@$---.@##\n#.-#--$.##\n#--#-#####\n##-$$@####\n###.-#-####\n##########\n######-#@###\n##########-########\n##########",
+        "##########\n######---#\n#-----.$-.-#\n#-.#.-#--.#\n#-$$@####\n######--#\n#####-#-##\n#####$-##\n####-#@-@##\n#######################",
+        "-##\n##.$-#-..#@$\n##--$$-#\n###-#-#####\n####-.####\n###---#####\n####$#####\n###-$#---##\n#--.-##--#\n-@---##############",
+        "##########\n#-.$---.@#\n#@-$$-$$@#\n#####-#-###\n#######$-.#\n###-####@-.#\n##########\n###-#####@#-#\n#--#--###-###\n##########",
+        "##########\n##.---$.--#\n###--$..$.#\n#####--$.##\n####-#####\n##########\n##-#-#####\n##--######\n##########\n##########",
+        "##########\n#@$--#####\n#-@.$-####\n##-$$-###\n####--#####\n##-$.-####\n###--#-.###\n###-.---##\n----###\n##########",
+        "##########\n#####-.-.#\n#####$$-.#\n####--$.-#\n#####--#-#\n###-.-###-#\n###-$-###-#\n###-$-#@---\n##--#---#####\n##########",
+        "##########\n##########\n####-$@####\n####-.-$.-#\n#######$-#\n######-#-#\n#####.--#\n#-#--##$-#\n#.-----@-#\n##########",
+        "##########\n#@-@--.-##\n##.--$.$-##\n##---######\n##########\n##########\n##########\n####--#-##\n##########",
+        "##########\n#---.-$@##\n##--$.####\n###-#.####\n###-$.-###\n####.--##\n####--####\n##-#--#####\n####--#####\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 21,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 11,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 20,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 11,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-0.33_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n##########\n####----##\n####-$-###\n####-$-###\n####---###\n####--$.##\n###-.-$--#\n###----..#\n##########",
+        "##########\n##########\n##########\n#-########\n#.-#######\n#.--$@####\n#--#-$-###\n#---#---##\n#-$-$.--##\n##########",
+        "##########\n###-----##\n###-$-$.##\n###-$--###\n##---#-.##\n##------##\n##--.-$-##\n#-.-#-#-##\n#-------##\n##########",
+        "##########\n##--######\n#-$.-#####\n#----#####\n##-$######\n##--.-####\n###-.-####\n###-$---##\n#-.--$-###\n##########",
+        "##########\n######-###\n####---###\n####-$####\n####-.--##\n##---$-.##\n##-$-.-###\n###----###\n##----.###\n##########",
+        "##########\n##########\n#-########\n#---######\n#-$-######\n#--.----##\n##-$-#---#\n##-$-#.-##\n#.---$-.##\n##########",
+        "##########\n#---.-####\n#-$-$#####\n#-#-.#####\n#-#---####\n#.-----$-#\n#-.--#-#--#\n#--#---#-#\n#.-----#-#\n##########",
+        "##########\n##########\n##########\n##########\n##-.-#####\n#-$.######\n#-$--#####\n#---$-#-##\n#-.---$@##\n##########",
+        "##########\n##########\n##########\n##########\n##-.------#\n##.-$.$-##\n#---###--##\n#-$-$-#--##\n#-$--.--#\n##########",
+        "##########\n##########\n#####---##\n####--.-##\n#####---###\n#####-$-.#\n#####--#-#\n#####-$.-#\n##-$.-.--#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-0.33_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "##########\n#--.--####\n#-$.-$---#\n##-#----.#\n##-$-#####\n#------###\n#---#-.###\n##---$-##\n##---#---#\n##########",
+        "##########\n##########\n##########\n##########\n####-.-###\n####-$--##\n#--#-$-####\n#-$.$.-###\n#.-------#\n##########",
+        "##########\n##########\n###-######\n##-.######\n##---#####\n##-.######\n#-$.-#####\n#-$-$#####\n#--.--####\n##########",
+        "##########\n###--.---#\n####-.--.#\n####-$-###\n#-$----###\n##-$----###\n###--.--###\n###---$###\n##-----############",
+        "##########\n######--##\n##--.--$.##\n###-$-####\n#-$-.---##\n#--.-#-###\n#------###\n#-$#######\n#--#######\n##########",
+        "##########\n#-.------#\n#--$.----#\n#-$#######\n#-$--#####\n#-#--#####\n#-#----###\n#.---$-##\n#-#-.---##\n##########",
+        "##########\n##########\n##---#####\n###----$-#\n##---#---#\n#--####--#\n#-.-$.--.#\n#--$--$-#\n##------#\n##########",
+        "##########\n###---####\n####--####\n##-----###\n#-------##\n#-$.-#--##\n##--##---#\n##-$-$--##\n#.----.##\n##########",
+        "##########\n###-######\n#---######\n#--$######\n##-------##\n##--#-$-##\n#-$-##-###\n#-.---.##\n#.---$.###\n##########",
+        "##########\n##########\n####-#####\n####-#####\n###--#####\n###-$--###\n#--.-$-###\n#-$--$--.#\n#-.----.#\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-0.33_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.02,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.02,
+    "diversity": 1.0,
+    "restricted_diversity": 0.02,
+    "samples": [
+        "##########\n###-.-$-##\n#####-$-###\n#####--###\n######-###\n######-###\n#--###--##\n#--$--$.##\n#.---..--#\n##########",
+        "##########\n###----.##\n####--$-##\n####--####\n####-.####\n#####-$####\n#------###\n#-$.--$-###\n#-.-.--###\n##########",
+        "##########\n###--.-.-#\n###--$.-##\n####-$-###\n#-$---####\n#----#####\n#-$#######\n#--#######\n#--.######\n##########",
+        "##########\n##---.--##\n##-$.$-$-##\n######-###\n#####---##\n#####-.-##\n#####.--##\n######-$###\n#####--###\n##########",
+        "##########\n##------##\n#-$.--$.-##\n#-$.---###\n##-.-#####\n###-$--###\n####--#####\n####-----#\n##########",
+        "##########\n##########\n#-.-$-###\n#-----$.##\n#--###-####\n#--#-#####\n#-##--####\n#-.---$-#\n#--.-$-##\n##########",
+        "##########\n##########\n##########\n####-#####\n#-.-.--###\n#--$.$-####\n#-$-######\n#--$-#####\n#-..---###\n##########",
+        "##########\n#---######\n#-$--#####\n#--.-$--###\n#.-#-$-###\n#.-#-#####\n#-$--#####\n#-#.-#####\n#-----####\n##########",
+        "##########\n###-.--###\n##------###\n##---#-####\n#----$-###\n#-$#.--###\n#-$#---###\n#.-$.--###\n#--#--####\n##########",
+        "##########\n#---######\n#.$---####\n#--.-#####\n#--$@#####\n#---######\n##-$.######\n###-$--###\n#---@---#\n##########",
+        "##########\n######-###\n######-###\n######--##\n#-#-#-#-.##\n#-$-#----#\n#-$.---$.@#\n#---#-#--#\n#.--###--#\n##########",
+        "##########\n#-$----.-#\n#-.----$-#\n#-######-#\n#.-#####-#\n#--#####-#\n#---####-#\n#--$-##--#\n#-$-@-.--#\n##########",
+        "##########\n#--.-.-###\n#-$-$.---#\n#--##---##\n#-####-###\n######-###\n######-###\n####-$---#\n#-$--.--#\n##########",
+        "##########\n##########\n##########\n#--#######\n#.-----###\n#.$----###\n##-#---.##\n##---$-$@##\n##-.-$-##\n##########",
+        "##########\n##-------#\n##-$-#--.#\n##-.-###-#\n##-.--##-#\n##--###--#\n##-$----#\n#-$-#-#--#\n#-..-.-#\n##########",
+        "##########\n#-.----###\n#---$-$@##\n#----#-$-#\n##-#-##-##\n#-$----.##\n#.----####\n#--#-#####\n##########",
+        "##########\n#--@-#####\n#-.$-#####\n#---######\n##-.######\n#-.-######\n#-.----$-#\n#-#-$-$-#\n#---######\n##########",
+        "##########\n###----.-#\n###-----.#\n###-------#\n###-.######\n###-######\n##-$---###\n###-$-$-##\n#--.-.-###\n##########",
+        "##########\n######-.##\n#####-$###\n####--.-##\n####----##\n####-$--##\n#####-$.-#\n#####----#\n#----..-##\n##########",
+        "##########\n###-----.#\n###-.---##\n###-#--####\n##-----.##\n#-#--$--#\n#-$-#.--##\n###-$#-$-#\n#####----#\n##########",
+        "##########\n#--#######\n#-$-######\n#-$.-#####\n#-------###\n#.----####\n#-$.-#####\n#.-$#######\n#--.######\n##########",
+        "##########\n######--.#\n#-$--.--$-#\n#-$--##--#\n##-#----.#\n##-#-----#\n#---##-#\n##------#\n##--..-#---#\n##########",
+        "##########\n######-###\n######-###\n####-$-###\n#-$.---####\n#.--#-.###\n#--##--###\n#-$-.--###\n#-$-#-####\n##########",
+        "##########\n###------#\n###----$.#\n###--###--#\n##-$-----#\n###--###--#\n###-.--$-#\n#-$.-#--#\n#----#---#\n##########",
+        "##########\n######---#\n######-$##\n######--##\n#####-$-##\n######---#\n######-.@#\n#-#--$--##\n#-.----$@#\n##########",
+        "##########\n##-------#\n##--$--$.#\n##-$#####\n#--.######\n##-.######\n#-------##\n#-.----$-#\n#-------#\n##########",
+        "##########\n##########\n##########\n##-------##\n##--$.---#\n##-$----##\n##--##-$##\n#-$-..--#\n##-.-#--#\n##########",
+        "##########\n#---######\n#.$-######\n#-.#######\n#-----####\n#--#-#####\n#--$-#####\n#-..$--###\n#@---#####\n##########",
+        "##########\n##-----###\n#--$.--###\n###---####\n#-$---####\n#----#####\n#--.--$@##\n#--$-#-.##\n##----.-##\n##########",
+        "##########\n##########\n###--#---#\n##-.-#--##\n#-$---$.##\n#--.--$###\n#####----#\n#####---##\n#---.---#\n##########",
+        "##########\n##########\n####----.#\n####--$..#\n###---##-#\n##--$-#-.#\n###-$#-#-#\n##----#--#\n#---$---#\n##########",
+        "##########\n##########\n##-.-#####\n##-.--####\n##--######\n###------#\n#---#-#-#\n#-$--.--.#\n#---$.$-#\n##########",
+        "##########\n##########\n##########\n##########\n#----.---#\n#.$-$.$--#\n#.--###--#\n#-$####--#\n#-.-######\n##########",
+        "##########\n#-.#######\n#-.-$.-###\n#-$.-$####\n##--######\n###--######\n###----###\n####-$-###\n##--.--###\n##########",
+        "##########\n##########\n##########\n##########\n##########\n#####--###\n####-$-###\n###-$..###\n#-$-$-.-##\n##########",
+        "##########\n##-.-#####\n##-$----##\n###-$.--###\n###--#####\n#-$--#####\n#.--$-####\n#.-----###\n##########\n##########",
+        "##########\n######-###\n######-$-##\n######-$##\n##-#-#-#---##\n##---$.--##\n#--#-.-.##\n##-$--.-##\n##--#--###\n##########",
+        "##########\n##--######\n#-$.######\n#-.-------#\n#-$-$--.-#\n#-$.--####\n#-########\n#------##\n##--.---#\n##########",
+        "##########\n##########\n#--#######\n#.-#######\n#-########\n#.-####-#\n#--###--#\n#.$-$--$$#\n#--.--#---#\n##########",
+        "##########\n#-$-.-$.-#\n#.---#--##\n#--#######\n#--#######\n#-.--#####\n##-$-#####\n##--######\n#-$.######\n##########",
+        "##########\n##----.--#\n#-$-.----#\n##--#-####\n##-##-####\n#----$@###\n#---$--###\n#--$--.###\n###-----##\n##########",
+        "##########\n#-$-.----#\n#------$.-#\n#-$#######\n#--#######\n#.-#######\n#.$#######\n#@--######\n##-#######\n##########",
+        "##########\n##########\n#--#######\n#.--######\n#.-#######\n#.----####\n#-$-######\n#-$.$######\n#.--######\n##########",
+        "##########\n#-.------#\n#--#-$$--#\n#####--.-#\n######-#-#\n######-#--#\n####--#--#\n###-$-$-.#\n#----@--#\n##########",
+        "##########\n##-.-#####\n##-.$-####\n##------##\n##.-$-$@##\n##--#--###\n###-##--##\n#---##-.##\n#-$----##\n##########",
+        "##########\n##########\n#---######\n##-$######\n##-.######\n##-.-#####\n##-.--$--##\n##--$..$-#\n##-----##\n##########",
+        "##########\n#--#######\n#-$-######\n#--.######\n#-----####\n#-$--#####\n#-$-######\n#.-#-##-#\n#-.----.-#\n##########",
+        "##########\n##########\n###-.--###\n###$--$-###\n###--#--##\n#----#-$@##\n#.-#-#-###\n#-$-$----#\n##-.---##\n##########",
+        "##########\n##-.-#####\n##-.--$--##\n#-$.--$-.##\n#####-$-###\n######.--##\n######--##\n#######-##\n##########\n##########",
+        "##########\n##########\n#----.----#\n#------$@#\n#####-$-##\n######-###\n##-.--#-###\n##--$-.###\n##-$--.-##\n##########",
+        "##########\n#--.--.--#\n#--#-.-###\n#-##--####\n#-##-#####\n#-#---####\n#-$$-$####\n#@-----###\n#--#----##\n##########",
+        "##########\n##########\n##########\n####--####\n####-#####\n#--.------#\n#-$-$-$..#\n#.-$-#---#\n#---######\n##########",
+        "##########\n##########\n#----#####\n#.--######\n#--$-#####\n##-$.#####\n##----$@##\n##-.-$-###\n##--.######\n##########",
+        "##########\n##########\n##########\n####-#####\n###-$-####\n#---.--####\n#-$-.#####\n#.---$-###\n#--.---$@#\n##########",
+        "##########\n##########\n##-.--.-##\n##--$-$-##\n##-$######\n##-.######\n##.-###-###\n##-.-$-###\n##-----##\n##########",
+        "##########\n#-$.-----#\n#-.-$.$--#\n#####---.#\n######---#\n#######$-#\n######-.-#\n##########\n##########\n##########",
+        "##########\n##---.--.#\n###-$.-$.#\n####--##-#\n#####-#--#\n#####--#--#\n######---#\n#----$--#\n#.------#\n##########",
+        "##########\n##--######\n###-######\n##-.-#####\n##---#####\n#--.######\n#-$$-#####\n#@$--#####\n#-.---####\n##########",
+        "##########\n##########\n##########\n#-########\n#.---.-###\n#-----$-##\n#-$-#-####\n#.--$-.###\n#-.-$--###\n##########",
+        "##########\n##########\n#---######\n#--$######\n#-$---#--##\n#.$-.---#\n##--#--#-#\n##-$-##--#\n#-.-##-.#\n##########",
+        "##########\n##########\n##########\n#-----####\n#--.---###\n#--#-$####\n#-#-#####\n#-$#-$@###\n#..--$--##\n##########",
+        "##########\n##########\n###-######\n#--$@#####\n##--######\n##-$######\n#-$.######\n#-..$--###\n#-------.#\n##########",
+        "##########\n###-######\n#-$--.-.-##\n#.----$-###\n#--#######\n#--#######\n#-########\n#--#######\n#@$--.-###\n##########",
+        "##########\n#####--.-#\n####-$-$.#\n######--@#\n######---#\n#######.-#\n######-$-#\n#####-$.-#\n#####----#\n##########",
+        "##########\n##########\n##########\n#-------.##\n#------$@##\n#.-##--###\n#--##--###\n#.------$-#\n#----.$-#\n##########",
+        "##########\n##########\n###-######\n##-$.---##\n##-$--.-##\n#-$-#---##\n##--###--#\n#-.-#---#\n#-$---..#\n##########",
+        "##########\n#-$.--.--#\n#---$-$.-#\n#--#######\n#-$-######\n#--#######\n#.########\n##########\n##########",
+        "##########\n##########\n#--#######\n#.-.######\n#-$-######\n#---######\n#---######\n#-$--.---#\n#.--$--$@#\n##########",
+        "##########\n##--.-.--#\n##-$--.--#\n#-$-#--.##\n#--#--#-###\n#---#---##\n#-##---###\n#-$$--####\n#----.-############",
+        "##########\n##########\n#-.---####\n##----$.-#\n#--##--###\n#-----####\n##-#-#####\n##-$--.###\n##---$.$@#\n##########",
+        "##########\n#------###\n##--$.-###\n#-.##-####\n#-##--###\n#.--#-####\n##--$.---#\n#-$----$@#\n#######--#\n##########",
+        "##########\n##########\n##########\n#-$.--####\n#-$.######\n#---######\n#.-#######\n#-$.######\n#-.----$@#\n##########",
+        "##########\n#--#######\n#-$-######\n#-.------#\n##---$.--#\n###-###--#\n##----##--#\n##-.$.$-#\n##----#-#\n##########",
+        "##########\n##-.-----#\n##-.$-.-#\n######--##\n######-###\n######-###\n######-###\n#--$---###\n#@$----.##\n##########",
+        "##########\n###--##-##\n###-$-$--##\n##-$-##-##\n#---##--##\n#-$---.-##\n#.--#-.--#\n#.-##-$###\n#.-##----##\n##########",
+        "##########\n##########\n##########\n##########\n##########\n####-#####\n##-.-$-###\n#.-$-$.-##\n#-$-..-###\n##########",
+        "##########\n###----.-#\n###-.-$-.#\n##---#####\n##-.---###\n##-$--####\n###-$######\n#-.-$######\n##--######\n##########",
+        "##########\n#---.-####\n#-.-$.####\n#-$#######\n#.--######\n#--#######\n#-$--#####\n#-#---####\n#--$-#####\n##########",
+        "##########\n##########\n##########\n#-########\n#.--######\n#.------.#\n#-$$-$.$@#\n##-#######\n#--#######\n##########",
+        "##########\n######-###\n######--##\n#####-$-##\n#-------##\n#-$.#.--##\n#--###-$-##\n#.-$-#--##\n#@-----##\n##########",
+        "##########\n#---######\n#.-.--$@##\n#-----####\n###-#-####\n###---####\n#-$---####\n#-$--$-###\n#----.-##\n##########",
+        "##########\n##########\n##########\n#####--###\n#####-..##\n####-$--###\n#####-$###\n#####-$..#\n##--.---##\n##########",
+        "##########\n##----.--#\n###-$-$--#\n##-$-##-.#\n###-.######\n#-@-######\n#-$--#####\n#------###\n#.-#######\n##########",
+        "##########\n##########\n##########\n#----#####\n#.--.-####\n##-$######\n##-$-#####\n##-$---.##\n##--..---#\n##########",
+        "##########\n##########\n##########\n#-----.--##\n#@$--$.-##\n#---######\n#-$.-#####\n#--$######\n#----#####\n##########",
+        "##########\n##-------##\n###--.---##\n###--.----#\n####---###\n#####-$--##\n#####-.$$-#\n####-.-$@#\n###-#-#--############",
+        "##########\n##---#####\n###-.-####\n###-----##\n###--#--##\n###-$--.-#\n##----$$.##\n###-.-$###\n###--.-###\n##########",
+        "##########\n#####-####\n##---$@###\n##-$-.-###\n###-#-####\n##-$--####\n###-$-#-##\n#-$.-##-##\n#----@-##\n##########",
+        "##########\n###----.##\n###-----##\n###--##--##\n###---##-##\n##---###--#\n##---$-$.#\n#-$.----.#\n##-.----#\n##########",
+        "##########\n#-$----.##\n##-.-$-###\n######--##\n######-.##\n######--##\n#####---##\n##--$--###\n##--..-###\n##########",
+        "##########\n##-.-----#\n#-$----$-#\n#.--######\n#--#######\n#--#######\n#--.######\n#.$-----#\n#----#-#\n##########",
+        "##########\n##--######\n#-.--#####\n#--.-----#\n#.--#-#-#\n#.--##-$##\n###--$--##\n###---$$##\n####---###\n##########",
+        "##########\n###--#####\n###-$#####\n##-$-#####\n##-.######\n##----####\n#----#-.##\n#--.$-$@##\n##---.-###\n##########",
+        "##########\n#-.-######\n#-$.----##\n#-$--#--###\n#--##-.###\n##-$-#-###\n##.-##-$@##\n###--#-###\n###---####\n##########",
+        "##########\n##-#######\n#-.------##\n#.--#-$--##\n#--##-$###\n#.-##--###\n#----#-###\n#-$-$-###\n#-.-.--###\n##########",
+        "##########\n##########\n##########\n##########\n#---######\n#--.---###\n#-$--$@###\n##-$-$-###\n#-..--@###\n##########",
+        "##########\n######--##\n#####-$-##\n######-###\n######---##\n######-.##\n##--#-#-.##\n#-$-$.-$-#\n#.----.##\n##########",
+        "##########\n###-----##\n#---$.--##\n##---#-$###\n#-----.###\n#-##-#####\n#-.-######\n#-$.-#####\n##########",
+        "##########\n#-.----###\n#--$---$@##\n#####-$-##\n######--##\n######-###\n#####--.##\n#####--$.##\n#####----#\n##########",
+        "##########\n##########\n#--.######\n#-$-######\n##-.######\n##$--#####\n#.-.######\n#$-$-#####\n#----.####\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "212122122233343323341111233114121144444443333112141222",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "433222214143432",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": 54
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 3,
+            "prop_empty": 0.0,
+            "solution_len": 15
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-0.66_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n###-----@#\n#@$-$.$$.-#\n##-$-######\n###.-###-#\n#######-@##\n######-#-##\n#####--#--#\n--#-@--#\n##############################",
+        "###----#@\n#.$-#-.-##\n#$--###-##\n#$-#-@-##\n#@-$.-###\n#--###-####\n###--#####\n#-###-####\n####--$-##########@###################",
+        "##########\n########-##\n#.-#-$$.-@#\n#-..$-@-@#\n#.-#--###\n##-#-#--###\n##-##-$$###\n###-###--#\n#-##---#\n########\n##########",
+        "##########\n#####--###\n#####$$--##\n#####-@###\n#----..###\n#-##-.####\n##-$--###\n##-$#-#-##\n##-.@-#-##\n###---.$-##@########",
+        "##########\n##--$-####\n#.-.$--####\n##-##-####\n##$-#-####\n#@--.$-###\n#.---##--#\n#--##-#--##\n#.-##---#\n##########",
+        "-#\n.$-$-###\n#@$-$.###\n###.--$-##\n##-####-#\n###--#####\n###.-#-####\n#--#-#-----#\n--#-.--#\n#######--################################",
+        "#-###\n##-@-####\n#-$$$--.##\n#@-##$-#-###\n##########---#####\n#--.--###\n#.$-@---##\n#.-#######\n##########",
+        "##########\n#-$#######\n#.-###-##-$#\n#$-##--$@#\n#-..-#--##\n#.-$#####-#\n#\n--########\n#####---##\n####----############",
+        "##########\n###-#-#-####\n#---#-####\n#$-$@####\n#-$..--###\n#.##-#-###\n#####--###\n####$--####\n##########\n##########",
+        "##########\n##########\n##########\n###-$---###\n##.-#--#--#\n#-##--.#-#\n#@$-----.-#\n#$-#-#-.#\n#-$-##-#-##\n##########",
+        "##########\n########@#\n####----$-#\n#@$-.-#-$-##\n##--.##-###\n####-##-###\n####-#-###\n#-##-$-#-#\n#-#-.$.-##\n##########",
+        "#######\n###-.--##\n###---$-##\n#-$#----.##\n####---.##\n######-###\n#####----##\n####--$$$@#\n#####---.#\n##########",
+        "##########\n##########\n#.-@---$--#\n#-$-$-#$-#\n#.-----.@#\n###-#######\n#-$--#####\n###--.#####\n#@--@--##--#\n#####-##################",
+        "##########\n##########\n###----.-@#\n#####$--#\n#-#-$-$####\n##---$.###\n##-##-###-.#\n###.-#--$#\n##--@--@#\n##########",
+        "##########\n###--###-##\n##-$##---#\n##-.##--.##\n##-##-$###\n###-##$-##\n#--.-$@###\n#-$-----##\n####-##--##\n##########",
+        "##########\n#####-.@##\n#####--$##\n##-###-#\n#.-$.##-@-#\n#@-#-##$-#\n####---$-#\n#---#-$$-##\n#.--#----#\n#######-##########",
+        "##########\n##########\n###---#@##\n##-.$.-###\n###$-###-#\n####-##--##\n####-##$--#\n#-#--#-.-$-#\n#---@--..#\n##########",
+        "##########\n##.-.######\n###-@-##--##\n####-$.-.#\n###-.#-$.##\n####$-####\n######--#######\n######-###\n#####---##########",
+        "##########\n#####-#.-#\n##--#--$@#\n##.--##-.#\n#-$##-#$-#\n#-$-#---##\n#--##-$###\n#.--.-#--#\n#-##--##-####\n##########",
+        "##########\n######-.##\n###--$$-##\n######-$###\n######-#-.#\n#####-#$-$#\n#####-@#\n####-##--@#\n##------##\n#\n####################",
+        "##########\n######--@#\n######.-.#\n#######--#\n#####--#-#\n#######-.#\n##--##-#-#\n#-$$.-$$@#\n#.----##-\n##--#####\n##########",
+        "########\n##########\n#-..-#####\n#-$-$######\n#--####-@#\n#$--$.--@#\n#.-#######\n-#######\n#@------$@#\n##----###\n##########",
+        "##########\n###.-####\n#.---#-####\n#-$$-.####\n###--$----#\n#######-$#\n##@####--#\n######---#\n######@###\n##########",
+        "##########\n##-$.--.@#\n###-$..--#\n########.#\n##-######\n######-###\n##-$--$-##\n#---#----#\n#-#-###-#\n##--################",
+        "##########\n##########\n#.-.-#####\n##-$.#####\n##.-.#####\n###-#####\n###--#####\n####$#####\n##-@-##-$#\n##########",
+        "##########\n####-#-@##\n###--.$@##\n###.$--#-#\n####--.---#\n#####-##--#\n###--#---#$#\n###.---#-$#\n###@-#####\n##########",
+        "##########\n##-@---#-##\n#--.#-$###\n#.--#-..##\n#@-#####-.#\n##########\n###-$$-####\n###-----##\n##-------#\n####################",
+        "##########\n######--.##\n######$-##\n######-.-##\n#-$------##\n#-$##-..###\n#-.-$-##-#\n#.----####\n######-####\n##########",
+        "##########\n#$---.-###\n#-.$-####\n###-#######\n#-.--#####\n##$-######\n#-$$--.-##\n##------###\n##.-#-.###\n##########",
+        "##########\n#.########\n#-########\n#@-####-##\n#.--######\n#--$##-##--#\n#@---.--##\n#$$-##-$.#\n#--###--@#\n##########",
+        "##########\n######-.@#\n###-$..-.#\n##-$.-#-#\n##-.######\n#####-##\n#-########\n#--##-###\n-$#-$#\n#----####\n##########",
+        "##########\n#-$@$--@.#\n#..-.-$$###\n#.-#-#####\n#-##-#####\n----#---#\n---###--###\n####-#-####\n--#-#######\n##########",
+        "##########\n#####-$.##\n####.--$##\n######-###\n######-$###\n#####---###\n#####.---#\n##---$$---#\n#####-#.-.##\n##########",
+        "##########\n##---##-##\n##.-##$-##\n#-$.$--###\n#-$-###-###\n#-#.-@####\n##--######\n##---#-###\n###.--#-##\n##########",
+        "##########\n#####.#--.#\n#---$@$-.#\n#-$#-#-#.#\n#-####-$-#\n#-#--######\n#-########\n#-.-#######\n##-----###\n##########",
+        "##########\n###---####\n##.-$--###\n###.-.####\n##-$-#####\n##-----###\n##--##-####\n##$-#---###\n##-@-.###\n##########",
+        "##########\n##---######\n##-$######\n#-.#######\n#.-#-$####\n#..--$@###\n###-#######\n#$\n##-#######\n#.---#####\n##########",
+        "##########\n#####--..#\n######-$-\n#####-#-#\n####-#.-#\n##-.---#-#\n###$---#@-#\n####-##-$$#\n###--.-@#--#\n##########",
+        "##########\n#-.#######\n#.-$####-##\n#-$-..-$-#\n#-.-.-#-##\n######--###\n##-##-$###\n##-$####-#\n#-##--@#-##\n#####------###########",
+        "##########\n####-@-.##\n#####-$-##\n###-$-$-##\n##-$.-----#\n##@--###-.#\n#-.-.######\n#-$####-###\n###-#--#--#######",
+        "##########\n###--.$@###\n#####--$@##\n#-$.---.###\n##-#######\n##$---#-##\n#-$-###-@##\n#---##-###\n#####--@##\n##########",
+        "##########\n##--.######\n#.$--.####\n##-$#####\n###--######\n###-$-#####\n#-$-#-####\n##----#-##\n#.--##--.#\n##########",
+        "##########\n#####--.##\n#-##$--$##\n#--#.----#\n#--.-$--.#\n##-##-$-###\n#######-###\n######-#-#\n#######-@##\n##########",
+        "##########\n####.--.##\n####$$-###\n#-$#---####\n#.-#@-#@##\n######-###\n#####-###-#\n######--##\n#-$---##-@#\n##########",
+        "-##\n##.-$.$.###\n#-$##--###\n##--$-----##\n##-.-#-##\n###-##-###\n####--####\n####$--.-##\n##########\n##########",
+        "##########\n#@$-$.-###\n#.#-$--###\n###---.###\n###-###-$##\n##-#-@####\n###-----###\n###-----##\n###----#-#\n##########",
+        "##########\n#######-@#\n#######$-#\n########-#\n########.#\n#######-.#\n#######$$#\n#@-$-#-#-.#\n##--.-.$--#\n##-#---#----#.\n####################",
+        "##########\n#.--$.@###\n#$$-$#####\n#@-#--##-#\n#.#-##--#\n#------$-#\n#.########\n-########\n#-########\n#--#-############",
+        "##########\n#--@-$.@##\n#-#-..$-###\n#.-#######\n##-$-######\n###$---##\n##-#--####\n##\n##--#######\n#@-#######\n##########",
+        "#@########\n##########-#-######\n#-$$######\n#-@.-#####\n#--$$-###\n#-$-.-.###\n#-@#-@--##\n####---###\n#--.-####-###\n##########",
+        "--#--#-##-###\n###.---###\n#-..-####\n###----$@##\n##-$--$-##\n####-$----##\n######@-###\n#####--$--.#\n##########@###########",
+        "########\n###---####\n##-$.-.$@#\n###-.-.-#\n#####-$.##\n#-##-####-#\n#######-@#\n##-#-$####\n----###\n######-#\n##########",
+        "##########\n###.-$-###\n###.-$@##\n#####$####\n#####--$@#\n####--#-##\n####---.-#\n##--$#-#.-##\n#######-@-##\n####################",
+        "#-\n#$$-##-.##\n#--#-#####\n#-$-.-$-.#\n#----$-..#\n##########\n######-.##\n##--#####-##\n#-#####-#\n##########",
+        "##########\n####.-.###\n#--#-$.###\n###-$--##\n###-.$.###\n##--.-##--#\n######-#-.#\n######-@-##\n######-#\n#-#######-###\n##########",
+        "##########\n##########\n###-######\n###-#-####\n##.-##-.##\n#--.-$.--#\n###-$--.##\n###-$#-$-#\n###--###\n##########",
+        "################\n#-$####-#\n##-@#--$@#\n###--$..##\n######-##-#\n####-##--.#\n####-#-#-#\n####$-##-#\n###@----.###########",
+        "##########\n###--#---#\n##-$-#-$##\n##-.--$.-##\n###$-#####\n###--$@####\n####-@######\n#-##-.##-#\n#--#--.--#\n#-@############",
+        "-\n#---.-$-##\n#@-$#.-$.-#\n####--#-@#\n#--##--###\n#-$#######\n#-.#---##\n###--#-####\n###--##--##########",
+        "########\n##########\n###@-#---#\n-$$-$@#\n#@---#-.-##\n######-.###\n######-.###\n#-###-$$-#\n#------#@\n#####---@#\n##########",
+        "##########\n#.--.$-$..#\n#@$-.-$-##\n#-##-$@###\n##-#######\n#--#######\n#--########\n#######\n##############\n######-########",
+        "#####\n#-.-#---#\n##-@-@$-.#\n#-#-@#--.#\n####-######\n##########\n\n####-$####\n###----$$-#\n##-@--######\n##########",
+        "--#\n$.-#-#\n#-$$-@.$-#\n##---###-#\n#-#####-.#\n##########-#\n#####-$-#-#\n####@-.--#\n########\n##########",
+        "##########\n#.-###--.#\n#$-#-@--##\n##-$.$-$@##\n#-----#-##\n##-$-#####\n#-.-######\n##-.######\n####---.#####\n####################",
+        "##########\n#######-@#\n######-$.#\n######-$-#\n########.#\n####--#---#\n###.$-##-@#\n####--#--#\n###-$----#\n##########",
+        "##########\n##########\n##----#--.#\n###-##--##\n###--#-$-#\n##---$.-$-#\n###--##-.-#\n##-$.#-#.#\n##-------#",
+        "##########\n####-$####\n###.-$-#.#\n#####$-.-#\n#####.-$-##\n####-#-####\n####--#-###\n#-#-#-$-###\n#-#--..--###\n##########",
+        "##########\n##-#######\n##.---####\n#--$$-@###\n#-@#######\n#--#--#@##\n#-$#-@-####\n##-#--$$-###\n#@-.---$-##############",
+        "##########-#-###-$.##\n#@-#-$.-.#\n#---#$-$##\n#-.###--##\n##--#-#---#\n#--#-######\n#-#-###-##\n##@-###--.#\n##########",
+        "###\n####-.-###\n####--####\n####-.$@##\n#####--###\n##-###-##\n#.-$-@-##\n##-#-$$##\n##----##-#\n##########",
+        "##########\n#######-##\n##-$-.--@#\n##-$@--###\n##-$.-$@#\n####--#####\n####---####\n###-#-.--#\n#####-##--#\n##########",
+        "##########\n##########\n##########\n#.########\n#$--$#####\n#-..-$-###\n#.$--#####\n#.########-##-#\n#-#####-.#\n#-@#######\n##########",
+        "##########\n##-.-##-###\n##$--##--#\n#.---.-.-$#@\n####-$####\n##-#---$##\n###-.-###\n#--#--$--\n###--##-#######\n##########",
+        "##########\n#####@-###\n#####-$###\n##-$-$####\n###-.$####\n##.-#-####\n#-#.-##-####\n#-.-$--###\n##@-----.##\n###---##############",
+        "##########\n#--#######\n#$----.@-##\n#-#.-#####\n##-#--####\n##--$-####\n##-$-#####\n##--.######\n#-$-#######\n##########",
+        "##########\n####-####\n###-.$-#.#\n####$-$@##\n####--###-#\n####-$.--#\n#####-..#-#\n#-##-$.-#\n###-#--###\n#######-##",
+        "##########\n########-#\n#####-##-$#\n###-.-.--#\n####@$-$##\n#--.#-$-##\n#@---.-####\n#####-#-###\n####---###\n##########",
+        "#-###-###-##\n#--#-##-##\n#.--.$-##\n#.$-#-$##\n#--$@$-.##\n##-.---###\n#############\n#####-#\n##-####-@--##############################",
+        "##########\n##########\n#-$.---@##\n###-$$-$##\n######-###\n#######.##\n##--#-#.-##\n###-.-.-$@#\n####----#\n#-##############",
+        "################\n-.#-#####\n#-$...####\n#-@$---#-#\n#######$--#\n#######-.#\n####--$---#\n##--.---##\n#--#-#.-#################",
+        "##########\n#####--###\n####-$####\n#-#.-$####\n#-#.-$-###\n#--$--..@#\n###-----$@#\n####-##-##\n#####--.##\n#####--##@##########",
+        "##########\n#-$-..$.##\n#.-$-#-$###\n#--####-##\n#@--######\n###--######\n#-.-$#####\n######-#####\n##-##-##\n##########\n##########",
+        "##########\n##########\n##--#-####\n#--.$-#-##\n#$-..-#--##\n#@$-#@-###\n##--#--.##\n##-$#$--###\n##\n##########",
+        "##########\n#@..--####\n#-$$#---#\n#-.#-#-$$.##\n#-----$@##\n#####-###-#\n########.#\n######-@###\n#####--#######\n####################",
+        "####@#####-#\n#####--$.#\n####$--$-#\n##----.-$-#\n###-.-.#@#\n##---###--#\n----######\n#-$-###---#\n#-.-#####-####",
+        "##########\n###-.#####\n####-######\n#-..--####\n#-$@.$---##\n#-##-.####\n#-#-#-##-#-#\n#$$#-@-#####\n#-----####\n##########",
+        "##########\n##########\n##########\n########@#\n##-.#-#-.##\n#.--#-$--##\n###--#--$##\n##-$-$$-##\n#@$--#.-@@##\n#####---#########################",
+        "##########\n##########\n#@-----#-.#\n#.-------#\n#.$--##-@#\n#-####-$.#\n#$-----###\n#-###-$@###\n####--.##--#\n##########",
+        "##########\n##########\n#######@##\n###----$@#\n###-$-$--#\n##--.-####\n##-$##--##\n###--##.--##\n##---.-@@#\n#--#----###################################",
+        "##########\n###-.-###-#\n##.--$--##\n##$-##.---#\n###.-#--##\n###-$----##\n#-.-##-$###\n##-@-#-###\n###.-#######\n##########",
+        "##########\n###-######\n###.-.-$.##\n#####--$-##\n#######$-#\n#######-##\n##########--###\n###-$.---.#\n##-#-@-#-###############",
+        "##########\n#####-####\n#--$.$.$@##\n#.#-$-#-.##\n#-#####--#\n#-#####$-#\n#@########\n##--######\n######\n##########",
+        "##########\n#--.-@-.##\n##-$@-$..#\n#######-.#\n####---##-#\n#######$--#\n#####-####-#\n--$$---#\n###---@#--#\n#################################",
+        "##########\n#@$---.-###\n#@$-..-$-#\n#####-#--#\n####-######\n#####$--##\n###----@###\n####----.#\n####----#-#\n##################",
+        "##########\n##-#######\n#.-#######\n#.--##--###\n###---$-###\n####--$$--#\n######---#\n###--##-#-.#\n#@$-$@--.#\n##########",
+        "##########\n#---.$---##\n##--$---##\n#--###-.##\n#-###$-###\n#-####---#\n##-$##.--##\n#---##-$-##\n#--###----.",
+        "##########\n##-###--##\n#---.-.$-##\n#.-#--####\n#@-$.-.##\n#---##-$-##\n#--##--###\n#$########\n#####--###\n##########",
+        "-#-@-$-#-#\n####@$-$.#\n######--##\n#####-###\n######--.#\n#--.#-####\n#---@#####\n#--#$-----#\n#@----##\n##########",
+        "##########\n#-$@-.-####\n##--#-####\n#--##---###\n#--#$--####\n#-##-#####\n#-$--#####\n#.$--.####\n##.---##-###.##########",
+        "-#@$\n#-$-.-$@#\n##-###-$##\n###-##--###\n#---#--.##\n###-$--$###\n##--#######\n#@----####\n##-@--.###\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 9,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 2,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 13,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 2,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 16,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 1,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 21,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 12,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 16,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 12,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-0.66_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "#\n#--.-$..##\n#$-.$$#####\n#-$.-####\n#######-##\n-#######-###\n###########\n#@########\n--###-##########\n##########",
+        "##########\n#.-$.-$--#\n##-$-#-..##\n#---$-####\n#----#-###\n#-###---##\n#--#######\n##-########\n#-########",
+        "##########\n########-#\n####--##.#\n#####----#\n#####-$$-#\n####--.-.#\n####--$####\n##-$#--@###\n#@-#-#####\n##########",
+        "##############-###\n#@-###-#\n#-$@###--#\n#.-$.$-$.#\n##-$.---##\n#-########\n#.-#######\n#--#######\n##########",
+        "##########\n########-#\n########.#\n########@#\n########$#\n####-##-#\n#@$-.--..#\n###-$#-##-#\n#-$####--#\n##########\n##########",
+        "##########\n##########\n###--#--##\n#-.$@-.$-##\n###-#-.###\n###$---###\n#####-####\n#####$--#\n####@---#\n##########",
+        "##########\n######--.#\n#######$-#\n#######-#\n#######$.#\n######.--#\n#######$.#\n###-$.-$-#\n#.-@-##--#\n#####-##--#\n##########",
+        "#$########\n##-#-#--##\n##-#-----#\n#.-.##--#\n#@--###-$##\n#$--##-###\n#@-###--###\n##-#-$@##\n#------##\n##########",
+        "##########\n######--.#\n###-###-##\n######-$@#\n#####.-$##\n###--##-.##\n#--.-#-#-#\n##-$###-$$#\n###-@----#\n##########\n####################",
+        "##########\n###-######\n#-$.@#####\n#--.$.####\n#.---$####\n#--#.#####\n#$-###---##\n#@--##$-##-##\n###-.#######\n############-##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 1,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 18,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-0.66_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n#---..$-$-#\n#@$.-$--.#\n#####-####\n##########\n#####@####\n######-$-#\n#---######\n#-@#######\n##########",
+        "##########\n###---$-.#\n###---$$-#\n#####.#--.#\n#-.---#-.#\n#--$---###\n#--$-######\n##-#####-##\n#######--#@",
+        "##########\n##########\n##########\n#--..-##-##\n#-$$..$--##\n#---#-#-###\n##---$@$.#######\n#-##-#####\n##--##-###\n##########",
+        "#########.#--.--.\n#@$$$---.#\n###-#######\n##########\n######--#\n#######-@#\n######-$$@##\n######-#.--###\n#-##-.-##########",
+        "##############--@#\n#####-$@#\n#####@##-#\n#####-$-#\n####-.--.#\n####-$#-$.#\n####----@#\n########-$-$.-#\n#######---#.######\n##########",
+        "--##-####\n##--$@##\n###$----##\n###.#--#-###\n###$-######\n#---###-.-##\n#@-$.$---#\n####-@-###\n#####--################################################################",
+        "##########\n##########\n#-@--#-###\n##---.$-$@#\n####.-#-$#\n#---##-$-#\n###-.##-#-#\n#######-$#\n------@#\n##########",
+        "-####\n####$-.####\n###.-#####\n####-####\n###-$#####\n###--.-###\n###--#-..##\n###-$$--#\n#-#----#\n##@-@-#\n##########",
+        "####@#####\n#####--$##\n####-@.-#-#\n##--.---##\n#-$$.-$.-#\n##########\n#####-#-#\n##-$-##-#\n--###-##\n##########",
+        "##########\n##########-----#\n##-#-.$.##\n######-###\n#######-##\n##-@-----#\n#-$@-#-$..#\n#----.$---#\n#--######@##-########",
+        "##########\n##.-..#####\n##----$-###\n##$--####\n###-######\n##-.#---.#\n###-$#--.#\n####-$-####\n####-.#########-#\n##########",
+        "##########\n##--.--..##\n###-$$--##\n###-##-$##\n##-.@#-###\n##-$----##\n###.-#####\n######--##\n###-##-##\n##########",
+        "##########\n#.--@@####\n#---#$$-##\n#.$--###\n#-.--$.###\n#####-$@##\n##--#####\n#-.--##-#######\n#-@#######\n#--@######\n##########",
+        "##########\n###----..##\n###-$-$--#\n###-$.$--#\n######---#\n######-.##\n##--##-.@#\n#####-#-###\n##--##-##-##",
+        "##########\n###-#####\n##.-$-####\n###-$$####\n##-#.-####\n##-$#####\n#-@-######\n##-#######\n##-..######\n##-.-######\n####################",
+        "##########\n###.-$-..#\n#-$..-$-#\n##########\n####----##\n######-###\n##---####-#\n###--##-$-##\n####-@--$-#\n##########",
+        "##########\n#.--######\n#.$-######\n#-$$-#####\n#.-######\n#-$#-####-#\n##-#--..@#\n###-##---#\n########-##\n##########",
+        "##@#######\n#######-$#\n###-..-$---#\n###.-##$--#\n####-####-#\n####--#######\n####----.##\n##-#-$--$-#\n-#.-###-@--###########",
+        "##########\n###---###-#\n##@$--..-.#\n###-.$-$@-#\n###--$---#\n#-########\n#-#--#####\n######--#\n######@--########$##########",
+        "###############-.$-##\n#.$---.-##\n##-.-#-#####\n#####--#@#\n#####--#-@#\n##-#-.#-##-#\n#-$$-$-##\n-#----@#\n###--##-@#-######\n####################",
+        "##########\n###-@-.-##\n###.$-###\n###-#--@##\n#.-$.$$@##\n##----####\n##-$@#####\n#####-######\n#---####\n#--#--####\n##########",
+        "##@-#@-.#\n###-$.#-$.#\n###-##--##\n##-$-##-.#\n##--###-###\n######-.##\n##-###-###$\n######-#\n#######-#--##\n##########",
+        "##########\n##-$-#####\n#----#-@##-##\n#.#-##-##-#\n#.#-.#.##---#\n#-$-$.-#-#\n####$-##-.#\n--#--##\n###.-#--#@-#################",
+        "########\n########-####\n##########\n###-$-$-.#\n####.-#-.#\n####-$..##\n#####$-#@#\n######-$-#\n##--#--##\n##########",
+        "##########\n##.-$.--.#\n##-.$-$---#\n#####-#-.#\n####-#####\n####-$@###\n####$--#####\n-$.-#\n##-#-#-#####\n##---#--@#\n##########",
+        "#######\n##########\n#---@-.##\n#-$.-$-@##\n#-$#-##--##\n##-#---##\n##--$-####\n#-$-.#######\n#----@##.##-#######\n##########",
+        "##########\n#####--###\n####.$-.##\n#-@-.$.@###\n-$######\n##########\n##########\n####-###\n#--$######\n##########",
+        "##########\n#######@##-#\n#######$.#\n#######$.#\n#######@-#\n#####-$-.#\n######-#-#\n#-#####$--#\n#@###--#-.--#\n##########",
+        "##########\n####--.-##\n####.-$-.#\n####-$#-#\n#####-####\n####-@.###\n####$-####\n###--#-$$@-#\n####@-#-####\n################-###############################################",
+        "##########\n########-#\n#######-$#\n######.--#\n####--$-$.#\n####.-..$#\n####-######\n#####--##\n######-#-@-#\n##########",
+        "##########\n############-.##\n######$.-##\n######.-.@#\n#######$-#\n#-###-#-.##\n#-$$-###--#\n--@-##-##\n###----######\n##########",
+        "##########\n#---$.-#-##\n#-$@-##-###\n######--##\n#####\n#####-$@##\n#####--###\n######$-#\n####-@-.###\n##########",
+        "##########\n##-$..--##\n##@$-.-####\n###$######\n####-.---##\n#####.-#@#-#\n#######-###\n##-$--###\n#--#$----#\n#---##---@###############",
+        "-#@\n#######$.#\n######-#\n#######.-#\n######-$.##\n###-$@-.-@#\n##-#-####\n##-$######\n#-#-#####\n---##########",
+        "#-#\n#@--#####\n#$$--###-#\n#@$.-###--#\n##--####--#\n###-$-..$.#\n######-@##-##########\n#######\n##########",
+        "##########\n###-$-$...#\n###@$-.$@##\n###-#######\n#$########\n#######.##\n##########\n--###-##\n####--##-@#\n##########",
+        "##########\n########-#\n#.--.$@###\n-$$#####\n###-######\n####-$.--#\n######-$-#@--#\n##-###-#.\n###--@-#-#\n###-##--#@",
+        "##########\n#-########\n#.-.--$.##\n#@----$###\n#.-###---##\n##-#####-$#\n#######--#\n#######-.#\n#-@-@##$-#\n##########",
+        "##########\n#.-.-###--#\n##-$##-$$#\n##-@-##-.#\n###--##--##\n###-$#####\n#-.--######\n##-$@#####\n###.--######\n##########",
+        "##########\n##-##--####\n###-@$$-.##\n##--.$-###\n##-#.---##\n####--.###\n#####@####---#\n#####--$@#\n###------##########",
+        "##########\n#@$@-$.$@.#\n#--#-$-$-##\n#.########\n#-#--##--##\n#-#####-#--##\n#####-#-###\n#-#-#####-#\n#@-###-###\n##########",
+        "##########\n#.--.-$..##\n#$-$--.$-\n##.#######\n#-#######\n#@--######\n####--@####\n###-$#####\n#########--###\n#########-##################",
+        "########\n#--#######\n#.$-$.$-.##\n#.-.-$$-#\n##-#-.####\n##########\n###########\n###--####\n#####-###\n####-##-############",
+        "##########\n#####----#\n######.-.#\n#####-$@.#\n###--##-.#\n###-$-#-##\n###-.-#--#\n#####-$--@#\n####-##--#\n####$-#####\n##########",
+        "##########\n#######-@##\n######-$.-#\n######-$##\n#######$.#\n####-#-##$##\n#@-.-$-@-#\n#-##--#@--#\n###-#######\n##########",
+        "##########\n####.---##\n####-.$.--#\n######-###\n###-----$--#\n####.-$-$#\n#####-#.-#\n####-----#\n########--#\n##########",
+        "##########\n#-#-@-.-##\n#@-.$$.###\n####-#####\n####-$####\n##---#####\n##-$.-.####\n#--#-###-#\n##$-#@-###-#@\n#---####-############",
+        "########\n####-###-#\n#####-.$.#-#\n#####-$..#\n####-#-$##\n####.-$.##\n######--##\n#-#####--##\n#\n#@-#######-######\n##########",
+        "##########\n####---###\n##-$$.$####\n###-.$####\n###.---$-#\n####.--##\n#######-@#\n#\n#---.-@---##\n#####----##################################################",
+        "##########\n#-@.-..-##\n##$$$--###\n#-----$###-#\n###-.--#--#\n##-#-######\n####--####\n###.-#####\n###--.-############",
+        "##########\n#.-$...-##\n#--$.-####\n##-#$-####\n##-@#-####\n###-#--###\n###.--$$-#-##\n###.-#####--#\n####--################",
+        "-.#\n########-#\n########$#\n####----@#\n######-.##\n######-$###\n######-.##\n##-.-.-###\n###-$$$-#\n#########-@-#########################",
+        "##########\n#####--###\n####-$@###\n####$-####\n###.-.####\n###--.####\n####-#--#\n#####-$-@#\n####-$--##\n#####-..-############\n##########",
+        "##########\n#-########\n#.-#######\n#@-#######\n#$---#####\n##-.-#####\n##$$######\n##-..$@###\n###--#-##\n##########",
+        "########\n#.-#--#-@-##\n#-$..$-###\n##.-.$-###\n#-$---$-##\n##----####\n##########\n##----##-##\n#-.#######@-##########",
+        "##########\n##-.$-###\n#.----$.@##\n####---###\n#####-----#\n######$-###\n####-@--##\n#-$-#-.###\n#-###--$@##\n#-##---.-.#####################",
+        "##########\n#-----$.##\n#@$.--.###\n##-##-####\n#####--.@#\n######-$###\n######@-###\n##-##-##$--##\n##-@-----###\n##########",
+        "#####\n####-@-###\n#@$-$@.###\n#$--.-####\n##-##-@##\n#######-##\n#\n#####---####\n####-#--#\n#####\n######--$##\n##########",
+        "##########\n#--#######\n##-$#######\n#-.#######\n#@$-.---#-#\n#.$-.$-.##\n##-#---####\n###-########-#\n##--###-\n##########",
+        "##########\n#--.-$..-#\n#@$--#--#\n#-####--$#\n#.-#-##@--#\n-####-$##-#\n##--######\n######--.#\n######$-@#\n###############",
+        "##########\n#----@---#\n#@$-$.$$-#\n###-..##-.#\n###-###-###\n##########\n#-#-######\n#--#######\n##--#######\n##########",
+        "##########\n#######-##\n########.#\n########@##\n######.-$##\n####-#-#-##\n##@$-.-.$-#\n##--##-#$#\n##-#--##-#\n########$-########@##########",
+        "#####\n#.-#-####--#\n#$---$-$.-\n#--..-$--#\n###-######\n##-#######\n#-.#-#####-#\n#--#######\n#######-############",
+        "##########\n##@-##--##\n##-..$$$-#\n##-$##--.##\n######-###\n###--.-@##\n#---####-##\n##-#--####\n#----$-.##\n##-.--##-#-##########",
+        "##########\n###-@-####\n##-.$-@###\n###-######\n##########",
+        "##########\n##-..$.$.@#\n#-$-----$@#\n#-########\n##########\n##########\n##-#-###\n##--#-$-###\n###---####",
+        "##########\n##########\n##-#-#####\n###-$@###.##\n#-.-.$---##\n#----#####\n#.#-$.####\n#--##-#$---#\n#---.---###\n##########",
+        "##########\n#####@-###\n####-.$-.#\n##-##----#\n#--#-#--##\n##$--$-###\n##-$-.####\n##.-######\n#--.-@####\n########-##########",
+        "##########\n##--$-####\n##-$.$.####\n###.-.####\n##########\n##########\n#--$$######\n#@-.--####\n#@#######\n#---#-####@#\n##########",
+        "########@#\n######-$.#\n#######-@#\n#######$$#-$#\n#####-.@#\n#-$#######\n#.########\n#@########\n--#-#-########\n##########",
+        "-#-@#\n####--.$@#\n######$-##\n######.--#\n###-###--#\n###------#\n##-$.---#\n#####--###\n#######-.#\n##########",
+        "##########\n#.-#---###\n#--.--$@##\n#-##-$.###\n##-#-#####\n#-$$-####\n#@-#--####\n#-.#######\n##@#######\n##########",
+        "##########\n####-$@##\n#####-$-##\n#####$-###\n#####.-###\n###--.$@##\n###.--.###\n##----####\n####---##--#\n########@$########",
+        "##########\n#####-##-#.#\n####-$--##\n###-#-$###\n##---$@$-#\n###-.----#\n###.--#-.#\n###----###\n##-$#.---#\n##########",
+        "##########\n#-.$-$-###\n#.-.$.--##\n#####-####\n#####$--##\n######--.#\n####-$.###\n#-----#####\n####-@##-#\n###--################",
+        "##########\n#####-#-##\n#@$--$@###\n#@$-$$.###\n####----.##\n###--####\n####-##-###\n####-##----#\n####-#-#\n##########",
+        "#-##@-#-$@#\n---@$$.@#\n#-.-#######\n#--#.#####\n######-###\n#####-#####\n####-$-###\n####$----#@\n###--#######\n########################################",
+        "##########\n###-@-####\n###--.####\n#--$.$####\n-@-########\n#-#.-#####\n##-..#####\n####$-##-#\n###-$-####\n#####-################",
+        "##########\n#####--.-#\n######--#-#\n#####--$@-#\n#####-#-@#\n###--##-$#\n###--###--#\n#-$$-$..#\n-@---#\n#-@--####\n####################",
+        "##########\n#######-##\n#####--#.#\n###-$$@$-#\n#-#-#.-####\n#.#-----#\n#------.##\n##########\n##########\n##########\n##########",
+        "##########\n#######-##\n######--@#\n#######$$#\n######-$.#\n#######.-#\n########.#\n######-.$#\n#####--#.#\n#######--##########",
+        "##########\n####---###\n####$.###-##\n####-.$###\n######-$-@###\n###.$-#####\n###-$-.###\n####-$-####\n#####--###\n##########",
+        "##########\n########-#\n######---#\n##---$--.#\n#.-$$-#@-#\n##--###-$#\n##@#####.#\n#---###-##\n##-.---###\n##########",
+        "##########\n######--.#\n######-$-#\n##-#--..-#\n##-----$.#\n##--@#$$-#\n#-######-###\n######-$@#\n####-######\n##########",
+        "##########\n##.-.#####\n#$-.######\n#$-.-#####\n#-###-#####\n###--######\n#-#$--#@##\n##--$-#####\n#@-#-##-###\n##########",
+        "##########\n##########\n########-#\n########@#\n##-$-.-$-#\n##-@--$$.#\n#-.-$--#.#\n###--###-##\n##--##-###\n###-@#-#.#############",
+        "###########\n#-#--##-@#\n#.$--$$.##\n##$-.##-##\n#---##--##\n######-###\n#####-$.##\n####--##\n##########\n##########",
+        "##########\n######-###\n####-$-###\n##-.$--###\n####--.@###\n##--.#--##\n##-$##-#--##\n#-$#--$.@#\n##-.---##\n##--$#-################",
+        "##########\n####-.$$-#\n#---$..-$@#\n##----####\n#--#######\n#-@@######\n##########\n#-$-#####\n#########--####\n##########",
+        "-######\n-######\n#.$#######\n#----#####\n#--$@##--#\n##-###-$.#\n#.-----##\n#-$-.#####\n---####\n####-----##########",
+        "##########\n######-@##\n######$-$..#\n#####.-$-##\n#####--.-.#\n#####-$#.#\n######-#-#\n#######--##\n#-##----.##\n##########",
+        "##########\n###########-###\n###-$--###\n####$--.###\n#####-$@##\n####-.$$-##\n###-.---###\n##--#--.-#\n#@----##--################",
+        "##@#######\n###-######\n###---####\n##-$-$.###\n##$--$--.#\n##-@##---#\n#######-@#\n#-####-$#\n#\n#-@---@##\n##########",
+        "##########\n#@-..--##\n#-$$$$-#--#\n##..-#-@-##\n#--@---$##\n##--#####\n#####-#--#\n######---##\n#\n######---##########",
+        "##########\n#-########\n#@-.-####\n#$#-$$-$@##\n##.-#--###\n#@-$@#####\n##-#--@####\n#-#######\n--.--##########",
+        "#######\n#####---@#\n####--$$-#\n#######-##\n#--..###--#\n#.-$#####\n#.-###-.##\n###--$######\n######---##\n##########",
+        "##########\n#----@####\n#.$$$-.###\n###-.#-####\n#-#-$@####\n####--####\n####.-####\n#-###-###\n#.-------#\n###---##############",
+        "##########\n#-#.-.-####\n##-$-$..##\n##-$--$###\n###--.#####\n###--######\n###-$-.####\n----####\n##-#-####---###-##########################",
+        "########\n##########\n#######-.#\n####-.-.#\n####$--.$#\n####.#--#.#\n###-#-$#-#\n###-#-#-$#\n###@-##-\n##########",
+        "##########\n###----@.#\n###-.$-#-#\n####-.-#\n####$-#-##\n####$--$##\n#####--###\n###\n###---#--###\n##.-$.---#"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 17,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 18,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 9,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 21,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 9,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 5,
+            "num_targets": 1,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 11,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 11,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-1.0_typicalp-1.0_beams-10_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n###.-$-###\n##..--$@.##\n#####-####\n#--###@###\n#####-.$####\n##.#\n##-@---##-#$\n##--#$--#\n##########-@###\n########################",
+        "-####.######-#\n####@-.###\n####-$$###\n####.$.$-#@#\n####.-#$.$##\n##-#####\n####@#####\n-#-@######################\n#####\n##############################",
+        "##########\n##-#####-@-#\n##-.$.###-#\n###--#####\n###$-#####\n###@#--@##\n##\n#-$@--#####\n#.$--###\n######-####--########@#",
+        "##########\n#--@--.#-$.#\n#$$-$@#-#\n###.-######\n#####--.##\n#####-$#-##\n#####-.###\n########@--##.-#\n#-#@-@##----##-##",
+        "-@###########\n#########-#-#@##\n#####--.##\n####.-#-##\n#####@-$.#\n######-$#\n######-.##\n#####-$$$-#\n-#.--@###--#\n####################",
+        "#####$\n######..\n######.--\n#######$\n#######-#\n########.#\n#######\n#######..#\n#######-$#\n########.#\n##########@#######-########################",
+        "##########-#@\n#.$#######\n#$$#######\n#--@.####\n#$.-.####\n##-$.-.####\n##--#@\n#######$###-#####\n##########\n###-####@###########",
+        "#######.\n######$-##\n#######.##\n######-.###\n###-########\n###--###-##\n###-##-@##\n#.$--.--$$#\n#-#-.--.-#$@#$##\n#########$",
+        "-##########\n###@$-###\n#####$####\n###.-$.@##\n###.$#####\n#-@--#####\n#.---.####\n#$-####$$#####\n#--#.##-############.#@########\n###############@##############",
+        "##########\n#@$-@.-@##\n$$#-$$.###\n#-$####-###\n###-#####-@#\n###-#-.##-####\n#####-.--##\n#####---.##\n#############--\n##########",
+        "##########\n#@-@-@.$@#\n#-$.##$-#\n#-##--$-.#\n##@-$##-.##\n##.-\n-########-$#####-$-#$-######\n###############-################",
+        "-#.@\n$.-$$$@##\n#####--..#\n##############--##\n######-#-$#\n##########\n#@--##$-$.#\n##-########@######\n#$#--##@#-#.##########################@##############################################$#######################",
+        "##########\n##.--#####\n#-.$-#####\n#-$..---.##\n####-#-###\n#######$.#\n####-##@##-###\n#####---#$#\n#####.-#\n#####################",
+        "##########\n##-.$.#####\n###.$-$--##\n####$-.##\n#####-####\n#####.-###\n#-$---####\n####-.#--##@\n#######-####@#-@##########################",
+        "##########\n####.##--.##\n###-.$###\n###$######\n###-@-$###-#\n###-.#-.###\n###-$$#-#\n##-@---@#-\n##---###@$###################",
+        "##########\n#-@...-####\n$-$.-###\n####--$$##\n####@#####\n####-#####\n####$#####\n####-####-@#\n--@-####\n###-.#########$-#@###########",
+        "##########\n######-@.#\n#######$##\n#######$$#\n#####@-$-#\n##-##-##\n##--.##..-#\n#@-$#-#.-#\n#@-##########$\n--#@##########$$###-$.#####@######",
+        "#####\n#.$.-$..@##\n#..--#####\n\n####-$-@#######\n#######$-###\n#####-.###-####\n#$########--#@##\n#############@##-##########--#\n##########",
+        "##########\n##-.$$-####\n###$$.$.$-#####\n###.--.#-##\n######-####\n-#####-@#\n######@-#\n######-.#######-##########",
+        "##########\n#####----#\n######-..#\n####-#-#\n####@-$-$..$#\n#####$--###\n######.###\n#####-#.-#\n#-#######\n#######-@#######.###",
+        "##########\n####---$.#\n##@$-.-#-..#\n#-.##-##.#\n-.#-#-##\n######-#####\n#####--#####\n####-$###\n###.-#$$-#@######################################",
+        "-\n########.$#\n##-#.-#-$.\n##-.$-@.#\n####-####\n######$$$\n#####-#@#\n#\n#######$-#############-\n#\n#.####-\n######################@#######",
+        "##########\n####-#####\n####-$.###\n#@$--@$###\n##$-######\n#@#---#$-#.#\n##-----#-##\n###-.##-#.#\n###-#.-@##-######-.$$-####@######.########\n####################",
+        "#-##\n#@-###.-@#\n#.--.##-.##\n-###$--##\n####$#####$-##\n##########\n###-$@---##@\n###@-$$-#\n#@##--@-##-###.\n########$-@#@######################################",
+        "##########\n#@$-$@$..##\n###-.$--$#\n#-###-###@#\n#######$-#\n######-###\n########@#\n#-@######\n#-##--###-###\n#######-#######\n###########$##################",
+        "##########\n##########\n##########\n######.--#\n#####.@$-.#\n######$.--##\n####--##-$#\n#####-$$#@@#\n###-@@-@-#.-\n-###########--##################",
+        "#########@$####-.@#-.@\n######-$--#\n#####.-#$.#\n######.--##\n######.$-##\n#######.##\n#####-###--#@##\n########\n#############@-######$##################",
+        "####@#####\n##########\n##@#######\n#-####-##\n#$-#.---.##\n#-###.--#\n#-##-.--####\n$$-$-.###\n#.---#@###\n#########$-#@-########@##.@########$$##########",
+        "##########\n#######\n###---.##\n##@$---$##\n###.--####\n###-######\n##--@#-.##\n##--#$$-##\n####@-#####\n#.-----##--#############",
+        "##########\n####@-..###\n####$.--.#\n####-##--#\n####$-###\n##@---####-#\n###-..$#####\n#####-$---#\n#######@\n##########\n##################",
+        "#@########\n######--###\n#####$-...#\n######@-$#\n#######$.#\n######-.#\n######-$@#\n#######$-#$########\n########-#.##########################",
+        "#######\n#-.$-####\n#..$-.@##\n#####\n####-#####-###\n##$########\n###-.#######\n##@#######\n----#-.#\n-####-########$",
+        "#######################@################.####.######@---###\n######.-@-#\n#####-$##\n#-#.$-.###\n#-$$.$-#@\n#----#-#@##\n#-#$$##@####-##@#########--####@##########",
+        "##########\n##########\n###@######\n####$-@###\n####$$-##\n###@---###\n#-$@######\n#---$@#-##\n##-.-##-.##\n-@-.###.##$####@-$@-########",
+        "##########\n####---####\n###@-$.###\n#@$-##-###\n####-$-####\n#####-.##\n#####--.###\n####-.$$$-###\n#######-@#\n#######-####@##-#######@############",
+        "-####\n####-.$.###\n####$$@$.##\n##########\n#--$---$###\n#--#-@####\n###---.###\n###.-######\n--######\n###-@#####---##\n###############################$$###############",
+        "###################-#\n#-.#######\n#.@-$@######\n#.---#-@##\n#-#-#$-#####\n#.##-###-#\n##-##-#-#@$#\n###--##--#$.\n##############--############",
+        "##$-#$\n###--.-$-#\n###---###\n###-###-$#\n###.--...#\n####-$#\n#######-##\n############\n######.@#\n#\n#####-#######################",
+        "######\n#@-######\n#--.######\n#--.#-$###\n#$##-.##-@#\n####-$$-#\n##---######\n##.-#######\n#@-####-.#\n##@#######--####@#####",
+        "##########\n##--.#####\n##-.--##-###\n##$---.--##\n###.-$.###\n#-.-#######\n--$######\n###--@#############-###@#######-####",
+        "####@#####\n##@--##--##\n##-$$@##---#\n#####-.$#\n#####-##-#\n######-$.##\n#####-.###\n######-$$##\n######@###\n#-###--#############",
+        "-#$\n.@######\n###$######\n###-.#####\n#.-#######\n#$-.-########$######\n#@$-.####\n#####--#@##\n##--#####-#@##########@#@-###########-##########",
+        "########",
+        "##########\n#-.---.$.#\n#----$$.$-#\n##--###@-#\n######-#.#\n###-@####\n####$#####\n########@#\n#@---$-#\n##@####\n#\n################",
+        "###$######\n#-########\n##-@######\n#--###---#\n#.#--##@-#\n--$@$--.#\n##@-###-#.#\n#$-#####--#@\n#-@$$-##.\n####-###@#-#$--##@############",
+        "##########\n##@--##@#\n##..-$-#-#@\n###.$$####\n###@--.###\n##########\n##$#-$$#########\n----#@-########\n#.-#--########--#@##################.@#####################################",
+        "#-##\n###--#$-#\n###-.$--##\n#-$#-@-##\n#@##-######\n#.$-######\n#.#-#@####\n##--####-##\n##$--#.-.-#@#\n#########\n##########",
+        "#####-@-#@-###.\n#@$-$-$$-#\n####-#-..#\n########.#\n######.-##\n######@###--#\n#####@####\n#-####-$--#$\n\n########-.######.--########$#####\n##########",
+        "##########\n##########---#####\n###-.-$@#\n####$$-###\n##-$$-$-..##\n##@-######\n####-###.##\n###@######\n-#####@---###.-#####$-####@#######",
+        "-######@#-@@#\n#######-@##\n#######$##\n######-.##\n######$$-##\n#####@-.-##\n#####-#-$.#\n#######-#\n######$-@#\n########-@###########@$########################@############################@######",
+        "#####@####\n###@-.$$.##\n#####$####\n###$######\n####.-$$#\n#-###.-#.#-###\n#@########-#@-###\n#####################\n#-############-#################",
+        "#############--$@-###\n##.$-..$@.#\n####$#####$$.$\n######-#\n######.###\n-####-#$-#\n#@########\n-######-#####-.##-###\n#######@-#@---#@$#-###############################",
+        "###@######\n##-@$-.##-#\n##..-##-##$-#\n###$----$.#\n##@-#-.#####\n#########--#\n#$########\n@-#######$#--##\n#-#--$##-######---#.########",
+        "##########\n#@$-@####\n#.-$####-.#\n#.$#-$@##\n#.-.#####\n###-########\n\n\n########--###$\n####---####\n###@-####-@######@#@#-#################",
+        "############--.##\n###-..-###\n####.-####\n#####@####\n---####\n###-.$-###\n###.-$$###\n#####-$-$@#\n####-@-###\n########$-###########\n##########",
+        "##########\n#.--@-###\n#$#-$#-#-##\n#-$####$-###.\n#.--###.-###\n#-$-###.###\n#@-#####@#\n####--###-.####\n##@\n#####-@######-##-#########$##################",
+        "##########\n#$..###-@##\n#$$-$--#@#\n#.$-...-###.\n########\n#$--#######\n\n-###-#######\n###-#@########\n#############---####@#################################",
+        "$#.\n#$########\n\n##-.######\n#@$-#.####-.##\n$--$######\n#@-#-##-#@###---##\n###---####$\n##.#######-@####----###########",
+        "########\n########@#####\n#######$-##########\n#.########\n###-######\n####$#####\n##---.@#\n#.-.$.$--#\n#-#-###-##\n##########$.###@-###############@####",
+        "##########\n##-..-$$@##\n###--$$-.@#\n#####-#--#\n########-#.\n##-.###---#\n###.-##.--#\n#####@-##-########$#\n#@$--@###$-##########@##$$-.####@####################@####\n#########################################################@##############################",
+        "####@#####\n##########\n#@$-#.-###\n#.--.--.##\n#@--#.-####\n#$########\n###$-@#$#####\n#@-#$-##\n###########\n#######@-##@###$$-#####################",
+        "########@##-...$$.##\n#..$-#######\n########-#####\n####$-$\n#####--.-#\n#########--#\n#--########\n#-@@-#####@\n##################---##########\n##########",
+        "##########\n#.$--###@#\n-..$@###\n#--#$-$-###\n#-#--#####\n#@########\n#$########\n#$########\n#-#######\n###-#####-##########\n##########",
+        "##########\n#######-.##\n#######.$#\n##-##---$#\n###----$.#\n####@-####\n####--#.##\n##$-$#-@-#\n#---######\n######-#############",
+        "#########@.--.##\n-@#-.@$##\n##########--.$@##\n#####$-.--#\n###-$##-##\n####-#-.###\n#########-$$#$--#\n##@-###@-###$#########@-#@########################$##########",
+        "##########\n#.-..--#-##\n#.$.-.#-@##\n#####---.##\n######$-##\n#\n######--$$#\n######-.-##$\n\n#######-#############\n#######################",
+        "##########\n#@########\n-@##--###\n#$$$.$-####\n##-##--#.##\n##.--#.-##\n##-----##-@#\n####$#####\n###.--@-@-$#\n######@-####@######",
+        "##########\n##########\n#####@####\n#####$####\n#####@$-###\n####-.###--#\n##-$##-##-$#\n#-$-...---#\n###---######\n##########",
+        "##########\n######-####\n#@$-###.-##\n#@---$--##\n##-..##-$$##\n###.--###\n#-####-@###\n#.-##-####$-\n###\n#-$-@#############--##########",
+        "###.$#-.$@\n##.-.$.##-#-\n####################\n###.######\n#####.####-####\n###$######\n-@-.####\n#-#$$-#$-#######\n#@#-#####-###############@##################",
+        "-#\n######-.-@#\n######-#-.#\n##--.$-#-$#\n###-$$..#####-.#\n#\n#--#######\n#######\n-----###-#\n####@#--######\n##########",
+        "###@######\n#-$..$.@##\n#@#---$$##\n#-.#############\n$-$#####\n\n######@###\n##########\n-----############\n#########--##@-########@###.#########@########################################$##########################",
+        "#######\n#@-##.####\n#..$-######\n#$##-.-###\n##--$$####\n####-###-##\n###.--.###\n###.-#-#\n$###-####-@#####\n#####-#-@-####",
+        "##########\n####-.-.##\n###-.$-$$#\n####.-###.#\n##########\n#####--####\n###.$#####\n#####-#-.#\n####-##\n#######---#\n##########",
+        "##########\n##########\n######@###\n######$-.#\n######--###\n######-.##\n#-@$$-$@##\n--.--##\n#-##-#####\n##@#######\n#####@####$$$.-#############",
+        "########################@#\n#-.--@.$@#\n##$$$$####\n###@-$--.#\n##.-#######\n####@#####\n######################$########\n###-####@####-###@##########",
+        "######@###\n##########\n##########\n###@######--###-#\n##.$-.##..-#\n####---@#$#\n######$---$#\n#######-##\n######--##\n##########",
+        "##########\n####@-...##\n###########-$####\n#####$$-@#\n##########\n########\n#-@#######\n#-#-######\n#.@---#@##\n#--@.$$@###$#######@#########@########",
+        "############\n###--######\n##.-######\n##.$-####\n###-.$-###\n#--$.$.$@###\n--#######\n#.-#######\n###@######-@#####-###\n##########",
+        "#####-#\n#####-#.-#\n#####-@-##\n##-$$$@###\n#@.-..#####\n#####--###\n##-####-####\n$--$---$#\n----####-@#-#\n######---##########",
+        "##########\n###@$-@$-#\n#####-$-@.#\n#####.#-###\n###-@$.$-#\n###$-#---####\n####--######\n####--###---##\n-####################-##########",
+        "##########\n###@.#####\n#####$---#\n###.----.#\n###-$####--#\n##----.-#\n#####-$-$#\n###-@-#@-$#\n#########@#\n########@#",
+        "##########\n##########",
+        "##########\n#@-@-$-..#\n$-$--###\n######--$#\n#######$.#\n######.###\n###@######\n-#@#####$\n########-#$#\n#######\n---###############",
+        "-\n##-#-#-#@##\n#-$.$--.#-#\n#@$----$###\n#.#-.#--$##\n###.-####@#########\n-#######-#-#.\n#.\n#-#########$#####-$#-#-@--###@################",
+        "$.#####\n#######-.\n#######..#\n-######\n########$@\n##############\n########.#\n##########-##########\n###@######\n##########",
+        "##########\n######@##-#\n####-.#.#\n#####-..-\n####$$\n--##--#$\n#####-###\n###.-$.#####-$#\n###@-####-#@#@###$##############-@#\n####################",
+        "##########\n######@-.##\n#####-$$$##\n####-#-####\n######@###\n#####-####\n######$-.-#\n####-$.########\n##########",
+        "########################\n##-@.##-$@#\n###$-@$.#\n###--####\n#-.--#####\n#-$--$.###\n@##########\n##@##-#@-####\n########-###-#\n##########",
+        "-#####\n#.---$--\n##.-#.--$#\n#######..#--#\n-##--$#\n##---#####\n#$########\n#######@\n#######\n#@########\n##########",
+        "#--\n#.$-#@-#\n####-.$--#\n#####-#.#--#\n#######--#\n######.$-#\n#####-$---#\n#####-###-#\n-#######-#@######\n##########$#####################",
+        "##########\n#######-..-@#\n#####.@$.##\n####.$-@##\n####-$$##-$##\n#####@####\n######$-##\n#-###--.###########--#@###############$#####--##@#################",
+        "#---.-#@\n###-##-$.#\n###-.##-#\n###@-###$-#\n###-@####-#@\n#######--#\n####-######-$\n####-$####\n####.-##--###-#####",
+        "######\n##########\n######@.##-##\n#--$--.$###\n#@-$---###\n####-$--#\n##--.#-###\n-$##-#@-##\n##-####@--##\n#####@####$$$-@###@#############",
+        "##########\n#@########\n#$$#######\n#-#.--####\n#-.--#####\n##-.$#####\n##.#-#####\n#.########\n#@$#-#-@###\n#.-@#############$@#-@###########@########",
+        "##########\n###.-$-.###\n#####-$..###\n#-$.-####-\n--##-$##\n##-.##-#\n#.-#####-##\n---$#####-#@##\n####-#@\n$@##-@-$#-##.##-##########-###########################################",
+        "##########\n####-..$@#\n##.-$$@$-.#\n#######--##########\n######--#@$\n#####-.-$.##\n####$##--.###-@####\n###-##-########@-######.#####-.##$-###--#######################################@#########################",
+        "##########\n####----@#\n#####$$-.#\n#####@-$\n##--.#@.##\n##$##-.####\n##########\n###-######\n##-$$@#--#\n##---@-#####",
+        "##########\n#####-$@##\n######$-###\n######-$.##\n###-##----#\n#####--#-$#\n##.-.@##-##\n##@-$-###\n##.-\n###########--####@#####",
+        "##@#######\n###-.$.$.$\n###.$-####\n####-.$-.#\n###-@#####\n########--#\n#########--##@#\n#######@##########-$$#\n#$########-#################@#######@##################"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 14,
+            "height": 10,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 13,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 13,
+            "height": 10,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 11,
+            "height": 10,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 1,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 22,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 59,
+            "height": 7,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 21,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 1,
+            "num_targets": 0,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 15,
+            "height": 11,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 13,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 21,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 17,
+            "height": 11,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 20,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 16,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 2,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 26,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 12,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 2,
+            "num_targets": 0,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 1,
+            "height": 9,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 24,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-1.0_typicalp-1.0_beams-15_threshold-5.json

@@ -0,0 +1,129 @@
+{
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.1,
+    "samples": [
+        "--##@$-#.#-####\n###--$$-###\n#####$-####\n####-#####\n####.-####\n###.#--#-#\n####-$##.#\n##-.@@#@--#$@#############\n###########@########",
+        "##########\n#--##.####\n#.$#######\n#-.#-$####\n#-$$-.@###-#\n-$---.-#\n#@-###########\n##-\n###-@#####\n--##-##--##########",
+        "##########\n##########\n##########\n##########\n#-..--####\n##$-#.-#--##\n#.-$.--###\n#@$-$@#####\n#-###-.#####-.#\n######$$###############",
+        "##########\n#-########\n#.-@--####\n#.$#######\n#$$-$####\n#...-$#####\n#---##@###\n#.-#-#@#####-###\n#@\n#####\n#@-#-##--#-###-############",
+        "-##\n#.-$-.$.-#\n#.#-$@.$.\n-######$####\n##########-@######\n#.########\n-##############\n#####-@-#-$#\n#$###########-###########-@###########################$.################################################################@###",
+        "-\n##.-..-.##\n##$###-###\n#####---##\n######.###\n####-.#\n#-@-$$$######\n#######-#######\n--##-#\n##-#$#######-.-#\n##################################@###################################",
+        "#######\n####---.###\n####$$-####\n###.$-#-####\n####-$$####\n####-#####\n####$-####\n###.-##-#.\n####@-#-##@##\n#####.---##@###########@$#####################################@.#####################",
+        "##########\n##########\n##@#######\n#$#--#####\n@#-.$--###\n#$$---.-$-##\n#..#######\n#-#--#-.###\n-.--$-###--###\n#$-####@############",
+        "#################@###-###\n#######$-##\n#####@@.##\n#@$---.$##\n##--.#####\n###$--$-###\n#####.-$--##\n####@@########-########-####@#####",
+        "##########\n######-##\n#-$----$-##\n#@$.--####\n###@######\n###@######\n-######\n#-$####-#\n#-.$.-###.-#\n-###-###@##\n##########"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 15,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 9,
+            "num_targets": 8,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 1,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 25,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-0/temp-4.0_topk-50_topp-1.0_typicalp-1.0_beams-5_threshold-5.json

@@ -0,0 +1,1120 @@
+{
+    "num_steps_trained": 100000,
+    "novelty_threshold": 5,
+    "prop_accurate": 1.0,
+    "prop_playable": 0.0,
+    "prop_novel": 1.0,
+    "prop_novel_playable_accurate": 0.0,
+    "diversity": 1.0,
+    "restricted_diversity": -0.01,
+    "samples": [
+        "##########\n##########\n#######@##\n######--#-##\n####$$.##-#\n###@-.$@##\n#-$.-##-$###\n#--.#---.##\n######--@#\n#---########$\n##########",
+        "##########\n####.@.--.##\n#####-.###\n######\n######-$.#\n######$##-#\n#######.##\n##-######\n######\n###@######\n-$##########",
+        "##########@#####.\n#####-$###$\n######@--#\n#####-###\n######@###--##\n#--###$-#\n#@$-.$@###\n#--#-#@-$#\n#.######-#@#######\n##########",
+        "##########\n#####-.$-@#\n#######$@$-#\n########@-#\n######--#.\n####--.#.#\n######--##\n####$#####\n--##$-@---#\n####-@.#####-.$$-@###########################@###################################",
+        "##########\n###@.###-##\n#@$-..-$..#\n##-.$$..$@#\n--#########\n##-###--$-\n#######-###\n######--#####\n######$##########-###########-####@#####\n##########",
+        "#--@-@#\n$.-#---@$-#.\n########-#\n########@#-$-#\n######-#@#\n#########\n#######@##\n#-#@$-##$-\n#-#@-#$-@#-#############\n##########",
+        "##########\n####.--$-#\n######-$#\n######--.#.#\n####$--#.##\n#############\n####@#####\n#########-$.##\n#####@---##\n##########",
+        "--#-#####.\n##$$-$@###\n###@-$#####\n##@-.-###@#\n####--##-#\n####$--###-.$#\n###@###-@#\n##--#######\n#\n#@--@#######-########$@#########$########$#####",
+        "##########\n##.-..#--######\n###-###$@####\n#######-$#\n#####.##-###\n###\n####---#$-##\n$##---.$-.#\n--#-$----###@-#@###\n############$####################",
+        "##########\n#-###-##@#\n##$-#-.$###\n##.-#-#--$-@#\n#.--$.$$--#.#\n######-#@-####\n-#########$######\n####@-###########--#######\n##########",
+        "-##\n#.#-#-$$-##\n##-@$.$$-#####\n##..-#####\n##########\n###$######\n#####.\n###-@@###############\n##--####\n##########\n##########################",
+        "########-####\n#.-#####-#@#\n#-$$####-..#\n#@$-#####-#\n#.-####.#$#\n#####--####$\n###-#.-#####\n\n####-@####@###@#######-#####\n##########-##########",
+        "##########\n#@########\n#.$#######\n#@$---@###\n#.##-.#-##\n####$-$$-###\n#.----#####\n##.####--####\n#$#######\n#######--##################",
+        "###################\n###-###-$#\n#.-...$@$-#.#\n-$@.#$#\n###@-#######\n#######-$#\n###@-####-##\n##########################@-############",
+        "##########\n#--.-#####\n#-$$$#####\n#.#-.@####\n#-$$.#####\n###---####\n###@-#####.##@#######$#\n############--#####\n######--@####################",
+        "##########\n###########@##@##\n######$@##\n#####-$$.###\n#####-####\n#####\n#--..---###\n##--@$##--#\n##-@#####-@#\n$-.###-#$##$$####@#@##########",
+        "##########\n###@######\n#-$-.@$-##\n#-$$--$###\n#@-########\n##-$\n##--######\n#.-###@###\n######@###-##\n@------###@##@-###@#######\n#####@####",
+        "###.\n#@$-$-$###\n#..-####-##\n##########\n#######-##\n##-######@-#\n#-###$-##\n#--###.-#\n##-@-.####\n##########",
+        "##-#\n######-#\n##--....-.#\n####-$$#.#\n####-#####\n##--#####\n######-#####\n###########\n$####-#-@#\n####$-##@####$####################",
+        "########\n#.-##--$###\n.#-$@##-##\n#..----$@##\n##$##-#####\n#######-##\n#####-$####\n############-#####\n--.#####\n#----###########@$.######\n#############@######",
+        "###@######\n#@$@$-####\n#$#---####\n#$##-####-.##\n############-$---###\n####.#####.#-####\n#$-#######\n##@#######-----###########",
+        "##########\n###-$.@$@##\n##@$-#---##$\n#############-##\n#######-$##\n#-#-####-.#\n#\n#-@###-#-##\n#--##-##$@#\n#@##@-####.-##.###########",
+        "-.##\n##$--$-@##\n###$-$##\n###.-$---@#\n###.######\n####@-###\n####@#####\n######@###-######-##\n###-##########-###@############",
+        "#######\n########-#\n##.---.$@#\n####$-.#\n#######--$###\n####.-###\n###-.$---#$#\n########-#\n####@-----#\n##########$$-################@##########################@#######",
+        "##@#######\n#@$--##.--#\n#-$$$@##-##\n#####-.##\n######$.#-##$\n#######--#\n##@#######\n############--@#\n####.########-##@####################################$$#################",
+        "#\n#######\n#@#--.$---#\n##@$-$..#\n#-.--##--#\n########\n#####-#@##\n#########$-########\n#####-@#####\n########@$-############.################################################",
+        "##########\n######-#-#-\n######$@$-#\n#######.-#\n##-$--.$.-#\n#####-$@.#\n######@#--\n#-##-####-$##\n##-####@-#-#.#@\n########-#######$##########",
+        "#@#-#-#-\n##--$.#-$#\n#-$.-#-.-.#\n#$-#######\n###-#######\n##--$--.##\n##########-##\n#######.@#############-######################",
+        "##########\n######-...#\n#####@#$#.$-#\n#####-##-#.\n#---.-$-.-#\n###--$###$#-\n##########\n---#@-$#########@########@-###############",
+        "########\n#######--#\n#######-@#\n#######$-#\n########@#\n#--##-..$.#\n---$-$#\n###.--#########\n#.-############",
+        "##########\n#@$-@#####\n#-$$$#####\n#.-########\n#@-##--.-##\n#@#-#.---#\n##-##-#.--#\n########-#@##@#-##@#########-######$-##########",
+        "##########@#########\n##-####--#\n#$-.$$.$.#\n##--.$-#--\n#######-.#\n######--####\n@#####@##\n#######@--#\n####################\n##########",
+        "##########\n##@#######\n##$-$..$@@##\n##--#####\n##.$######\n#--.$$#####\n###-$#####\n##@-#####--############\n#########-##--@-################################",
+        "##########\n######@###\n####---$.#\n####@$-###\n####$##---.#\n##.-##--###\n#-$-#-$###\n#@#-#-#@###-@#\n#\n##############-.####@#@#-#########@###################################################",
+        "#######@##\n#@--#######\n#-.#-####-#\n#-$$-##@#\n#--.$-..#\n#@##########-$\n####-##-.#\n#--##@#######\n#########-####@",
+        "#####################-#.-#..-##\n###@$-$#$#\n#-$#.$.@-##\n#-$@####-#@\n##########.#######\n#######.###############\n#####################\n#####################",
+        "###\n#--#######\n#.$-#######\n#.$-@-.$..##\n-@$-#######\n#############\n################-###\n##--$$-\n###-################",
+        "##########\n####@-@###\n#--$$#####\n#.########\n#.##-$#####\n##.-.$-##\n##--#-@--#\n####-#####-#\n#####@#-##\n#######--#################################################.@#######",
+        "##########\n########@#\n#.$#######\n####-$-###\n####@$-.##\n#####--$$#\n#######@@##\n#######-#$#\n###-@######-#\n#####.-@#########@##########",
+        "-#.#\n-.@########\n##-$$$..-##\n####-######\n####$.####$#-.##\n-###########\n########-#.#$-##-###\n-##-@###\n######@###$####################################################",
+        "##################\n##@--\n######$--@#$@#######\n########.#-#\n#############$#$#..#\n##########\n#--#@##\n##-$##$-####\n#.--$@.-###########################",
+        "#############\n#######--.#\n##-#####-#\n#@#-.###\n#@-#-$#-.#\n##$#-@##@-#\n#$#-####-$$$#\n########@#\n###########-#@-#$$-##@##########",
+        "###############--@#\n###@$-.##\n#####$-###\n####.-@##\n##########\n#####-$$###\n##-..$#-.##\n#--#@#######\n@-#-#-############################",
+        "##########\n##.--@$@##\n#-@@-$--.##\n#--$#-$###\n######.---#\n-###.-###\n#-##########\n-###--###\n######@#########$\n##########",
+        "########@#\n#-$.--##.#\n#.--.$-#$#\n#.######-##$#\n#-####--@#\n#####-######\n########$#\n#######-#\n####-##\n#######-#-####\n##########",
+        "##########\n######---#\n#@$--..-$##\n#.-$.$.###\n###$######\n######@-#########\n######-.###########-#$\n#@\n########-######@----#-##################$###########",
+        "##########\n##@#######\n##$##\n##--######\n##.--@####\n#.-$.#-###\n#.#-$#.###\n#--#######\n###-#$\n#########--#####\n##########",
+        "##########-#########.-###\n##@$.###-#.#\n####-.$-###\n#####..$---#\n#######-##\n##########\n$$--.###\n#@-###-$--#######\n#####---#################",
+        "####.$\n#####.-.##\n#######.##########\n#.-$$.###\n###-#$-#--\n#-@####--#\n#-##-.###########\n#-##-$##-##\n####@#####$#########################.#################",
+        "##########\n##########\n##-#####--#..\n##@$-$-$.-#\n####@--@-###\n##---###-##\n##########\n##############--#$#-@#$$$-###.@#######-.####.$@############",
+        "##########\n###-####.#\n####$-#--##\n#.--$....-#\n-####-$###\n###---$###\n#--#--#$.##\n####$-#############\n-#@-#-@##@####@#################################@######################.###########",
+        "##########\n#-####@#.##-#\n#--##$-$--#\n#$#--.$.-#$\n##@-.####-###\n-##-$#--##\n######-.####\n####--#######\n\n######-#-#@####",
+        ".###$-$-#@$\n####@.####-###\n#####-##-##\n#####-.--#\n#######$-#\n####@##-#\n######--#\n######$-.#\n###@##########--##########################################################@$####################",
+        "##########\n####----###\n####$$####\n###.-$#-$#\n#####@.#-#\n#####-####\n###-$-..@##\n##--######\n###-#--###\n##-@---##################@############################@###########",
+        "##########\n#.$--...--#\n#@$-$.#-#\n#--.######\n#-#######\n########@#\n#######$$#\n##########\n#########-#####@#\n##########@######\n##########",
+        "##########\n######-###\n######-.@##\n######.###-.##\n####-.$@##\n#####--.##\n##-$$##-$-#\n##--##-##-######\n############-.##########",
+        "#########@##-.@-----#$##\n##@$--.$.@#\n#######.-#\n#######$-#\n####-######\n###$-######\n##.-#####@\n########-##\n###-###--\n###########..$@$.###\n##########",
+        "###\n#-.$$$-\n#.-@$@@.#---#\n##$#######\n#@#####-@#\n##-###-#.#\n#####--#####\n#@#######-####\n##############\n############################$##########",
+        "##########\n#@########\n#$-####--.#\n#.---..$@.#\n#######-$$@#\n########.#\n#@#-######-#######$\n########\n#$-######@#########@#############$###############",
+        "##########\n##############\n#-.-###--#\n#$-###@$-#\n##-.--####\n##.-######\n##$$-######\n###----@.#\n#########--#########@#######",
+        "###########\n####---####\n#-$.-$-####\n#..@-######\n#$$#######\n###.-##@##\n##-$#-#####\n#.########\n\n@#######\n#--###--@-#####@##################################################",
+        "##.$\n##@#-.$-#\n#..$-..##\n##########\n####$--$#######\n###$######\n####--@###\n###.#################-#\n#-##@##-#####@#####@##########",
+        "############\n#@$-#-.-##\n--.$$$@\n###.-$.###\n###.--####--#\n########@######-#\n########-#$########\n###########-###@-###.\n##########",
+        "$#######.##########\n########-######\n########.#\n########.#\n######.-#\n####-@--#\n####-$-$$#\n##----#@.#\n##########@#--@-#\n##########",
+        "##########\n####-#####@##-#@##\n###---...$#\n##-.-@$$$#\n#######-.#\n######-####\n########-#\n#@########\n##########$###############",
+        "##########\n#--...$-##\n#$$--$-$...#\n#########-$#\n######-####\n###-########\n#####################\n\n\n#-##--####-@##\n########@###@#################",
+        "##########\n######.-###\n#####.$$.##\n######-$###\n#######-##\n#######@##\n###$######\n##-#########\n#@$-...-\n##-@-$$@-###############\n####################",
+        "##########\n#####-####\n####.$-.###\n#####$####\n-@###\n#####--@$##\n###.-$$.##\n##########\n\n#####-.#################\n##########",
+        "##########\n#@$.-@.###\n##$-$-####\n###--#-$-#$#\n#####-###.\n##########-####\n##-.######\n##########$\n#####.########-###\n##########",
+        "-####--###\n##-$@.$@$.\n##.$-$#$\n###-@.#.\n##@########$##-#####\n#\n#######\n####-#####@####\n########-#####--################",
+        "##########\n###.-$--##\n#.$@$-####\n#-.#######\n##-#-$#####\n#.-$--######\n-#@####\n######-###\n#############\n#-########@######################",
+        "##########\n####@-.@##\n####@$-##$#\n####$-.##\n####.-#########\n##-#-$####\n##$@#-#######\n###-@#####\n--####.####\n################-#\n##########",
+        "##########\n###..#####$.##\n#@--.-.$##\n#-#-$$@-$@.\n####--###.\n#######-######$#####################\n###-#-##\n##########",
+        "####@#--#\n#@--.$.###\n#@$.-#-#@##\n#@######-#####\n$#-#.--#@#\n\n#####-#$-####\n########$$####\n#############@######\n########@#-#######@#################################",
+        "######@###\n#####@-$@###\n##-#@-$$##-.#\n#####-$-$#\n######@###\n##########--.#\n##-----##\n####-@-##\n#-#-.########-$#",
+        "##########\n#.@-######\n#.$.-#####\n#$---#$####\n##.-$#####\n--@#####\n#####-#.###--#\n##--######\n###-#####\n##########",
+        "-#.\n##-#@...\n###-$$.#\n##########\n-######\n##-#--##\n###@--###\n##$\n#-######-$#\n#####-##\n########--@#\n############@############################..$@$.#######################",
+        "##########\n#@--#-#######\n#$$$-.$.-#\n#-$-#@--.#\n########-#@\n###---#-#\n####-$--#\n######--####\n#######.-",
+        "##########\n##.--$.###\n##.-$$-##.\n#@$--@-###\n#---####.##-###\n######-@##-#\n####$-#-#.#\n#######$-##\n#-######-#-\n#-#############@########",
+        "######\n#####-####\n#@$---#-#\n#@$.-#-#-##\n##-#---.##\n#@$-#.-####\n########\n#-########-####@##\n###########---.-",
+        "#####\n#####-#.##\n###.-#-$-#\n#.-#--###\n#$-$@#####\n##########\n##-..$-####\n#---@######\n\n#######-###\n##############$############################################################",
+        "########\n####--###\n#@$-.$@###\n#-$-.$.###\n###.-#-#\n####.-#@-$#\n####.---###$########\n#################$#-####@#####\n######@#####################",
+        "##---#.\n@$-.$-.\n#-@#-$-$@$\n\n--#####\n####\n##########-\n#######.\n#######-#\n#######.####################-####@#####################@############################",
+        "##@\n#.$---.--##\n##.-##-$###\n##########-###.###\n##-$#-@###\n##.-$$###\n####$--@##\n##--###.##############-##\n#####--#####################################$####################",
+        "##$##\n####-.#--#\n#-$.@-$..@##\n##-##--$##\n#.-#.-$$-###########\n#############-.########\n#######.######-#@#######-#@##################@##############",
+        "#####\n###.--\n#####$-..#\n#$$-@$$--###\n-#@-###-###\n######@###-##\n######-.@#\n######@--\n######-###-########@#######\n##########",
+        "#.@\n##-##---.#\n#$$--#@-$$$-#\n#####.-###\n#-.###.-###\n#-####@--.#\n#\n########-@######--#.-#########\n####@########-#######@##",
+        "#@########\n#-######-.#\n#-##-.$-$..#\n####-$##.$--#\n##--$###-#\n#####-#-##\n#####@#-###\n####-.###-##\n#####--##-$##",
+        "-#####\n##@-@#-$#-.#\n##-#--#$$#-#\n###@###-#.#\n###.-###.#\n-$#$-###-#\n#\n-##--####\n##-####-####\n#####---##############",
+        "#############\n##-@@--#.#\n##-$$#-$$\n##.--#-@-#\n####-####.#\n########.\n#######-#####\n-########\n##.---#####-###\n##########",
+        "#################@.-##\n#####--.##\n######.$.##\n###--.-###\n####--$--.##\n######-.###--#\n#---#####\n###$$$#$$######--#\n###@@#-@#############",
+        "##########\n######-$###\n####-.$@#\n####--$###\n##@$-$@###\n#.-####-.#\n######--###\n########\n#-##$#####\n##########@#############",
+        "##########\n######.@#####\n######.#############@##\n########$#\n##-$#######\n####---###\n##@$-$###\n##..--.##\n###########$@##@-##--##########",
+        "#####-#\n####--..#@#-#\n######.$-.#\n#--##@--#####\n#@-..#####--#\n-###-###$-###\n#######$-#\n--##@-####\n-$-@###$@####-####@##-####@##########################@$###########@$.############################.#######",
+        "#-#-#####\n#-$-.$.-$-##\n#..$--##.##\n###--####\n###$-@#####\n#---#####\n----####\n##-######\n##############-########@########################@########################################################",
+        "#######\n##########\n###.-##@##\n#--$@$..$-##\n#@-#.$$-##\n#--###@###\n#######-#$\n#######--#######\n###########--##@####\n##########",
+        "-#.$\n########-#@\n########.#$-#\n########$#\n##########\n###-.####\n##########\n####@-$###\n###-.-..-#@#$\n#.########-##-#---#.#########@###################@################\n###########################.$#",
+        "##########@###\n#####$####\n##\n##$-.-.$.###\n##-#--#-.##\n#####-##-.#\n##@$--#.-@##\n####@-#######\n#######-####$$#\n##-######-#@########",
+        "##########\n#####-$###\n##@$--.$-@##\n######-.$#\n#######.##\n#-.###--#######\n##-.#-####-##\n#$--.-.@##\n##-$##--#\n-########-##################",
+        "#-#-##-@#\n#$$-.$.-##\n##$$-.#####\n#@########-#@##-$#####\n####@#####-##\n####-@##\n###-$#\n######-@####\n#@##########-#######"
+    ],
+    "solutions": [
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        "",
+        ""
+    ],
+    "accuracies": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "novelties": [
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true,
+        true
+    ],
+    "infos": [
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 17,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 13,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 19,
+            "height": 8,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 11,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 1,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 20,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 31,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 9,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 18,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 13,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 19,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 25,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 11,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 24,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 4,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 11,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 12,
+            "height": 9,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 19,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 8,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 9,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 12,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 11,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 8,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 7,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 5,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 3,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 6,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 13,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 22,
+            "height": 9,
+            "num_targets": 7,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 9,
+            "height": 9,
+            "num_targets": 5,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 7,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 4,
+            "height": 11,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 14,
+            "height": 10,
+            "num_targets": 6,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 10,
+            "height": 10,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        },
+        {
+            "width": 9,
+            "height": 9,
+            "num_targets": null,
+            "prop_empty": 0.0,
+            "solution_len": -1
+        }
+    ]
+}

gpt2-untrained_sample_prop:None/seed-1/checkpoint-100000/config.json

@@ -0,0 +1,39 @@
+{
+  "_name_or_path": "./logs/sokoban/source:boxoban/model:gpt2-untrained/level_key:level/annotation_keys:None/num_annotation_buckets:None/holdouts:None/chunk_size-128_lr-0.0001/sample_prop:None/seed-1/checkpoint-2000",
+  "activation_function": "gelu_new",
+  "architectures": [
+    "GPT2LMHeadModel"
+  ],
+  "attn_pdrop": 0.1,
+  "bos_token_id": 50256,
+  "embd_pdrop": 0.1,
+  "eos_token_id": 50256,
+  "initializer_range": 0.02,
+  "layer_norm_epsilon": 1e-05,
+  "model_type": "gpt2",
+  "n_ctx": 1024,
+  "n_embd": 768,
+  "n_head": 12,
+  "n_inner": null,
+  "n_layer": 12,
+  "n_positions": 1024,
+  "reorder_and_upcast_attn": false,
+  "resid_pdrop": 0.1,
+  "scale_attn_by_inverse_layer_idx": false,
+  "scale_attn_weights": true,
+  "summary_activation": null,
+  "summary_first_dropout": 0.1,
+  "summary_proj_to_labels": true,
+  "summary_type": "cls_index",
+  "summary_use_proj": true,
+  "task_specific_params": {
+    "text-generation": {
+      "do_sample": true,
+      "max_length": 50
+    }
+  },
+  "torch_dtype": "float32",
+  "transformers_version": "4.25.1",
+  "use_cache": true,
+  "vocab_size": 9343
+}

gpt2-untrained_sample_prop:None/seed-1/checkpoint-100000/global_step.txt

@@ -0,0 +1 @@
+100000

gpt2-untrained_sample_prop:None/seed-1/checkpoint-100000/optimizer.pt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5824856260d239e1386eeb9df9acc6ac8fd66a073f642280dc01b37ec28a1de5
+size 744264005

gpt2-untrained_sample_prop:None/seed-1/checkpoint-100000/pytorch_model.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a699a0e937f2b2ce79c904545c38faf0277edc83253eb8caaa3910cd4c2462b7
+size 384710205

gpt2-untrained_sample_prop:None/seed-1/config.json

@@ -0,0 +1 @@
+{"game": "sokoban", "source": "boxoban", "level_key": "level", "annotation_keys": null, "num_annotation_buckets": null, "holdout_solution_lens": null, "chunk_size": 128, "novelty_threshold": 5, "sample_prop": null, "model": "gpt2-untrained", "warmup_proportion": 0.0002, "weight_decay": 0.01, "max_grad_norm": 1, "learning_rate": 0.0001, "exp_name": "pretraining", "overwrite": false, "seed": 1, "batch_size": 32, "num_train_steps": 100000, "save_freq": 1000, "eval_freq": 1000, "no_log": false, "render": false, "num_eval_proc": 1, "num_eval_samples": 10, "gen_freq": 500, "gen_len": 128, "gen_temp": 1.0, "gen_beams": 5, "gen_top_k": 50, "gen_top_p": 1.0, "gen_typical_p": 1.0, "sample_contexts": false, "sample_sequential": false, "eval_tolerance": 5}

gpt2-untrained_sample_prop:None/seed-1/events.out.tfevents.1675911860.learnfair0477.2252906.0

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:86618f9ee2e436055488e40cfcf5fbc83664293caa773d178f994e8acfbd5b6c
+size 107237

gpt2-untrained_sample_prop:None/seed-1/events.out.tfevents.1675912931.learnfair1164.4020486.0

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1c13b116f2fd3ee2eea7a8319c93b4cb5cc190602bc78830d2beafd16664969d
+size 4947976