| { | |
| "config": { | |
| "model_dtype": "bfloat16", | |
| "model_sha": "main", | |
| "model_name": "OpenBuddy/openbuddy-mistral2-7b-v20.2-32k" | |
| }, | |
| "results": { | |
| "logiqa": { | |
| "delta_abs": 0.10543130990415336, | |
| "delta_rel": 0.4429530201342282 | |
| }, | |
| "logiqa2": { | |
| "delta_abs": 0.1603053435114504, | |
| "delta_rel": 0.6810810810810811 | |
| }, | |
| "lsat-ar": { | |
| "delta_abs": 0.052173913043478265, | |
| "delta_rel": 0.27906976744186046 | |
| }, | |
| "lsat-rc": { | |
| "delta_abs": 0.21933085501858735, | |
| "delta_rel": 0.9833333333333333 | |
| }, | |
| "lsat-lr": { | |
| "delta_abs": 0.16666666666666666, | |
| "delta_rel": 0.7798165137614679 | |
| } | |
| } | |
| } |