--- license: unknown --- ## 概要 - 下記プレプリントの評価データの和訳です。 - [Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-Of-the-Art Large Language Models](https://arxiv.org/pdf/2406.02061) - [公式リポジトリ](https://github.com/LAION-AI/AIW?tab=readme-ov-file)の[prompts.json](https://github.com/LAION-AI/AIW/tree/main/prompts)を元に和訳しました。 - DeepLを用いて全件和訳しました。 - 和訳後に目視確認を行い、翻訳の過程で問題が成立しなくなる事例を確認したため、手作業で修正しました。 - 例:1つの文中でbrotherを「弟」と訳す事例と「兄」と訳す事例が混在していました。 - 他に問題として成立しなくなる事例が確認された際はフォーラムで共有いただけると幸いです。 ## 注意 - id:60とid:62は、原著論文に従い、入力文が`ダミー`になっています。 - id:100~id:108は、原著論文に従い、`right_answer`のカラムが`null`になっています。 - データセットのライセンスが(作成者が調べた限り)公開されていないため、unknownとさせていただきます。分かり次第更新します。