Doctest大好きマンによる布教

# Doctest

[Doctest][dt]というテスト記述スタイル/テストコード生成手法があります。Wikipediaによると、

[dt]: https://www.wikiwand.com/en/Doctest

> **doctest** is a module included in the Python programming language's standard library that allows the easy generation of tests based on output from the standard Python interpreter shell, cut and pasted into docstrings.

とあります。つまり、Python界で生まれた手法で、

- 関数やメソッドのdocstringに、
- Interpreter shell[^1]での入出力と同じフォーマットで記述された内容から、
- テストコードを生成する機能

[^1]: ここではREPLと概ね同義と思って良さそう

ということになります。

私は個人的にこれが好きで、ちょくちょく使います（言語はElixirとElm）。本記事ではdoctestを推します。

前提として、その言語でdocstringを付与する標準的な方法が規定されていること（言語標準で、あるいは慣習で）が必要になりますが、最近はどの言語もこれに関してはなにかしらあるんじゃないかなーという肌感です。[DocstringのWikipedia][ds]を読むと、

[ds]: https://www.wikiwand.com/en/Docstring

> Unlike conventional source code comments, or even specifically formatted comments like Javadoc documentation, docstrings are not stripped from the source tree when it is parsed, but are retained throughout the runtime of the program.

とあり、runtimeに（REPLなどから）参照可能な形で保持されることが重要な違いなのだ、と書かれていました。が、ことdoctestの生成に関していえば、最悪ソースコードをパースしてdocstring内からdoctest部分を読み出せればいいので、とりあえず統一的なdocstringの形式さえあれば前提としては満たされていると思います。（実際、Elmの[elm-verify-examples][eve]はソースコードから自前パースしてテストを生成します）

[eve]: https://github.com/stoeffel/elm-verify-examples

REPLと同じフォーマットで、という部分についても、必ずしもMUSTではなさそうな気はしていますが、REPLの「prompt + 入力 + 出力」からなるフォーマットを踏襲すれば、

- 言語を知っている人であればほぼ誰にでも意図が伝わる
- REPLにコピペして実行したとき、docの記述と実際の出力が一致するのでわかりやすい

という利便性があるでしょう。（REPLが存在しない言語を主戦場としている人は、この部分についてはピンとこないと思われる）

Doctestは主に以下の言語で標準的な実装が存在しています（Wikipediaにリンクがあった言語）。他にもあるかもしれません。他言語のdoctestライブラリ等で有名なものがあったらコメント等で是非教えてください。ざっとググって日本語解説記事があったものは付記。

- Python : [標準doctest](https://docs.python.org/3.6/library/doctest.html#module-doctest)
    - [Python でテスト - Qiita][py]
[py]: https://qiita.com/phimcall/items/7378ec86fbabdca83257#doctest
- Elixir : [ExUnit.Doctest](https://hexdocs.pm/ex_unit/ExUnit.DocTest.html)
    - [Elixir の doctest 書き方まとめ - Qiita][ex]
[ex]: https://qiita.com/ma2ge/items/b6b26335ecc1b2181897
- Haskell : [sol/doctest](https://github.com/sol/doctest)
    - [Haskellの単体テスト最前線 - あどけない話][hs]
[hs]: http://d.hatena.ne.jp/kazu-yamamoto/20121205/1354692144
- Elm : [stoeffel/elm-verify-examples][eve]
- Rust : [標準doctest](https://doc.rust-lang.org/book/first-edition/testing.html#documentation-tests)



# Doctestのいいところ

Doctestには以下のようないいところがあるので是非活用しましょう。

- **ドキュメントである**。つまり、利用者が容易に読めるところに存在するサンプルコードである。
    - すでに前提として述べましたが、doctestが書けるということは、標準的にdocstringを記述する方式が確立されているということ、更に追加で、それを読みやすい形でpublishする方法までちゃんとセットになっていることを概ね意味している感触。
    - そういう言語は開発も利用もしやすいし、ありがたいですよね。ありがたいからドキュメントをどんどん書こうという気にもなるし、どうせならdoctestも書きたくなるよね。ならない？ なれ。
- **テストである**。したがって、実際に動く。
    - テスト実行機構によって実際にdoctestを実行して検証する仕組みがあり、それによってサンプルコードは正しいものになるし、陳腐化するのも防げます。
    - Rustのdocにいい文章があります：

> Nothing is better than documentation with examples. Nothing is worse than examples that don't actually work, because the code has changed since the documentation has been written.

- これらの合わせ技として、**実際の流れを踏まえた「利用例」をわかりやすく記述できる**。しかも動作検証付きで。
    - もちろん、その他任意のxxxxx testを記述・実行する機構でも、利用例を踏まえたテストコードは書けますが、大抵の場合はユーザの目に触れにくいソースコードレポジトリの中に閉じています。
- **ソースコード as 仕様**をリアルに実現できる。
    - [「「テストが書きやすいコードは良いコード」をリファクタリングしてみた」をdoctestしてみた - Qiita](https://qiita.com/umanoda/items/5803417a62d0ac9bafd9)などでも触れられていますが、開発者としては、目の前のソースファイルに実装・ドキュメント・テストを全てぶち込めるのは非常に楽といえるでしょう。
    - ただし、過信しすぎてはダメ。次節参照。

# Doctestの注意

一方でdoctestには以下のような注意事項がありますので気をつけましょう。

- **記述できる内容に制限があることが多い**。
    - これが一番大きいと思います。たとえば、REPL上で実行可能なコードしか書けない、別のライブラリと組み合わせたテストを書くのに制限がある（`import`や`require`等の仕組みが使えない）、など。
    - Doctestで書く場合と、実際に想定される使用方法とで、記述スタイルに差が出てしまうケース等もありえます。
    - Property-based testや、setup/teardownコールバックなど、unit testフレームワークに付属する便利な機能は基本的には利用できません。
- Docstring、したがってソースファイルが肥大化する。
    - これもけっこう実際的な問題で、調子に乗ってdoctestを書きまくったりしてドキュメントを充実させすぎると、気づいたらエディタ上で表示されているバッファがすべて灰色になったりします（docstringのシンタックスハイライトはコメント相当＝暗灰色系であることが多いので）。
    - 充実することは悪いことではありませんが、レビューコストもあるし、利用者がpublishされているdocを見るときの心理的障壁も考えられるので、あまりにもヘビーすぎるのは考えものです。
- テストコードとしては必ずしも読みやすくない
    - あくまでドキュメントであることを忘れてはいけません。
    - 特にREPLフォーマットを強制される場合は、量にもよりますが、節度を持たないと体感では読みづらくなりがちです。
    - 他のtestフレームワークのほうが読みやすいテストコードになるような場合（網羅的なテストを書く場合など）では普通にそちらを使うべきだと思います。
    - 実際の利用例とは離れた、滅多にないコーナーケースのテストなどはdoctestに書こうとはしないほうがいいでしょう（間違えやすいケースを注記するような場合は除くとして）。

以上踏まえつつ、doctestを書ける環境にある皆様はぜひとも利用しましょう。

# おまけ：Elmでdoctestを書く

ここではElmで[elm-verify-examples][eve]（旧elm-doc-test）を使ってdoctestを書く方法を紹介します。といってもだいたいREADMEのまんまですが。

Elmプロジェクトを開発中のディレクトリで、以下のようにインストール：

```sh
$ npm i elm-test elm-verify-examples -D
$ npx elm-test init # `elm-test`の初期化をまだしていなければ初期化
```

以下のように設定ファイルをJSONで記述します。

```json:tests/elm-verify-examples.json
{
  "root": "../src",
  "tests": [
    "MyModule",
    "MyModule.Foo.Bar.Moo"
  ]
}
```

満を持してdoctestを書きます。

```elm:example
{-| reverses the list

    rev
        [ 41
        , 1
        ]
    --> [ 1
    --> , 41
    --> ]

    rev [1, 2, 3]
        |> List.map toString
        |> String.join ""
    --> "321"
-}
rev : List a -> List a
rev =
    List.reverse
```

Real world exampleとして、自作の[ymtszw/elm-xml-decode][exd]での例も載せておきます。
[exd]: https://github.com/ymtszw/elm-xml-decode

```elm
{-| Decodes an [`XmlParser.Xml`][xpx] value into other type of Elm value.

[xpx]: http://package.elm-lang.org/packages/jinjor/elm-xml-parser/latest/XmlParser#Xml

It discards Document Type Definitoin (DTD) and Processing Instruction in XML,
only cares about root XML node.

    import XmlParser exposing (Xml, Node(..))

    exampleDecoder : Decoder ( String, List Int )
    exampleDecoder =
        map2 (,)
            (path [ "string", "value" ] (single string))
            (path [ "int", "values" ] (list int))

    decodeXml exampleDecoder <|
        Xml [] Nothing <|
            Element "root" []
                [ Element "string" []
                    [ Element "value" [] [ Text "SomeString" ]
                    ]
                , Element "int" []
                    [ Element "values" [] [ Text "1" ]
                    , Element "values" [] [ Text "2" ]
                    ]
                ]
    --> Ok ( "SomeString", [ 1, 2 ] )

-}
decodeXml : Decoder a -> Xml -> Result Error a
decodeXml decoder { root } =
    decoder root
```

幾つか特徴があることがわかります：

- `elm repl`のフォーマットそのままではありません。出力は`-->`のあとに、実行コードは単なるコードブロックとして書きます。
- 実行コードと一連の出力までで1exampleとなり、exampleの間には空行が必要です。
- `import`も使えます
- `-->`による出力の記述がないブロックは、後続のブロックのための前提条件になります。
- SinglelineでもOKですが、multilineにも対応しています。

以下のように実行：

```sh
$ npx elm-verify-examples && npx elm-test
```

`elm-verify-examples`は、単純に`elm-test`形式のテストコードをデフォルトでは`tests/Doc/`以下に生成します。したがって`tests/Doc/`はgitignoreすることが推奨されています。

生成されるテストコードを見てみると、仕組みがすぐにわかります。

```elm
Test.describe "#decodeXml" <|
            let
                exampleDecoder : Decoder ( String, List Int )
                exampleDecoder =
                    map2 (,)
                        (path [ "string", "value" ] (single string))
                        (path [ "int", "values" ] (list int))
            in
            [
            Test.test "Example: 1 -- `decodeXml exampleDecoder <| Xml [] No...`" <|
                \() ->
                    Expect.equal
                        (
                            decodeXml exampleDecoder <|
                                Xml [] Nothing <|
                                    Element "root" []
                                        [ Element "string" []
                                            [ Element "value" [] [ Text "SomeString" ]
                                            ]
                                        , Element "int" []
                                            [ Element "values" [] [ Text "1" ]
                                            , Element "values" [] [ Text "2" ]
                                            ]
                                        ]
                        )
                        (
                            Ok ( "SomeString", [ 1, 2 ] )
                        )
            ]
```

つまり、`let`節で前提条件を定義した上で、最終的な入出力を`in`節に記述して`equal`でassertするというシンプルな作りになっています。

`import`だけ特別扱いしてファイル先頭に移動していますが、それ以外で`let`節内に記述できない内容は記述不可です。例えば別`module`や`type`を定義したりといったことはできません。`type`を定義できないのはサンプルコードを記述するにあたっては不便なことがよくあるので、今後の拡張に期待。

ElmのテストをCIで実行する場合はこちらのtipsも活用ください。

- [[Elm] CI環境でのElmビルド・テストを高速化 - Qiita](https://qiita.com/ymtszw/items/bc7a649f1204bb287b4b)