モジュラー曲線（モジュラーきょくせん）とは複素上半平面 H の合同部分群 Γ の作用による商として定義されるリーマン面のことである。合同部分群 Γ とは、整数の 2 × 2 の行列 SL(2, Z) のある部分群のことである。モジュラー曲線はコンパクトとは限らないが、有限個の Γ のカスプと呼ばれる点を加えることでコンパクト化されたモジュラー曲線 X(Γ) を定めることができる。モジュラー曲線の点は、楕円曲線とそれに付随する群 Γ に関係するある構造をもったものの同型類の集合とみなすことができ、モジュラー曲線を代数幾何的に、また有理数体 Q や円分体の上でモジュラー曲線を定義することもできる。このことからモジュラー曲線は整数論で重要な対象である。

 解析的定義 
モジュラー群 SL(2, Z) は上半平面上に一次分数変換として作用する。SL(2, Z) の合同部分群 Γ をとは、ある正の整数 N に対し、(principal congruence subgroup of level N)を含むような部分群のことである。ここで主合同部分群 Γ(N) とは

なる群をあらわす。

そのような N の最小の値をΓ のレベルという。この群による商 Γ\H に複素構造を定めたものを非コンパクトなモジュラー曲線という。これはリーマン面 である。

 コンパクト化されたモジュラー曲線 
Y(Γ) のコンパクト化は、Γ のカスプと呼ばれる有限個の点を加えることにより得られる。特に、このコンパクト化は、拡張された複素上半平面 H* = } 上の Γ の作用を考えることにより得られる。H* に次を開基とする位相を定める。
 H の上のすべての開集合
 すべての r > 0 に対し、集合 
 すべての互いに素な整数 a, c と m, n は an + cm = 1 となる整数 m, n と、すべての r > 0 に対し、作用
 
の下で、 の像

これは、 H* をリーマン球面 P1(C) の部分集合へ変える。群 Γ は部分集合 } 上へ作用し、Γ のカスプと呼ばれる有限個の軌道へ分解する。特に Γ が } 上に推移的に作用すると、空間 Γ\H* は Γ\H の一点コンパクト化となる。この カスプ(、尖点)を加えてコンパクト化したリーマン面をと書く。X(Γ) は Y(Γ) の空間のコンパクト化である。

 例 
最も知られている例は、曲線 X(N), X0(N) と X1(N) であり、それぞれ合同部分群 Γ(N), Γ0(N) と Γ1(N) から定まるものである。

モジュラー曲線 X は種数 0 を持ち、正二十面体の頂点に 12個のカスプを持つリーマン球面である。被覆 X → X はリーマン球面上の(icosahedral group)の作用による商である。この群は位数 60 の単純群で、対称群 A5 および PSL(2, 5) とに同型である。

モジュラー曲線 X は、カスプを 24個持つ種数 3 の(Klein quartic)である。これは3つのハンドルつきの曲面を 24 個の七角形でタイリングし、各々の面の中心にカスプを持っていると解釈することができる。これらのタイリングは、dessins d'enfants や(Belyi function)を通して理解することができる。カスプは、無限遠点 ∞ 上にある（赤い点）、一方、頂点と辺の中心にある（黒と白の点）カスプは、0 と 1 にある。被覆 X → X のガロア群は、PSL(2, 7) に同型な位数 168 の単純群である。

X0(N) には、明確な古典モデルである古典的モジュラー曲線が存在し、これを「モジュラー曲線」という場合もある。Γ(N) の定義は次のように言い直すこともできる。Γ(N) は、法 N 還元 SL2(Z) → SL2(Z/NZ) の核である。Γ0(N) は法 N 還元して上三角行列になるもの全体のなす部分群

であり、Γ1(N) はこのふたつの中間にある群であり、

で定義される。

これらの曲線は、レベル構造つき楕円曲線のモジュライ空間として解釈される。このため、モジュラー曲線は(arithmetic geometry)で重要な役割を果たす。レベル N のモジュラー曲線 X(N) は、楕円曲線とそのN-等分点の基底の組のモジュライ空間である。X0(N) と X1(N) の付加構造は、それぞれ、位数 N の巡回部分群、位数 N の点である。これらの曲線は、非常に詳しく研究されており、特に、X0(N) は有理数体上で定義することができる。

モジュラ曲線を定義する方程式は、(modular equation)の最も良く知られた例である。この「最良のモデル」は楕円函数論から直接得られる理論とは非常に異なっている。ヘッケ作用素は、二つのモジュラー曲線の間の対応として幾何学的に研究される。

注意: コンパクトな H の商は、モジュラ群の部分群以外に、(Fuchsian group) Γ に対し発生する。これは、四元数からくる構成されるこれらのクラスは、数論でも興味がもたれている。

 種数 
被覆 X(N) → X はガロア群 SL(2, N)/{1, −1} を持つガロア被覆であり、N が素数であればこのガロア群は PSL(2, N) と同じになる。リーマン・フルヴィッツの公式とガウス・ボネの定理を適用すると、X(N) の種数を計算することができる。レベルが素数 p ≥ 5 であれば、

である。ここに χ = 2 − 2g はオイラー標数、|G| = (p + 1)p(p − 1)/2 は群 PSL(2, p) の位数、D = π − π/2 − π/3 − π/p は球状の (2,3,p) の三角形の(angular defect)である。このことから、公式

が導かれる。

このようにして、X は種数 0 であり、X は種数 3 であり、X は種数26 であることがわかる。p = 2 あるいは 3 に対しは分岐を考えに入れる、つまり、PSL(2, Z) には位数 p の元が存在し、PSL(2, 2) は位数 3 というよりも位数 6 であることを考慮する必要がある。N を因子として含むレベル N のモジュラー曲線の種数についてのより複雑な公式がある。

種数 0
一般に、モジュラー函数体とは、モジュラー曲線（あるいは既約であるような他のモジュライ空間）の函数体である。種数が 0 であることは、そのような函数体が唯一の超越函数を生成元として持っていることを意味し、たとえば、j-函数は の函数体を生成する。この生成元はメビウス変換で移りあう函数を同一視すると一意となり、適切に正規化することができ、そのような函数を Hauptmodul (あるいは主モジュラー函数(principal modular function)と呼ぶ。

空間 X1(n) は n = 1, ..., 10 と n = 12 に対して、種数 0 である。これらの曲線は、Q 上で定義されているので、そのような曲線上には無限に多くの有理点が存在し、よって、これらの n の値に対し n-捩れを持つ有理数体上定義された楕円曲線が無限に存在する。n がこれらの値のときのみ、逆のステートメントが成り立ち、これがメイザーの捩れ定理である。

 体上のモデル 

を合同部分群とする。複素数体

の部分環

に対して、
上のスキーム

と複素解析的同型

の組

であって、 が 上1次元ファイバーを持つものをモジュラー曲線

の

上のモデルという。この定義において

を

に置き換えたものもモデルという。例えば整数環

上のアフィン直線

と 関数の組は

の整数環

上のモデルである。

以下、 は正整数とする。

 

を

で定義される上半平面上の関数とする。
は有理数体 上の超越次元が1の体で、この体に含まれる

上代数的な元は

の元のみである。よって関数体と非特異射影代数曲線の対応により

上のある非特異射影代数曲線

であってその関数体がこれになるものが存在する。これは

の

上のモデルになっている。

 とモジュラー方程式 

モジュラー方程式と呼ばれる、次の性質を持つ整数係数2変数多項式

が存在する。

 を の元と見たとき、これは の最小多項式である。
 は既約多項式である。

例えば に対しては　

 

である。この例からもわかるように は対称多項式である。この方程式で定義される有理数体上の代数曲線の特異点を解消し完備化したものが

と同型である。

 

上半平面 上の関数

を次で定義する。

 

ここで

はヴァイエルシュトラスの楕円函数、
と

は

が成り立つ関数である。
は

についてのモジュラー関数である。体

を関数体に持つ

上の非特異射影代数曲線を

とすると、これが

のモデルになる。

 整モデル 

 を正整数、 を0もしくは1とする。
には

と書かれる

上のモデルが存在し次の性質を持っている。

 はアフィン・スキームである。
 は連結である。
 は である。
 は、 を一回だけ割る素数 において準安定である。
 は 上滑らかである。
 上のスキームの圏から集合の圏への関手 を、スキーム に対して を 上の楕円曲線 とその位数 の巡回部分群スキーム の組 の同型類の集合とすることにより定義する。 はこの関手の粗モジュライである。特に、任意の代数閉体 に対して は 上の楕円曲線 とその位数 の巡回部分群スキーム の組 の同型類と自然に一対一対応する。
 上のスキームの圏から集合の圏への関手 を、スキーム に対して を 上の楕円曲線 とその位数がちょうど の切断 の組 の同型類の集合とすることにより定義する。 はこの関手の粗モジュライである。特に、任意の代数閉体 に対して は 上の楕円曲線 とその位数がちょうど の切断 の組 の同型類の集合と自然に一対一対応する。

を自然な射

に関する

の整閉包とする。
は次の性質を持っている。

 は 上の射影的かつ正規な代数曲線である。
 の各幾何的ファイバーは連結である。
 を割らない素数 に対して は滑らかである。 は のスムーズコンパクト化である。
 上のスキームの圏から集合の圏への関手 を、スキーム に対して を 上の広義楕円曲線 とその豊富な位数 の巡回部分群スキーム の組 の同型類の集合とすることにより定義する。 はこの関手の粗モジュライである。特に、任意の代数閉体 に対して は 上の広義楕円曲線 とその豊富な位数 の巡回部分群スキーム の組 の同型類の集合と自然に一対一対応する。

 モンスター群との関係 

種数 0 のモジュラー曲線はモンストラス・ムーンシャイン予想との関係で非常に重要であることが判明した。モジュラー曲線の Hauptmoduln を q-展開した係数の最初のいくつかが、19世紀に既に計算されていたが、最も大きな単純散在モンスター群の表現空間の次元と同じになっていることが、非常に衝撃的である。

もうひとつの関係は、SL(2, R) の Γ0(p) の正規化群 Γ0(p)+ から定まるモジュラー曲線が種数 0 であることと、p が 2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 41, 47, 59 あるいは、71 であることと同値である。さらにこれらの素数はモンスター群の位数の素因子と一致する。この Γ0(p)+ についての結果は、ジャン＝ピエール・セール(Jean-Pierre Serre), (Andrew Ogg)とジョン・トンプソン(John G. Thompson)が1970年代に発見し、モジュラー群とモンスター群の関係を発見したオッグは、この事実を説明したものには、ジャックダニエル（テネシー・ウイスキー）のボトルを進呈すると論文に記載した。

この関係は非常に深く、リチャード・ボーチャーズ(Richard Borcherds)により示されたように、一般カッツ・ムーディリー代数とも深く関係する。この分野の仕事は、至るところで正則でカスプを持つモジュラー形式に対し、有理型でありカスプで極を持つことのできるモジュラー函数の重要性を示している。これらの仕事は、20世紀の重要な研究の対象となった。