Модулярная группа — группа 
  
    
      
        Γ
      
    
    {\displaystyle \Gamma }
  
 всех преобразований Мёбиуса вида
 где 
  
    
      
        a
        ,
        
        b
        ,
        
        c
        ,
        
        d
      
    
    {\displaystyle a,\;b,\;c,\;d}
  
 — целые числа, причём 
  
    
      
        a
        d
        −
        b
        c
        =
        1
      
    
    {\displaystyle ad-bc=1}
  
.
 Модулярная группа отождествляется с факторгруппой 
  
    
      
        P
        S
        L
        (
        2
        ,
        
          Z
        
        )
        =
        S
        L
        (
        2
        ,
        
        
          Z
        
        )
        
          /
        
        {
        I
        ,
        
        −
        I
        }
      
    
    {\displaystyle PSL(2,\mathbb {Z} )=SL(2,\;\mathbb {Z} )/\{I,\;-I\}}
  
. Здесь 
  
    
      
        S
        L
        (
        2
        ,
        
        
          Z
        
        )
      
    
    {\displaystyle SL(2,\;\mathbb {Z} )}
  
 — группа матриц
 где 
  
    
      
        a
        ,
        
        b
        ,
        
        c
        ,
        
        d
      
    
    {\displaystyle a,\;b,\;c,\;d}
  
 — целые числа, 
  
    
      
        a
        d
        −
        b
        c
        =
        1
      
    
    {\displaystyle ad-bc=1}
  
.
 Модулярная группа является дискретной группой преобразований верхней комплексной полуплоскости 
  
    
      
        H
        =
        {
        z
        :
        
          I
          m
        
        
        z
        >
        0
        }
      
    
    {\displaystyle H=\{z:\mathrm {Im} \,z>0\}}
  
 (плоскости Лобачевского) и допускает представление образующими
 и соотношениями 
  
    
      
        
          S
          
            2
          
        
        =
        (
        S
        T
        
          )
          
            3
          
        
        =
        1
      
    
    {\displaystyle S^{2}=(ST)^{3}=1}
  
, то есть является свободным произведением циклической группы порядка 2, порождённой 
  
    
      
        S
      
    
    {\displaystyle S}
  
, и циклической группы порядка 3, порождённой 
  
    
      
        S
        T
      
    
    {\displaystyle ST}
  
.
 Для произвольного преобразования 
  
    
      
        g
        (
        z
        )
        =
        
          
            
              a
              z
              +
              b
            
            
              c
              z
              +
              d
            
          
        
      
    
    {\displaystyle g(z)={\frac {az+b}{cz+d}}}
  
 из модулярной группы справедливо равенство:
 Поскольку мнимая часть 
  
    
      
        z
      
    
    {\displaystyle z}
  
 ненулевая, а числа 
  
    
      
        c
      
    
    {\displaystyle c}
  
 и 
  
    
      
        d
      
    
    {\displaystyle d}
  
 — целые, не равные нулю одновременно, то величина 
  
    
      
        
          |
        
        c
        z
        +
        d
        
          
            |
          
          
            2
          
        
      
    
    {\displaystyle |cz+d|^{2}}
  
 отделена от нуля (не может быть сколь угодно малой). Это означает, что в орбите любой точки есть такая, на которой мнимая часть достигает своего максимума.
 Фундаментальная область (каноническая) модулярной группы — это замкнутая область
 Легко проверить, используя (1), что преобразования модулярной группы не увеличивают мнимую часть точек из 
  
    
      
        D
      
    
    {\displaystyle D}
  
. Из этого следует, что для того, чтобы две точки 
  
    
      
        z
        ,
        
        g
        (
        z
        )
      
    
    {\displaystyle z,\;g(z)}
  
 принадлежали 
  
    
      
        D
      
    
    {\displaystyle D}
  
, их мнимая часть должна быть одинакова: 
  
    
      
        
          |
        
        c
        z
        +
        d
        
          
            |
          
          
            2
          
        
        =
        1
      
    
    {\displaystyle |cz+d|^{2}=1}
  
. Таким условиям отвечают следующие преобразования и точки:
 В частности, все точки области 
  
    
      
        D
      
    
    {\displaystyle D}
  
 имеют тривиальный стабилизатор, кроме трёх:
 Кроме того, из этого следует что при факторизации верхней полуплоскости по действию модулярной группы внутренние точки 
  
    
      
        D
      
    
    {\displaystyle D}
  
 отображаются инъективно, тогда как граничные — склеиваются с точками, «зеркальными» к ним относительно прямой 
  
    
      
        
          R
          e
        
        
        z
        =
        0
      
    
    {\displaystyle \mathrm {Re} \,z=0}
  
.
 Чтобы показать, что всякая точка из 
  
    
      
        H
      
    
    {\displaystyle H}
  
 конгруэнтна некоторой точке из 
  
    
      
        D
      
    
    {\displaystyle D}
  
, рассмотрим в её орбите, порождённой преобразованиями 
  
    
      
        S
      
    
    {\displaystyle S}
  
 и 
  
    
      
        T
      
    
    {\displaystyle T}
  
, точку с максимальной мнимой частью и с помощью целочисленного сдвига сдвинем так, чтобы вещественная часть её образа стала по модулю не больше, чем 1/2. Тогда образ принадлежит 
  
    
      
        D
      
    
    {\displaystyle D}
  
 (иначе, если бы его модуль был меньше 1, с помощью преобразования 
  
    
      
        S
      
    
    {\displaystyle S}
  
 можно было бы строго увеличить мнимую часть).
 Легко показать также, что преобразования 
  
    
      
        S
      
    
    {\displaystyle S}
  
 и 
  
    
      
        T
      
    
    {\displaystyle T}
  
 порождают всю модулярную группу. Пусть 
  
    
      
        g
      
    
    {\displaystyle g}
  
 — произвольное модулярное преобразование и 
  
    
      
        z
      
    
    {\displaystyle z}
  
 — внутренняя точка 
  
    
      
        D
      
    
    {\displaystyle D}
  
. Как описано выше, найдём преобразование 
  
    
      
        
          g
          ′
        
      
    
    {\displaystyle g'}
  
 переводящее 
  
    
      
        g
        (
        z
        )
      
    
    {\displaystyle g(z)}
  
 в область 
  
    
      
        D
      
    
    {\displaystyle D}
  
. Точки 
  
    
      
        z
      
    
    {\displaystyle z}
  
 и 
  
    
      
        
          g
          ′
        
        g
        (
        z
        )
      
    
    {\displaystyle g'g(z)}
  
 лежат в 
  
    
      
        D
      
    
    {\displaystyle D}
  
, причём 
  
    
      
        z
      
    
    {\displaystyle z}
  
 — внутренняя, следовательно, 
  
    
      
        
          g
          ′
        
        g
        (
        z
        )
        =
        z
      
    
    {\displaystyle g'g(z)=z}
  
. Тогда преобразование 
  
    
      
        
          g
          ′
        
        g
      
    
    {\displaystyle g'g}
  
 лежит в стабилизаторе точки 
  
    
      
        z
      
    
    {\displaystyle z}
  
, который тривиален. Следовательно, 
  
    
      
        g
        =
        (
        
          g
          ′
        
        
          )
          
            −
            1
          
        
      
    
    {\displaystyle g=(g')^{-1}}
  
 лежит в группе, порождённой преобразованиями 
  
    
      
        S
      
    
    {\displaystyle S}
  
 и 
  
    
      
        T
      
    
    {\displaystyle T}
  
.
 Интерес к модулярной группе связан с изучением модулярных функций, римановой поверхностью которых является факторпространство 
  
    
      
        H
        
          /
        
        
        Γ
      
    
    {\displaystyle H/\,\Gamma }
  
, отождествляемое с фундаментальной областью 
  
    
      
        G
      
    
    {\displaystyle G}
  
 модулярной группы. Фундаментальная область 
  
    
      
        G
      
    
    {\displaystyle G}
  
 имеет конечную площадь (в смысле геометрии Лобачевского), то есть модулярная группа есть фуксова группа первого рода.