Поляриза́ция в теории представлений  — максимальное вполне изотропное подпространство определённой кососимметрической билинейной формы на алгебре Ли. Понятие поляризации играет важную роль при построении неприводимых унитарных представлений некоторых классов групп Ли методом орбит, а также в гармоническом анализе на группах Ли и математической физике.
 Пусть 
  
    
      
        G
      
    
    {\displaystyle G}
  
 — группа Ли, 
  
    
      
        
          
            g
          
        
      
    
    {\displaystyle {\mathfrak {g}}}
  
 — её алгебра Ли, 
  
    
      
        
          
            
              g
            
          
          
            ∗
          
        
      
    
    {\displaystyle {\mathfrak {g}}^{*}}
  
 — сопряжённое к 
  
    
      
        
          
            g
          
        
      
    
    {\displaystyle {\mathfrak {g}}}
  
 пространство. Посредством 
  
    
      
        ⟨
        f
        ,
        
        X
        ⟩
      
    
    {\displaystyle \langle f,\,X\rangle }
  
 обозначим значение линейного функционала (ковектора) 
  
    
      
        f
        ∈
        
          
            
              g
            
          
          
            ∗
          
        
      
    
    {\displaystyle f\in {\mathfrak {g}}^{*}}
  
 на векторе 
  
    
      
        X
        ∈
        
          
            g
          
        
      
    
    {\displaystyle X\in {\mathfrak {g}}}
  
. Подалгебра 
  
    
      
        
          
            h
          
        
      
    
    {\displaystyle {\mathfrak {h}}}
  
 алгебры 
  
    
      
        
          
            g
          
        
      
    
    {\displaystyle {\mathfrak {g}}}
  
 называется подчинённой ковектору 
  
    
      
        f
        ∈
        
          
            
              g
            
          
          
            ∗
          
        
      
    
    {\displaystyle f\in {\mathfrak {g}}^{*}}
  
, если выполняется условие
 или, более коротко,
 Пусть, далее, группа 
  
    
      
        G
      
    
    {\displaystyle G}
  
 действует на пространстве 
  
    
      
        
          
            
              g
            
          
          
            ∗
          
        
      
    
    {\displaystyle {\mathfrak {g}}^{*}}
  
 коприсоединённым представлением 
  
    
      
        
          
            A
            d
          
          
            ∗
          
        
      
    
    {\displaystyle \mathrm {Ad} ^{*}}
  
. Обозначим посредством 
  
    
      
        
          
            
              O
            
          
          
            f
          
        
      
    
    {\displaystyle {\mathcal {O}}_{f}}
  
 орбиту этого действия, проходящую через точку 
  
    
      
        f
      
    
    {\displaystyle f}
  
, а 
  
    
      
        
          
            
              g
            
          
          
            f
          
        
      
    
    {\displaystyle {\mathfrak {g}}^{f}}
  
 — алгебру Ли группы 
  
    
      
        
          S
          t
          a
          b
        
        (
        f
        )
      
    
    {\displaystyle \mathrm {Stab} (f)}
  
 — стабилизатора точки 
  
    
      
        f
      
    
    {\displaystyle f}
  
. Подалгебра 
  
    
      
        
          
            h
          
        
        ⊂
        
          
            g
          
        
      
    
    {\displaystyle {\mathfrak {h}}\subset {\mathfrak {g}}}
  
, подчинённая функционалу 
  
    
      
        f
      
    
    {\displaystyle f}
  
, называется поляризацией алгебры 
  
    
      
        
          
            g
          
        
      
    
    {\displaystyle {\mathfrak {g}}}
  
 относительно 
  
    
      
        f
      
    
    {\displaystyle f}
  
, или, короче, поляризацией ковектора 
  
    
      
        f
      
    
    {\displaystyle f}
  
, если она имеет максимально возможную размерность, а именно
 Исторически важную роль в развитии теории представлений сыграло приведённое ниже условие, найденное Л. Пуканским.
 Пусть 
  
    
      
        
          
            h
          
        
      
    
    {\displaystyle {\mathfrak {h}}}
  
 — поляризация, соответствующая ковектору 
  
    
      
        f
      
    
    {\displaystyle f}
  
, 
  
    
      
        
          
            
              h
            
          
          
            ⊥
          
        
      
    
    {\displaystyle {\mathfrak {h}}^{\perp }}
  
 — её аннулятор, то есть совокупность всех функционалов 
  
    
      
        λ
        ∈
        
          
            
              g
            
          
          
            ∗
          
        
      
    
    {\displaystyle \lambda \in {\mathfrak {g}}^{*}}
  
, значение которых на 
  
    
      
        
          
            h
          
        
      
    
    {\displaystyle {\mathfrak {h}}}
  
 равно нулю: 
  
    
      
        
          
            
              h
            
          
          
            ⊥
          
        
        :=
        {
        λ
        ∈
        
          
            
              g
            
          
          
            ∗
          
        
        
          |
        
        ⟨
        λ
        ,
        
        
          
            h
          
        
        ⟩
        =
        0
        }
      
    
    {\displaystyle {\mathfrak {h}}^{\perp }:=\{\lambda \in {\mathfrak {g}}^{*}|\langle \lambda ,\,{\mathfrak {h}}\rangle =0\}}
  
. Поляризация 
  
    
      
        
          
            h
          
        
      
    
    {\displaystyle {\mathfrak {h}}}
  
 называется нормальной, если выполнено условие, которое называется условием Пуканского:
 Л. Пуканский показал, что условие (1) гарантирует применимость метода орбит А. Кириллова, разработанного изначально для нильпотентных групп Ли, также к более широкому классу разрешимых групп.