С развитием компьютерных технологий моделирование методом Монте-Карло становится всё более популярным в изучении различных статистических систем, включая: нейронные сети, проблемы биологии и химии, задачи оптимизации в различных областях, а также в статистической физике при изучении фазовых переходов и критических явлений.
 Почти все вариации метода Монте-Карло основаны на идее метода существенной выборки, автором которого является Н. Метрополис и др.
 Одним из примеров реализации метода энтропического моделирования является Алгоритм Ванга-Ландау
 Задачи равновесной статистической термодинамики классических систем можно свести к
вычислению статистического интеграла. Например, в каноническом ансамбле:
 
  
    
      
        Z
        (
        N
        ,
        V
        ,
        T
        )
        =
        
          
            1
            
              N
              !
              (
              2
              π
              ℏ
              
                )
                
                  3
                  N
                
              
            
          
        
        ∫
        exp
        ⁡
        {
        −
        β
        E
        (
        p
        ,
        q
        )
        }
        d
        p
        d
        q
        ,
        
        
          
            где 
          
        
        β
        =
        
          
            1
            
              k
              T
            
          
        
        ,
      
    
    {\displaystyle Z(N,V,T)={\frac {1}{N!(2\pi \hbar )^{3N}}}\int \exp\{-\beta E(p,q)\}dpdq,\qquad {\mbox{где }}\beta ={\frac {1}{kT}},}
  

 
  
    
      
        N
      
    
    {\displaystyle N}
  
 - число частиц, находящихся в объёме 
  
    
      
        V
      
    
    {\displaystyle V}
  
 при температуре 
  
    
      
        T
      
    
    {\displaystyle T}
  
, 
  
    
      
        β
        =
        1
        
          /
        
        k
        T
      
    
    {\displaystyle \beta =1/kT}
  
; 
  
    
      
        E
        (
        p
        ,
        q
        )
      
    
    {\displaystyle E(p,q)}
  
 - полная механическая энергия частиц; 
  
    
      
        p
        ,
        q
      
    
    {\displaystyle p,q}
  
 - набор их импульсов и координат, причём 
  
    
      
        d
        p
        =
        
          d
          
            3
          
        
        
          p
          
            1
          
        
        …
        
          d
          
            3
          
        
        
          p
          
            N
          
        
        
        d
        q
        =
        
          d
          
            3
          
        
        
          q
          
            1
          
        
        …
        
          d
          
            3
          
        
        
          q
          
            N
          
        
      
    
    {\displaystyle dp=d^{3}p_{1}\ldots d^{3}p_{N}\,dq=d^{3}q_{1}\ldots d^{3}q_{N}}
  
. Классическая энергия 
  
    
      
        E
        (
        p
        ,
        q
        )
      
    
    {\displaystyle E(p,q)}
  
 всегда может быть представлена в виде суммы кинетической 
  
    
      
        K
        (
        p
        )
      
    
    {\displaystyle K(p)}
  
 и
потенциальной 
  
    
      
        U
        (
        q
        )
      
    
    {\displaystyle U(q)}
  
 энергий. Кинетическая энергия есть квадратичная функция от
импульсов, и интегрирование по ним может быть произведено в общем виде. В результате получаем:
 
  
    
      
        Z
        (
        N
        ,
        V
        ,
        T
        )
        =
        
          
            1
            
              N
              !
              
                Λ
                
                  3
                  N
                
              
            
          
        
        ∫
        exp
        ⁡
        {
        −
        β
        U
        (
        q
        )
        }
        d
        q
      
    
    {\displaystyle Z(N,V,T)={\frac {1}{N!\Lambda ^{3N}}}\int \exp\{-\beta U(q)\}dq}
  

 где 
  
    
      
        Λ
        =
        
          
            
              
                2
                π
                
                  ℏ
                  
                    2
                  
                
              
              
                m
                k
                T
              
            
          
        
      
    
    {\displaystyle \Lambda ={\sqrt {\frac {2\pi \hbar ^{2}}{mkT}}}}
  
 - тепловая длина волны де Бройля частиц массы 
  
    
      
        m
      
    
    {\displaystyle m}
  
 при температуре 
  
    
      
        T
      
    
    {\displaystyle T}
  
. Таким образом, задача сводится к вычислению конфигурационного интеграла
 
  
    
      
        Q
        (
        N
        ,
        V
        ,
        T
        )
        =
        ∫
        exp
        ⁡
        {
        −
        β
        U
        (
        q
        )
        }
        d
        q
      
    
    {\displaystyle Q(N,V,T)=\int \exp\{-\beta U(q)\}dq}
  

 От интегрирования по координатам можно перейти к интегрированию по энергии:
 
  
    
      
        Q
        (
        β
        )
        =
        ∫
        Ω
        (
        E
        )
        exp
        ⁡
        (
        −
        β
        E
        )
        d
        E
      
    
    {\displaystyle Q(\beta )=\int \Omega (E)\exp(-\beta E)dE}
  

 
  
    
      
        Ω
        (
        E
        )
        =
        ∫
        δ
        (
        U
        (
        q
        )
        −
        E
        )
        d
        q
      
    
    {\displaystyle \Omega (E)=\int \delta (U(q)-E)dq}
  

 где 
  
    
      
        Ω
        (
        E
        )
      
    
    {\displaystyle \Omega (E)}
  
 - объём части конфигурационного пространства, в которой энергия системы лежит в пределах от 
  
    
      
        E
      
    
    {\displaystyle E}
  
 до 
  
    
      
        E
        +
        d
        E
      
    
    {\displaystyle E+dE}
  
, 
  
    
      
        δ
      
    
    {\displaystyle \delta }
  
 - дельта функция.
 Вычисления по приведённым формулам мы будем выполнять численными методами. Поэтому от интегралов перейдём к интегральным суммам. Диапазон изменения энергии системы 
  
    
      
        
          E
          
            m
            i
            n
          
        
        ≤
        E
        ≤
        
          E
          
            m
            a
            x
          
        
      
    
    {\displaystyle E_{min}\leq E\leq E_{max}}
  
 разбивается на конечное число 
  
    
      
        (
        
          N
          
            b
          
        
        )
      
    
    {\displaystyle (N_{b})}
  
 равных отрезков. Определяются значения 
  
    
      
        Ω
        (
        
          E
          
            i
          
        
        )
        ,
        i
        =
        1
        ,
        2
        ,
        .
        .
        .
        ,
        
          N
          
            b
          
        
      
    
    {\displaystyle \Omega (E_{i}),i=1,2,...,N_{b}}
  
. В итоге, для любой величины 
  
    
      
        f
      
    
    {\displaystyle f}
  
 её средние канонические
могут быть вычислены по формуле:
 
  
    
      
        <
        f
        >
        (
        β
        )
        =
        
          
            
              
                ∑
                
                  i
                  =
                  1
                
                
                  
                    N
                    
                      b
                    
                  
                
              
              
                f
                
                  i
                
              
              
                Ω
                
                  i
                
              
              exp
              ⁡
              (
              −
              β
              
                E
                
                  i
                
              
              )
            
            
              
                ∑
                
                  i
                  =
                  1
                
                
                  
                    N
                    
                      b
                    
                  
                
              
              
                Ω
                
                  i
                
              
              exp
              ⁡
              (
              −
              β
              
                E
                
                  i
                
              
              )
            
          
        
      
    
    {\displaystyle <f>(\beta )={\frac {\sum \limits _{i=1}^{N_{b}}f_{i}\Omega _{i}\exp(-\beta E_{i})}{\sum \limits _{i=1}^{N_{b}}\Omega _{i}\exp(-\beta E_{i})}}}
  
,
 где 
  
    
      
        
          f
          
            i
          
        
      
    
    {\displaystyle f_{i}}
  
 — значение величины 
  
    
      
        f
      
    
    {\displaystyle f}
  
 для 
  
    
      
        i
      
    
    {\displaystyle i}
  
-го отрезка энергии. Поскольку 
  
    
      
        Ω
        (
        E
        )
      
    
    {\displaystyle \Omega (E)}
  
 входит линейно и в
числитель, и в знаменатель формулы для 
  
    
      
        <
        f
        >
      
    
    {\displaystyle <f>}
  
, то 
  
    
      
        Ω
        (
        E
        )
      
    
    {\displaystyle \Omega (E)}
  
 можно понимать не только как объём, но и как долю конфигурационного пространства, соответствующую энергии 
  
    
      
        E
      
    
    {\displaystyle E}
  
. В каждом состоянии (конфигурации) система обладает определённой энергией. Т.е. каждому состоянию (конфигурации) системы можно сопоставить точку на энергетической шкале (оси) в пространстве энергий (это пространство одномерно). Последовательности случайных изменений конфигурации системы соответствует случайное блуждание точки в пространстве энергий. Моделируя процесс случайных блужданий с помощью метода Монте-Карло и зная или вычисляя значения 
  
    
      
        
          Ω
          
            i
          
        
      
    
    {\displaystyle \Omega _{i}}
  
 , мы можем находить средние значения
физических величин.
 Алгоритм энтропического моделирования основан на следующем обстоятельстве.
Совершая случайное блуждание в пространстве энергий с вероятностями перехода,
пропорциональными обратной плотности состояний 
  
    
      
        1
        
          /
        
        Ω
        (
        E
        )
      
    
    {\displaystyle 1/\Omega (E)}
  
, мы получаем равномерное
распределение по энергиям. Иными словами, подобрав вероятности перехода такими, что посещение всех энергетических состояний стало бы равномерным, можно получить изначально неизвестную плотность состояний 
  
    
      
        Ω
        (
        E
        )
      
    
    {\displaystyle \Omega (E)}
  
.
 Напишем конфигурационный интеграл в каноническом ансамбле в виде:
 
  
    
      
        Q
        (
        β
        )
        =
        ∫
        
          e
          
            −
            β
            E
            (
            q
            )
          
        
        d
        q
        =
        ∫
        Ω
        (
        E
        )
        
          e
          
            −
            β
            E
          
        
        d
        E
        =
        ∫
        
          e
          
            S
            (
            E
            )
            −
            β
            E
          
        
        d
        E
      
    
    {\displaystyle Q(\beta )=\int e^{-\beta E(q)}dq=\int \Omega (E)e^{-\beta E}dE=\int e^{S(E)-\beta E}dE}
  

 где 
  
    
      
        S
        (
        E
        )
        =
        k
        ln
        ⁡
        Ω
        (
        E
        )
      
    
    {\displaystyle S(E)=k\ln \Omega (E)}
  
 - энтропия при заданном значении 
  
    
      
        E
      
    
    {\displaystyle E}
  
 (иногда 
  
    
      
        k
      
    
    {\displaystyle k}
  
 будет опускаться, т.к. в моделировании не обязательно учитывать эту константу).
 Осуществляя блуждание в конфигурационном пространстве с вероятностями перехода,
удовлетворяющими соотношению детального баланса
 
  
    
      
        
          
            
              p
              (
              
                q
                
                  1
                
              
              →
              
                q
                
                  2
                
              
              )
            
            
              p
              (
              
                q
                
                  2
                
              
              →
              
                q
                
                  1
                
              
              )
            
          
        
        =
        
          e
          
            −
            β
            (
            E
            (
            
              q
              
                2
              
            
            )
            −
            E
            (
            
              q
              
                1
              
            
            )
            )
          
        
      
    
    {\displaystyle {\frac {p(q_{1}\rightarrow q_{2})}{p(q_{2}\rightarrow q_{1})}}=e^{-\beta (E(q_{2})-E(q_{1}))}}
  
,
 получают каноническую выборку состояний 
  
    
      
        P
        (
        q
        )
        ∼
        
          e
          
            −
            β
            E
            (
            q
            )
          
        
      
    
    {\displaystyle P(q)\sim e^{-\beta E(q)}}
  
 (или 
  
    
      
        P
        (
        E
        )
        ∼
        
          e
          
            S
            (
            E
            )
            −
            β
            E
          
        
      
    
    {\displaystyle P(E)\sim e^{S(E)-\beta E}}
  
). Произвольной выборке энергетических состояний 
  
    
      
        P
        (
        E
        )
        ∼
        
          e
          
            A
            (
            E
            )
          
        
        =
        
          e
          
            S
            (
            E
            )
            −
            J
            (
            E
            )
          
        
      
    
    {\displaystyle P(E)\sim e^{A(E)}=e^{S(E)-J(E)}}
  
, где 
  
    
      
        A
        (
        E
        )
      
    
    {\displaystyle A(E)}
  
 — произвольная функция, 
  
    
      
        J
        (
        E
        )
        =
        S
        (
        E
        )
        −
        A
        (
        E
        )
      
    
    {\displaystyle J(E)=S(E)-A(E)}
  
, соответствует условие
 
  
    
      
        
          
            
              p
              (
              
                q
                
                  1
                
              
              →
              
                q
                
                  2
                
              
              )
            
            
              p
              (
              
                q
                
                  2
                
              
              →
              
                q
                
                  1
                
              
              )
            
          
        
        =
        
          e
          
            −
            β
            (
            J
            (
            E
            (
            
              q
              
                2
              
            
            )
            )
            −
            J
            (
            E
            (
            
              q
              
                1
              
            
            )
            )
            )
          
        
      
    
    {\displaystyle {\frac {p(q_{1}\rightarrow q_{2})}{p(q_{2}\rightarrow q_{1})}}=e^{-\beta (J(E(q_{2}))-J(E(q_{1})))}}
  
.
 При 
  
    
      
        J
        (
        E
        )
        =
        S
        (
        E
        )
      
    
    {\displaystyle J(E)=S(E)}
  
, в процессе блуждания должна получиться равномерная, в пределах статистического разброса, выборка энергетических состояний, 
  
    
      
        P
        (
        E
        )
        ∼
        c
        o
        n
        s
        t
      
    
    {\displaystyle P(E)\sim const}
  
. В этом случае из определения энтропии следует
 
  
    
      
        
          
            
              p
              (
              
                q
                
                  1
                
              
              →
              
                q
                
                  2
                
              
              )
            
            
              p
              (
              
                q
                
                  2
                
              
              →
              
                q
                
                  1
                
              
              )
            
          
        
        =
        
          
            
              Ω
              (
              E
              (
              
                q
                
                  1
                
              
              )
              )
            
            
              Ω
              (
              E
              (
              
                q
                
                  2
                
              
              )
              )
            
          
        
      
    
    {\displaystyle {\frac {p(q_{1}\rightarrow q_{2})}{p(q_{2}\rightarrow q_{1})}}={\frac {\Omega (E(q_{1}))}{\Omega (E(q_{2}))}}}
  

 Таким образом, если при некотором выборе вероятностей перехода получить равномерное посещение энергетических состояний, то можно вычислить плотность состояний 
  
    
      
        Ω
        (
        E
        )
      
    
    {\displaystyle \Omega (E)}
  
, а следовательно, и конфигурационный интеграл 
  
    
      
        Q
        (
        β
        )
      
    
    {\displaystyle Q(\beta )}
  
.