Peephole LSTM vienība ar ievada 
  
    
      
        i
      
    
    {\displaystyle i}
  
, izvada 
  
    
      
        o
      
    
    {\displaystyle o}
  
, un aizmiršanas 
  
    
      
        f
      
    
    {\displaystyle f}
  
vārtiem. Katrus no šiem vārtiem var uzskatīt par "standarta" neironu vairāku slāņu neirona tīklā. Tie, izmantojot aktivizēšanas funkciju, aprēķina svērto summu aktivizāciju. 
  
    
      
        
          i
          
            t
          
        
        ,
        
          o
          
            t
          
        
      
    
    {\displaystyle i_{t},o_{t}}
  
 un 
  
    
      
        
          f
          
            t
          
        
      
    
    {\displaystyle f_{t}}
  
laika 
  
    
      
        t
      
    
    {\displaystyle t}
  
gaitā attēlo attiecīgi ievada, izvada un aizmiršanas vārtu aktivizēšanu. 3 izejas bultas no atmiņas šūnas 
  
    
      
        c
      
    
    {\displaystyle c}
  
 uz 3 vārtiem 
  
    
      
        i
        ,
        o
      
    
    {\displaystyle i,o}
  
 un 
  
    
      
        f
      
    
    {\displaystyle f}
  
 attēlo peephole savienojumus. Šie peephole savienojumi faktiski apzīmē atmiņas šūnas 
  
    
      
        c
      
    
    {\displaystyle c}
  
aktivizēšanas ieguldījumu laikā ar soli 
  
    
      
        t
        −
        1
      
    
    {\displaystyle t-1}
  
, t.i. ieguldījumu 
  
    
      
        
          c
          
            t
            −
            1
          
        
      
    
    {\displaystyle c_{t-1}}
  
 nevis 
  
    
      
        
          c
          
            t
          
        
      
    
    {\displaystyle c_{t}}
  
, kā bildē attēlots. Citiem vārdiem sakot, vārti 
  
    
      
        i
        ,
        o
      
    
    {\displaystyle i,o}
  
 un 
  
    
      
        f
      
    
    {\displaystyle f}
  
 aprēķina aktivizēšanos ar laika soli 
  
    
      
        t
      
    
    {\displaystyle t}
  
 (
  
    
      
        
          i
          
            t
          
        
        ,
        
          o
          
            t
          
        
      
    
    {\displaystyle i_{t},o_{t}}
  
 un 
  
    
      
        
          f
          
            t
          
        
      
    
    {\displaystyle f_{t}}
  
), ņemot vērā arī atmiņas šūnas aktivizēšanu 
  
    
      
        c
      
    
    {\displaystyle c}
  
 ar laika soli 
  
    
      
        t
        −
        1
      
    
    {\displaystyle t-1}
  
,t.i, 
  
    
      
        
          c
          
            t
            −
            1
          
        
      
    
    {\displaystyle c_{t-1}}
  
. Vienīgā bulta, kas iziet no atmiņas šūnas no kreisās uz labo pusi, nav peephole savienojums un apzīmē 
  
    
      
        
          c
          
            t
          
        
      
    
    {\displaystyle c_{t}}
  
. Mazie aplīši ar 
  
    
      
        ×
      
    
    {\displaystyle \times }
  
 simbolu ir element-gudrs reizinājums. Lielie apļi ar S veida līkni atspoguļo diferencējamas funkcijas pielietojumu (piemēram, sigmoido funkciju) ar svērto summu. Ir arī daudzi citi LSTM veidi.[6]
English: Long short-term memory units.