Yinelemeli sinir ağı

Yinelemeli sinir ağı, düğümler arası bağların zamansal bir dizi doğrultusunda yönlü çizge oluşturduğu bir yapay sinir ağı çeşididir. Yaygın olarak İngilizce kısaltması olan RNN () olarak anılır. İleri beslemeli sinir ağından türetilen RNN yöntemi, bir iç durum belleği kullanarak değişik uzunluktaki dizileri işleyebilir. Bu sayede yazı tanıma ve konuşma tanıma gibi problemlere uygulanabilir. Teorik olarak Turing makinesine denk (Turing-complete) olan yinelemeli sinir ağları, herhangi uzunluktaki bir girdiyi işleyebilen herhangi bir programı çalıştırabilir.

 Tarihçe 

Yinelemeli sinir ağları David Rumelhart'ın 1986 yılındaki çalışmasına dayanır.  Hopfield ağı denen özel bir RNN türü de John Hopfield tarafından 1982 yılında geliştirilmiştir. 1993 yılında, bir RNN çalışması 1000'den fazla katman gerektiren birçok derin öğrenme görevini başarmıştır. Long short-term memory (LSTM) ağları Hochreiter ve Schmidhuber tarafından 1997 yılında geliştirilmiş ve çeşitli uygulama alanlarında en iyi performansları kaydetmiştir.

 Çeşitleri 

Birçok farklı RNN mimarisi vardır.

 Tam yinelemeli 
küçük|Bir yinelemeli sinir ağı özyinelemeli bağlantılarla (sol) ya da açılmış halde gösterilebilir (sağ). Açılmış biçimde, her düğüm farklı bir katman gibi görünse de, aynı renkli düğümler aynı katmanın farklı zamanlardaki halidir.

Tam yinelemeli sinir ağlarında tüm nöronların çıktısı tüm nöronların girdisine bağlanır. En genel RNN mimarisi budur, çünkü diğer tüm mimariler, buradaki bazı bağların ağırlıkları sıfırlanarak elde edilebilir. RNN'ler iki farklı biçimde gösterilir: kapalı biçimde, özyineleme bağlantıları düğümlerin kendilerinin bir sonraki adımdaki durumuna olan bağlantılarıdır; açılmış biçimde, düğümlerin her zaman adımındaki durumları ayrı ayrı gösterilir.

 Geçitli yineleme birimi 
küçük|Geçitli yineleme birimi
Geçitli yineleme birimi (, GRU) 2014 yılında önerilmiş bir yinelemeli ağ birimidir. Bu birimler, nöronlar arasındaki geçişi düzenleyen bir takım öğeler barındırır. LSTM'e benzer şekilde unutma kapısı bulunur, ancak GRU yapıları genellikle daha basittir. Polifonik müzik ve konuşma sinyali modelleme gibi işlerde LSTM'e benzer bir başarıyla çalışır.

 Kaynakça 

Kategori:Yapay zekâ
Kategori:Yapay sinir ağları