2015 yılının başlarında, derin öğrenme alanı mimari açıdan ciddi bir engelle karşılaştı. Araştırmacılar, evrişimli sinir ağlarına (CNN) sadece daha fazla katman eklemenin performansı sürekli olarak artırmadığını keşfettiler. Aksine, modeller yaklaşık 20 ila 30 katmanlık bir eşiği geçtiğinde doğruluk oranı duraklıyor ve ardından sert bir şekilde düşerek çok daha sığ ağlardan bile daha kötü sonuçlar veriyordu. Bu fenomene, derin ağlar için kayıp manzarasının (loss landscape) aşırı derecede kaotik hale geldiği ve gradyan inişi optimizasyonunun tamamen başarısız olmasına yol açtığı "parçalanmış gradyan" (shattered gradient) problemi neden oluyordu. Standart geriye yayılım (backpropagation) yöntemi, aşırı derinliklerde parametreleri artık güvenilir bir şekilde güncelleyemiyordu; bu durum makine öğrenmesini…

Konular: Yapay Zeka, Derin Öğrenme ve Sinir Ağı Mimarisi

SiteM’de tam özet, flashcard ve quiz →

Orijinal kaynak: www.youtube.com

Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.