GRU: Daha Sade Bir Seçenek

GRU, LSTM'nin daha yalın bir akrabasıdır. Aynı hedefin, yani uzun süreli belleğin peşinden gider; ancak daha az kapı ve daha az parametre kullanır. ⚡

LSTM'den farklı olarak GRU'nun ayrı bir hücre durumu yoktur. Her şeyi, her adımda güncellediği tek bir gizli durumda tutar.

Bir GRU yalnızca iki kapı kullanır: güncelleme kapısı ve sıfırlama kapısı. Bu, hesaplama ve bellek kullanımını azaltan, LSTM'den bir kapı eksik olduğu anlamına gelir.

Güncelleme kapısı, eski gizli durumun ne kadarının taşınacağına ve ne kadar yeni bilginin içeri alınacağına karar verir.

Sıfırlama kapısı, geçmiş belleğin yeni adaya ne kadar aktarılacağını denetler ve gerektiğinde hücrenin artık geçerli olmayan bağlamı görmezden gelmesini sağlar.

GRU, sıfırlama kapısını kullanarak bir aday gizli durum oluşturur; bu, mevcut adımın belleğinin ne olabileceğine ilişkin yeni bir öneridir.

Yeni gizli durum yumuşak bir birleşimdir: Güncelleme kapısı, önceki durumu adayla tek ve temiz bir denklemde birleştirir.

Bir kapısı eksik ve hücre durumu olmayan GRU'nun daha az parametresi vardır. Genellikle daha hızlı eğitilir ve iyi uyum sağlamak için daha az veriye ihtiyaç duyar.

GRU, birçok görevde LSTM'nin doğruluğuna ulaşır. Daha küçük hücre nadiren dezavantaj oluşturduğu için dizi modelleri için güçlü bir varsayılan seçenektir.

Hız ve küçük veri kümeleri için önce bir GRU deneyin. Çok uzun bağımlılıklar ek bellek denetimi gerektirdiğinde LSTM'yi tercih edin.

Keras'ta değiştirme işlemi kolaydır: LSTM katmanını bir GRU katmanıyla değiştirin ve modelinizin geri kalanını olduğu gibi bırakın.

Bir GRU, LSTM'yi iki kapıya ve tek bir duruma indirger. Çoğu görevde benzer doğruluk sunarken daha hızlı ve daha yalındır. ✅