Jednokierunkowe sieci neuronowe

Jednokierunkowa sieć neuronowa to najprostszy rodzaj sztucznej sieci neuronowej. W tej architekturze dane przepływają tylko w jednym kierunku — od warstwy wejściowej do warstwy wyjściowej — bez zawracania.

Struktura jednokierunkowej sieci neuronowej

Sieci jednokierunkowe składają się z:

• Warstwy wejściowej: Odbiera nieprzetworzone dane.
• Warstw ukrytych: Wykonują obliczenia i wyodrębniają cechy.
• Warstwy wyjściowej: Generuje końcowy wynik.

Każda warstwa jest w pełni połączona z następną.

Propagacja w przód

Propagacja w przód to proces przekazywania danych przez sieć:

1. Wartości wejściowe są mnożone przez wagi, a następnie dodawane są obciążenia.
2. Stosowane są funkcje aktywacji w celu wprowadzenia nieliniowości.
3. Obliczany wynik jest przekazywany do następnej warstwy.

Budowanie prostej sieci jednokierunkowej

Utwórzmy prostą sieć jednokierunkową w języku Python. Sieć ma:

• 2 neurony wejściowe
• 1 warstwę ukrytą z 3 neuronami
• 1 neuron wyjściowy

import numpy as np

# Define weights and biases
weights_input_hidden = np.array([[0.2, 0.8, -0.5], [0.5, -0.91, 0.26]])
bias_hidden = np.array([2, 3, 0.5])
weights_hidden_output = np.array([[0.1], [-0.14], [0.5]])
bias_output = np.array([0.1])

# Input data
inputs = np.array([1, 2])

# Forward pass
hidden_layer = np.dot(inputs, weights_input_hidden) + bias_hidden
output = np.dot(hidden_layer, weights_hidden_output) + bias_output

print("Output:", output)

Trenowanie jednokierunkowej sieci neuronowej

Trenowanie polega na dostosowywaniu wag i obciążeń w celu zminimalizowania błędu:

1. Oblicz błąd, czyli różnicę między wartościami przewidywanymi a rzeczywistymi.
2. Użyj algorytmów optymalizacji, takich jak spadek gradientu, aby zaktualizować wagi.
3. Powtarzaj ten proces przez wiele iteracji (epok).

Zalety sieci jednokierunkowych

Sieci jednokierunkowe są:

• Proste i łatwe do zaimplementowania.
• Skuteczne w zadaniach takich jak regresja i podstawowa klasyfikacja.
• Wydajne obliczeniowo w przypadku małych zbiorów danych.

Ograniczenia sieci jednokierunkowych

Sieci jednokierunkowe mają pewne wady:

• Brak pamięci potrzebnej do obsługi danych sekwencyjnych.
• Podatność na przeuczenie w przypadku niewielkiej ilości danych treningowych.
• Konieczność starannego dostrajania hiperparametrów, takich jak współczynnik uczenia.

Zastosowania w świecie rzeczywistym

Sieci jednokierunkowe są używane do:

• Diagnostyki medycznej: Przewidywania chorób na podstawie objawów.
• Wykrywania oszustw: Identyfikowania podejrzanych działań w transakcjach finansowych.
• Przewidywania cen akcji: Szacowania przyszłych wartości akcji.

Podsumowanie i kolejne kroki

W tej lekcji:

• Przeanalizowaliśmy strukturę i sposób działania jednokierunkowych sieci neuronowych.
• Zbudowaliśmy prostą sieć jednokierunkową w języku Python.
• Omówiliśmy zalety i ograniczenia tej architektury.

Następnie omówimy algorytm propagacji wstecznej, który umożliwia skuteczne uczenie sieci neuronowych poprzez optymalizację wag i obciążeń.