Algoritma JST Backpropagation

Arsitektur JST Backpropagation

Contoh Arsitekstur JST Backpropagation dengan: n unit masukkan p unit layer tersembunyi m unit masukkan
1 V10 Vp0 X1 V11 Vp1 V12 X2 Vm2 V1n V2m Xn Vpn Zp V22 Z2 Wm2 V21 V20 Z1 1 W20 Wm0 W11 W21 Wm1 W12 W22 Y2 Y1 W10

W1p W2p Wmp Ym

Layer Masukkan

Layer tersembunyi

Layer Keluaran

Fungsi Aktifasi
Fungsi aktifasi yang digunakan pada backpropagation yaitu sigmoid biner dan sigmoid bipolar

Fungsi Aktifasi

Algoritma Pelatihan Backpropagation

Algoritma Pelatihan Backpropagation dengan satu layer tersembunyi dan dengan menggunakan fungsi aktivasi 1 1 sigmoid biner
X1 V10
W20 W10

Vp0 V11

V20

Z1

Wm0 W11

Y1

Vp1 V21

X2

V12

Vm2 V1n Xn

V22

Z2

W2 Wm1 1 W12 W22 Wm2

Y2

V2m Vpn

Zp

W1p W2p Wmp

Ym

Langkah 0 : Inisialisasi semua bobot dengan bilangan

acak kecil. Langkah 1 : Jika kondisi penghentian belum terpenuhi, lakukan langkah 2 sampai dengan 8. Langkah 2: Untuk setiap pasang data pelatihan, lakukan

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
Wm0 W11 W20 W1
0

X1

Y1

Vp1 V21 X2 V12 V22 Z2

Vm2 V1n Xn

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

V2m
Vpn

Zp

Ym

Fase I: Propagasi Maju

Langkah 3 Langkah 4

Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi

Hitung semua keluaran di unit tersembunyi (Zj):

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
Wm0 W11 W20 W1
0

X1

Y1

Vp1 V21 X2 V12 V22 Z2

Vm2 V1n Xn

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

V2m
Vpn

Zp

Ym

Langkah 5

Hitung semua jaringan di unit keluaran (yk)

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
Wm0 W11 W20 W1
0

X1

Y1

Vp1 V21 X2 V12 V22 Z2

Vm2 V1n Xn

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

V2m
Vpn

Zp

Ym

Fase II : Propagasi Maju Langkah 6 Hitung factor unit keluaran berdasarkan kesalahan setiap unit keluaran yk (k=1,2,3.)

k=(tk-yk) f(y_netk)= (tk-yk) yk (1-yk)

k meruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (lankah 7) Hitung suku perubahan bobot Wkj dengan laju perubahan

wkj= k zj

; k=1,2,3,,m ; j=0,1,2,,p

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
W20 W1 Wm0 0 W11

X1

Y1

Vp1 V21 X2 V12 V22 Z2

Vm2 V1n Xn
Langkah 7

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

V2m Vpn

Zp

Ym

Hitung factor unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi zj (j=1,2,3,,p)

Faktor unit tersembunyi

j = _netj f(z_netj)= _netj zj (1-zz)

Hitung suku perubahan bobot vji

vji= jxi

; j=1,2,,p ; i=0,1,2,,n

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
Wm0 W11 W20 W1
0

X1

Y1

Vp1 V21 X2 V12 V22 Z2

Vm2 V1n Xn

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

V2m
Vpn

Zp

Ym

Fase III : Perubahan Bobot

Langkah 8

Perubahan bobot garis yang menuju unit keluaran

wkj (baru)= wkj (lama) + wkj

Perubahan bobot garis yang menuju ke unit tersembunyi

Vji (baru)= vji (lama) + vji

Laju Pemahaman
Laju pemahaman di simbolkan dengan

Laju pemahaman menentukan lama iterasi

Nilai dari diantara 0 sd 1 Semakin besar nilai semakin cepat lama iterasi Akan tetapi jika terlalu besar akan merusak pola,

sehingga justru akan lebih lama iterasinya

Epoch
Epoch yaitu satu siklus pelatihan yang melibatkan

semua pola Misal jika suatu arsitektur JST terdapat 4 pola masukkan dan 1 target, maka pelatihan 4 pola masukkan tersebut adalah 1 epoch