Algoritma JST Backpropagation - sutikno · Algoritma Pelatihan Backpropagation dengan satu layer tersembunyi dan dengan menggunakan fungsi aktivasi sigmoid biner Langkah 0 : Inisialisasi

Algoritma JST Backpropagation

Contoh Arsitekstur JST Backpropagation dengan:

n unit masukkan

p unit layer tersembunyi

m unit keluaran

Arsitektur JST Backpropagation

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10

V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20

Wm0

W11

Wm1

W21

W12

Wm2

W22

W1p

Wmp

W2p

Layer Masukkan Layer tersembunyi Layer Keluaran

Fungsi aktifasi yang digunakan pada backpropagation yaitu

sigmoid biner dan sigmoid bipolar

Fungsi Aktifasi

Fungsi Aktifasi

Algoritma Pelatihan Backpropagation dengan satu layer tersembunyi dan

dengan menggunakan fungsi aktivasi sigmoid biner

Langkah 0 : Inisialisasi semua bobot dengan bilangan acak kecil.

Langkah 1 : Jika kondisi penghentian belum terpenuhi, lakukan langkah 2

sampai dengan 8.

Langkah 2: Untuk setiap pasang data pelatihan, lakukan langkah 3 sampai

dengan 8

Algoritma Pelatihan Backpropagation

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W10W20

Wm0

W11

Wm1

W2

1W12

Wm2

W22

W1p

Wmp

W2p

Fase I: Propagasi Maju

Langkah 3

Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi

Langkah 4

Hitung semua keluaran di unit tersembunyi (Zj):

Algoritma Pelatihan Backpropagation

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W1

0

W20

Wm0

W11

Wm1

W2

1W12

Wm2

W22

W1p

Wmp

W2p

Langkah 5

Hitung semua jaringan di unit keluaran (yk)

Algoritma Pelatihan Backpropagation

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W1

0

W20

Wm0

W11

Wm1

W2

1W12

Wm2

W22

W1p

Wmp

W2p

Fase II : Propagasi Maju

Langkah 6

Hitung factor unit keluaran berdasarkan kesalahan setiap unit keluaran yk (k=1,2,3….)

k=(tk-yk) f ’(y_netk)= (tk-yk) yk (1-yk)

k meruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (lankah 7)

Hitung suku perubahan bobotWkj dengan laju perubahan α

Δwkj= α k zj ; k=1,2,3,…,m ; j=0,1,2,…,p

Algoritma Pelatihan Backpropagation

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W1

0

W20

Wm0

W11

Wm1

W2

1W12

Wm2

W22

W1p

Wmp

W2p

Langkah 7

Hitung factor unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi zj (j=1,2,3,…,p)

Faktor unit tersembunyi

j = _netj f ’(z_netj)= _netj zj (1-zz)

Hitung suku perubahan bobot vji

Δvji=α jxi ; j=1,2,…,p ; i=0,1,2,…,n

Algoritma Pelatihan Backpropagation

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W1

0

W20

Wm0

W11

Wm1

W2

1W12

Wm2

W22

W1p

Wmp

W2p

Fase III : Perubahan Bobot

Langkah 8

Perubahan bobot garis yang menuju unit keluaran

wkj (baru)= wkj (lama) + Δwkj

Perubahan bobot garis yang menuju ke unit tersembunyi

Vji (baru)= vji (lama) + Δvji

Algoritma Pelatihan Backpropagation

1

Y1

Y2

Ym

Z1

Z2

Zp

1

X1

X2

Xn

V10V20Vp0

V11

Vp1V21

V12

Vm2

V22

V1n

Vpn

V2m

W1

0

W20

Wm0

W11

Wm1

W2

1W12

Wm2

W22

W1p

Wmp

W2p

Laju pemahaman di simbolkan dengan α

Laju pemahaman menentukan lama iterasi

Nilai dari α diantara 0 sd 1

Semakin besar nilai α semakin cepat lama

iterasi

Akan tetapi jika terlalu besar akan merusak

pola, sehingga justru akan lebih lama

iterasinya

Laju Pemahaman

Epoch yaitu satu siklus pelatihan yang

melibatkan semua pola

Misal jika suatu arsitektur JST terdapat 4 pola

masukkan dan 1 target, maka pelatihan 4 pola

masukkan tersebut adalah 1 epoch

Epoch