Page 1
โครงรางวทยานพนธ
เรอง การเปรยบเทยบวธโครงขายประสาทเทยมและวธจนเนตกอลกอรทม
โดยใชองคประกอบหลกในการพยากรณอนทรยวตถในดน : กรณศกษาพนท
เกษตรกรรมสวนผลไมในภาคตะวนตกของประเทศไทย
อาจารยทปรกษา
ผศ. ดร.กมลชนก พานชการ
โดย
นางสาวสรกลยา ประมวล
สาขาวชาสถตประยกต คณะวทยาศาสตร
1
Page 3
1. ทมาและความสำคญของปญหา
การสรางโมเดลทางคณตศาสตร
ดานสงแวดลอม ดานการเงน ดานการแพทย
การพยากรณ
ดานอนๆ
สรางโมเดลสำหรบการพยากรณอนทรยวตถในดน
3
Page 4
1. ความสำคญของอนทรยวตถในดน
1. คณสมบตทางกายภาพ
๏ ความหนาแนนและความพรนของดน
๏ โครงสรางของดนและความสามารถในการอมนำของดน
2. คณสมบตทางชวภาพ
๏ การปลดปลอยไนโตรเจนในรปของแอมโมเนยหรอไนเตรตทเปนประโยชน
๏ การยบยงการเจรญเตบโตของเชอโรคในพช
3. คณสมบตทางเคม
๏ เปนแหลงธาตอาหารใหแกพช
๏ ทำใหดนมคาการแลกเปลยนประจบวกเพมขน ชวยในการดดซบอาหาร
4
Page 5
1. ความสำคญของอนทรยวตถในดน
ปรมาณอนทรยวตถ
เปนคณสมบตอยางหนงในการบงชคณภาพของดน
5
Page 6
2. การเลอกใชโมเดลในการพยากรณ
1. วธการถดถอยเชงเสนพหคณ
๏ นยมใชกบการพยากรณตวแปรตามทมลกษณะขอมลแบบตอเนอง
๏ สามารถหาความสมพนธของตวแปรอสระหลายตวกบตวแปรตามทเปนแบบเชงเสน
2. วธโครงขายประสาทเทยม
๏ ใชกบขอมลทมลกษณะแบบไมเปนเชงเสน
๏ สามารถใชไดกบปญหาทยงยากซบซอน
3. วธจนเนตกอลกอรทม
๏ มกระบวนการทซบซอนแตสามารถใหคำตอบทดและรวดเรวได
๏ สามารถใชไดกบปญหาทยงยากซบซอน
6
Page 7
3. สรปขนตอนการสรางโมเดลในการพยากรณ
7
Page 8
4. วตถประสงคของงานวจย
1. ศกษาความสมพนธของตวแปรอสระและลดมตของขอมลโดยใชการวเคราะห
องคประกอบหลก
2. เปรยบเทยบประสทธภาพของโมเดลทไดจากองคประกอบหลก โดยพจารณา
2.1 วธการถดถอยเชงเสนพหคณ
2.2 วธโครงขายประสาทเทยมแบบทมการเชอมโยงไปขางหนา
2.3 วธจนเนตกอลกอรทม
8
Page 9
5. สมมตฐานของการวจย
โมเดลในการพยากรณปรมาณอนทรยวตถในดนทมประสทธภาพ
มากทสดคอโมเดลทไดจากวธจนเนตกอลกอรทม
9
Page 10
6. ขอบเขตของการวจย
6.1 ขอมลดน
ภาพท 1 พนทศกษาทเกบขอมลตวอยางดนทงหมด 58 ชด จากพนทเกษตกรรมสวนผลไม
10
Page 11
6. ขอบเขตของการวจย
6.2 ตวแปรทใชในการสรางโมเดล
อลมนม (Al), แมงกานส (Mn), เหลก ( Fe), โครเมยม (Cr),
แมกนเซยม (Mg), สงกะส (Zn), ทองแดง (Cu), ตะกว (Pb),
โพแทสเซยม (K), โซเดยม (Na), แคลเซยม (Ca), กรดฟลวก (FA),
กรดฮวมก (HA), คาการแลกเปลยนประจบวก (CEC), Percent clay
(%clay), ไนโตรเจนรวม (TN) และ อนทรยคารบอน (OC)
ตวแปรตาม คอปรมาณอนทรยวตถ (Organic Matter )
ตวแปรพยากรณ คอคณสมบตทางเคมของดน ทงหมด 17 ตวแปร ไดแก
11
Page 12
6. ขอบเขตของการวจย
6.3 คาวดประสทธภาพ (Performance Index)
6.3.1 ดชนการยอมรบ (Index of Agreement : IA)
6.3.2 คารากทสองของคาความคลาดเคลอนเฉลยกำลงสอง (Root Mean Square Error: RMSE)
(1)
(2)
12
Page 13
6. ขอบเขตของการวจย
6.3.3 คาความคลาดเคลอนเอนเอยงเฉลย (Mean Bias Error: MBE)
6.3.4 คาความคลาดเคลอนสมบรณเฉลย (Mean Absolute Error: MAE)
(3)
(4)
13
Page 15
1. การวเคราะหองคประกอบหลก
เปนเทคนคการลดจำนวนตวแปร โดยสรางเซตของตวแปรใหมใหเปนฟงกชนเชงเสน
ของตวแปรเดม โดยยงคงรายละเอยดหรอสารสนเทศจากขอมลเดมไวในตวแปรใหมทได
ภาพท 2 ตวอยาง scree plot จากการวเคราะหองคประกอบหลก
15
Page 16
1. การวเคราะหองคประกอบหลก
ใชการทดสอบ Bartlett’s sphericity ตรวจสอบวาควรใช PCA กบชดขอมลนหรอไม ?
ln |R| คอคา log ของดเทอรมแนนตของเมตรกซสหสมพนธ R
p คอจำนวนตวแปร
n คอจำนวนขอมล
(5)
16
Page 17
1. การวเคราะหองคประกอบหลก
ใชการทดสอบ Bartlett’s sphericity ตรวจสอบวาควรใช PCA กบชดขอมลนหรอไม ?
สมมตฐานทพจารณา
H0 : ตวแปรอสระไมมสหสมพนธตอกน (R=I)
H1 : ตวแปรอสระมสหสมพนธตอกน (R≠I)
∴ จะใช PCA ถา ปฏเสธสมมตฐานหลก นนคอ ตวแปรอสระมสหสมพนธตอกน (R≠I)
17
Page 18
2. วธการถดถอยเชงเสนพหคณ
Y = β0+β1X1 +β2X2+...+βkXk +e
โดยท
Y คอตวแปรตาม (dependent variable)
X คอตวแปรพยากรณ (Independent variable)
β0 คอสวนตดแกน Y หรอคาของ Y เมอกำหนด X1 = X2 = ... = Xk = 0
β1, β2, ..., βk คอสมประสทธการถดถอยเชงสวน
= a+b1X1 +b2X2+...+bkXk (Least Square Method)
(6)
(7)
18
Page 19
3. วธโครงขายประสาทเทยม
ภาพท 2 โครงสรางระบบประสาทในสมอง
ทมา : Lippmann, Klimasauskas and Medsker et al. อางถงใน ศรลย ปานศรพงษ, การพฒนาแบบจำลองโครงขายใยประสาทประดษฐและแบบ
จำลองความถดถอยเชงพห เพอทำนายความเขมขนของ PM10 ในพนทกรงเทพมหานครและเทศบาลนครราชสมา (2005), 14
19
Page 20
3. วธโครงขายประสาทเทยม
ภาพท 3 โมเดลของโครงขายประสาทเทยมแบบ Single Layer
20
Page 21
3. วธโครงขายประสาทเทยม
สถาปตยกรรมโครงขายประสาทเทยม
ภาพท 4 สถาปตยกรรมโครงขายประสาทเทยมแบบ Feed-forward และ แบบ Feedback
21
Page 22
3. วธโครงขายประสาทเทยม
ภาพท 5 กระบวนการทำงานของโครงขายประสาทเทยม ทมา : ปรบปรงจาก Haykin, Simon, Neural Networks: A Comprehensive Foundation (Upper Saddle River, NJ: Prentice Hall, 1998), 11
22
Page 23
3. วธโครงขายประสาทเทยม
Activation Function
‣ Sigmoid Function
‣ Binary Function
‣ Linear Function
Learning Algorithm
‣ Backpropagation Algorithm
‣ Levenberg-Marquardt Algorithm
‣ Quasi-Newton Algorithm
‣ Conjugate Gradient Algorithm
กระบวนการสอนหรอการเรยนร (Training or Learning)กระบวนการสอนหรอการเรยนร (Training or Learning) 23
Page 24
3. วธโครงขายประสาทเทยม
ชดขอมล (Samples)
‣ แบบสอบถาม
‣ ขอมลทางสถต
‣ การทดลอง
การทดสอบโครงขาย (Testing)
‣ แบงขอมลเปนสองชด ชดแรกสำหรบสอนอกชดสำหรบทดสอบโครงขาย
‣ ใชชดขอมลทงหมดมาเปนชดสอน และใชชดเดมนนมาทดสอบโครงขาย
กระบวนการสอนหรอการเรยนร (Training or Learning)กระบวนการสอนหรอการเรยนร (Training or Learning)
ชดขอมลจะแบงเปนสองชดคอชดการสอน และชดทดสอบ (อยางนอย 5 ชด)
24
Page 25
3. วธโครงขายประสาทเทยม
สรปขนตอนการสรางแบบจำลองโครงขายประสาทเทยม
25
Page 26
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
“จนเนตกอลกอรทม เปนวธการคนหาคำตอบทดทสดโดยใชหลกการคด
เลอกแบบธรรมชาตและหลกการทางสายพนธ ซงเปนการคำนวณ
ทมววฒนาการในการหาคำตอบ”
‣ การคดเลอกทางสายพนธ (Selection)
‣ ปฏบตการทางสายพนธ (Genetic Operation)
‣ การแทนท (Replacement)
26
Page 27
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
องคประกอบทสำคญของ Genetic Algorithm
องคประกอบท 1 Chromosome Encoding คอขนตอนสำหรบแปลงทางเลอกสำหรบการแกปญหาท
เปนไปไดใหอยในรปของโครโมโซม
องคประกอบท 2 Initial Population คอการสมเลอกเพอสรางประชากรตนแบบขนมาเพอใชเปนจด
เรมตนของขนตอนการววฒนาการ
องคประกอบท 3 Fitness Function คอฟงกชนสำหรบประเมนคาความเหมาะสม เพอใหคะแนน
สำหรบคำตอบตางๆ ทเปนไปไดของปญหา
องคประกอบท 4 Genetic Operator คอการดำเนนงานตามขนตอนตางๆของ Genetic Algorithm เพอ
ใหเกดววฒนาการไปสคำตอบทดขน ซงไดแก Selection, Crossover และ Mutation
องคประกอบท 5 Parameter คอปจจยทสงผลตอการทำงานของ Genetic Algorithm เชนขนาดของ
ประชากร, ความนาจะเปนของการ crossover หรอ ความนาจะเปนของการ mutation
27
Page 28
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.1 Chromosome Encoding
1. Binary Encoding
โครโมโซม A : 1 0 1 1 0 0 1 0 1 0 0
โครโมโซม B : 1 1 0 1 0 0 0 1 1 1 1
2. Permutation Encoding
โครโมโซม A : 1 5 3 2 6 4 7 9 8
โครโมโซม B : 8 5 6 7 2 3 1 4 9
28
Page 29
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
3. Valued Encoding
โครโมโซม A : 1.2324 5.2343 0.4556 2.3293 2.4545
โครโมโซม B : (back) (back) (right) (left) (left)
4. Tree Encoding
29
Page 30
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.2 Initial Population
ขนตอนนเปนขนตอนแรกทเกดขนกอนกระบวนการของ Genetic Algorithm
โดยประชากรกลมแรก หรอประชากรตนกำเนด จะเกดจากการสมเลอกขนมาจาก
กลมของประชากรทงหมดทมอย โดยสมตามทกำหนดไว
4.3 Fitness Function
โครโมโซมทกตวจะมคาความเหมาะสมของตวเองเพอใชสำหรบพจารณาวา โครโมโซม
ตวนน เหมาะหรอไมทจะนำมาใชสบทอดพนธกรรมสำหรบสรางโครโมโซมรนใหม
โดยวธการคดคาความเหมาะสมนน จะใชสมการทสอดคลองกบปญหาทตองการ
30
Page 31
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4 Genetic Operator
ประกอบดวยกระบวนการพนฐานทสำคญ 3 ขนตอนคอ
4.4.1 Selection
4.4.2 Crossover
4.4.3 Mutation
31
Page 32
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4.1 Selection (การคดเลอกสายพนธ)
1. วธแบงเปนสดสวน (Proportionate Selection)
2. วธของโบลตซมน (Boltzmann Selection)
3. วธการจดอนดบ (Ranking Selection)
4. วธการแขงขน (Tournament Selection)
5. วธการชกตวอยางแบบวงลอรเลท (Roulette Wheel Sampling)
32
Page 33
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4.2 Crossover (ครอสโอเวอร)
Single point
Two point
33
Page 34
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4.3 Mutation (มวเทชน)
โครโมโซมเกา
โครโมโซมใหม
โครโมโซมเกา
โครโมโซมใหม
Binary Encoding
Permutation Encoding 1 2 3 4 5 6 7 8 9
1 9 3 4 5 6 7 8 2
34
Page 35
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.5 Parameter
พารามเตอรพนฐานทสำคญตอการทำงานของ Genetic Algorithm ม 3 ตวคอ
4.5.1 Crossover Probability คอความนาจะเปนของการเกด Crossover มคาใน 0-100 โดย
ทวไปคาความนาจะเปนในการเกด Crossover จะอยท 60% - 95%
4.5.2 Mutation Probability คอความนาจะเปนของการเกด Mutation มคาใน 0-100 โดย
ทวไปคาความนาจะเปนในการเกด Mutation จะถกกำหนดใหอยในชวง 0% - 1%
4.5.3 Population Size คอจำนวนของประชากรในแตละรน ถามจำนวนมากเกนไปจะ
ทำใหเสยเวลาในการประมวลผลมาก และทำงานไดชาลง
35
Page 36
5. ทฤษฎทเกยวของ
เงอนไขในการหยดกระบวนการคนหาคำตอบ
1. ครบจำนวนรอบทไดกำหนดไว
2. พบเปาหมายหรอคำตอบทตองการแลว
3. พบคำตอบใกลเคยงกบคำตอบทตองการ หรอคำตอบทไดไมม
การเปลยนแปลงหรอคงทเปนจำนวนตดตอกน
36
Page 37
5. งานวจยทเกยวของ
Hasan , Ozer, Ramazan และ Mehmet (2005)
เรอง การเปรยบเทยบวธโครงขายประสาทเทยมและการถดถอย สำหรบฟงกชนการแปลงคาสำหรบการ
เกบรกษานำในดนและความสามารถในการทำใหนำซมผาน
ผลการศกษา ‣ ผลลพธจากทงสองวธไมแตกตางกนอยางมนยสำคญ
‣ ผลลพธจากวธการถดถอยวดประสทธภาพดกวาวธโครงขายประสาทเทยม
‣ วธโครงขายประสาทเทยมสามารถใชเปนเทคนคใหมในการพฒนางานในอนาคต
วธการศกษา ‣ ใชขอมลคณสมบตพนฐานของดน เชนความพรน การกระจายของขนาดดน
‣ ในการหาฟงกชนการแปลงคาสำหรบการเกบรกษานำในดน
‣ เปรยบเทยบคาวดประสทธภาพ R2 และ RMSE ในฟงกชนการแปลงคาทหาได
37
Page 38
5. งานวจยทเกยวของ
Sousa, Martin, Alvim-Ferraz และ Pereira (2006)
เรอง การวเคราะหการถดถอยเชงเสนพหคณและโครงขายประสาทเทยมทมการเชอมโยงไปขางหนา ในการ
ทำนายความเขมขนของโอโซนรายชวโมงในวนถดไป
ผลการศกษา ‣ วธ FANN ใหผลลพธดกวาวธ MLR
‣ วธ PC-FANN ใหผลลพธดกวาวธ PCR ผลลพธดทสดทเมอใช 5 องคประกอบหลก
‣ การใชองคประกอบหลกทำใหผลลพธดขน (ขจดปญหา Multicollinearity)
‣ การใชวธ FANN ใหผลลพธดเนองจากเหมาะกบปญหาทไมเปนเชงเสน
วธการศกษา ‣ ใชขอมลความเขมขนโอโซน, ไนโตรเจนมอนอกไซด ฯ และตวแปรทางอตนยมวทยา
‣ สรางโมเดลโดยใชและไมใชวธวเคราะหองคประกอบหลก
‣ เปรยบเทยบคาวดประสทธภาพ R, MBE, MAE, RMSE และ d2 ในการเปรยบเทยบโมเดล
38
Page 39
5. งานวจยทเกยวของ
Karunakar และ Datta (2007)
เรอง การควบคมคณสมบตแบบทรายชนโดยใชวธโครงขายประสาทเทยมและวธจนเนตกอลกอรทม : ศกษา
เชงเปรยบเทยบ
ผลการศกษา ‣ โดยภาพรวมวธ Genetic Algorithm ใหผลลพธแมนยำกวา
‣ วธโครงขายประสาทเทยมใหผลลพธเปนทนาพอใจแตมความยงยากกวาวธจนเนตกอลกอรทม
วธการศกษา ‣ คณสมบตของแมพมพ เชนแรงอดในสภาวะชน ความสามารถในการซมผาน ฯ เปนอนพต
‣ พารามเตอรการควบคมเปนเอาทพต เชน %ดนเหนยว %ความชน
‣ วธโครงขายประสาทเทยมใช back-propagation algorithm ในการเรยนร
‣วธจนเนตกอลกอรทม กำหนดขนาดประชากร 5, crossover = 1.0, mutation = 0
‣เปรยบเทยบประสทธภาพของโมเดล ดวย %error
39
Page 40
5. งานวจยทเกยวของ
Yang, Dawson, และ Brown (2006)
เรอง วธโครงขายประสาทเทยมและวธจนเนตกอลกอรทมสำหรบการพยากรณจำนวนการเกดไฟใหมในทพก
อาศย
ผลการศกษา ‣ วธการถดถอยโลจสตก, วธโครงขายประสาทเทยม, วธจนเนตกอลกอรทม ใหคา MSE
เทากบ 4.875, 2.375 และ 2.875 ตามลำดบ
‣วธโครงขายประสาทเทยมใหผลลพธดทสด ใกลเคยงกบวธจนเนตกอลกอรทม
วธการศกษา ‣ พยากรณโดยวธการถดถอยโลจสตก วธโครงขายประสาทเทยมและ วธจนเนตกอลกอรทม
‣ เกบรวมรวมตวแปรทเกยวของแลวใชการวเคราะหองคประกอบหลกเพอลดตวแปรพยากรณ
‣ เปรยบเทยบคาวดประสทธภาพ MSE ในการเปรยบเทยบโมเดล
40
Page 42
1. ภาพรวมขนตอนการศกษา
ภาพท 2 ภาพรวมขนตอนการศกษา
๏ วธการถดถอยเชงเสนพหคณและวธโครง
ขายประสาทเทยม ใชโปรแกรม SAS
๏ วธจนเนตกอลกอรทม ใชโปรแกรม
MATLAB
42
Page 43
2. การสรางโมเดลดวยวธการถดถอยเชงเสนพหคณ
ภาพท 3 ขนตอนการสรางโมเดลการถดถอยเชงเสนพหคณ
43
Page 44
3. การสรางโมเดลดวยวธโครงขายประสาทเทยม
ภาพท 4 ขนตอนการสรางโครงขายประสาท
เทยมแบบทมการเชอมโยงไปขางหนา
ทมา : ปรบปรงจาก Jiang et al., Progress in developing an ANN
model for air pollution index forecast (Atmospheric Environment
38), 7055-7064
๏ Levenberg-Maquardt Algorithm
๏ Sigmoid Function
44
Page 45
4. ขนตอนการทำงานของจนเนตกอลกอรทม
ภาพท 5 ขนตอนการทำงานของ Genetic Algorithm
ทมา : ปรบปรงจาก Kucuk and Derebasi , Prediciton of power loss in transformer cores using
feed forward neural network and genetic algorithm , (Measurement 39 ,2005), 607
Population Size 50
Probability of crossover 1.0
Probability of mutation 0.0
Maximum generation 20
45
Page 46
5. ผลของงานวจยบางสวน
วธการถดถอยเชงเสนพหคณกบวธโครงขายประสาทเทยมแบบทมการเชอมโยงไปขางหนา
46
Page 47
5. ผลของงานวจยบางสวน
เปรยบเทยบคาพยากรณกบขอมลจรงจากโมเดล MLR และ FANN ในขอมลชดเรยนร
✓f✓f✓f
✓.47
Page 48
จบการนำเสนอ
Q&A48