Top Banner
+DQGZULWWHQ ’LJLW 5HFRJQLWLRQ &/$66,),&$7,21 352%/(0 ILOHKRPHJVDQWRV556WDWV0DGULG-8*’DWD0LQLQJKDQGZULWWHQKWPO 0DGULG -DYD 8VHU *URXS 0DGULG -8* +DQGZULWWHQ ’LJLW 5HFRJQLWLRQ &/$66,),&$7,21 352%/(0 7KLV LV D FODVVLILFDWLRQ SUREOHP PDFKLQH OHDUQLQJ ’DWDVHW =LS&RGH ’LPHQVLRQV KWWSZZZVWDWVWDQIRUGHGXaWLEV(OHP6WDW/HDUQGDWDVHWV]LSLQIR 1RUPDOL]HG KDQGZULWWHQ GLJLWV DXWRPDWLFDOO\ VFDQQHG IURP HQYHORSHV E\ WKH 86 3RVWDO 6HUYLFH 7KH RULJLQDO VFDQQHG GLJLWV DUH ELQDU\ DQG RI GLIIHUHQW VL]HV DQG RULHQWDWLRQV WKH LPDJHV KHUH KDYH EHHQ GHVODQWHG DQG VL]H QRUPDOL]HG UHVXOWLQJ LQ [ JUD\VFDOH LPDJHV /H &XQ HW DO 7KH GDWD DUH LQ WZR J]LSSHG ILOHV DQG HDFK OLQH FRQVLVWV RI WKH GLJLW LG IROORZHG E\ WKH JUD\VFDOH YDOXHV
47

Handwritten Digit recognition with R. Classification Problem

Nov 01, 2014

Download

Technology

 
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

�0DGULG�-DYD�8VHU�*URXS��0DGULG�-8*�

+DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21352%/(0�

7KLV�LV�D�FODVVLILFDWLRQ�SUREOHP��PDFKLQH�OHDUQLQJ�

'DWDVHW�=LS&RGH��'LPHQVLRQV��KWWS���ZZZ�VWDW�VWDQIRUG�HGX�aWLEV�(OHP6WDW/HDUQ�GDWDVHWV�]LS�LQIR

1RUPDOL]HG�KDQGZULWWHQ�GLJLWV��DXWRPDWLFDOO\�VFDQQHG�IURP�HQYHORSHV�E\�WKH�8�6��3RVWDO�6HUYLFH��7KH�RULJLQDO�VFDQQHG�GLJLWV�DUH�ELQDU\�DQG�RI

GLIIHUHQW�VL]HV�DQG�RULHQWDWLRQV��WKH�LPDJHV�KHUH�KDYH�EHHQ�GHVODQWHG�DQG�VL]H�QRUPDOL]HG��UHVXOWLQJ�LQ����[����JUD\VFDOH�LPDJHV��/H�&XQ�HW

DO���������

7KH�GDWD�DUH�LQ�WZR�J]LSSHG�ILOHV��DQG�HDFK�OLQH�FRQVLVWV�RI�WKH�GLJLW�LG�������IROORZHG�E\�WKH�����JUD\VFDOH�YDOXHV�

�������������������������

�������������������������

�������������������������

���������

�������������������������

�������������������������

�������������������������

Page 2: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

0D\��������

-RVH�0DULD�*RPH]�+LGDOJR�#MPJRPH]

*XLOOHUPR�6DQWRV�*DUFLD�#JVDQWRVJR

7KLV�VFULSW�LV�OLFHQVHG�XQGHU�WKH�*3/Y��OLFHQVH�KWWS���ZZZ�JQX�RUJ�OLFHQVHV�JSO�KWPO

Page 3: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

3UHOLPLQDULHV

6HW�:RUNLQJ�'LUHFWRU\

JHWZG��

���>�@���KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�

:25.,1*B',5�����a�5�56WDWV�0DGULG-8*�'DWD0LQLQJ����:25.,1*B',5����&��8VHUV�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ'$7$6(7B',5�������GDWD��),*85(6B',5�������ILJXUHV��&2/256����F��ZKLWH����EODFN��VHWZG�:25.,1*B',5�JHWZG��

���>�@���KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�

/RDG�OLEUDULHV�GDWD�FUHDWH�QHZ�YDULDEOHV

����/RDG�/LEUDULHV����LQVWDOO�SDFNDJHV�F�NQLWU�5&RORU%UHZHU�(OHP6WDW/HDUQ�IRUHLJQ�WUHH�5:HND�USDUW�PDSWUHH�H

LQVWDOO�SDFNDJHV�F��5&RORU%UHZHU����(OHP6WDW/HDUQ����IRUHLJQ����WUHH����5:HND��������USDUW����PDSWUHH����H�������

���,QVWDOOLQJ�SDFNDJHV�LQWR��KRPH�JVDQWRV�5�L����SF�OLQX[�JQX�OLEUDU\��������DV�OLE�LV�XQVSHFLILHG�

���(UURU��WU\LQJ�WR�XVH�&5$1�ZLWKRXW�VHWWLQJ�D�PLUURU

OLEUDU\�NQLWU�����0DUNGRZQOLEUDU\�5&RORU%UHZHU�OLEUDU\�(OHP6WDW/HDUQ�OLEUDU\�IRUHLJQ�����)RU�UHDGLQJ�DQG�ZULWLQJ�GDWD�VWRUHG�E\�VWDWLVWLFDO�SDFNDJHV�VXFK�DV�0LQLWDE�6�6$6�6366OLEUDU\�WUHH�OLEUDU\�PDSWUHH�

���/RDGLQJ�UHTXLUHG�SDFNDJH��FOXVWHU

���/RDGLQJ�UHTXLUHG�SDFNDJH��USDUW

OLEUDU\�USDUW�����5HFXUVLYH�3DUWLWLRQLQJ�DQG�5HJUHVVLRQ�7UHHV��53DUW�OLEUDU\�5:HND�����:HND

���$WWDFKLQJ�SDFNDJH��5:HND

���7KH�IROORZLQJ�REMHFW�LV�PDVNHG�IURP�SDFNDJH�IRUHLJQ�������UHDG�DUII��ZULWH�DUII

OLEUDU\�)11�����)DVW�N�1HDUHVW�1HLJKERUV��N11�OLEUDU\�H���������6XSSRUW�9HFWRU�0DFKLQH��690�

���/RDGLQJ�UHTXLUHG�SDFNDJH��FODVV

���$WWDFKLQJ�SDFNDJH��FODVV

Page 4: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

���7KH�IROORZLQJ�REMHFW�LV�PDVNHG�IURP�SDFNDJH�)11�������NQQ��NQQ�FY

����6HW�&RORU�FRORU5DPS3DOHWWH�&2/256������������Q�&86720B&2/256����FRORU5DPS3DOHWWH�FRORUV� �&2/256�&86720B&2/256B3/27����FRORU5DPS3DOHWWH�EUHZHU�SDO������6HW������)LJXUHV�/DEHORSWVBFKXQN�VHW�ILJ�SDWK� ��ILJXUHV�SORW�KDQGZULWWHQ����RSWVBFKXQN�VHW�HFKR )$/6(��ILJ�SDWK ILJXUHV�SORW�KZ���FDFKH 758(�

����/RDG�GDWD'$7$6(7�WUDLQ����DV�GDWD�IUDPH�]LS�WUDLQ�'$7$6(7�WHVW����DV�GDWD�IUDPH�]LS�WHVW�

Page 5: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

([SORUDWRU\�DQDO\VLV

/RRN�DW�WKH�75$,1,1*�GDWD�VHW

KHDG�'$7$6(7�WUDLQ�

�����9��9��9��9������9������9������9������9������9�����9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9���9���9���9���9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9���9���9���9���9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9���9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9���9���9���9������9������9������9������9���9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9�����9���9���9���9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9�������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9���9���9���9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9���9���9���9���9���9����9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9�����9������9������9������9������9����9����9����9����9����9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

Page 6: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

������������������������������������������������������������������������������������9������9������9������9������9����9������9������9�����9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9����9����9����9����9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9����9�����9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9����9������9�����9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9���������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9����9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9����9������9������9����9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9���

Page 7: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

�������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9�����9����9����9����9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9����9���������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

GLP�'$7$6(7�WUDLQ�

���>�@����������

QURZ�'$7$6(7�WUDLQ�

���>�@�����

QFRO�'$7$6(7�WUDLQ�

���>�@����

FROQDPHV�'$7$6(7�WUDLQ�

�����>�@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9����

VXPPDU\�'$7$6(7�WUDLQ�

����������9�������������9����������������9����������������9�������������0LQ�����������0LQ��������������0LQ��������������0LQ������������������VW�4X���������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ��������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ����������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X���������UG�4X������������UG�4X������������UG�4X��������������0D[�����������0D[��������������0D[��������������0D[�������������

Page 8: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

����������9����������������9����������������9����������������9�������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[�����������������������9����������������9�����������������9����������������9��������������0LQ���������������0LQ���������������0LQ��������������0LQ������������������VW�4X�������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ������������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ��������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X�������������UG�4X�������������UG�4X������������UG�4X��������������0D[���������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9�����������������9����������������9���������������0LQ��������������0LQ���������������0LQ��������������0LQ�������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X���������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ���������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ������������������UG�4X������������UG�4X�������������UG�4X������������UG�4X���������������0D[��������������0D[���������������0D[��������������0D[�����������������������9����������������9����������������9��������������9��������������0LQ��������������0LQ��������������0LQ������������0LQ������������������VW�4X������������VW�4X������������VW�4X����������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ���������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�����������0HDQ�����������������UG�4X������������UG�4X������������UG�4X����������UG�4X��������������0D[��������������0D[��������������0D[������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9�����������������9���������������0LQ��������������0LQ��������������0LQ���������������0LQ�������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ������������������UG�4X������������UG�4X������������UG�4X�������������UG�4X���������������0D[��������������0D[��������������0D[���������������0D[�����������������������9����������������9����������������9�����������������9���������������0LQ��������������0LQ��������������0LQ���������������0LQ�������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ������������������UG�4X������������UG�4X������������UG�4X�������������UG�4X���������������0D[��������������0D[��������������0D[���������������0D[�����������������������9����������������9����������������9���������������9������������0LQ��������������0LQ��������������0LQ�������������0LQ����������������VW�4X������������VW�4X������������VW�4X�����������VW�4X������������0HGLDQ�����������0HGLDQ�����������0HGLDQ����������0HGLDQ������������0HDQ�������������0HDQ�������������0HDQ������������0HDQ���������������UG�4X������������UG�4X������������UG�4X�����������UG�4X������������0D[��������������0D[��������������0D[�������������0D[��������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ�������������

Page 9: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO ����

�����VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9������������0LQ��������������0LQ��������������0LQ��������������0LQ����������������VW�4X������������VW�4X������������VW�4X������������VW�4X������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ���������������UG�4X������������UG�4X������������UG�4X������������UG�4X������������0D[��������������0D[��������������0D[��������������0D[��������������������9����������������9����������������9���������������9��������������0LQ��������������0LQ��������������0LQ�������������0LQ������������������VW�4X������������VW�4X������������VW�4X�����������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�����������UG�4X��������������0D[��������������0D[��������������0D[�������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ����������

Page 10: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9�������������0LQ��������������0LQ��������������0LQ��������������0LQ�����������������VW�4X������������VW�4X������������VW�4X������������VW�4X�������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ�������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ����������������UG�4X������������UG�4X������������UG�4X������������UG�4X�������������0D[��������������0D[��������������0D[��������������0D[���������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X����������

Page 11: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9���������������9��������������0LQ��������������0LQ��������������0LQ�������������0LQ������������������VW�4X������������VW�4X������������VW�4X�����������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�����������UG�4X��������������0D[��������������0D[��������������0D[�������������0D[����������������������9�����������������9����������������9����������������9���������������0LQ���������������0LQ��������������0LQ��������������0LQ�������������������VW�4X�������������VW�4X������������VW�4X������������VW�4X���������������0HGLDQ������������0HGLDQ�����������0HGLDQ�����������0HGLDQ���������������0HDQ��������������0HDQ�������������0HDQ�������������0HDQ������������������UG�4X�������������UG�4X������������UG�4X������������UG�4X���������������0D[���������������0D[��������������0D[��������������0D[�����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9���������������0LQ��������������0LQ��������������0LQ��������������0LQ�������������������VW�4X������������VW�4X������������VW�4X������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ������������������UG�4X������������UG�4X������������UG�4X������������UG�4X���������������0D[��������������0D[��������������0D[��������������0D[�����������������������9����������������9����������������9����������������9���������������0LQ��������������0LQ��������������0LQ��������������0LQ�������������������VW�4X������������VW�4X������������VW�4X������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ������������������UG�4X������������UG�4X������������UG�4X������������UG�4X���������������0D[��������������0D[��������������0D[��������������0D[�����������������������9����������������9�����������������9����������������9����������

Page 12: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9���������������9���������������0LQ��������������0LQ��������������0LQ�������������0LQ�������������������VW�4X������������VW�4X������������VW�4X�����������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ����������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ������������0HDQ������������������UG�4X������������UG�4X������������UG�4X�����������UG�4X���������������0D[��������������0D[��������������0D[�������������0D[�����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9�������������0LQ��������������0LQ��������������0LQ��������������0LQ�����������������VW�4X������������VW�4X������������VW�4X������������VW�4X�������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ�������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ����������������UG�4X������������UG�4X������������UG�4X������������UG�4X�������������0D[��������������0D[��������������0D[��������������0D[���������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9�����������������9���������������0LQ��������������0LQ��������������0LQ���������������0LQ�������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ������������������UG�4X������������UG�4X������������UG�4X�������������UG�4X���������������0D[��������������0D[��������������0D[���������������0D[�����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9�����������������9��������������0LQ��������������0LQ��������������0LQ���������������0LQ������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X����������

Page 13: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�������������UG�4X��������������0D[��������������0D[��������������0D[���������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9��������������0LQ������������������VW�4X��������������0HGLDQ��������������0HDQ�����������������UG�4X��������������0D[�����������

VDSSO\�'$7$6(7�WUDLQ>���@��FODVV�

Page 14: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����������9���������9���������9���������9���������9���������9���������9������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF������������9���������9��������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9��������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�

/RRN�DW�WKH�7(67�GDWD�VHW

Page 15: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

KHDG�'$7$6(7�WHVW�

�����9��9��9��9������9����9������9������9������9�����9������9������9������9�������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9���9���9���9���9���9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9���9���9���9���9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9���9���9�������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9���9������9������9������9������9������9������9������9������9���9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9���9���9���9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9���9������9������9������9���9������9������9���9���9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9���9���9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9�����9������9������9������9����9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9�������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

Page 16: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

���������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9�����9��������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9����9����9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9����9����9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9�����9������9������9������9������9������9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9����9������9������9����9������9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9������9����9������9����9�����9������9����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9����9����9����9������9������9������9������9������9������9������9���

Page 17: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

�������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������9������9������9������9������9����9����9����9���������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

GLP�'$7$6(7�WHVW�

���>�@����������

QURZ�'$7$6(7�WHVW�

���>�@�����

QFRO�'$7$6(7�WHVW�

���>�@����

FROQDPHV�'$7$6(7�WHVW�

�����>�@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9��������>��@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9������9������9������9�������>���@��9������9������9������9������9������9������9����

VXPPDU\�'$7$6(7�WHVW�

����������9��������������9����������������9����������������9�������������0LQ������������0LQ��������������0LQ��������������0LQ������������������VW�4X����������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ���������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�����������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X����������UG�4X������������UG�4X������������UG�4X��������������0D[������������0D[��������������0D[��������������0D[�����������������������9����������������9����������������9����������������9�������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[�������������

Page 18: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����������9����������������9�����������������9����������������9��������������0LQ���������������0LQ���������������0LQ��������������0LQ������������������VW�4X�������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ������������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ��������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X�������������UG�4X�������������UG�4X������������UG�4X��������������0D[���������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9���������������9��������������0LQ��������������0LQ��������������0LQ�������������0LQ������������������VW�4X������������VW�4X������������VW�4X�����������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�����������UG�4X��������������0D[��������������0D[��������������0D[�������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9������������0LQ��������������0LQ��������������0LQ��������������0LQ����������������VW�4X������������VW�4X������������VW�4X������������VW�4X������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ���������������UG�4X������������UG�4X������������UG�4X������������UG�4X������������0D[��������������0D[��������������0D[��������������0D[��������������������9����������������9����������������9�����������������9��������������0LQ��������������0LQ��������������0LQ���������������0LQ������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�������������UG�4X��������������0D[��������������0D[��������������0D[���������������0D[����������������������9����������������9����������������9�����������������9���������������0LQ��������������0LQ��������������0LQ���������������0LQ�������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ������������������UG�4X������������UG�4X������������UG�4X�������������UG�4X���������������0D[��������������0D[��������������0D[���������������0D[�����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9�����������������9��������������0LQ��������������0LQ��������������0LQ���������������0LQ�������������

Page 19: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

�����VW�4X������������VW�4X������������VW�4X�������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�������������UG�4X��������������0D[��������������0D[��������������0D[���������������0D[����������������������9�����������������9����������������9����������������9��������������0LQ���������������0LQ��������������0LQ��������������0LQ������������������VW�4X�������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ������������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ��������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X�������������UG�4X������������UG�4X������������UG�4X��������������0D[���������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9�������������0LQ��������������0LQ��������������0LQ��������������0LQ�����������������VW�4X������������VW�4X������������VW�4X������������VW�4X�������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ�������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ����������������UG�4X������������UG�4X������������UG�4X������������UG�4X�������������0D[��������������0D[��������������0D[��������������0D[���������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ����������

Page 20: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9�������������0LQ��������������0LQ��������������0LQ��������������0LQ�����������������VW�4X������������VW�4X������������VW�4X������������VW�4X�������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ�������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ����������������UG�4X������������UG�4X������������UG�4X������������UG�4X�������������0D[��������������0D[��������������0D[��������������0D[���������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9���������������9����������������9����������������9��������������0LQ�������������0LQ��������������0LQ��������������0LQ������������������VW�4X�����������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X�����������UG�4X������������UG�4X������������UG�4X��������������0D[�������������0D[��������������0D[��������������0D[����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X����������

Page 21: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9���������������0LQ��������������0LQ��������������0LQ��������������0LQ�������������������VW�4X������������VW�4X������������VW�4X������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ������������������UG�4X������������UG�4X������������UG�4X������������UG�4X���������������0D[��������������0D[��������������0D[��������������0D[�����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9���������������0LQ��������������0LQ��������������0LQ��������������0LQ�������������������VW�4X������������VW�4X������������VW�4X������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ������������������UG�4X������������UG�4X������������UG�4X������������UG�4X���������������0D[��������������0D[��������������0D[��������������0D[�����������������������9����������������9����������������9�����������������9��������������0LQ��������������0LQ��������������0LQ���������������0LQ������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�������������UG�4X��������������0D[��������������0D[��������������0D[���������������0D[����������������������9����������������9�����������������9����������������9��������������0LQ��������������0LQ���������������0LQ��������������0LQ������������������VW�4X������������VW�4X�������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X������������UG�4X��������������0D[��������������0D[���������������0D[��������������0D[����������������������9����������������9����������������9�����������������9���������

Page 22: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0LQ��������������0LQ��������������0LQ���������������0LQ�����������������VW�4X������������VW�4X������������VW�4X�������������VW�4X�������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ�������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ����������������UG�4X������������UG�4X������������UG�4X�������������UG�4X�������������0D[��������������0D[��������������0D[���������������0D[���������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9�����������������9�����������������9��������������0LQ��������������0LQ���������������0LQ���������������0LQ������������������VW�4X������������VW�4X�������������VW�4X�������������VW�4X��������������0HGLDQ�����������0HGLDQ������������0HGLDQ������������0HGLDQ��������������0HDQ�������������0HDQ��������������0HDQ��������������0HDQ�����������������UG�4X������������UG�4X�������������UG�4X�������������UG�4X��������������0D[��������������0D[���������������0D[���������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9���������������0LQ��������������0LQ��������������0LQ��������������0LQ�������������������VW�4X������������VW�4X������������VW�4X������������VW�4X���������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ���������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ������������������UG�4X������������UG�4X������������UG�4X������������UG�4X���������������0D[��������������0D[��������������0D[��������������0D[�����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9�������������0LQ��������������0LQ��������������0LQ��������������0LQ�����������������VW�4X������������VW�4X������������VW�4X������������VW�4X�������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ�������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ����������������UG�4X������������UG�4X������������UG�4X������������UG�4X�������������0D[��������������0D[��������������0D[��������������0D[���������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9�����������������9��������������0LQ��������������0LQ��������������0LQ���������������0LQ������������������VW�4X������������VW�4X������������VW�4X�������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ������������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ��������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X�������������UG�4X��������������0D[��������������0D[��������������0D[���������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X����������

Page 23: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9����������������9����������������9����������������9��������������0LQ��������������0LQ��������������0LQ��������������0LQ������������������VW�4X������������VW�4X������������VW�4X������������VW�4X��������������0HGLDQ�����������0HGLDQ�����������0HGLDQ�����������0HGLDQ��������������0HDQ�������������0HDQ�������������0HDQ�������������0HDQ�����������������UG�4X������������UG�4X������������UG�4X������������UG�4X��������������0D[��������������0D[��������������0D[��������������0D[����������������������9��������������0LQ������������������VW�4X��������������0HGLDQ��������������0HDQ�����������������UG�4X��������������0D[�����������

VDSSO\�'$7$6(7�WHVW>���@��FODVV�

Page 24: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

����������9���������9���������9���������9���������9���������9���������9������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF������������9���������9��������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9���������9���������9���������9���������9���������9���������9�������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������9��������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������9���������9���������9���������9���������9��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�

)LQG�QXPEHU�RI�PLVVLQJ�YDOXHV�FKHFN�UDQJHV��75$,1,1*�GDWD�VHW�

Page 25: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

VXP�LV�QD�'$7$6(7�WUDLQ��

���>�@��

)LQG�QXPEHU�RI�PLVVLQJ�YDOXHV�FKHFN�UDQJHV��7(67,1*�GDWD�VHW�

VXP�LV�QD�'$7$6(7�WHVW��

���>�@��

7UDQVIRUPDWLRQ��7UDQVIRUP�/DEHO�DV�)DFWRU��&DWHJRULFDO��DQG�&KDQJH�&ROXPQ�1DPHV

�75$,1,1*�GDWD�VHW�

'$7$6(7�WUDLQ>���@����DV�IDFWRU�'$7$6(7�WUDLQ>���@�����$V�&DWHJRU\FROQDPHV�'$7$6(7�WUDLQ�����F��<���SDVWH��;�����������VHS� �����FODVV�'$7$6(7�WUDLQ>���@�

���>�@��IDFWRU�

OHYHOV�'$7$6(7�WUDLQ>���@�

����>�@����������������������������������������

VDSSO\�'$7$6(7�WUDLQ>���@��FODVV�

Page 26: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

�����������<�������;���������;���������;���������;���������;���������;��������IDFWRU���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������;���������;���������;��������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;��������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�

7UDQVIRUPDWLRQ��7UDQVIRUP�/DEHO�DV�)DFWRU��&DWHJRULFDO��DQG�&KDQJH�&ROXPQ�1DPHV

�7(67,1*�GDWD�VHW�

Page 27: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

'$7$6(7�WHVW>���@����DV�IDFWRU�'$7$6(7�WHVW>���@�����$V�&DWHJRU\FROQDPHV�'$7$6(7�WHVW�����F��<���SDVWH��;�����������VHS� �����FODVV�'$7$6(7�WHVW>���@�

���>�@��IDFWRU�

OHYHOV�'$7$6(7�WHVW>���@�

����>�@����������������������������������������

VDSSO\�'$7$6(7�WHVW>���@��FODVV�

Page 28: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

�����������<�������;���������;���������;���������;���������;���������;��������IDFWRU���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�����������;���������;���������;��������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;���������;���������;���������;���������;���������;��������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF����������;���������;��������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF���������;���������;���������;���������;���������;���������QXPHULF���QXPHULF���QXPHULF���QXPHULF���QXPHULF�

:ULWH�GDWD�VHW�LQ�:HND�$WWULEXWH�5HODWLRQ�)LOH�)RUPDW��$5))��ILOHV�

Page 29: Handwritten Digit recognition with R. Classification Problem
Page 30: Handwritten Digit recognition with R. Classification Problem
Page 31: Handwritten Digit recognition with R. Classification Problem
Page 32: Handwritten Digit recognition with R. Classification Problem
Page 33: Handwritten Digit recognition with R. Classification Problem
Page 34: Handwritten Digit recognition with R. Classification Problem
Page 35: Handwritten Digit recognition with R. Classification Problem
Page 36: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

&ODVVLILFDWLRQ��N�1HDUHVW�1HLJKERUV��N11��$OJRULWKP

SF����SURF�WLPH��PRGHO�NQQ����,%N�'$7$6(7�WUDLQ�<�a����GDWD� �'$7$6(7�WUDLQ�SURF�WLPH�����SF

������XVHU��V\VWHP�HODSVHG���������������������������

VXPPDU\�PRGHO�NQQ�

������ �6XPPDU\� ������&RUUHFWO\�&ODVVLILHG�,QVWDQFHV���������������������������������������,QFRUUHFWO\�&ODVVLILHG�,QVWDQFHV�������������������������������������.DSSD�VWDWLVWLF�����������������������������������0HDQ�DEVROXWH�HUURU�������������������������������5RRW�PHDQ�VTXDUHG�HUURU���������������������������5HODWLYH�DEVROXWH�HUURU�����������������������������5RRW�UHODWLYH�VTXDUHG�HUURU�������������������������&RYHUDJH�RI�FDVHV�������OHYHO�����������������������0HDQ�UHO��UHJLRQ�VL]H�������OHYHO�������������������7RWDO�1XPEHU�RI�,QVWDQFHV���������������������������� �&RQIXVLRQ�0DWUL[� ����������D����E����F����G����H����I����J����K����L����M�������FODVVLILHG�DV������������������������������������������������������_����D� ��������������������������������������������������������_����E� ��������������������������������������������������������_����F� ��������������������������������������������������������_����G� ��������������������������������������������������������_����H� ��������������������������������������������������������_����I� ��������������������������������������������������������_����J� ��������������������������������������������������������_����K� ��������������������������������������������������������_����L� ��������������������������������������������������������_����M� ��

&RQIXVLRQ�0DWUL[��N11�

SUHGLFWLRQ�NQQ����SUHGLFW�PRGHO�NQQ��QHZGDWD� �'$7$6(7�WHVW��W\SH� ��FODVV��WDEOH�C$FWXDO�&ODVVC� �'$7$6(7�WHVW�<��C3UHGLFWHG�&ODVVC� �SUHGLFWLRQ�NQQ�

���������������3UHGLFWHG�&ODVV���$FWXDO�&ODVV��������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

HUURU�UDWH�NQQ����VXP�'$7$6(7�WHVW�<�� �SUHGLFWLRQ�NQQ��QURZ�'$7$6(7�WHVW�SULQW�SDVWH���$FFXDU\��3UHFLVLRQ����������HUURU�UDWH�NQQ��

���>�@��$FFXDU\��3UHFLVLRQ���������������������

3UHGLFW�'LJLW�IRU�([DPSOH����N11�

URZ�����SUHGLFWLRQ�GLJLW����DV�YHFWRU�SUHGLFW�PRGHO�NQQ��QHZGDWD� �'$7$6(7�WHVW>URZ������@��W\SH� ��FODVV���SULQW�SDVWH���&XUUHQW�'LJLW�����DV�FKDUDFWHU�'$7$6(7�WHVW�<>URZ@���

Page 37: Handwritten Digit recognition with R. Classification Problem
Page 38: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

&ODVVLILFDWLRQ��)DVW�1HDUHVW�1HLJKERUV��)11��$OJRULWKP

SF����SURF�WLPH����$YRLG�1DPH�&ROOLVLRQ��NQQ�PRGHO�IQQ����)11��NQQ�'$7$6(7�WUDLQ>����@��'$7$6(7�WHVW>����@��'$7$6(7�WUDLQ�<������N� �����DOJRULWKP� ��FRYHUBWUHH��SURF�WLPH�����SF

������XVHU��V\VWHP�HODSVHG���������������������������

VXPPDU\�PRGHO�IQQ�

�������������������������������������������������������������������������������������

&RQIXVLRQ�0DWUL[��)11�

WDEOH�C$FWXDO�&ODVVC� �'$7$6(7�WHVW�<��C3UHGLFWHG�&ODVVC� �PRGHO�IQQ�

���������������3UHGLFWHG�&ODVV���$FWXDO�&ODVV��������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

HUURU�UDWH�IQQ����VXP�'$7$6(7�WHVW�<�� �PRGHO�IQQ��QURZ�'$7$6(7�WHVW�SULQW�SDVWH���$FFXDU\��3UHFLVLRQ����������HUURU�UDWH�IQQ��

���>�@��$FFXDU\��3UHFLVLRQ���������������������

3UHGLFW�'LJLW�IRU�([DPSOH����)11�

URZ�����SUHGLFWLRQ�GLJLW����PRGHO�IQQ>URZ@SULQW�SDVWH���&XUUHQW�'LJLW�����DV�FKDUDFWHU�'$7$6(7�WHVW�<>URZ@���

���>�@��&XUUHQW�'LJLW����

SULQW�SDVWH���3UHGLFWHG�'LJLW�����SUHGLFWLRQ�GLJLW��

���>�@��3UHGLFWHG�'LJLW����

SDU�PIURZ� �F��������SW\� ��V���PDU� �F��������������[D[W� ��Q���\D[W� ��Q��]����DUUD\�DV�YHFWRU�DV�PDWUL[�'$7$6(7�WHVW>URZ����@����GLP� �F���������]����]>������@����ULJKW�VLGH�XSLPDJH�������������]��PDLQ� �'$7$6(7�WHVW>URZ���@��FRO� �&86720B&2/256������

Page 39: Handwritten Digit recognition with R. Classification Problem
Page 40: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

&ODVVLILFDWLRQ��3UHGLFWLYH�0RGHO��1DLYH�%D\HV�$OJRULWKP

SF����SURF�WLPH��PRGHO�QDLYH%D\HV����QDLYH%D\HV�'$7$6(7�WUDLQ�<�a����GDWD� �'$7$6(7�WUDLQ�SURF�WLPH�����SF

������XVHU��V\VWHP�HODSVHG���������������������������

VXPPDU\�PRGHO�QDLYH%D\HV�

�����������/HQJWK�&ODVV��0RGH��������DSULRUL��������WDEOH��QXPHULF�����WDEOHV����������QRQH��OLVW��������OHYHOV����������QRQH��FKDUDFWHU���FDOO������������QRQH��FDOO

&RQIXVLRQ�0DWUL[��QDLYH%D\HV�

SUHGLFWLRQ�QDLYH%D\HV����SUHGLFW�PRGHO�QDLYH%D\HV��QHZGDWD� �'$7$6(7�WHVW��W\SH� ��FODVV��WDEOH�C$FWXDO�&ODVVC� �'$7$6(7�WHVW�<��C3UHGLFWHG�&ODVVC� �SUHGLFWLRQ�QDLYH%D\HV�

���������������3UHGLFWHG�&ODVV���$FWXDO�&ODVV��������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

HUURU�UDWH�QDLYH%D\HV����VXP�'$7$6(7�WHVW�<�� �SUHGLFWLRQ�QDLYH%D\HV��QURZ�'$7$6(7�WHVW�SULQW�SDVWH���$FFXDU\��3UHFLVLRQ����������HUURU�UDWH�QDLYH%D\HV��

���>�@��$FFXDU\��3UHFLVLRQ���������������������

3UHGLFW�'LJLW�IRU�([DPSOH����QDLYH%D\HV�

��$OO�3UHGLFWLRQ�IRU�5RZ��URZ�����SUHGLFWLRQ�GLJLW����DV�YHFWRU�SUHGLFW�PRGHO�QDLYH%D\HV��QHZGDWD� �'$7$6(7�WHVW>URZ������@��W\SH� ��FODVV���SULQW�SDVWH���&XUUHQW�'LJLW�����DV�FKDUDFWHU�'$7$6(7�WHVW�<>URZ@���

���>�@��&XUUHQW�'LJLW����

SULQW�SDVWH���3UHGLFWHG�'LJLW�����SUHGLFWLRQ�GLJLW��

���>�@��3UHGLFWHG�'LJLW����

]����DUUD\�DV�YHFWRU�DV�PDWUL[�'$7$6(7�WHVW>URZ����@����GLP� �F���������]����]>������@����ULJKW�VLGH�XSSDU�PIURZ� �F��������SW\� ��V���PDU� �F��������������[D[W� ��Q���\D[W� ��Q��LPDJH�������������]��PDLQ� �'$7$6(7�WHVW>URZ���@��FRO� �&86720B&2/256������

Page 41: Handwritten Digit recognition with R. Classification Problem
Page 42: Handwritten Digit recognition with R. Classification Problem

�������� +DQGZULWWHQ�'LJLW�5HFRJQLWLRQ��&/$66,),&$7,21�352%/(0�

ILOH����KRPH�JVDQWRV�5�56WDWV�0DGULG-8*�'DWD0LQLQJ�KDQGZULWWHQ�KWPO �����

&ODVVLILFDWLRQ��3UHGLFWLYH�0RGHO��690��6XSSRUW�9HFWRU�0DFKLQH�

$OJRULWKP

SF����SURF�WLPH��PRGHO�VYP����VYP�'$7$6(7�WUDLQ�<�a����PHWKRG� ��FODVV���GDWD� �'$7$6(7�WUDLQ�SURF�WLPH�����SF

������XVHU��V\VWHP�HODSVHG���������������������������

VXPPDU\�PRGHO�VYP�

������&DOO����VYP�IRUPXOD� �'$7$6(7�WUDLQ�<�a����GDWD� �'$7$6(7�WUDLQ��PHWKRG� ��FODVV�����������3DUDPHWHUV�������690�7\SH���&�FODVVLILFDWLRQ�����690�.HUQHO���UDGLDO�����������FRVW��������������JDPPD������������������1XPEHU�RI�6XSSRUW�9HFWRUV�����������������������������������������������������������������1XPEHU�RI�&ODVVHV������������/HYHOV�������������������������

��SORW�PRGHO�VYP��'$7$6(7�WUDLQ��'$7$6(7�WUDLQ�<�a]��

&RQIXVLRQ�0DWUL[��690�

SUHGLFWLRQ�VYP����SUHGLFW�PRGHO�VYP��QHZGDWD� �'$7$6(7�WHVW��W\SH� ��FODVV��WDEOH�C$FWXDO�&ODVVC� �'$7$6(7�WHVW�<��C3UHGLFWHG�&ODVVC� �SUHGLFWLRQ�VYP�

���������������3UHGLFWHG�&ODVV���$FWXDO�&ODVV��������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������

HUURU�UDWH�VYP����VXP�'$7$6(7�WHVW�<�� �SUHGLFWLRQ�VYP��QURZ�'$7$6(7�WHVW�SULQW�SDVWH���$FFXDU\��3UHFLVLRQ����������HUURU�UDWH�VYP��

���>�@��$FFXDU\��3UHFLVLRQ���������������������

3UHGLFW�'LJLW�IRU�([DPSOH����690�

��$OO�3UHGLFWLRQ�IRU�5RZ��URZ�����SUHGLFWLRQ�GLJLW����DV�YHFWRU�SUHGLFW�PRGHO�VYP��QHZGDWD� �'$7$6(7�WHVW>URZ������@��W\SH� ��FODVV���SULQW�SDVWH���&XUUHQW�'LJLW�����DV�FKDUDFWHU�'$7$6(7�WHVW�<>URZ@���

Page 43: Handwritten Digit recognition with R. Classification Problem
Page 44: Handwritten Digit recognition with R. Classification Problem
Page 45: Handwritten Digit recognition with R. Classification Problem
Page 46: Handwritten Digit recognition with R. Classification Problem
Page 47: Handwritten Digit recognition with R. Classification Problem