P1 - Pengenalanreza_chan.staff.gunadarma.ac.id/.../P1+-+Pengenalan+Deep+Learning.pdf · PENGENALAN PengantarDeep Learning. Background Manusia telah lama memimpikanmesinyangdapat ...

PENGENALAN

Pengantar Deep Learning

Background

Manusia telah lamamemimpikan mesin yang dapat"berfikir", bahkan sejak zamanYunani kuno, seperti Talosdalam mitos Yunani kuno.

Talos digambarkan sebagaiautomaton ( semacam robot)yang terbuat dari perungguyang diciptakan untukmelindungi Eropa.

Background

Keingintahuan manusia terusberlanjut sampai komputer

pertama kali ditemukan, para insinyur dan ilmuan bertanya-tanya apakah komputer suatu

hari mampu "berfikir".

Rasa ingin tahu tersebut telahmelahirkan salah satu bidangilmu komputer yang disebut

kecerdasan buatan (Artificial Intelligence).

Kecerdasan buatan adalah studi tentang teori dan pengembangan sistem komputer agar mampu

melakukan tugas-tugas yang dahulu hanya dapat

dilakukan oleh manusia.

Machine Learning

Dengan berkembangnya teknologi kecerdasanbuatan, muncul salah satu cabang kecerdasanbuatan yang memperoleh banyak perhatian daripara peneliti yang disebut machine learning.

Machine Learning mempelajari teori agarkomputer mampu "belajar" dari data, machinelearning melibatkan berbagai disiplin ilmu sepertistatistika, ilmu komputer, matematika dan bahkanneurologi.

Machine Learning

Salah satu algoritma machine learning yangmenarik adalah jaringan saraf tiruan, sepertinamanya jaringan saraf tiruan terinspirasi daricara kerja otak manusia (yang disederhanakan).

Secara intuisi mencari inspirasi untuk membuatmesin mampu "berfikir" dari cara kerja otakadalah langkah yang bagus sama halnya sepertiingin membuat alat yang mampu terbang denganmelihat cara kerja burung terbang.

Machine Learning

Dalam salah satu model jaringan saraf tiruanyang disebut MLP (Multi Layer Perceptron)dikenal istilah layer,• Beberapa neuron tiruan dikelompokan menjadi satu layer

kemudian layer satu menjadi input bagi layer yang lain

MLP sebenarnya adalah model (matematika)yang terdiri dari komposisi-komposisi fungsidari vektor ke vektor• Model ini biasanya di-train menggunakan algortima

optimisasi berbasis gradien seperti gradient descent,

Machine Learning

Berbagai masalah muncul ketika model jaringan saraf tiruan memiliki banyak layer, salah satu masalah yang

terkenal disebut the vanishing gradient

Masalah ini muncul karena jaringan saraf tiruan dengan banyak layer sebenarnya adalah fungsi yang terdiri

dari banyak komposisi fungsi sehingga ketika menghitung gradien terhadap parameter dari fungsi

tersebut,

Kita harus menggunakan aturan rantai yang menyebabkan gradien parameternya bernilai kecil

sehingga algoritma gradient descent berjalan lambat.

Deep Learning

Pada tahun 2006, Geoffrey Hinton memperkenalkan salah satuvarian jaringan saraf tiruan yang disebut deep belief nets

Ide untuk men-train model jaringan saraf tiruan ini adalah denganmen-train dua layer kemudian tambahkan satu layer diatasnya,kemudian train hanya layer teratas dan begitu seterusnya.

Dengan strategi ini kita dapat men-train model jaringan saraftiruan dengan layer lebih banyak dari model-model sebelumnya.

• Paper ini merupakan awal populernya istilah deep learning untuk membedakanarsitektur jaringan saraf tiruan dengen banyak layer.

Deep Learning

Deep learning adalah varian dari pembelajaran mesin yangberbasis jaringan syaraf tiruan dengan banyak hiddenlayers yang memiliki kemampuan untuk mempelajarirepresentasi atau fitur data secara otomatis.

Sebelum deep learning dikenal, fitur dari sebuahpembelajaran mesin dalam domain tertentu harus di analisisdan ditentukan oleh perekayasanya dan dintegrasikandalam algoritma pembelajaran karena penemuan fitursecara otomatis hanya dengan sedikit prior knowledgedianggap tidak mungkin.

Deep Learning

Jaringan pembelajaran yang mendalam adalahperkembangan revolusioner jaringan syaraftiruan, dan telah disarankan agar dapatdimanfaatkan untuk menciptakan prediktor yanglebih hebat lagi.

Prosesor komputer yang lebih cepat, memori yanglebih murah dan banjirnya bentuk data barumemungkinkan bisnis dari semua ukuran menjadigunakan pembelajaran mendalam untukmentransformasi analisis data real-time.

Deep learning merupakan bagian dari machinelearning dan machine learning merupakanbagian dari artificial intelligence

Deep Learning

Deep Learning

Setelah istilah deep learning populer, deep learning belum menjadi daya tarik yang besar bagi para peneliti karena jaringan saraf tiruan

dengan banyak layer memiliki kompleksitas algoritma yang besar, sehingga membutuhkan komputer dengan spesifikasi tinggi, dan tidak

efisien secara komputasi saat itu.

Hingga pada tahun 2009 Andrew ng dkkmemperkenalkan penggunaan GPU untuk deep learning melalui paper yang berjudul Large-

scale Deep Unsupervised Learning using Graphics Processors.

Deep Learning

Dengan menggunakan GPU jaringan saraf tiruan dapat berjalan lebih cepat dibanding dengan menggunakan CPU.

Dengan tersedianya hardware yang memadai perkembangan deep learning mulai pesat, dan menghasilkan produk-produk yang dapat kita nikmati saat ini seperti pengenal wajah, self-driving car, pengenal suara, dan lain lain.

Contoh Deep Learning

Referensi

¨ https://www.codepolitan.com/mengenal-teknologi-deep-learning-dan-sejarahnya-59aaea44b5f64

TERIMA KASIH