PEMBATASAN AKSES JARINGAN VPN DENGAN …skripsi.narotama.ac.id/files/04107035 AFIF GHOZALI.pdf ·  · 2011-08-26Konfigurasi Iptables ... Untuk menjaga keamanan akan dipasang firewall

TUGAS AKHIR

PEMBATASAN AKSES JARINGAN VPN DENGAN IPTABLES

Oleh :

AFIF GHOZALINIM: 04107035

PROGRAM STUDI SISTEM KOMPUTER

FAKULTAS ILMU KOMPUTER

UNIVERSITAS NAROTAMA

SURABAYA

2010

KATA PENGANTAR

Alangkah nikmat dan indahnya kehidupan ini jika kita mampu mensyukuri

nikmat dan karunia yang diberikan Allah kepada kita semua. Dia yang

menciptakan kita, menyediakan kebutuhan kia da membantu kita dalam kesulitan

serta mencintai dan menyayangi kita dalam pangkuan kasih dan karunia-Nya.

Oleh karena itu dengan persaksian bahwa tiada sesembahan yang haq melainkan

Allah dan Muhammad adalah hamba dan utusan-Nya penulis panjatkan syukur ke

hadirat Illahi Robbi yang telah dengan berkah dan dengan pertolongan-Nya

penulis dapat menyelesaikan Tugas Akhir ini yang berjudul :

PEMBATASAN AKSES JARINGAN VPN

DENGAN IPTABLES

Dalam penyelesaian Tugas Akhir ini kami melaksanakan berdasarkan teori yang

telah kami peroleh, literatur dan sumber - sumber yang valid lainnya.

Tak lupa pada kesempatan ini penulis mengucapkan terimakasih atas doa,

bantuan dan bimbingan dari berbagai pihak yang telah sedikit banyak membantu

dalam menyelesaikan tugas akhir ini.

1. Bapak Didik Tristianto., S. Kom., M.Kom selaku Dosen Pembimbing

sekaligus Ketua Prodi Sistem Komputer, terimakasih atas segala arahan dan

bimbingannya selama pembuatan Tugas Akhir.

2. Bapak Cahyo Darujati. ST Sebagai Dosen pembimbing, terimakasih atas

arahan dan saran yang telah diberikan.

3. Ibu Rinci Kembang Hapsari., S.Si.,M.Kom yang telah banyak membantu

kelancaran study saya selama menempuh perkuliahan di Universitas

Narotama Surabaya.

Penulis sadar bahwasannya masih banyak kesalahan – kesalahan dan

kekurangan dalam menyusun laporan Tugas Akhir ini. Untuk itu penulis mohon

maaf dan mengharapkan kritik dan saran dari pembaca. Semoga buku ini

bermanfaat dalam menghasilkan sumber daya manusia yang berkualitas.

Amien….

Surabaya, 14 Oktober 2010

Penulis

DAFTAR ISI

HALAMAN JUDUL………………………………………………............. i

LEMBAR PENGESAHAN PEMBIMBING……………………………... ii

LEMBAR PENGESAHAN PENGUJI……….…………………………... iii

SURAT PERNYATAAN…………………..……………………………... iv

KATA PENGANTAR…………………………………………………….. v

DAFTAR ISI………………………………………………………………. vii

DAFTAR GAMBAR……………………………………………………… x

DAFTAR TABEL……...………………………………………………….. xii

ABSTRAK………………………………………………………………… xiii

ABSTRACT……………………………………………………………….. xiv

BAB I. PENDAHULUAN………………………………………………... 1

1.1. Latar Belakang…………………...…………………………….. 1

1.2. Rumusan Masalah………..……...……………………………... 2

1.3. Tujuan………………………………………………………....... 2

1.4. Batasan Masalah………..………………………………………. 3

1.5. Metode Penelitian.……………………………………………… 4

1.6. Ruang Lingkup…………………..……………………………... 5

1.7. Sistematika Penulisan..…………..……………………………... 5

BAB II. TINJAUAN PUSTAKA………………………………………… 7

2.1. Open System Interconnection (OSI) Layer..…………………… 7

2.1.1. Arsitektur model OSI..………………………….……….. 7

2.1.2. Fungsi Layer..………………………………….………… 8

2.1.3. Fungsi Layer………………………………….………..… 11

2.2. Internet Protokol Virtual Private Network (VPN)……………… 14

2.2.1. Platform Teknologi IP VPN................................................ 15

2.2.1.1. Intranet……...……………………………………. 15

2.2.1.2. Kebutuhan Kebutuhan Keamanan..………………. 16

2.2.1.3. Mengakomodasi Perubahan...……………………. 16

2.2.1.4. Sebuah VPN (Virtual Private Network) Dinamis... 17

2.2.1.5. Kemampuan VPN Dinamis….………………….... 18

2.2.1.6. Menggunakan Intranet Bisnis…….………………. 18

2.2.2. Metoda dan Mekanisme Keamanan.……...……...………. 17

2.3. Firewall sebagai Security Internet……………………………… 22

2.3.1. Firewall…………………………...………...……………. 23

2.3.2. Merencanakan Jaringan dengan Firewall…...……………. 24

2.3.3. Paket Filtering..…………………...………...……………. 28

2.3.4. Perintah Dasar Iptables sebagai Firewall…...……………. 29

2.3.4.1. Table…….………………….…….………………. 29

2.3.4.2. Command.………………….…….………………. 30

2.3.4.3. Option…..………………….…….………………. 31

2.3.4.4. Generic Matches………..….…….………………. 32

2.3.4.5. Implisit Matches………..….…….………………. 33

2.3.4.6. Explicit Matches…..……….…….………………. 36

2.3.4.7.Target / Jump……………….…….………………. 37

2.4. IP Address………………………….…………………………… 41

2.4.1. Kelas Address….…..……………...………...……………. 43

2.4.2. Subnet Mask….…………………...………...……………. 44

BAB III. PERENCANAAN DAN PEMBUATAN SISTEM……………. 47

3.1. Cara Kerja Sistem……………………..………………………... 47

3.2. Algoritma Sistem Secara Umum……………………………….. 48

3.2.1. Instalasi VPN dengan OpenVPN..……………………….. 49

3.2.2. Koneksi VPN Client ke VPN Server dengan OpenVPN… 58

2.3.1. Firewall dengan Iptables……..…...………...……………. 61

BAB IV. HASIL UJI COBA DAN ANALISA………..………………... 69

4.1. Konfigurasi Sistem……………………………………………... 69

4.2. Konfigurasi Iptables……………………………………………. 71

4.2.1. Block/Unblock Connection……...……………………….. 71

4.2.2. Delete Iptables Rules……..……...……………………….. 76

4.2.3. Custom Script…………………....……………………….. 76

4.2.4. Display Configuration…………...……………………….. 77

4.2.5. Clear Iptables………………..…...……………………….. 78

4.3. Analisa………………………………………………………….. 78

BAB V. PENUTUP………………………………………………………. 84

5.1 Kesimpulan……………………………………………………… 84

5.2 Saran…………………………………………………………….. 88

DAFTAR GAMBAR

Gambar 2.1. Ilustrasi Jaringan Virtual Private Network (VPN).……..…… 14

Gambar 2.2. Enkripsi Public Key……………………..…………………… 20

Gambar 2.3. Contoh IP Address……………………..……………….…… 42

Gambar 2.4. Contoh algoritma untuk konversi IP address dalam format

bilangan decimal………………………………………………………….. 42

Gambar 2.5. Macam-macam IP address dari atas…………………..…….. 44

Gambar 2.6. IP Address dan Subnet Mask-nya……………………..……. 45

Gambar 2.7. Mencari Network ID……..…………………………………. 46

Gambar 3.1. Kerja sistem………………………………………………….. 48

Gambar 3.1. Blok Diagram Koneksi VPN……..…………………………. 59

Gambar 3.2. Proses Koneksi VPN dengan OpenVpn………………..…… 61

Gambar 3.3. Blok Diagram Program Iptables Fix……………………….... 66

Gambar 3.4. Blok Diagram Program Iptables Custom Script...................... 51

Gambar 3.5. Blok Diagram Program Delete Iptables……………………... 67

Gambar 4.1. Software OpenVPN Client…………………………………... 69

Gambar 4.2. Software OpenVPN Server yang Sudah dirunning………..… 70

Gambar 4.3. Gambar Koneksi VPN Berhasil……………………………... 70

Gambar 4.4. Tampilan awal program iptables script…..…………………. 71

Gambar 4.5. Sub menu blok/unblock connection……..…..……………… 72

Gambar 4.6. Block/unblock all connection from computer……..………… 72

Gambar 4.7. Ping dari client ke server terputus denangan pesan request

time out setelah di block………………………………..……………. 73

Gambar 4.8. Block/unblock all connection from computer to server …….. 74

Gambar 4.9. (a) computer dengan IP 10.8.0.6 tidak dapat ngeakses server.

(b) computer dengan IP 10.8.0.10 tetap dapat ngekases server…………… 74

Gambar 4.10. Block/unblock all connection from computer to domain…... 75

Gambar 4.11. Hasil ping koneksi ke domain setelah di blok…………..…. 75

Gambar 4.12. Delete Chain dalam iptables……………….………………. 76

Gambar 4.13. Custom Script iptables………………………..……………. 77

Gambar 4.14. Display Configuration iptables……………….……………. 77

Gambar 4.15. Setting iptables default…………………….………………. 78

Gambar 4.16. Perjalanan paket data di iptbles……………….……………. 79

DAFTAR TABEL

Tabel 2.1. Model OSI Layer………….……………………………………. 7

Tabel 2.2. Contoh aturan firewall………..……………………………....... 28

Tabel 2.3. Perbandingan Network ID………………..…………………….. 43

Tabel 2.4. Perbandingan Host ID…………………………………………. 43

Tabel 2.5. Perbandingan Jumlah jaringan dan Host……………………….. 44

Tabel 2.6. Default Subnet Mask……..……………………………………. 45

PEMBATASAN AKSES JARINGAN VPN DENGAN IPTABLES

Oleh : Afif Ghozali

Pembimbing : Didik Tristianto, S.Kom., M.Kom

ABSTRAK

Salah satu masalah jaringan internet (IP public) adalah tidak mendukung keamanan data. Internet adalah jaringan terbuka dimana setiap orang dapat mengakses, berbagi, dan mendapatkan informasi semudah mungkin. Sehingga diperlukan suatu teknologi yg berfungi untuk mengamankan sebuah jaringan publik tanpa melanggar peraturan yang ada. Meskipun Teknologi tersebut mempunyai tingkat keamanan yang tinggi tetapi seseorang yang menggunakan jaringan harus tetap dapat mengakses, mengubah, dan berbagi lebih banyak informasi dengan mudah meskipun ada batasan - batasan dengan tujuan keamanan.

Dalam tugas akhir ini akan dikembangkan sistem virtual private netwok(VPN) dimana VPN ini akan dibangun diatas jaringan internet sehingga memungkinkan setiap orang bisa membuat koneksi ke VPN server dari manapun juga. Untuk menjaga keamanan akan dipasang firewall di VPN server, fungsinya untuk melindungi data penting dan keamanan jaringan. Dengan batasan ini diharapkan manajemen bandwidth bisa diatur.

Kata Kunci : virtual private netwok (VPN), bandwidth, firewall,server

PEMBATASAN AKSES JARINGAN VPN DENGAN IPTABLES

By : Afif Ghozali

Guidance : Didik Tristianto, S.Kom., M.Kom

ABSTRACT

One of Internet network problem (IP public ) are not support data security. Internet is exposed network where anyone can access, share, and get information as easy as possible. So is required a technology to secure the public network without breach established procedures. although the Technology has high security but someone using the network must can get accesses, change and share more information easily although there are limitations purposed to security.

In this project will develop virtual private netwok (VPN) system where the VPN will built over Internet network so anyone can make connection to VPN server everywhere. For security access will built firewall at VPN server, its function is protect private data and network security. With this limitation is expected management bandwidth can be managed.

Key word : virtual private netwok (VPN), bandwidth, firewall,server

DAFTAR PUSTAKA

1. Aris Wendy dan Achmad ss Ramadhana, (2008): Membangun VPN Linux

Secara Cepat, Andi Offset, Jakarta.

2. Efri, angga, ita, (2002): Paper Virtual Private Network, Universitas

Pembangunan Nasional Veteran Jakarta.

3. Rafiudin Rahmat, (2008): Ip Routing Dan Firewall Dalam Linux, Andi Offset.

4. Ayunda Pratama Rizki. (2008): Konsep Firewall Berbasis Paket Filtering,

Universitas Brawijaya.

5. Sadikin Nanang, (2009): Mastering VPN Client Access di Windows Server 2008, Andi

Offset, Jakarta.

6. http://vtun.sourceforge.net/tun/ , 12 agustus 2010

7. http://www.openssl.org/ , 07 agustus 2010

8. https://help.ubuntu.com/community/IptablesHowTo, 18 agustus 2010

9. www.openvpn.net/howto.html, 20 agustus 2010

10. http://www.klik-kanan.com/fokus/firewall3.shtml, 14 agustus 2010