Cara Install OpenVPN Server di VPS Ubuntu

OpenVPN adalah salah satu solusi VPN (Virtual Private Network) paling populer dan fleksibel yang digunakan untuk mengamankan koneksi internet dan menghubungkan jaringan secara privat lewat jalur publik. Dengan OpenVPN, Anda bisa membuat jalur komunikasi yang terenkripsi sehingga data aman dari serangan dan intersepsi. Pada artikel ini, kita akan membahas cara install OpenVPN Server di VPS Ubuntu secara lengkap dan mudah diikuti, mulai dari persiapan hingga konfigurasi dasar agar client bisa terkoneksi.

Mengapa Memilih OpenVPN?

OpenVPN menawarkan beberapa keunggulan, antara lain:

• Keamanan tinggi dengan enkripsi kuat menggunakan SSL/TLS.
• Kompatibilitas luas di berbagai platform (Windows, Linux, macOS, Android, iOS).
• Fleksibilitas konfigurasi yang bisa disesuaikan kebutuhan.
• Dukungan komunitas besar dan dokumentasi lengkap.

OpenVPN sangat cocok dipakai untuk kebutuhan personal, perusahaan, maupun jaringan yang memerlukan koneksi aman.

Persiapan Sebelum Instalasi

Sebelum memulai instalasi, pastikan hal-hal berikut:

1. Anda memiliki VPS dengan sistem operasi Ubuntu (direkomendasikan Ubuntu 20.04 LTS atau lebih baru).
2. Anda punya akses root atau user dengan hak sudo.
3. VPS sudah terkoneksi ke internet dan port yang dibutuhkan (default 1194 UDP) dibuka di firewall.
4. Pahami dasar command line Linux agar mudah mengikuti langkah instalasi.

Langkah 1: Update Sistem Ubuntu

Langkah awal adalah memastikan sistem dan paket sudah up-to-date agar instalasi lancar.

Trending

Integrasi Mikrotik CHR dan Tunnel GRE di Cloud

sudo apt update && sudo apt upgrade -y

Langkah 2: Install OpenVPN dan Easy-RSA

OpenVPN menggunakan Easy-RSA untuk membuat sertifikat dan kunci enkripsi yang dibutuhkan.

Install paket OpenVPN dan Easy-RSA:

sudo apt install openvpn easy-rsa -y

Langkah 3: Konfigurasi Easy-RSA dan Pembuatan CA

Easy-RSA akan membantu membuat Certificate Authority (CA), sertifikat server, dan kunci.

• Salin Easy-RSA ke direktori baru:

make-cadir ~/openvpn-ca
cd ~/openvpn-ca

• Edit file vars untuk menyesuaikan informasi sertifikat:

nano vars

Ubah nilai-nilai seperti KEY_COUNTRY, KEY_PROVINCE, KEY_CITY, KEY_ORG, KEY_EMAIL, dan KEY_CN sesuai kebutuhan Anda.

• Muat variabel dan mulai proses pembuatan:

source vars
./clean-all
./build-ca

Anda akan diminta mengisi beberapa informasi; tekan Enter untuk default kecuali Anda ingin menyesuaikan.

Langkah 4: Buat Sertifikat Server dan Kunci

• Buat sertifikat dan kunci server:

./build-key-server server

• Buat Diffie-Hellman parameter:

./build-dh

• Buat HMAC key untuk TLS Authentication:

openvpn --genkey --secret keys/ta.key

Langkah 5: Konfigurasi Server OpenVPN

Salin file konfigurasi contoh OpenVPN ke /etc/openvpn:

sudo cp /usr/share/doc/openvpn/examples/sample-config-files/server.conf.gz /etc/openvpn/
cd /etc/openvpn
sudo gzip -d server.conf.gz

Edit file server.conf sesuai kebutuhan, terutama pada bagian:

• Aktifkan TLS Authentication dengan menambahkan:

tls-auth ta.key 0
key-direction 0

• Set jalur sertifikat dan kunci dengan path absolut, contohnya:

ca /etc/openvpn/ca.crt
cert /etc/openvpn/server.crt
key /etc/openvpn/server.key
dh /etc/openvpn/dh.pem
tls-auth /etc/openvpn/ta.key 0

• Pastikan protokol dan port sudah benar:

port 1194
proto udp
dev tun

Langkah 6: Salin Sertifikat dan Kunci ke Direktori OpenVPN

Salin semua file penting dari Easy-RSA ke folder OpenVPN:

sudo cp ~/openvpn-ca/keys/{ca.crt,server.crt,server.key,ta.key,dh.pem} /etc/openvpn/

Langkah 7: Atur IP Forwarding dan Firewall

Agar paket VPN bisa diteruskan ke internet, aktifkan IP forwarding:

sudo nano /etc/sysctl.conf

Cari baris:

#net.ipv4.ip_forward=1

Hilangkan tanda # agar menjadi:

net.ipv4.ip_forward=1

Simpan dan terapkan konfigurasi:

sudo sysctl -p

Konfigurasikan firewall dengan ufw (atau iptables) agar paket VPN dapat mengalir:

sudo ufw allow 1194/udp
sudo ufw allow OpenSSH

Tambahkan aturan NAT di /etc/ufw/before.rules di bagian *nat:

*nat
:POSTROUTING ACCEPT [0:0]
-A POSTROUTING -s 10.8.0.0/24 -o eth0 -j MASQUERADE
COMMIT

Pastikan mengganti eth0 dengan interface VPS Anda (ip a untuk cek).

Aktifkan UFW dengan aturan baru:

sudo ufw disable
sudo ufw enable

Langkah 8: Jalankan dan Aktifkan OpenVPN Server

Mulai layanan OpenVPN:

sudo systemctl start openvpn@server
sudo systemctl enable openvpn@server

Periksa status:

sudo systemctl status openvpn@server

Pastikan tidak ada error.

Langkah 9: Membuat Konfigurasi Client

Untuk menghubungkan client ke server OpenVPN, Anda harus membuat file konfigurasi client dengan sertifikat yang sesuai.

• Buat sertifikat client:

cd ~/openvpn-ca
source vars
./build-key client1

• Salin sertifikat client ke folder yang bisa diunduh dan buat file .ovpn dengan konfigurasi yang tepat, contohnya:

client
dev tun
proto udp
remote your_server_ip 1194
resolv-retry infinite
nobind
persist-key
persist-tun
remote-cert-tls server
tls-auth ta.key 1
cipher AES-256-CBC
auth SHA256
key-direction 1
verb 3

<ca>
-----BEGIN CERTIFICATE-----
...isi ca.crt...
-----END CERTIFICATE-----
</ca>

<cert>
-----BEGIN CERTIFICATE-----
...isi client1.crt...
-----END CERTIFICATE-----
</cert>

<key>
-----BEGIN PRIVATE KEY-----
...isi client1.key...
-----END PRIVATE KEY-----
</key>

<tls-auth>
-----BEGIN OpenVPN Static key V1-----
...isi ta.key...
-----END OpenVPN Static key V1-----
</tls-auth>

Kesimpulan

Menginstall OpenVPN Server di VPS Ubuntu memang memerlukan beberapa langkah teknis, mulai dari instalasi paket, pembuatan sertifikat, konfigurasi server, sampai pengaturan firewall dan IP forwarding. Namun, dengan mengikuti panduan ini secara bertahap, Anda bisa memiliki VPN server yang aman dan dapat diakses dari berbagai perangkat.

OpenVPN sangat cocok untuk mengamankan komunikasi data, mengakses jaringan kantor dari jarak jauh, dan melindungi privasi Anda saat berselancar di internet. Jika ingin tutorial konfigurasi client untuk berbagai platform atau skrip otomatisasi instalasi OpenVPN, saya siap membantu!