Algoritma Naive Bayes merupakan sebuah metoda klasifikasi menggunakan metode probabilitas dan statistik yg dikemukakan oleh ilmuwan Inggris Thomas Bayes. Algoritma Naive Bayes memprediksi peluang di masa depan berdasarkan pengalaman di masa sebelumnya sehingga dikenal sebagai Teorema Bayes. Ciri utama dr Naïve Bayes Classifier ini adalah asumsi yg sangat kuat (naïf) akan independensi dari masing-masing kondisi / kejadian.
Naive Bayes Classifier bekerja sangat baik dibanding dengan model classifier lainnya. Hal ini dibuktikan pada jurnal Xhemali, Daniela, Chris J. Hinde, and Roger G. Stone. “Naive Bayes vs. decision trees vs. neural networks in the classification of training web pages.” (2009), mengatakan bahwa “Naïve Bayes Classifier memiliki tingkat akurasi yg lebih baik dibanding model classifier lainnya”.
Keuntungan penggunan adalah bahwa metoda ini hanya membutuhkan jumlah data pelatihan (training data) yang kecil untuk menentukan estimasi parameter yg diperlukan dalam proses pengklasifikasian. Karena yg diasumsikan sebagai variabel independent, maka hanya varians dari suatu variabel dalam sebuah kelas yang dibutuhkan untuk menentukan klasifikasi, bukan keseluruhan dari matriks kovarians.
Tahapan dari proses algoritma Naive Bayes adalah:
Menghitung jumlah kelas / label.
Menghitung Jumlah Kasus Per Kelas
Kalikan Semua Variable Kelas
Bandingkan Hasil Per Kelas
1. Kelebihan & Kekurangan Naive Bayes
Kelebihan
Mudah untuk dibuat
Hasil bagus
Kekurangan
Asumsi independence antar atribut membuat akurasi berkurang (karena biasanya ada keterkaitan)
Jawaban untuk kasus di atas:
Jawab
Tahap 1 menghitung jumlah class/label
P(Y= TEPAT) = 8/15 ‘ jumlah data “TEPAT” pada komom ‘STATUS KELULUSAN’ dibagi jumlah data
P(Y= TERLAMBAT) = 7/15 ‘ jumlah data “TERLAMBAT” pada komom ‘STATUS KELULUSAN’ dibagi jumlah data
Tahap 2 menghitung jumlah kasus yang sama dengan class yang sama
P(JENIS KELAMIN = LAKI - LAKI | Y= TEPAT) = 5/8
‘jumlah data jenis kelamin “laki-laki” dengan keterangan “TEPAT” dibagi jumlah data TEPAT
P(JENIS KELAMIN = LAKI - LAKI | Y= TERLAMBAT) = 3/7
‘jumlah data jenis kelamin “laki-laki” dengan keterangan “TERLAMBAT” dibagi jumlah data TERLAMBAT
P(STATUS MAHASISWA = MAHASISWA | Y= TEPAT) = 5/8
‘jumlah data dengan status mahasiswa dengan keterangan “TEPAT” dibagi jumlah data TEPAT
P(STATUS MAHASISWA = MAHASISWA | Y= TERLAMBAT) = 3/7
‘jumlah data dengan status mahasiswa dengan keterangan “TERLAMBAT” dibagi jumlah data TERLAMBAT
P(STATUS PRENIKAHAN = BELUM| Y= TEPAT) = 4/8
‘jumlah data dengan status pernikahan “Belum menikah” dan keterangan “TEPAT” dibagi jumlah data TEPAT
P(STATUS PRENIKAHAN = BELUM| Y= TERLAMBAT) = 4/7
‘jumlah data dengan status pernikahan “Belum menikah” dan keterangan “TERLAMBAT” dibagi jumlah data TERLAMBAT
P(IPK = 2.70| Y= TEPAT) = 0/8
‘jumlah data IPK “2.70” dengan keterangan “TEPAT” dibagi jumlah data TEPAT
P(IPK = 2.70| Y= TERLAMBAT) = 1/7
‘jumlah data IPK “2.70” dengan keterangan “TERLAMBAT” dibagi jumlah data TERLAMBAT
Tahap 3 kalikan semua hasil variable TEPAT & TERLAMBAT
P (KELAMIN=LAKI – LAKI), (STATUS MHS=MAHASISWA), (PRENIKAHAN = BELUM), (IPK = 2.70 ) |TEPAT)
= {P(P(KELAMIN =LAKI-LAKI|Y=TEPAT). P(STATUS MHS = MAHASISWA | Y= TEPAT) . P(PRENIKAHAN = BELUM|Y=TEPAT). P(IPK = 2.70| Y= TEPAT)
= 5/8 . 5/8 . 4/8 . 0/8 . 8/15
= 0
P (KELAMIN=LAKI – LAKI), (STATUS MHS=MAHASISWA), (PRENIKAHAN = BELUM), (IPK = 2.70 ) |TERLAMBAT)
= {P(P(KELAMIN =LAKI-LAKI|Y= TERLAMBAT). P(STATUS MHS = MAHASISWA | Y= TERLAMBAT) . P(PRENIKAHAN = BELUM|Y= TERLAMBAT). P(IPK = 2.70| Y= TERLAMBAT)
= 3/7 . 3/7 . 4/7 . 1/7 . 7/15
= 0,0069
Tahap 4 Bandingkan hasil class TEPAT & TERLAMBAT
Karena hasil (P|TERLAMBAT) lebih besar dari (P|TERLAMBAT) maka keputusanya adalah “TERLAMBAT”
REF:
http://education-programmer.blogspot.com/2013/01/perhitungan-sederhana-naive-bayes-untuk.html
https://informatikalogi.com/algoritma-naive-bayes/
Post a Comment