Prodi Bisnis Digital · FEB UNDIP

Laboratorium Sains Data

Pertemuan 8: Metode Analitik Lanjut — Klasifikasi (Decision Tree & Naive Bayes)

Dari data berlabel ke keputusan otomatis: bagaimana mesin "belajar" memisahkan nasabah lancar dari yang macet, email spam dari yang bukan.

RPS minggu 9 · 2x50 menit

Selamat datang kembali, Anda sudah melewati tujuh pertemuan mulai dari pengantar data science sampai regresi linier — hari ini kita masuk ke topik yang sangat dipakai di dunia kerja, yaitu klasifikasi. Bayangkan Anda bekerja di bagian analitik BRI atau OVO: setiap hari ada ribuan pengajuan pinjaman atau transaksi yang harus dikategorikan "disetujui/ditolak" atau "wajar/mencurigakan" — itulah pekerjaan model klasifikasi. Pertemuan ini berbeda dari regresi linier minggu lalu yang memprediksi angka kontinu (misalnya omzet), sekarang kita memprediksi kategori atau label diskrit. Kita akan belajar dua algoritma paling populer dan paling mudah dipahami pemula, yaitu Decision Tree dan Naive Bayes, lengkap dengan hitungan manual supaya Anda paham "isi dalam kotak hitam"-nya, bukan sekadar memanggil fungsi di Python.

Bagian 1 dari 3

Mengenal Klasifikasi & Decision Tree

Konsep dasar klasifikasi, lalu membedah cara kerja pohon keputusan langkah demi langkah menggunakan Entropy dan Information Gain.

Tujuan Pembelajaran Hari Ini

Setelah pertemuan ini, Anda diharapkan mampu:

Konsep

Menjelaskan perbedaan klasifikasi dengan klastering & regresi, serta cara kerja Decision Tree dan Naive Bayes.

Hitungan

Menghitung Entropy, Information Gain, dan probabilitas Bayes secara manual dari data sederhana.

Evaluasi

Membaca confusion matrix dan menghitung akurasi, presisi, serta recall model klasifikasi.

Praktik

Mengenali alur kerja implementasi kedua algoritma memakai scikit-learn di Python untuk kasus bisnis nyata.

Apa Itu Klasifikasi?

Klasifikasi adalah teknik supervised learning (belajar dari data yang sudah berlabel) untuk memprediksi kategori/kelas suatu data baru berdasarkan pola dari data historis.

Regresi (P7)

Prediksi angka kontinu

Contoh: memprediksi omzet toko bulan depan (Rp).

Klastering (P5)

Kelompokkan data TANPA label

Contoh: mengelompokkan pelanggan Tokopedia jadi 3 segmen belanja.

Klasifikasi (P8)

Prediksi kategori DENGAN label

Contoh: memprediksi status kredit "lunas" atau "macet".

Perbedaan paling mendasar yang sering membingungkan mahasiswa adalah antara klasifikasi dan klastering, jadi mari kita luruskan sejak awal. Pada klastering yang Anda pelajari di pertemuan lima, data tidak punya label jawaban — algoritma sendiri yang menemukan pengelompokan alami, misalnya K-Means mengelompokkan pelanggan Tokopedia berdasarkan pola belanja tanpa ada yang memberi tahu "ini kelompok hemat, ini kelompok boros". Sebaliknya pada klasifikasi, data historis sudah punya label pasti, misalnya dari seribu nasabah yang lalu kita tahu persis siapa yang lunas dan siapa yang macet, dan model belajar dari label itu untuk memprediksi nasabah baru. Regresi pada pertemuan tujuh mirip klasifikasi karena sama-sama supervised, bedanya regresi memprediksi angka yang kontinu seperti omzet dalam rupiah, sedangkan klasifikasi memprediksi kategori diskrit seperti ya/tidak atau spam/bukan-spam.

Studi Kasus: Mengapa Ini Penting?

Perbankan & Fintech

BRI & BCA menilai kelayakan kredit dalam hitungan detik
OVO & GoPay mendeteksi transaksi mencurigakan (fraud)
Kredit macet yang lolos = kerugian langsung bagi bank

E-Commerce & UMKM

Tokopedia & Shopee menyaring email/pesan spam ke penjual
Klasifikasi ulasan produk: positif vs negatif
UMKM memprediksi risiko pelanggan gagal bayar (paylater)

Inti masalah bisnis hari ini: dari data riwayat nasabah/pelanggan, bisa kah kita memprediksi kategori untuk kasus baru secara otomatis dan konsisten?

Supaya topik ini tidak terasa abstrak, mari kita lihat langsung ke mana ilmu ini dipakai di sekitar Anda. Setiap kali Anda mengajukan pinjaman di aplikasi seperti Kredivo atau melakukan pengajuan KUR di BRI, di baliknya ada model klasifikasi yang dalam hitungan detik memutuskan apakah pengajuan Anda layak disetujui berdasarkan riwayat data ribuan nasabah sebelumnya. Contoh lain yang lebih dekat dengan keseharian adalah filter spam di email atau di kolom komentar marketplace seperti Tokopedia, yang otomatis menyortir pesan promosi mencurigakan dari pesan pelanggan yang sah. Bayangkan jika UMKM Anda punya seribu pelanggan paylater — tanpa model klasifikasi, tim keuangan harus menilai satu per satu secara manual, padahal dengan Decision Tree atau Naive Bayes proses itu bisa diotomatisasi dan konsisten. Inilah alasan topik hari ini sangat relevan untuk karier Anda di bisnis digital, bukan sekadar teori statistik di kelas.

Decision Tree: Anatomi Pohon Keputusan

Decision Tree mengklasifikasikan data lewat serangkaian pertanyaan ya/tidak yang disusun bertingkat, seperti alur wawancara petugas kredit.

Tantangannya: atribut mana yang harus ditanyakan lebih dulu (jadi root)? Jawabannya lewat ukuran Entropy & Information Gain — dua slide berikut.

Perhatikan diagram ini seperti alur seorang petugas bank mewawancarai calon debitur — pertanyaan pertama di paling atas disebut root node atau akar, misalnya "bagaimana riwayat kredit calon nasabah ini". Setiap kali dijawab, kita turun ke node berikutnya yang disebut internal node, sampai akhirnya tiba di leaf atau daun, yaitu keputusan akhir seperti "setujui" atau "tolak". Yang menarik dan sering jadi pertanyaan mahasiswa adalah, dari sekian banyak atribut yang tersedia seperti riwayat kredit, penghasilan, atau jumlah tanggungan, bagaimana algoritma tahu atribut mana yang harus ditanyakan pertama kali sebagai root? Jawabannya bukan asal tebak, melainkan lewat ukuran matematis bernama Entropy dan Information Gain yang akan kita hitung manual di dua slide berikutnya, supaya Anda paham bahwa pohon ini dibangun berdasarkan logika, bukan kebetulan.

Entropy: Mengukur "Ketidakteraturan" Data

Entropy mengukur seberapa campur-aduk label dalam satu kumpulan data. Semakin campur (mendekati 50:50), semakin tinggi entropy-nya (maks = 1 untuk 2 kelas).

Entropy(S) = −Σ p_i × log₂(p_i)

Entropy Rendah (~0)

Semua data satu kelas saja, misalnya 10 dari 10 nasabah "lunas". Sudah murni, tidak perlu ditanya lagi.

Entropy Tinggi (~1)

Data campur rata, misalnya 5 "lunas" & 5 "macet". Masih sangat tidak pasti, perlu pertanyaan lanjutan.

Hitung dari Nol #1: Entropy Data Awal

Data 10 pengajuan pinjaman UMKM: 6 Disetujui (Ya), 4 Ditolak (Tidak). Hitung Entropy(S) sebelum di-split.

Langkah	Perhitungan	Nilai
1. Proporsi "Ya"	6 ÷ 10	0,60 (60%)
2. Proporsi "Tidak"	4 ÷ 10	0,40 (40%)
3. log&sub2;(0,60)	ln(0,6) ÷ ln(2)	−0,737
4. log&sub2;(0,40)	ln(0,4) ÷ ln(2)	−1,322
5. Entropy(S)	−(0,6×−0,737) − (0,4×−1,322)	0,442 + 0,529

Entropy(S)

0,971

bit — hampir maksimum (data masih campur)

Mari kita hitung bersama-sama, langkah ini adalah dasar untuk semua perhitungan Decision Tree setelahnya, jadi ikuti pelan-pelan. Dari sepuluh pengajuan pinjaman UMKM, enam disetujui dan empat ditolak, sehingga proporsinya adalah 60 persen dan 40 persen seperti terlihat di langkah satu dan dua. Langkah tiga dan empat adalah menghitung logaritma basis 2 dari masing-masing proporsi tersebut — kalau kalkulator Anda tidak punya tombol log basis 2 langsung, gunakan trik log natural dibagi log natural dari 2, seperti yang tertulis di kolom perhitungan. Hasil akhirnya, Entropy sebesar 0,971 ini mendekati nilai maksimum 1, artinya data awal kita memang masih sangat campur aduk antara disetujui dan ditolak — nilai inilah yang akan kita coba turunkan dengan mencari split terbaik di slide berikutnya.

Information Gain: Memilih Split Terbaik

Information Gain (IG) mengukur seberapa besar entropy berkurang setelah data dipisah berdasarkan satu atribut. Atribut dengan IG tertinggi dipilih sebagai node berikutnya.

IG(S, A) = Entropy(S) − Σ (|S_v| ÷ |S|) × Entropy(S_v)

Analogi: petugas kredit mencoba beberapa pertanyaan (riwayat kredit? penghasilan? tanggungan?) — pertanyaan yang paling "memisahkan" nasabah lunas vs macet dipakai duluan. Itulah atribut dengan IG tertinggi.

Setelah tahu cara mengukur ketidakpastian lewat entropy, pertanyaan berikutnya adalah, dari sekian banyak atribut yang tersedia, mana yang paling ampuh dipakai untuk memisahkan data? Di sinilah Information Gain berperan — rumusnya pada dasarnya membandingkan entropy sebelum split dengan rata-rata tertimbang entropy setelah split berdasarkan satu atribut. Bayangkan seorang petugas kredit di BRI mencoba beberapa pertanyaan berbeda kepada calon debitur: kalau ditanya "riwayat kreditnya bagaimana" ternyata langsung memisahkan mayoritas nasabah lunas dari yang macet dengan tegas, maka pertanyaan itu punya Information Gain tinggi dan layak ditanyakan lebih dulu. Sebaliknya kalau pertanyaan seperti "warna KTP-nya apa" tidak membantu memisahkan sama sekali, Information Gain-nya mendekati nol dan atribut itu tidak berguna untuk membangun pohon.

Hitung dari Nol #2: Information Gain "Riwayat Kredit"

Split berdasarkan Riwayat Kredit: Baik (6 data: 5 Ya/1 Tidak), Buruk (4 data: 1 Ya/3 Tidak).

Langkah	Perhitungan	Nilai
1. Entropy(Baik)	5 Ya/1 Tidak dari 6 data	0,650
2. Entropy(Buruk)	1 Ya/3 Tidak dari 4 data	0,811
3. Bobot × Entropy(Baik)	(6÷10) × 0,650	0,390
4. Bobot × Entropy(Buruk)	(4÷10) × 0,811	0,324
5. Entropy setelah split	0,390 + 0,324	0,714
6. Information Gain	0,971 (Entropy(S)) − 0,714	0,257

IG (Riwayat Kredit)

0,257

bit — dibandingkan atribut lain, tertinggi → jadi ROOT NODE

Sekarang kita lengkapi hitungan dengan mencoba split menggunakan atribut riwayat kredit — setelah dipisah, kelompok "riwayat baik" berisi enam data dengan lima disetujui satu ditolak, sedangkan kelompok "riwayat buruk" berisi empat data dengan satu disetujui tiga ditolak. Langkah satu dan dua adalah menghitung entropy masing-masing kelompok terpisah menggunakan rumus yang sama seperti slide sebelumnya, hasilnya 0,650 untuk kelompok baik dan 0,811 untuk kelompok buruk. Langkah tiga sampai lima adalah menggabungkan kedua entropy itu secara tertimbang sesuai proporsi jumlah datanya, menghasilkan entropy gabungan 0,714 setelah split. Langkah terakhir, kita kurangkan dari entropy awal 0,971 tadi, menghasilkan Information Gain 0,257 — dalam praktik nyata di Python, langkah ini diulang untuk setiap atribut lain seperti penghasilan atau tanggungan, dan atribut dengan IG tertinggilah yang dipilih menjadi pertanyaan pertama atau root node.

Coba Sendiri: Hitung Entropy & Information Gain

Ubah jumlah data disetujui/ditolak pada tiap kelompok split dan lihat entropy serta information gain terhitung otomatis.

Walkthrough: Membangun Pohon Keputusan

Proses Bertahap (Algoritma ID3 Sederhana)

Langkah 1 — Hitung Entropy(S) seluruh data: 0,971 (sudah dihitung).
Langkah 2 — Hitung IG untuk setiap kandidat atribut (Riwayat Kredit = 0,257; atribut lain misal Penghasilan = 0,150).
Langkah 3 — Pilih atribut dengan IG tertinggi → Riwayat Kredit jadi root node.
Langkah 4 — Cabang "Baik" (Entropy 0,650, masih sedikit campur) → ulangi Langkah 1–3 dengan atribut tersisa, atau hentikan & beri label mayoritas ("Ya", 5 dari 6).
Langkah 5 — Cabang "Buruk" (Entropy 0,811) → label mayoritas ("Tidak", 3 dari 4). Pohon selesai (kedalaman 1, untuk contoh mengajar).

Sekarang mari kita rangkai semua hitungan sebelumnya menjadi satu alur utuh membangun pohon, ini yang sebenarnya dilakukan library seperti scikit-learn secara otomatis di belakang layar. Prosesnya berulang atau rekursif — mulai dari menghitung entropy seluruh data, lalu mencoba semua kandidat atribut dan menghitung Information Gain masing-masing, memilih yang tertinggi sebagai pertanyaan pertama. Setelah data terbagi menjadi cabang "riwayat baik" dan "riwayat buruk", secara teori kita bisa mengulang proses yang sama pada tiap cabang menggunakan atribut yang tersisa, sampai entropy-nya nol atau sudah tidak ada atribut lagi. Untuk contoh mengajar hari ini kita hentikan di kedalaman satu dan langsung memberi label mayoritas di tiap cabang, tetapi dalam praktik nyata pohon bisa bercabang lebih dalam lagi — inilah yang nanti mengarah ke masalah overfitting yang kita bahas di slide berikutnya.

Coba Sendiri: Bangun Pohon Keputusan Anda Sendiri

Pilih atribut split di tiap langkah dan lihat pohon terbentuk cabang demi cabang sampai daun-daunnya berlabel.

Jebakan Decision Tree: Overfitting

Jika pohon dibiarkan terus bercabang sampai setiap daun 100% murni, pohon jadi terlalu "hafal" data latih — disebut overfitting.

Pohon Terlalu Dalam

Akurasi data latih ~100%, tapi buruk pada data baru — seperti mahasiswa menghafal soal ujian tahun lalu persis, gagal saat soal diubah sedikit.

Solusi: Pruning

Pruning (pemangkasan) = batasi kedalaman pohon (max_depth) atau jumlah data minimum per cabang, agar pohon lebih "umum" dan generalisasi baik.

Pohon yang sempurna di data latih belum tentu baik di dunia nyata — inilah alasan bagian evaluasi model (slide selanjutnya) sangat penting.

Ini adalah jebakan yang paling sering menjerumuskan mahasiswa maupun praktisi pemula, jadi perhatikan baik-baik. Kalau kita biarkan Decision Tree terus bercabang sampai setiap daun benar-benar murni seratus persen, pohon itu akan terlihat sangat akurat pada data yang dipakai untuk melatihnya, tetapi begitu diuji pada data nasabah baru, performanya bisa jauh lebih buruk — ini disebut overfitting, mirip seperti mahasiswa yang menghafal jawaban persis dari soal ujian tahun lalu, begitu soal diubah sedikit saja dia langsung kebingungan. Solusinya disebut pruning atau pemangkasan, yaitu kita sengaja membatasi seberapa dalam pohon boleh bercabang, atau mensyaratkan jumlah data minimum di tiap cabang sebelum boleh dipecah lagi. Di scikit-learn, ini diatur lewat parameter seperti max_depth atau min_samples_leaf, dan menentukan nilai yang tepat biasanya dilakukan lewat percobaan dan validasi, bukan sekali coba langsung benar.

Bagian 2 dari 3

Naive Bayes

Algoritma klasifikasi berbasis probabilitas — cara kerja mesin penyaring spam yang Anda pakai setiap hari.

Teorema Bayes & Asumsi "Naive"

P(Kelas | Fitur) = [ P(Fitur | Kelas) × P(Kelas) ] ÷ P(Fitur)

P(Kelas) — Prior

Peluang awal suatu kelas sebelum melihat fitur apa pun, dihitung dari proporsi data latih.

P(Fitur | Kelas) — Likelihood

Peluang fitur muncul jika kita sudah tahu kelasnya (dihitung dari data latih).

Kenapa disebut "naive" (naif)? Karena algoritma ini mengasumsikan semua fitur saling bebas (independen) — asumsi yang secara realistis jarang 100% benar, tapi hasilnya tetap sangat berguna di praktik.

Teorema Bayes ini sebenarnya sudah ada sejak abad ke-18, tetapi masih menjadi fondasi banyak sistem kecerdasan buatan modern, jadi mari kita pahami satu per satu bagian rumusnya. Prior atau P(Kelas) adalah keyakinan awal kita sebelum melihat bukti apa pun, misalnya dari seratus email yang masuk ke kotak surat Anda, berapa persen biasanya yang spam — itu dihitung murni dari data historis. Likelihood atau P(Fitur|Kelas) adalah, kalau kita sudah tahu suatu email itu spam, seberapa sering kata tertentu seperti "GRATIS" muncul di email spam tersebut. Kata "naive" atau naif muncul karena algoritma ini mengasumsikan setiap kata dalam email saling independen satu sama lain, padahal secara bahasa kata-kata itu sering saling berkaitan — meski asumsi ini secara teori tidak sepenuhnya benar, dalam praktik Naive Bayes tetap terbukti sangat efektif dan cepat, apalagi untuk kasus dengan ribuan fitur seperti kosakata dalam email.

Hitung dari Nol #3: Klasifikasi Email "GRATIS"

Data latih 10 email: 4 Spam, 6 Bukan Spam. Email baru mengandung kata "GRATIS" — spam atau bukan?

Langkah	Perhitungan	Nilai
1. Prior P(Spam)	4 ÷ 10	0,40
2. Prior P(Bukan Spam)	6 ÷ 10	0,60
3. Likelihood P(GRATIS\|Spam)	3 dari 4 email spam	0,75
4. Likelihood P(GRATIS\|Bukan)	1 dari 6 email bukan-spam	0,167
5. Skor Spam	0,40 × 0,75	0,300
6. Skor Bukan Spam	0,60 × 0,167	0,100
7. P(Spam\|GRATIS) ternormalisasi	0,300 ÷ (0,300+0,100)	75%

Keputusan

SPAM

skor 75% vs 25% — email diklasifikasikan spam

Mari kita praktikkan langsung teorema Bayes untuk kasus paling klasik, yaitu penyaring spam email, dengan data sederhana supaya bisa Anda hitung ulang sendiri di rumah. Dari sepuluh email latih, empat berlabel spam dan enam bukan spam, sehingga prior masing-masing 0,40 dan 0,60 seperti di langkah satu dan dua. Langkah tiga dan empat adalah likelihood, yaitu dari email-email spam, tiga dari empat mengandung kata "GRATIS", sedangkan dari email bukan-spam hanya satu dari enam yang mengandung kata itu. Langkah lima sampai tujuh adalah mengalikan prior dengan likelihood untuk mendapat skor kasar tiap kelas, lalu menormalkannya menjadi persentase yang totalnya seratus persen — hasilnya, probabilitas email ini spam adalah 75 persen berbanding 25 persen bukan spam, sehingga model memutuskan mengklasifikasikannya sebagai spam. Perhatikan bahwa proses ini bisa diperluas untuk banyak kata sekaligus, bukan cuma satu kata "GRATIS", itulah kekuatan sesungguhnya dari Naive Bayes untuk teks.

Coba Sendiri: Klasifikasikan Email dengan Naive Bayes

Ubah jumlah email spam/bukan-spam yang mengandung kata tertentu, lalu lihat probabilitas akhirnya terhitung otomatis.

Decision Tree vs Naive Bayes: Kapan Pakai Mana?

Aspek	Decision Tree	Naive Bayes
Dasar logika	Aturan bertingkat (Entropy/IG)	Probabilitas (Teorema Bayes)
Mudah dijelaskan ke atasan?	Sangat mudah (mirip flowchart)	Perlu penjelasan konsep peluang
Cocok untuk data	Fitur campuran (angka & kategori)	Teks/kata (ribuan fitur), cepat
Risiko utama	Overfitting jika terlalu dalam	Asumsi independensi kurang realistis
Contoh aplikasi	Skoring kredit, churn	Spam filter, sentimen ulasan

Tidak ada yang "paling benar" — pilih berdasarkan jenis data & kebutuhan (interpretasi vs kecepatan).

Setelah mempelajari kedua algoritma secara mendalam, pertanyaan wajar berikutnya adalah, kapan sebaiknya menggunakan yang mana di dunia kerja nyata Anda nanti. Decision Tree unggul ketika Anda perlu menjelaskan hasil model ke atasan atau klien yang tidak paham statistik, karena bentuknya seperti flowchart yang intuitif — bayangkan Anda mempresentasikan ke manajer BRI mengapa nasabah tertentu ditolak, akan lebih mudah menunjukkan alur pohon dibanding rumus probabilitas. Sebaliknya Naive Bayes unggul untuk data teks dengan ribuan fitur seperti kata-kata dalam email atau ulasan produk, karena perhitungannya sangat cepat dan tetap akurat meski asumsi independensinya secara teori tidak sempurna. Risiko utama masing-masing juga berbeda, Decision Tree rawan overfitting kalau dibiarkan terlalu dalam seperti kita bahas tadi, sementara Naive Bayes bisa kurang akurat kalau fitur-fiturnya sebenarnya sangat saling berkaitan. Intinya, tidak ada algoritma yang selalu terbaik — sebagai calon analis bisnis digital, Anda perlu memilih sesuai karakteristik data dan kebutuhan interpretasi di kasus Anda.

Bagian 3 dari 3

Evaluasi Model & Praktik di Python

Bagaimana kita tahu model klasifikasi kita "bagus"? Dan bagaimana menerapkannya dengan scikit-learn.

Evaluasi Model: Confusion Matrix & Metrik

Confusion Matrix (Contoh 20 Data Uji)

	Prediksi: Ya	Prediksi: Tidak
Aktual: Ya	8 (TP)	2 (FN)
Aktual: Tidak	1 (FP)	9 (TN)

Metrik Utama

Akurasi = (TP+TN)/Total = 17/20 = 85%
Presisi = TP/(TP+FP) = 8/9 ≈ 89%
Recall = TP/(TP+FN) = 8/10 = 80%

Glosarium: TP=Prediksi benar "Ya", TN=Prediksi benar "Tidak", FP=Salah bilang "Ya" (padahal Tidak), FN=Salah bilang "Tidak" (padahal Ya).

Sekarang kita bahas cara mengevaluasi model, karena akurasi tinggi di data latih tidak otomatis berarti model itu bagus di dunia nyata, seperti sudah kita singgung soal overfitting tadi. Confusion matrix ini seperti rapor detail: dari dua puluh data uji, delapan tebakan "ya" memang benar-benar "ya" (disebut True Positive), sembilan tebakan "tidak" memang benar "tidak" (True Negative), tapi ada satu kesalahan bilang "ya" padahal aslinya "tidak" (False Positive) dan dua kesalahan bilang "tidak" padahal aslinya "ya" (False Negative). Akurasi menghitung seberapa sering model benar secara keseluruhan yaitu 85 persen, tetapi presisi dan recall memberi informasi lebih tajam — presisi menjawab "dari yang saya bilang ya, berapa persen benar-benar ya", sedangkan recall menjawab "dari semua yang sebenarnya ya, berapa persen berhasil saya tangkap". Dalam kasus kredit macet misalnya, recall sering lebih penting daripada akurasi keseluruhan, karena bank lebih takut kehilangan satu nasabah macet yang lolos (False Negative) daripada menolak satu nasabah baik yang sebenarnya layak.

Coba Sendiri: Hitung Akurasi, Presisi & Recall

Ubah angka True Positive, True Negative, False Positive, dan False Negative, lalu lihat semua metrik evaluasi terhitung otomatis.

Implementasi di Python (scikit-learn)

Alur Kerja Standar

1. Siapkan data — pisahkan fitur (X) dan label (y), lalu train_test_split() jadi data latih & uji.
2. Panggil model — DecisionTreeClassifier(max_depth=3) atau GaussianNB() dari sklearn.
3. Latih — model.fit(X_train, y_train) — di sinilah semua hitungan Entropy/Bayes tadi terjadi otomatis.
4. Prediksi & evaluasi — model.predict(X_test), lalu bandingkan dengan confusion_matrix() & classification_report().

Library melakukan hitungan Entropy/IG/Bayes secara otomatis dalam sepersekian detik — tapi memahami hitungan manual tadi membuat Anda bisa membaca & mempertanggungjawabkan hasilnya, bukan sekadar "tempel-jalankan" kode.

Kabar baiknya, di sesi laboratorium Anda tidak perlu menghitung entropy atau probabilitas Bayes secara manual setiap kali — library scikit-learn di Python melakukan semua itu otomatis dalam hitungan milidetik. Alur kerjanya cukup standar: pertama pisahkan data menjadi fitur X seperti riwayat kredit dan penghasilan, serta label y seperti status disetujui atau ditolak, lalu bagi menjadi data latih dan data uji menggunakan fungsi train_test_split. Kedua, panggil kelas model yang sesuai, DecisionTreeClassifier untuk pohon keputusan atau GaussianNB untuk Naive Bayes, lalu latih modelnya dengan memanggil method fit — nah di baris kode inilah semua hitungan Entropy dan Information Gain yang tadi kita hitung manual, atau perhitungan prior dan likelihood Bayes, dijalankan otomatis oleh library. Tetapi justru karena itu semua "di balik layar", penting sekali Anda memahami logika manualnya seperti hari ini, supaya ketika hasil model terlihat aneh atau bias, Anda tahu harus mengecek apa dan bisa menjelaskan ke tim atau atasan Anda, bukan hanya menjalankan kode tanpa mengerti isinya.

Latihan Kelas & Rangkuman

Latihan Diskusi (10 Menit)

Sebuah warung online punya 8 pesanan: 5 "Lancar Bayar", 3 "Telat Bayar". Hitung Entropy(S)-nya!
Diskusikan: kasus mana yang lebih cocok pakai Decision Tree, mana yang lebih cocok Naive Bayes — deteksi ulasan palsu Shopee atau skoring kredit KUR?

Rangkuman & Minggu Depan

Klasifikasi = supervised, prediksi kategori dari data berlabel.
Decision Tree: Entropy & Information Gain menentukan split; waspada overfitting.
Naive Bayes: Teorema Bayes + asumsi independensi fitur.
Tugas: bawa laptop, install scikit-learn sebelum P9.
P9: Analisis Teks & Sentimen — lanjutan langsung dari Naive Bayes hari ini.

Sebelum kita tutup, mari kerjakan latihan singkat ini bersama supaya konsep hari ini benar-benar melekat, silakan coba hitung entropy untuk delapan pesanan warung online dengan lima lancar bayar dan tiga telat bayar menggunakan rumus yang sama persis seperti slide Hitung dari Nol tadi. Untuk diskusi kedua, pikirkan baik-baik: mendeteksi ulasan palsu di Shopee berbasis kata-kata dalam teks lebih cocok pakai Naive Bayes karena datanya berupa teks dengan banyak fitur kata, sedangkan skoring kredit KUR dengan atribut jelas seperti penghasilan dan riwayat lebih cocok Decision Tree karena mudah dijelaskan ke pihak bank. Sebagai rangkuman, hari ini Anda sudah belajar bahwa klasifikasi berbeda dari klastering karena datanya berlabel, Decision Tree membangun aturan bertingkat berdasarkan Entropy dan Information Gain, sementara Naive Bayes menghitung probabilitas lewat Teorema Bayes — dan keduanya perlu dievaluasi dengan confusion matrix sebelum dipakai untuk keputusan bisnis sungguhan. Minggu depan di pertemuan sembilan kita akan langsung melanjutkan Naive Bayes ke ranah analisis teks dan sentimen, jadi pastikan Anda sudah menginstal library scikit-learn di laptop sebelum datang ke kelas.

📖 Baca juga: Dcf Valuation — penjelasan mendalam dan contoh numerik.