Program Studi Bisnis Digital • FEB UNDIP

Pembelajaran Dalam dan Pembelajaran Mesin

Pertemuan 3 — Singular Value Decomposition dan Independent Component Analysis

Membedah matriks data menjadi komponen paling informatif (SVD), lalu memisahkan sinyal yang bercampur menjadi sumber aslinya (ICA) — dua alat inti reduksi dimensi setelah PCA.

RPS MINGGU 3 • 2×50 MENIT

Selamat pagi/siang, Anda semua. Minggu lalu kita sudah berkenalan dengan gagasan besar dimensionality reduction dan mulai menyentuh PCA — cara meringkas banyak kolom data menjadi beberapa "sumbu" utama yang menyimpan variasi terbanyak. Hari ini kita masuk lebih dalam ke mesin di baliknya: Singular Value Decomposition atau SVD, yaitu cara membedah sembarang matriks data menjadi tiga potongan yang punya arti geometris jelas, dan Independent Component Analysis atau ICA, yaitu cara memisahkan sinyal-sinyal yang sudah bercampur — misalnya suara beberapa orang bicara bersamaan dalam satu rekaman, atau pola transaksi mencurigakan yang tersembunyi di balik jutaan transaksi normal di GoPay. Bayangkan Anda sedang menganalisis data rating pelanggan Tokopedia atau pola klik pengguna Shopee; SVD dan ICA adalah dua alat yang akan sering Anda pakai untuk meringkas dan membongkar data semacam itu. Siapkan kalkulator sederhana Anda, karena hari ini kita akan menghitung beberapa contoh dari nol supaya konsepnya benar-benar melekat, bukan sekadar hafalan rumus.

Bagian 1 dari 3

Fondasi Singular Value Decomposition

Dari gagasan PCA minggu lalu menuju mesin pembedah matriks yang lebih umum: apa itu SVD, apa arti tiap komponennya, dan bagaimana menghitungnya dari nol.

Dari PCA ke SVD: Mengapa Perlu Alat Baru?

Minggu lalu Anda belajar PCA (Principal Component Analysis) — meringkas data menjadi sumbu-sumbu utama berdasarkan variance (sebaran) terbesar. SVD adalah mesin matematis yang menghasilkan PCA di baliknya, dan berlaku untuk matriks apa pun — bukan hanya matriks data yang persegi.

PCA (Minggu 2)

SUMBU VARIANCE

Butuh matriks kovarian persegi; hanya cocok untuk data numerik terpusat.

SVD (Hari Ini)

DEKOMPOSISI UMUM

Berlaku untuk matriks apa pun (persegi atau tidak) — dasar dari PCA, kompresi gambar, & sistem rekomendasi.

ICA (Hari Ini)

PISAH SUMBER

Bukan cari variance terbesar, tapi mencari sinyal yang paling independen (saling bebas).

Mari kita luruskan dulu peta besarnya, karena ketiga istilah ini sering tertukar di kepala mahasiswa. PCA yang Anda pelajari minggu lalu sebenarnya adalah hasil akhir dari sebuah proses matematis bernama SVD — jadi kalau Anda paham SVD, Anda akan paham PCA jauh lebih dalam, bukan cuma menghafal langkah-langkahnya. SVD sendiri lebih fleksibel karena bisa dipakai pada matriks apa saja, misalnya matriks rating pengguna Tokopedia yang barisnya adalah pengguna dan kolomnya adalah produk — jumlah pengguna dan jumlah produk jelas tidak sama, jadi matriksnya tidak persegi, dan PCA murni tidak langsung bisa dipakai di sana. ICA punya filosofi yang berbeda lagi: dia tidak mencari sumbu dengan variance terbesar, melainkan mencari sinyal-sinyal yang paling independen satu sama lain, seperti memisahkan suara dua orang yang bicara bersamaan dalam satu rekaman audio. Sepanjang pertemuan ini, tiap kali Anda bingung, kembalilah ke tiga kotak ini sebagai peta orientasi.

Intuisi SVD: Putar → Regang → Putar

Secara geometris, mengalikan vektor (data satu titik) dengan matriks A itu setara dengan tiga gerakan berurutan. SVD membongkar gerakan itu menjadi tiga matriks terpisah:

A = U × Σ × V^T

Bacanya dari kanan ke kiri: data diputar dulu oleh V^T, lalu diregangkan sepanjang sumbu baru oleh Σ, baru diputar lagi oleh U ke posisi akhirnya.

Bayangkan Anda memegang selembar kain elastis dengan pola gambar di atasnya. Mengalikan matriks A ke kain itu sama seperti melakukan tiga gerakan berurutan: pertama Anda putar kainnya ke arah tertentu, itu peran V transpos; kedua Anda tarik kainnya supaya meregang lebih panjang di satu arah dan lebih pendek di arah lain, itu peran Sigma yang isinya angka-angka skala yang disebut nilai singular; ketiga Anda putar lagi hasilnya ke orientasi akhir, itu peran U. SVD pada dasarnya membongkar transformasi rumit apa pun menjadi tiga gerakan sederhana yang mudah dipahami: putar, regang, putar. Ini penting sekali untuk bisnis digital karena "meregangkan" di sini artinya memperbesar arah-arah data yang paling informatif dan mengecilkan arah yang nyaris tidak membawa informasi — itulah inti dari reduksi dimensi yang akan kita pakai lagi nanti untuk kompresi dan sistem rekomendasi.

Coba Sendiri: Animasi Putar - Regang - Putar

Jalankan animasi bertahap dan amati bagaimana satu vektor diputar oleh V superscript T, diregangkan oleh Sigma, lalu diputar lagi oleh U.

Anatomi Tiga Komponen SVD

U — Vektor Singular Kiri

Arah-arah baru di ruang output (misalnya: "pola pengguna").
Kolom-kolomnya saling ortogonal (tegak lurus satu sama lain, tidak tumpang tindih informasi).

Σ — Nilai Singular

Angka non-negatif σ₁ ≥ σ₂ ≥ ... di diagonal.
Makin besar σ, makin besar "kekuatan"/informasi arah itu.

V^T — Vektor Singular Kanan

Arah-arah baru di ruang input (misalnya: "pola produk").
Juga saling ortogonal satu sama lain.

Analogi: kalau A adalah matriks rating pengguna × produk Tokopedia, U menangkap "tipe pengguna", Σ menangkap seberapa dominan tiap tipe itu, dan V^T menangkap "tipe produk" yang berkaitan.

Mari kita perlambat dan bedah satu per satu. U berisi arah-arah baru di sisi output, dan kolom-kolomnya ortogonal, artinya masing-masing menangkap informasi yang berbeda, tidak ada yang mengulang informasi yang sama — ini seperti punya beberapa kamera dari sudut yang benar-benar berbeda, bukan dua kamera yang menghadap ke arah nyaris sama. Sigma adalah daftar angka yang diurutkan dari besar ke kecil, dan angka-angka itu memberi tahu kita seberapa penting tiap arah tersebut; kalau angkanya mendekati nol, arah itu nyaris tidak menyimpan informasi apa pun dan aman untuk dibuang. V transpos mirip dengan U tetapi untuk sisi input. Untuk konteks bisnis digital, bayangkan matriks rating pengguna terhadap produk di Tokopedia atau Bukalapak: U bisa menangkap "kelompok pengguna dengan selera mirip", Sigma menunjukkan seberapa kuat tiap kelompok itu memengaruhi data secara keseluruhan, dan V transpos menangkap "kelompok produk yang cenderung disukai bersamaan".

Hitung dari Nol 1: Mencari Nilai Singular

Matriks contoh (sengaja kecil & simetris agar bisa dihitung tangan): A = [[3,1],[1,3]]

Langkah	Perhitungan	Nilai
1. Matriks data A (2×2)	A = [[3,1],[1,3]]	simetris
2. Hitung A^TA (A simetris → A^TA = A²)	3×3+1×1=10 \| 3×1+1×3=6	A^TA=[[10,6],[6,10]]
3. Cari akar karakteristik (nilai eigen λ)	(10−λ)² − 6² = 0 → λ²−20λ+64=0	λ = 16 atau 4
4. Nilai singular σ = √λ	σ₁=√16 \| σ₂=√4	σ₁=4 ; σ₂=2

HASIL

σ₁=4 σ₂=2

Sekarang kita hitung benar-benar dari nol supaya rumusnya tidak terasa abstrak. Kita ambil matriks kecil dua kali dua yang sengaja simetris supaya perhitungan tangannya tidak terlalu panjang untuk pertemuan pertama tentang SVD. Langkah pertama, kita hitung A transpos dikali A; karena matriks kita simetris, ini sama saja dengan A dikalikan dirinya sendiri, hasilnya matriks baru sepuluh-enam-enam-sepuluh. Langkah kedua, kita cari nilai eigen dari matriks baru itu dengan menyelesaikan persamaan kuadrat, dan kita dapatkan dua nilai, enam belas dan empat. Langkah terakhir, nilai singular adalah akar kuadrat dari nilai eigen tadi, sehingga sigma satu sama dengan empat dan sigma dua sama dengan dua — perhatikan bahwa sigma satu lebih besar, artinya arah itu menyimpan lebih banyak informasi dari matriks aslinya, persis seperti komponen utama pertama di PCA minggu lalu.

Coba Sendiri: Reduksi Rank dari Nilai Singular

Ubah matriks 2x2 sederhana, telusuri langkah menemukan nilai singularnya, lalu lihat bagaimana pemangkasan rank memengaruhi galat rekonstruksi.

Truncated SVD: Membuang Komponen yang Tak Penting

Karena σ₁ ≥ σ₂ ≥ ... terurut dari besar ke kecil, kita bisa memotong (truncate) dan hanya menyimpan k komponen pertama — inilah inti reduksi dimensi lewat SVD.

A ≈ A_k = σ₁u₁v₁^T + σ₂u₂v₂^T + ... + σ_ku_kv_k^T

Teorema Eckart-Young

A_k (rank-k) adalah pendekatan terbaik dari A di antara semua matriks rank-k lainnya — tidak ada cara lain memangkas dimensi dengan galat lebih kecil.

Mengapa Ini Penting untuk Bisnis Digital

Kompresi gambar produk e-commerce (ukuran file lebih kecil).
Sistem rekomendasi (menyimpan "selera" bukan tiap rating mentah).

Ini adalah alasan utama mengapa SVD begitu berharga di dunia bisnis digital. Karena nilai-nilai singular sudah terurut dari yang paling besar ke yang paling kecil, kita bisa memutuskan untuk hanya menyimpan beberapa komponen pertama saja dan membuang sisanya, dan matematika menjamin lewat teorema Eckart-Young bahwa itu adalah cara terbaik untuk memangkas informasi — tidak ada cara memangkas dimensi lain yang hasilnya lebih akurat untuk jumlah komponen yang sama. Bayangkan Tokopedia punya matriks rating jutaan pengguna terhadap jutaan produk; menyimpan seluruh matriks itu mentah-mentah sangat mahal secara komputasi, tetapi dengan truncated SVD mereka cukup menyimpan beberapa puluh komponen utama yang menangkap sebagian besar pola selera pengguna. Konsep yang sama dipakai untuk mengompresi gambar produk agar halaman web memuat lebih cepat tanpa terlihat jelek di mata pembeli.

Hitung dari Nol 2: Rekonstruksi Rank-1 & Galat

Lanjutan contoh A=[[3,1],[1,3]]. Vektor singular (karena simetris, sama dengan vektor eigen): v₁=(0.71, 0.71) untuk σ₁=4.

Langkah	Perhitungan	Nilai
1. Ambil komponen terbesar saja (rank-1)	A₁ = σ₁ × v₁ × v₁^T	4 × [[0.5,0.5],[0.5,0.5]]
2. Hitung hasil kali per elemen	4 × 0.5 = 2 (tiap sel)	A₁ = [[2,2],[2,2]]
3. Bandingkan dengan data asli A	A − A₁ = [[3−2,1−2],[1−2,3−2]]	Galat = [[1,−1],[−1,1]]
4. Ukur besar galat (norma Frobenius)	√(1²+(−1)²+(−1)²+1²)	‖Galat‖ = √4 = 2

COCOK DENGAN TEORI

‖Galat‖ = σ₂ = 2

Sekarang kita buktikan sendiri teorema Eckart-Young dengan angka konkret. Kita buang komponen kedua dan hanya menyimpan komponen pertama, sehingga kita dapatkan matriks pendekatan A satu yang isinya seragam, dua di semua sel. Kalau kita bandingkan dengan matriks asli tiga-satu-satu-tiga, selisihnya adalah matriks galat satu, minus satu, minus satu, satu. Kita ukur besar galat itu dengan norma Frobenius, yaitu akar dari jumlah kuadrat semua elemennya, dan hasilnya persis dua. Yang menakjubkan, angka dua ini sama persis dengan sigma dua yang sudah kita hitung di slide sebelumnya — inilah bukti nyata bahwa galat dari memotong komponen kecil selalu bisa dihitung lebih dulu tanpa perlu mencoba-coba, dan itulah mengapa perusahaan seperti Traveloka atau Bukalapak berani memangkas ribuan dimensi data mereka menjadi puluhan saja, karena mereka tahu persis berapa besar informasi yang hilang.

SVD di Dunia Bisnis Digital Nyata

KOMPRESI GAMBAR

FOTO PRODUK

Gambar = matriks piksel. Simpan k komponen SVD terbesar → ukuran file jauh lebih kecil, kualitas visual nyaris sama untuk thumbnail e-commerce.

SISTEM REKOMENDASI

COLLABORATIVE FILTERING

Matriks rating pengguna×produk (mis. Netflix, Tokopedia) diringkas SVD untuk menebak rating yang belum diisi pengguna — dasar rekomendasi "produk untuk Anda".

Prinsip yang sama: matriks besar & jarang terisi (sparse) → SVD menangkap pola tersembunyi dengan jauh lebih sedikit angka.

Dua contoh ini sengaja saya pilih karena keduanya sangat dekat dengan kehidupan digital Anda sehari-hari. Pertama, kompresi gambar: setiap foto digital sebenarnya adalah matriks angka yang mewakili kecerahan tiap piksel, dan dengan SVD kita bisa menyimpan hanya beberapa komponen terbesar sehingga ukuran file mengecil drastis tanpa mata kita menyadari perbedaannya, ini penting untuk toko online yang punya jutaan foto produk dan ingin halamannya memuat cepat. Kedua, dan ini yang paling terkenal, sistem rekomendasi: bayangkan matriks besar berisi rating jutaan pengguna terhadap ribuan produk, tapi kebanyakan selnya kosong karena satu pengguna tidak mungkin memberi rating semua produk. SVD memungkinkan sistem menebak rating yang kosong itu berdasarkan pola tersembunyi dari pengguna dan produk lain yang mirip — ini persis mesin di balik rekomendasi "produk untuk Anda" di Tokopedia atau "film yang mungkin Anda suka" di Netflix.

Bagian 2 dari 3

Independent Component Analysis (ICA)

Ketika SVD/PCA mencari variance terbesar, ICA mencari sesuatu yang berbeda: sinyal-sinyal yang paling independen — berguna saat data adalah campuran beberapa sumber asli.

Motivasi ICA: Masalah "Pesta Koktail"

Dua orang bicara bersamaan di satu ruangan, direkam oleh dua mikrofon di posisi berbeda. Tiap mikrofon menangkap campuran kedua suara dengan proporsi berbeda. Bisakah kita memisahkan kembali suara asli hanya dari dua rekaman campuran itu?

Setiap mikrofon = 1 kombinasi linear dari sumber asli. ICA mencari kombinasi kebalikan yang memisahkannya lagi.

Ini yang disebut masalah pesta koktail, sebuah nama klasik dalam ilmu pemrosesan sinyal. Bayangkan Anda berdiri di sebuah pesta ramai, ada dua orang bicara bersamaan di sekitar Anda, dan Anda memegang dua alat perekam di posisi berbeda. Karena posisinya berbeda, tiap alat perekam menangkap campuran kedua suara itu dengan proporsi yang sedikit berbeda — mikrofon yang lebih dekat ke orang pertama akan menangkap suaranya lebih keras, dan sebaliknya. Pertanyaannya, dari dua rekaman campuran itu saja, tanpa tahu suara asli sebelumnya, bisakah komputer memisahkan kembali suara masing-masing orang? Jawabannya ya, dan itulah yang dilakukan ICA. Garis putus-putus di diagram menunjukkan bahwa setiap mikrofon sebenarnya menangkap sedikit dari kedua sumber, bukan hanya satu, dan tugas ICA adalah menemukan kombinasi kebalikan yang tepat untuk mengurai campuran itu kembali menjadi sumber-sumber aslinya.

Coba Sendiri: Pisahkan Suara di Pesta Koktail

Atur campuran dua sinyal sumber pada dua "mikrofon" virtual, lalu jalankan ICA dan amati bagaimana kedua sumber asli terpisah kembali.

ICA vs PCA: Beda Filosofi Dasar

PCA / SVD

Mencari arah dengan variance (sebaran) terbesar.
Komponen hanya dijamin saling ortogonal (tegak lurus secara statistik/tak berkorelasi).
Cocok untuk: kompresi, meringkas variasi data.

ICA

Mencari sinyal yang paling independen (jauh lebih ketat dari sekadar tak berkorelasi).
Memanfaatkan sifat non-Gaussian (bentuk sebaran data tidak seperti lonceng normal) untuk memisahkan sumber.
Cocok untuk: memisahkan sumber sinyal yang bercampur.

Jebakan umum: independen (ICA) ≠ tak berkorelasi (PCA). Dua variabel bisa tak berkorelasi tapi masih saling bergantung secara nonlinear — ICA menuntut syarat lebih kuat.

Ini adalah titik yang paling sering membingungkan mahasiswa, jadi mari kita perlambat. PCA dan SVD hanya menjamin komponen-komponennya saling ortogonal, yang secara statistik berarti tidak berkorelasi secara linear — tetapi dua variabel yang tidak berkorelasi linear masih bisa saling bergantung dengan cara lain yang lebih rumit. ICA menuntut syarat yang jauh lebih ketat, yaitu independensi penuh, dan cara ICA mencapai itu adalah dengan memanfaatkan bentuk sebaran data: jika sumber-sumber aslinya punya bentuk sebaran yang tidak seperti kurva lonceng normal, atau disebut non-Gaussian, ICA bisa memanfaatkan perbedaan bentuk itu untuk memisahkan sinyal campuran menjadi komponen aslinya. Ini sebabnya ICA cocok untuk memisahkan sumber suara atau sinyal, sementara PCA lebih cocok untuk sekadar meringkas variasi data tanpa peduli asal sumbernya. Ingat baik-baik kotak peringatan di bawah, karena ini pertanyaan yang sering muncul di ujian.

Model Pencampuran & Tujuan Unmixing

ICA mengasumsikan data yang teramati (X) adalah campuran linear dari sumber asli tersembunyi (S) lewat matriks pencampuran (A) yang tidak diketahui:

X = A × S

Tujuan ICA: temukan matriks unmixing (pembalik) W sedemikian sehingga:

Y = W × X ≈ S

TEROBSERVASI

Data mentah yang kita miliki (rekaman mikrofon, data transaksi).

TAK DIKETAHUI

Proporsi pencampuran; inilah yang harus "ditebak" ICA.

SUMBER ASLI

Sinyal independen yang ingin kita temukan kembali (Y ≈ S).

Sekarang kita tuliskan masalah pesta koktail tadi dalam bahasa matriks. X adalah data yang benar-benar kita miliki, misalnya dua rekaman mikrofon; S adalah sumber-sumber asli yang tidak pernah kita lihat langsung, misalnya suara masing-masing pembicara; dan A adalah matriks pencampuran yang menentukan seberapa besar tiap sumber masuk ke tiap mikrofon, dan matriks ini juga tidak kita ketahui. Tugas ICA adalah menemukan matriks kebalikan, kita sebut W, sedemikian rupa sehingga kalau W dikalikan dengan data yang kita amati, hasilnya, kita sebut Y, sangat mendekati sumber asli S. Ini terdengar seperti mustahil karena kita tidak tahu A maupun S, tapi ICA memanfaatkan asumsi bahwa sumber-sumber asli itu saling independen dan bentuk sebarannya non-Gaussian untuk menebak W tanpa perlu tahu A secara langsung — ini seperti mencoba membongkar resep kue hanya dari mencicipi hasil akhirnya, asalkan kita tahu bahan-bahannya punya rasa yang sangat berbeda satu sama lain.

Walkthrough: Bagaimana ICA Bekerja di Balik Layar

Walkthrough A — Persiapan Data

1. Centering: kurangi tiap sinyal dengan rata-ratanya (mean = 0).
2. Whitening: transformasi agar sinyal tak-berkorelasi & variance seragam (memakai hasil SVD/PCA sebagai langkah awal!).

Walkthrough B — Pencarian Sumber

3. Optimasi: cari arah W yang membuat hasil Y = WX se-non-Gaussian mungkin (mis. maksimalkan kurtosis).
4. Iterasi: ulangi sampai konvergen → tiap komponen Y adalah satu sumber independen.

Intuisi kunci: menurut teorema limit pusat, campuran banyak sinyal cenderung menjadi lebih Gaussian (mirip lonceng). Jadi mencari arah paling tidak Gaussian = mencari sumber asli yang belum tercampur.

Sekarang mari kita intip bagaimana ICA bekerja di balik layar, dibagi menjadi dua tahap besar. Tahap persiapan pertama adalah centering, sekadar menggeser data supaya rata-ratanya nol, lalu whitening, sebuah transformasi yang justru memakai SVD atau PCA yang sudah kita pelajari tadi sebagai langkah awal untuk membuat sinyal tidak saling berkorelasi. Tahap kedua adalah inti dari ICA: komputer mencari arah tertentu sedemikian rupa sehingga hasil kombinasinya punya bentuk sebaran yang paling jauh dari kurva lonceng normal, diukur misalnya lewat statistik bernama kurtosis, lalu proses ini diulang berkali-kali sampai stabil. Intuisi kuncinya ada di kotak catatan: menurut teorema limit pusat, yang mungkin pernah Anda dengar di mata kuliah statistik, ketika kita mencampur banyak sinyal independen, hasilnya cenderung semakin mirip kurva lonceng normal — jadi logika terbalik ICA adalah, kalau kita mencari arah yang justru paling TIDAK mirip lonceng normal, kita sedang bergerak menjauh dari campuran dan mendekati sumber aslinya yang belum tercampur. Slide ini saya tandai tanpa animasi bertahap karena keempat langkah ini harus dilihat sebagai satu alur utuh.

ICA di Dunia Bisnis Digital Nyata

DETEKSI ANOMALI/FRAUD

POLA TERSEMBUNYI

Data transaksi GoPay/BCA adalah campuran pola belanja normal & pola penipuan. ICA memisahkan komponen "penipuan" yang tersembunyi di balik jutaan transaksi wajar.

SINYAL & SENSOR

EEG / AUDIO

Riset neuromarketing (mengukur reaksi otak konsumen terhadap iklan) memakai ICA untuk memisahkan sinyal otak asli dari gangguan/noise perangkat.

Benang merah: kapan pun data Anda adalah campuran beberapa sumber tersembunyi, ICA adalah kandidat kuat — berbeda dengan SVD/PCA yang lebih cocok untuk sekadar meringkas variasi.

Dua contoh aplikasi ini menunjukkan betapa luasnya ICA dipakai di luar masalah pesta koktail aslinya. Contoh pertama, deteksi fraud: bayangkan data transaksi harian di GoPay atau kartu kredit BCA sebenarnya adalah campuran dari pola belanja normal jutaan nasabah dan pola transaksi mencurigakan yang jumlahnya sangat sedikit; ICA bisa membantu memisahkan komponen "tidak normal" itu karena polanya secara statistik berbeda cukup jauh dari pola mayoritas. Contoh kedua, riset neuromarketing: perusahaan riset pasar kadang mengukur sinyal gelombang otak konsumen ketika melihat iklan menggunakan EEG, tetapi sinyal mentahnya selalu bercampur dengan gangguan otot atau kedipan mata, dan ICA dipakai untuk memisahkan sinyal otak yang murni dari gangguan tersebut. Benang merah dari semua contoh ini: begitu Anda mencurigai data Anda sebenarnya adalah gabungan beberapa sumber yang tersembunyi, ICA layak dicoba, sementara SVD dan PCA lebih tepat dipakai kalau tujuan Anda sekadar meringkas variasi data tanpa peduli sumber aslinya.

Bagian 3 dari 3

Sintesis, Perbandingan & Praktik

Menyatukan PCA, SVD, dan ICA dalam satu peta perbandingan, lalu menerapkannya pada kasus bisnis digital sungguhan.

Peta Perbandingan: PCA, SVD, ICA

Aspek	PCA	SVD	ICA
Tujuan utama	Maksimalkan variance	Dekomposisi matriks umum	Maksimalkan independensi
Syarat matriks	Persegi (kovarian)	Matriks apa pun	Matriks apa pun
Asumsi distribusi	Tidak ketat	Tidak ketat	Non-Gaussian
Komponen dijamin	Ortogonal (tak berkorelasi)	Ortogonal (U, V)	Independen (lebih ketat)
Contoh pemakaian	Ringkas fitur data numerik	Kompresi, rekomendasi	Pisah sinyal campuran, fraud

Ingat: PCA adalah hasil khusus dari SVD (untuk matriks kovarian). ICA adalah alat yang berbeda filosofi — tak selalu bisa saling menggantikan.

Tabel ini adalah rangkuman paling penting dari seluruh pertemuan hari ini, jadi mari kita telusuri baris demi baris. Dari sisi tujuan, PCA dan SVD sama-sama berurusan dengan variance dan struktur matriks, sementara ICA punya tujuan yang sama sekali berbeda, yaitu independensi statistik. Dari sisi syarat, PCA klasik membutuhkan matriks kovarian yang persegi, sedangkan SVD dan ICA bisa dipakai pada matriks berukuran apa pun. Dari sisi asumsi, hanya ICA yang benar-benar membutuhkan data non-Gaussian supaya bisa bekerja dengan baik. Yang paling penting untuk Anda ingat: PCA sebenarnya adalah kasus khusus dari SVD ketika diterapkan pada matriks kovarian, jadi keduanya bukan dua alat yang benar-benar terpisah, sedangkan ICA adalah keluarga alat yang berbeda dan tidak bisa serta-merta menggantikan SVD atau PCA, karena tujuannya memang berbeda.

Studi Kasus: Data Pengguna E-Commerce

Sebuah tim data di startup e-commerce lokal punya dua kebutuhan berbeda. Tentukan metode mana (SVD atau ICA) yang lebih tepat untuk tiap kasus:

Kasus A

Membangun fitur "produk untuk Anda" dari matriks rating 5 juta pengguna × 200 ribu produk yang sebagian besar kosong.

Kasus B

Log transaksi harian tercampur antara pola belanja normal, pola promo/flash sale, dan pola bot/scalper yang tak diketahui jumlahnya.

Kasus A → SVD/truncated SVD (collaborative filtering, meringkas matriks besar & jarang). Kasus B → ICA (memisahkan sumber pola yang bercampur & tak diketahui proporsinya).

Mari kita uji pemahaman Anda dengan studi kasus yang realistis. Kasus pertama adalah membangun sistem rekomendasi dari matriks rating raksasa yang sebagian besar selnya kosong — ini persis skenario yang kita bahas tadi, jadi jawabannya adalah SVD atau lebih tepatnya truncated SVD, karena tujuannya meringkas matriks besar menjadi komponen-komponen utama untuk menebak rating yang kosong. Kasus kedua sedikit lebih menjebak: di sini kita tidak sekadar ingin meringkas data, tetapi ingin memisahkan beberapa pola perilaku yang saling bercampur dan jumlah polanya pun tidak kita ketahui pasti — ini justru lebih dekat dengan filosofi ICA, karena kita mencoba mengurai sumber-sumber tersembunyi dari data campuran, bukan sekadar mencari arah dengan variance terbesar. Perhatikan bahwa kata kunci pembeda di sini adalah "mencampur sumber yang tak diketahui" untuk ICA versus "meringkas data besar dan jarang" untuk SVD.

Latihan Kelas: Diskusi Kelompok (10 Menit)

Instruksi

Berkelompok 3-4 orang.
Pilih 1 skenario data digital yang Anda kenal (Shopee, GoPay, Instagram Ads, dsb).
Tentukan: apakah masalahnya lebih cocok didekati SVD atau ICA, dan jelaskan alasannya dalam 3 kalimat.

PANDUAN PERTANYAAN

1. Apakah tujuan Anda meringkas variasi, atau memisahkan sumber tersembunyi?
2. Apakah proporsi campurannya diketahui atau tidak?
3. Apakah data Anda menyerupai distribusi normal (Gaussian) atau tidak?

Siapkan 1 juru bicara per kelompok — akan diminta presentasi singkat 1 menit ke seluruh kelas.

Sekarang giliran Anda untuk mempraktikkan sendiri kerangka berpikir yang baru saja kita pelajari. Silakan berkelompok tiga sampai empat orang, lalu pilih satu skenario data digital yang benar-benar Anda kenal dari pengalaman sehari-hari, misalnya data belanja Shopee, transaksi GoPay, atau performa iklan di Instagram Ads. Gunakan tiga pertanyaan panduan di kanan untuk membantu Anda memutuskan: apakah tujuan analisisnya meringkas variasi data atau memisahkan sumber yang tersembunyi, apakah proporsi campuran sumbernya diketahui, dan apakah data Anda kira-kira menyerupai kurva normal atau tidak. Slide ini saya buat tanpa animasi bertahap karena instruksi latihan harus terlihat utuh sejak awal supaya Anda bisa langsung membaca semuanya sambil berdiskusi, tidak perlu menunggu klik demi klik. Siapkan satu juru bicara di kelompok Anda karena setelah sepuluh menit kita akan berkeliling mendengar jawaban singkat dari beberapa kelompok.

Rangkuman & Menuju Pertemuan 4

Cheat Sheet Hari Ini

SVD: A = UΣV^T — putar, regang, putar; dasar dari PCA & kompresi/rekomendasi.
Truncated SVD: simpan k komponen terbesar — galat terukur (Eckart-Young).
ICA: X=AS → cari W agar Y=WX≈S; manfaatkan sifat non-Gaussian.
Beda kunci: SVD/PCA = variance terbesar; ICA = independensi sumber.

MINGGU DEPAN — PERTEMUAN 4

FACTOR ANALYSIS & LDA

Kita lanjutkan keluarga teknik reduksi dimensi: Factor Analysis (menemukan faktor laten di balik data) dan Linear Discriminant Learning (reduksi dimensi yang memperhatikan label/kelas).

Tugas: baca modul singkat Factor Analysis (dibagikan di LMS) & kerjakan 2 soal hitung SVD 2×2 tambahan sebagai latihan mandiri sebelum pertemuan berikutnya.

Mari kita tutup pertemuan hari ini dengan merangkum apa yang sudah kita pelajari. Kita mulai dari SVD sebagai cara membedah matriks apa pun menjadi tiga gerakan sederhana, putar, regang, putar, lalu kita buktikan sendiri lewat dua perhitungan dari nol bagaimana truncated SVD memangkas dimensi dengan galat yang bisa dihitung persis lewat teorema Eckart-Young. Kemudian kita berpindah ke ICA, sebuah filosofi yang berbeda karena tujuannya bukan variance terbesar melainkan independensi sumber, dan kita lihat penerapannya mulai dari masalah pesta koktail sampai deteksi fraud transaksi digital di Indonesia. Minggu depan kita akan melanjutkan keluarga teknik reduksi dimensi ini dengan Factor Analysis, yang mencari faktor tersembunyi di balik data, dan Linear Discriminant Learning, yang mirip PCA tetapi memperhitungkan label kelas. Jangan lupa kerjakan tugas baca modul dan dua soal latihan hitung SVD tambahan sebelum pertemuan berikutnya, karena itu akan menjadi bekal Anda memahami Factor Analysis dengan lebih cepat. Sampai jumpa minggu depan, dan selamat berlatih.