Prodi Bisnis Digital · FEB UNDIP

Pembelajaran Dalam dan Pembelajaran Mesin

Teknik Dimensionality Reduction (PCA, SVD, ICA)

Mengapa data berdimensi tinggi perlu "disederhanakan" tanpa kehilangan makna — dan bagaimana caranya.

RPS minggu 2 · 2x50 menit

Selamat datang kembali, Anda sudah melewati pertemuan pertama tentang gambaran umum machine learning dan data mining. Hari ini kita masuk ke topik yang terasa agak matematis di permukaan, yaitu dimensionality reduction, tetapi jangan khawatir karena Anda akan saya ajak memahaminya lewat analogi bisnis yang konkret, misalnya bagaimana Tokopedia atau BukaLapak meringkas ribuan variabel perilaku pembeli menjadi beberapa "sifat" utama saja. Tujuan pertemuan ini adalah membangun intuisi tentang PCA, SVD, dan ICA sebagai alat untuk memampatkan data tanpa kehilangan informasi penting, sekaligus fondasi wajib sebelum kita membahas clustering dan supervised learning di pertemuan-pertemuan berikutnya. Siapkan diri Anda untuk berpikir visual: kita akan banyak memakai gambar awan titik dan sumbu, bukan rumus panjang, supaya intuisinya melekat dulu sebelum notasi matematisnya.

Bagian 1 dari 4

Mengapa Data Perlu Direduksi?

Dari "kutukan dimensi" ke kebutuhan bisnis riil akan visualisasi dan efisiensi model.

Tujuan Pembelajaran Hari Ini

Sub-CPMK

kemampuan inti

Menjelaskan konsep dimensionality reduction, menghitung komponen utama secara manual pada data sederhana, dan membedakan PCA, SVD, ICA berdasarkan tujuan pemakaiannya.

Yang Akan Anda Kuasai

Mengapa data berdimensi tinggi bermasalah untuk model & visualisasi
Intuisi varians maksimum di balik PCA
Langkah hitung PCA dari nol memakai matriks kovarians
Kapan memilih PCA vs SVD vs ICA di kasus bisnis nyata

Masalah: "Kutukan Dimensi" (Curse of Dimensionality)

Semakin banyak variabel/fitur (kolom data), semakin sulit model menemukan pola — dan semakin sulit manusia memvisualisasikannya.

Contoh

200+

variabel nasabah bank

Umur, saldo, frekuensi transaksi, lokasi, jenis kartu, riwayat gagal bayar, dsb — semua dicatat per nasabah oleh bank seperti BCA.

Masalah

batas mata manusia

Manusia hanya bisa memvisualisasikan data secara nyaman dalam 2 atau 3 dimensi (sumbu X, Y, Z) di satu grafik.

Solusi

→ 2

dimensi baru bermakna

Dimensionality reduction memampatkan ratusan variabel menjadi segelintir "sumbu baru" yang tetap menyimpan pola pentingnya.

Cobalah bayangkan Anda diberi spreadsheet Excel dengan dua ratus kolom data nasabah bank BRI, mulai dari umur, saldo rata-rata, jumlah transaksi mobile banking, sampai riwayat keterlambatan cicilan. Mata manusia dan otak kita hanya nyaman melihat pola dalam dua atau tiga dimensi saja, sedangkan model machine learning pun ternyata juga "kewalahan" secara statistik ketika jumlah variabel terlalu banyak dibanding jumlah datanya, fenomena ini disebut kutukan dimensi atau curse of dimensionality. Efek praktisnya, model menjadi lambat, mudah overfitting atau terlalu hafal data latih sehingga gagal di data baru, dan biaya komputasi membengkak. Dimensionality reduction hadir sebagai solusi untuk memampatkan ratusan variabel itu menjadi hanya beberapa "sumbu baru" yang tetap merepresentasikan pola aslinya, sehingga baik manusia maupun model bisa bekerja lebih efisien.

Analogi: Meringkas "Rapor" Nasabah/Pelanggan

Kasus: Tokopedia Menilai Pembeli

Tokopedia mencatat puluhan variabel per pembeli: frekuensi belanja, nilai transaksi rata-rata, jumlah komplain, waktu respons chat, rating yang diberikan, kategori favorit, dsb.

Dimensionality reduction bisa meringkas semua itu menjadi 2 sumbu utama, misalnya sumbu "loyalitas belanja" dan sumbu "sensitivitas harga" — tanpa membuang informasi penting.

Intinya: kita mencari kombinasi variabel baru yang paling banyak "menangkap" perbedaan antar-pelanggan, bukan sekadar membuang kolom secara acak.

Supaya lebih terasa dekat dengan dunia bisnis digital yang Anda tekuni, mari kita pakai contoh Tokopedia yang mencatat puluhan variabel setiap pembeli, mulai dari seberapa sering berbelanja, rata-rata nilai transaksi, jumlah komplain, kecepatan merespons chat penjual, sampai kategori produk favorit. Alih-alih menganalisis puluhan variabel itu satu per satu, dimensionality reduction memungkinkan kita meringkasnya menjadi dua sumbu baru saja, misalnya sumbu loyalitas belanja dan sumbu sensitivitas harga, sehingga tim data Tokopedia bisa memetakan jutaan pembeli dalam satu grafik dua dimensi yang mudah dibaca. Penting untuk Anda pahami bahwa proses ini bukan sekadar membuang kolom yang dianggap tidak penting secara sembarangan, melainkan mencari kombinasi matematis dari semua variabel yang paling banyak menjelaskan perbedaan antar-pelanggan. Inilah yang akan kita bedah secara teknis mulai slide berikutnya, dimulai dari algoritma yang paling populer yaitu PCA.

Bagian 2 dari 4

PCA: Principal Component Analysis

Mencari "sumbu pandang" terbaik yang memaksimalkan keragaman data.

Intuisi PCA: Sudut Foto Terbaik

Bayangkan Anda memotret sebuah teko dari berbagai sudut. Beberapa sudut membuat teko terlihat "gepeng" (informasi hilang), sudut lain menampilkan bentuknya jelas.

PCA mencari sumbu (disebut principal component/komponen utama) yang membuat titik-titik data paling menyebar (varians maksimum) — itulah sudut pandang paling informatif.

Untuk membangun intuisi tanpa rumus dulu, bayangkan Anda memegang kamera dan memotret sebuah teko dari berbagai sudut pandang, ada sudut yang membuat teko terlihat jelas bentuknya dengan gagang dan corongnya tampak, tetapi ada juga sudut yang membuat teko terlihat gepeng seperti lingkaran datar sehingga banyak informasi bentuknya hilang. PCA pada dasarnya melakukan hal yang mirip terhadap data, ia mencari "sudut pandang" atau lebih tepatnya sumbu baru, yang disebut principal component atau komponen utama dalam Bahasa Indonesia, yang membuat titik-titik data terlihat paling menyebar atau paling bervariasi. Istilah teknisnya adalah varians, yaitu ukuran seberapa jauh titik-titik data tersebar dari titik tengahnya; semakin besar varians pada suatu sumbu, semakin banyak informasi yang tertangkap sumbu tersebut. Nanti pada slide perhitungan, Anda akan melihat bagaimana varians ini dihitung secara matematis dari data riil, sehingga intuisi visual ini punya dasar angka yang konkret.

4 Langkah Konseptual PCA

Alur Proses

1. Pusatkan data (kurangi rata-rata tiap variabel)
2. Hitung matriks kovarians (ukuran hubungan antar-variabel)
3. Cari eigenvector & eigenvalue dari matriks itu
4. Urutkan & pilih komponen dengan varians terbesar

Glosarium cepat: eigenvector = arah sumbu baru; eigenvalue = besar varians yang "dibawa" arah itu. Semakin besar eigenvalue, semakin penting komponen tersebut.

Sekarang mari kita bedah proses PCA menjadi empat langkah konseptual yang runtut. Langkah pertama adalah memusatkan data, artinya kita mengurangi setiap nilai dengan rata-rata kolomnya sehingga data berpusat di titik nol, ini analog dengan menyamakan titik awal semua pelari sebelum lomba dimulai. Langkah kedua, kita menghitung matriks kovarians, yaitu tabel angka yang menunjukkan seberapa erat dua variabel bergerak bersama, misalnya apakah nasabah yang saldonya besar juga cenderung sering bertransaksi. Langkah ketiga adalah mencari eigenvector dan eigenvalue dari matriks kovarians tersebut, di mana eigenvector menunjukkan arah sumbu baru dan eigenvalue menunjukkan seberapa besar varians yang dibawa sumbu tersebut, semakin besar nilainya semakin penting sumbu itu. Langkah terakhir, kita mengurutkan komponen dari eigenvalue terbesar ke terkecil dan memilih beberapa yang teratas sebagai representasi baru data kita, dan pada slide berikutnya kita akan praktikkan langkah dua dan tiga ini dengan angka sungguhan.

Hitung dari Nol #1: Memusatkan Data

Data sederhana: skor Belanja (X) dan Kunjungan (Y) dari 4 pelanggan Shopee (dalam satuan terstandarisasi).

Langkah	Perhitungan	Nilai
Data X (4 pelanggan)	4, 8, 6, 2	—
Rata-rata X	(4+8+6+2) / 4	5
Data Y (4 pelanggan)	5, 9, 7, 1	—
Rata-rata Y	(5+9+7+1) / 4	5,5
X dipusatkan	4−5, 8−5, 6−5, 2−5	-1, 3, 1, -3
Y dipusatkan	5−5,5, 9−5,5, 7−5,5, 1−5,5	-0,5, 3,5, 1,5, -4,5

Hasil Kunci

rata-rata data setelah dipusatkan (selalu 0)

Mari kita mulai perhitungan sungguhan supaya PCA tidak terasa abstrak lagi. Kita punya data sederhana dari empat pelanggan Shopee, variabel X adalah skor belanja dan variabel Y adalah skor frekuensi kunjungan aplikasi, keduanya sudah dalam satuan yang sebanding. Langkah pertama yang wajib dilakukan sebelum PCA adalah memusatkan data, yaitu menghitung rata-rata tiap kolom lalu mengurangkan setiap nilai dengan rata-ratanya, tujuannya supaya titik pusat data berada tepat di angka nol pada kedua sumbu. Perhatikan pada tabel bagaimana rata-rata X kita hitung dengan menjumlahkan empat angka lalu membagi empat, menghasilkan lima, demikian pula rata-rata Y menghasilkan 5,5, lalu setiap nilai asli dikurangi rata-rata tersebut. Setelah proses ini, jika Anda menjumlahkan kembali seluruh nilai X yang sudah dipusatkan, hasilnya pasti nol, ini adalah properti matematis penting yang menjadi syarat sebelum menghitung matriks kovarians pada slide berikutnya.

Coba Sendiri: Pusatkan Data lalu Cari Eigenvector

Ubah titik data pelanggan, amati bagaimana pemusatan data dan matriks kovarians menghasilkan arah eigenvector secara langsung.

Hitung dari Nol #2: Matriks Kovarians

Kovarians mengukur apakah X dan Y bergerak searah (positif) atau berlawanan (negatif).

Langkah	Perhitungan	Nilai
Kali X·Y per pelanggan	(-1)(-0,5), (3)(3,5), (1)(1,5), (-3)(-4,5)	0,5; 10,5; 1,5; 13,5
Jumlah hasil kali	0,5 + 10,5 + 1,5 + 13,5	26
Kovarians(X,Y)	26 / (4−1)	8,67
Varians(X)	(1+9+1+9) / 3	6,67
Varians(Y)	(0,25+12,25+2,25+20,25) / 3	11,67

Kesimpulan

+8,67

kovarians positif → belanja & kunjungan naik bersama

Sekarang kita lanjutkan ke matriks kovarians, konsep kunci di jantung PCA. Kovarians antara X dan Y dihitung dengan mengalikan nilai X dan Y yang sudah dipusatkan untuk setiap pelanggan, lalu menjumlahkan semuanya dan membaginya dengan jumlah data dikurangi satu, yang dalam statistik disebut pembagi n minus 1 untuk estimasi sampel. Perhatikan hasil perkalian tiap pelanggan pada tabel, semuanya kita jumlahkan menjadi 26, lalu kita bagi dengan tiga karena kita punya empat pelanggan, sehingga kovarians X dan Y adalah 8,67. Angka positif ini bermakna penting secara bisnis, yaitu pelanggan yang skor belanjanya tinggi cenderung juga skor kunjungannya tinggi, kedua variabel ini bergerak searah. Kita juga menghitung varians X sendiri sebesar 6,67 dan varians Y sebesar 11,67, ketiga angka ini nanti akan kita susun menjadi matriks kovarians dua-dikali-dua yang menjadi dasar untuk mencari eigenvector pada slide selanjutnya.

Dari Kovarians ke Komponen Utama

Matriks Kovarians (2x2)

[ 6,67 8,67 ]
[ 8,67 11,67 ]

Diagonal = varians tiap variabel; luar diagonal = kovarians (hubungan) X-Y.

Dari matriks ini, perangkat lunak (Python/R) menghitung eigenvector dominan — kurang lebih mengarah ke diagonal naik (X dan Y naik bersama), karena kovariansnya positif dan besar relatif terhadap varians masing-masing.

Tiga angka yang baru kita hitung, yaitu varians X, varians Y, dan kovarians X-Y, sebenarnya disusun menjadi satu matriks kovarians berukuran dua kali dua seperti yang tertampil di layar, di mana posisi diagonal berisi varians masing-masing variabel dan posisi luar diagonal berisi kovariansnya. Dalam praktik nyata di industri, kita tidak menghitung eigenvector secara manual dengan tangan karena rumitnya aljabar linear, melainkan menggunakan Python dengan library seperti scikit-learn atau NumPy yang menyelesaikannya dalam sepersekian detik. Namun secara intuitif, karena kovarians antara belanja dan kunjungan bernilai positif dan cukup besar dibanding variansnya sendiri, arah komponen utama pertama akan condong ke diagonal naik, artinya sumbu baru ini kurang lebih menangkap "kombinasi belanja tinggi dan kunjungan tinggi" sebagai satu sifat pelanggan. Inilah komponen utama pertama atau PC1, yang biasanya menangkap porsi varians terbesar, sementara komponen utama kedua PC2 tegak lurus dengan PC1 dan menangkap sisa variasi yang tidak tertangkap PC1.

Bagian 3 dari 4

SVD dan ICA: Dua Saudara PCA

Alat serupa untuk tujuan yang berbeda — akan diperdalam pertemuan minggu depan.

SVD: Singular Value Decomposition

SVD adalah teknik aljabar linear yang lebih umum daripada PCA — bisa dipakai pada matriks apa pun (tidak harus persegi), termasuk mesin di balik sistem rekomendasi.

Konsep Inti

SVD memecah satu matriks data A menjadi tiga matriks lebih sederhana:

A = U × Σ × V^T

Σ (sigma) berisi "singular value" — mirip eigenvalue, menunjukkan kepentingan tiap komponen.

Contoh Nyata

Netflix

rekomendasi film

SVD dipakai memecah matriks rating pengguna x film menjadi pola "selera tersembunyi" — dasar collaborative filtering.

SVD atau Singular Value Decomposition adalah teknik yang secara matematis berkerabat dekat dengan PCA, bahkan pada banyak implementasi praktis, PCA sebenarnya dihitung menggunakan SVD di baliknya karena secara komputasi lebih stabil. Perbedaan konseptual utamanya, SVD bisa bekerja pada matriks apa pun, tidak harus matriks kovarians yang persegi seperti PCA, sehingga SVD lebih fleksibel dipakai langsung pada data mentah termasuk matriks yang jumlah baris dan kolomnya berbeda. Notasi rumusnya adalah matriks A dipecah menjadi tiga matriks U, Sigma, dan V transpose, di mana Sigma berisi angka-angka yang disebut singular value, mirip fungsinya dengan eigenvalue pada PCA yaitu menunjukkan seberapa penting tiap komponen. Contoh penerapan yang sangat terkenal adalah sistem rekomendasi Netflix, yang dulu memakai teknik berbasis SVD untuk memecah matriks rating jutaan pengguna terhadap ribuan film menjadi pola selera tersembunyi, sehingga bisa merekomendasikan film yang mungkin disukai pengguna meskipun belum pernah ia tonton.

ICA: Independent Component Analysis

ICA memisahkan sinyal campuran menjadi sumber-sumber yang independen (bukan sekadar tak berkorelasi seperti PCA).

Analogi Klasik: "Cocktail Party Problem"

Dua mikrofon merekam suara di ruangan berisi dua orang bicara bersamaan. Tiap mikrofon menangkap campuran kedua suara. ICA memisahkan kembali menjadi suara Orang A murni dan Orang B murni.

Beda kunci dengan PCA: PCA mencari arah varians maksimum (data boleh berdistribusi normal); ICA mencari sinyal yang saling independen secara statistik — cocok untuk data campuran seperti sinyal EEG, audio, atau transaksi keuangan yang tercampur beberapa pola.

Independent Component Analysis atau ICA memecahkan masalah yang berbeda dari PCA, meskipun sama-sama dikategorikan sebagai teknik dimensionality reduction. Analogi paling terkenal untuk menjelaskan ICA adalah cocktail party problem, bayangkan Anda berada di sebuah pesta dengan dua orang berbicara bersamaan, dan Anda memasang dua mikrofon di posisi berbeda di ruangan itu, masing-masing mikrofon akan menangkap campuran dari kedua suara tersebut namun dengan proporsi berbeda tergantung jaraknya ke masing-masing pembicara. ICA adalah algoritma yang mampu memisahkan kembali dua sinyal campuran itu menjadi suara Orang A yang murni dan suara Orang B yang murni, tanpa mengetahui sebelumnya bagaimana campurannya terjadi. Perbedaan mendasar dengan PCA adalah, PCA hanya mencari arah dengan varians terbesar dan mengasumsikan sumbu-sumbu barunya saling tidak berkorelasi, sedangkan ICA menuntut syarat lebih ketat yaitu komponen-komponen hasil pemisahannya harus benar-benar independen secara statistik. Di dunia bisnis digital, ICA berguna misalnya untuk memisahkan pola transaksi keuangan yang tercampur dari beberapa sumber berbeda, atau membersihkan sinyal sensor pada perangkat IoT dari derau atau noise di sekitarnya.

Coba Sendiri: Visualisasi PCA Interaktif

Geser slider untuk melihat bagaimana PCA memilih sumbu dengan varians maksimum pada awan titik data.

Sekarang saya persilakan Anda mencoba sendiri widget interaktif ini di layar, di mana Anda bisa melihat awan titik data dan menggeser sumbu pandang untuk merasakan langsung bagaimana varians berubah tergantung sudutnya. Perhatikan bagaimana pada satu posisi sumbu, titik-titik data terlihat sangat menyebar lebar, sedangkan pada posisi lain titik-titik itu terlihat menumpuk rapat, ini persis konsep varians maksimum yang kita bahas tadi dalam bentuk visual yang bisa Anda gerakkan sendiri. Silakan eksplorasi beberapa menit, coba temukan sendiri sudut yang menurut Anda menangkap penyebaran data paling banyak, sebelum saya tunjukkan sudut optimal yang sebenarnya dihitung algoritma PCA. Latihan visual seperti ini penting supaya intuisi Anda tentang PCA tidak sekadar hafalan rumus, melainkan benar-benar terasa masuk akal secara geometris.

Bagian 4 dari 4

Memilih Teknik yang Tepat

Kapan PCA, kapan SVD, kapan ICA — dan bagaimana ini berhubungan dengan pertemuan berikutnya.

Perbandingan PCA vs SVD vs ICA

Kriteria	PCA	SVD	ICA
Tujuan utama	Varians maksimum	Dekomposisi matriks umum	Sumber independen
Syarat data	Matriks persegi (kovarians)	Matriks apa pun	Sinyal campuran non-Gaussian
Contoh pakai bisnis	Ringkas profil pelanggan	Sistem rekomendasi (Netflix)	Pisahkan sinyal tercampur (EEG, audio)
Output	Komponen tak berkorelasi	U, Σ, V	Komponen independen

Tabel ini merangkum perbedaan tiga teknik yang sudah kita bahas, dan saya sarankan Anda benar-benar mencatatnya sebagai referensi cepat. PCA paling cocok ketika tujuan Anda adalah meringkas variabel-variabel yang berkorelasi menjadi beberapa sumbu baru yang menangkap varians terbesar, misalnya meringkas profil pelanggan dari puluhan variabel perilaku. SVD lebih fleksibel karena bisa bekerja pada matriks berukuran apa pun, sehingga sangat populer di sistem rekomendasi seperti yang dipakai Netflix atau bahkan Tokopedia untuk merekomendasikan produk. ICA dipakai ketika masalah Anda adalah memisahkan sinyal-sinyal yang tercampur menjadi sumber-sumber independennya, seperti pada rekaman audio, sinyal EEG di bidang kesehatan, atau bahkan pola transaksi keuangan yang bercampur dari berbagai sumber. Ingat bahwa dalam praktik, ketiganya sering dipakai berurutan atau saling melengkapi, bukan saling menggantikan sepenuhnya.

Latihan Kelas: Diskusi Kasus

Kasus: Startup fintech Anda punya data 50 variabel per pengguna aplikasi (transaksi, lokasi, device, waktu akses, dsb) dan ingin membuat peta visual 2D segmentasi pengguna untuk tim marketing.

Pertanyaan Diskusi

Teknik mana yang paling tepat: PCA, SVD, atau ICA? Mengapa?
Apa risiko jika hanya memilih 2 variabel mentah tanpa reduksi dimensi?

Waktu

menit diskusi kelompok

Sekarang saatnya Anda berlatih menerapkan apa yang sudah dipelajari pada kasus yang realistis. Bayangkan Anda bekerja di startup fintech seperti OVO atau DANA yang memiliki lima puluh variabel per pengguna aplikasi, dan tim marketing meminta sebuah peta visual dua dimensi untuk melihat segmentasi pengguna secara sekilas. Silakan berdiskusi dalam kelompok kecil selama lima menit, pertimbangkan teknik mana yang paling masuk akal digunakan di sini dan alasannya, apakah PCA yang mencari varians maksimum, atau justru ICA jika Anda menduga ada beberapa "pola tersembunyi" independen yang bercampur dalam data pengguna. Pertanyaan kedua juga penting untuk direnungkan, yaitu apa risikonya jika tim hanya asal memilih dua variabel mentah, misalnya umur dan saldo, tanpa proses reduksi dimensi yang benar, mungkin saja dua variabel itu justru tidak menangkap perbedaan pengguna yang sebenarnya paling penting bagi bisnis. Setelah lima menit, saya akan meminta beberapa kelompok berbagi jawabannya secara singkat.

Jebakan Umum yang Harus Dihindari

Miskonsepsi 1: "PCA membuang variabel yang tidak penting." Salah — PCA membuat kombinasi baru dari SEMUA variabel asli, bukan seleksi variabel.

Miskonsepsi 2: "Komponen utama selalu mudah diinterpretasikan." Sering kali PC1/PC2 adalah campuran matematis abstrak, perlu analisis lanjut untuk memberi makna bisnis.

Praktik baik: selalu standardisasi (samakan skala) variabel sebelum PCA, agar variabel dengan satuan besar (misal: pendapatan dalam Rupiah) tidak mendominasi variabel bersatuan kecil (misal: rating 1-5).

Sebelum kita menutup materi inti, saya ingin meluruskan dua miskonsepsi yang sangat sering terjadi pada mahasiswa maupun praktisi pemula. Miskonsepsi pertama adalah anggapan bahwa PCA membuang variabel-variabel yang dianggap tidak penting, padahal yang sebenarnya terjadi adalah PCA membuat kombinasi matematis baru dari SEMUA variabel asli sekaligus, bukan menyeleksi sebagian dan membuang sebagian lainnya. Miskonsepsi kedua adalah menganggap komponen utama pertama dan kedua selalu mudah dimaknai secara bisnis, padahal kenyataannya sering kali PC1 atau PC2 adalah campuran abstrak dari banyak variabel yang butuh analisis lanjutan dan diskusi dengan tim bisnis untuk diberi nama dan makna yang masuk akal, misalnya menamakannya "skor loyalitas" setelah melihat variabel mana saja yang berkontribusi besar. Satu praktik baik yang wajib Anda ingat adalah selalu melakukan standardisasi, yaitu menyamakan skala semua variabel sebelum menjalankan PCA, karena jika Anda mencampur variabel pendapatan dalam rupiah yang bernilai jutaan dengan variabel rating skala 1 sampai 5, variabel pendapatan akan mendominasi hasil PCA hanya karena skalanya jauh lebih besar, bukan karena benar-benar lebih penting secara bisnis.

Rangkuman & Menuju Pertemuan Berikutnya

Cheat Sheet Hari Ini

Dimensionality reduction = memampatkan banyak variabel jadi sedikit sumbu bermakna
PCA = cari arah varians maksimum lewat matriks kovarians
SVD = dekomposisi matriks umum (U·Σ·V^T), dasar sistem rekomendasi
ICA = pisahkan sinyal campuran jadi sumber independen

Minggu Depan

SVD & ICA mendalam

Kita akan menghitung SVD langkah demi langkah dan membedah ICA lebih matematis. Tugas: baca ringkasan bab dimensionality reduction & kerjakan latihan PCA manual pada dataset yang akan dibagikan.

Mari kita rangkum apa yang sudah kita pelajari sepanjang dua jam ini sebelum mengakhiri pertemuan. Kita mulai dari masalah kutukan dimensi yang membuat data berdimensi tinggi sulit dianalisis dan divisualisasikan, lalu kita pelajari PCA secara mendalam termasuk menghitungnya langkah demi langkah dari data mentah hingga matriks kovarians, kemudian kita berkenalan sekilas dengan SVD yang lebih fleksibel dan mendasari sistem rekomendasi seperti Netflix, serta ICA yang memisahkan sinyal campuran menjadi sumber independen lewat analogi cocktail party problem. Minggu depan kita akan mendalami SVD dan ICA secara lebih matematis dan menghitungnya langkah demi langkah seperti yang kita lakukan pada PCA hari ini, jadi pastikan Anda benar-benar memahami konsep varians, kovarians, dan standardisasi yang sudah kita bahas karena akan terus dipakai. Sebagai tugas sebelum pertemuan berikutnya, mohon baca ringkasan materi dimensionality reduction yang sudah saya bagikan dan coba kerjakan latihan PCA manual pada dataset kecil yang akan saya kirim lewat portal kuliah. Terima Kasih atas perhatian Anda hari ini, sampai jumpa minggu depan.