Program Studi Bisnis Digital • FEB UNDIP

Machine Learning in Finance

Pertemuan 3 — OLS dan Asumsi Klasik

Dari sekadar menarik garis lurus di antara titik-titik data menuju model regresi yang bisa dipertanggungjawabkan secara statistik — fondasi untuk semua model time series finansial yang akan kita pelajari.

RPS MINGGU 3 • 2 × 50 MENIT

Tujuan Pembelajaran Hari Ini

Setelah pertemuan ini, Anda diharapkan mampu membangun dan mengevaluasi model regresi OLS sederhana untuk data finansial. Secara rinci:

CAPAIAN 1

MEKANIKA

Menjelaskan logika Ordinary Least Squares (OLS) — meminimumkan jumlah kuadrat residual.

CAPAIAN 2

ASUMSI

Menyebutkan dan memahami lima asumsi klasik Gauss-Markov di balik OLS.

CAPAIAN 3

DETEKSI

Mengenali gejala heteroskedastisitas, autokorelasi, dan multikolinearitas pada data finansial.

CAPAIAN 4

INTERPRETASI

Membaca output regresi: koefisien, $R^{2}$, dan signifikansi statistik dengan benar.

Mengapa OLS Penting di Keuangan?

Hampir setiap model kuantitatif finansial — dari CAPM (Capital Asset Pricing Model, model penentuan return wajar saham) sampai model risiko bank — berakar dari satu ide: mencari garis lurus terbaik yang menjelaskan hubungan dua variabel.

Contoh Nyata

Analis BEI mengukur beta saham GOTO terhadap IHSG lewat regresi return harian.
Bank menaksir hubungan suku bunga BI terhadap permintaan kredit UMKM.
Fintech memprediksi volume transaksi dari jumlah pengguna aktif.

Kenapa Bukan Asal Tarik Garis?

Tanpa aturan matematis, dua orang bisa menarik garis berbeda untuk data yang sama.
OLS memberi satu garis unik yang optimal menurut kriteria yang jelas.
Fondasi wajib sebelum masuk VAR, ARIMA, GARCH minggu-minggu depan.

Bagian 1 dari 4

Mekanika OLS: Menarik Garis Terbaik

Apa itu regresi linear sederhana, dan bagaimana OLS memilih satu garis dari tak terhingga kemungkinan garis.

Model Regresi Linear Sederhana

Kita ingin menjelaskan variabel $Y$ (dependen, misal return saham) menggunakan variabel $X$ (independen, misal return IHSG). Dasar teori ada di materi regresi linear sederhana.

$Y = \alpha + \beta X + \varepsilon$

$\alpha$ (intersep)

Titik Potong

Nilai $Y$ saat $X = 0$. Return saham saat pasar diam.

$\beta$ (slope)

Kemiringan

Perubahan $Y$ untuk tiap 1 unit kenaikan $X$ — inilah beta saham di dunia nyata.

$\varepsilon$ (error)

Residual

Bagian $Y$ yang tak terjelaskan oleh garis — "sisa" atau noise.

Prinsip "Least Squares": Minimalkan Kuadrat Error

OLS memilih $\alpha$ dan $\beta$ yang membuat jumlah kuadrat residual (SSR) sekecil mungkin — bukan asal cocok mata.

$\text{SSR} = \sum_{i=1}^{n}(Y_i - \hat{Y}_i)^{2} \rightarrow \text{diminimumkan}$

Hitung dari Nol: Estimasi $\beta$ dan $\alpha$

Data 5 hari: return IHSG ($X$, %) dan return saham BBCA ($Y$, %). Rata-rata $\bar{X} = 1{,}0$; $\bar{Y} = 1{,}4$.

Langkah	Perhitungan	Nilai
1. $\sum(X_i - \bar{X})(Y_i - \bar{Y})$	$(-1)(-1{,}4)+(0)(-0{,}4)+(0)(0{,}6)+(1)(0{,}6)+(0)(0{,}6) = 1{,}4+0+0+0{,}6+0$	$2{,}0$
2. $\sum(X_i - \bar{X})^{2}$	$(-1)^{2}+0^{2}+0^{2}+1^{2}+0^{2} = 1+0+0+1+0$	$2{,}0$
3. $\beta = $ langkah1 $\div$ langkah2	$2{,}0 \div 2{,}0$	$1{,}0$
4. $\alpha = \bar{Y} - \beta\bar{X}$	$1{,}4 - (1{,}0 \times 1{,}0)$	$0{,}4$

Persamaan hasil: $\hat{Y} = 0{,}4 + 1{,}0\,X$ — $\beta = 1$ berarti BBCA bergerak satu banding satu dengan IHSG. Bandingkan dengan rumus regresi linear sederhana.

Coba Sendiri: Bangun Garis Regresi Langkah demi Langkah

Geser titik data pada scatter plot dan amati bagaimana matriks $X'X$, $X'y$, lalu $\beta$ & $\alpha$ ikut berubah secara langsung.

Tool & bacaan

→ Buka tool ols-matriks-stepper

→ Tool regresi-slider

Bacaan pendukung:

Bagian 2 dari 4

Lima Asumsi Klasik Gauss-Markov

OLS hanya "terbaik" (BLUE) kalau lima asumsi ini terpenuhi — inilah yang membuat regresi bisa dipercaya atau tidak.

Lima Asumsi Gauss-Markov (Ringkas)

#	Asumsi	Artinya (Bahasa Sederhana)
1	Linearitas	Hubungan X-Y memang berbentuk garis lurus, bukan kurva.
2	Eksogenitas	Error tidak berkorelasi dengan X (X bukan "penyebab semu").
3	Homoskedastisitas	Varians error konstan di semua nilai X — sebaran "lebar noise" sama.
4	Non-autokorelasi	Error hari ini tidak berkaitan dengan error kemarin.
5	Non-multikolinearitas	Variabel X (kalau lebih dari satu) tidak saling tumpang-tindih tinggi.

Empat asumsi pertama umumnya untuk regresi sederhana (satu X); asumsi ke-5 relevan saat X lebih dari satu (regresi berganda) — akan sering muncul di model VAR/ARIMA nanti.

Ini adalah lima rambu jalan yang harus kita cek sebelum mempercayai hasil regresi. Linearitas berarti hubungan X dan Y memang lurus, bukan melengkung seperti huruf U. Eksogenitas berarti variabel penjelas kita tidak diam-diam dipengaruhi oleh error, sehingga tidak ada hubungan sebab-akibat yang semu. Homoskedastisitas, istilah yang terdengar rumit tapi maksudnya sederhana, yaitu besarnya "kegaduhan" atau error harus konsisten, tidak boleh kecil di satu area data dan besar di area lain. Non-autokorelasi berarti kesalahan hari ini tidak berkaitan dengan kesalahan kemarin, ini sering dilanggar pada data time series finansial. Terakhir, non-multikolinearitas relevan saat kita punya lebih dari satu variabel penjelas — variabel-variabel itu tidak boleh terlalu mirip satu sama lain. Tiga asumsi terakhir inilah yang paling sering bermasalah di data pasar modal, dan akan kita bahas satu per satu di slide-slide berikutnya.

Coba Sendiri: Langgar Asumsi, Lihat Akibatnya

Nyalakan/matikan tiap asumsi Gauss-Markov satu per satu dan amati bagaimana status BLUE regresi berubah.

Tool & bacaan

→ Buka tool gauss-markov-blue

Bacaan pendukung:

Masalah #1: Heteroskedastisitas

Varians error tidak konstan — sering muncul di data return saham, karena volatilitas cenderung membesar saat pasar bergejolak.

Akibat: standard error koefisien jadi bias — uji signifikansi (uji-t) bisa menyesatkan meski β sendiri masih tepat.

Perhatikan pola "corong" pada grafik ini — di sisi kiri, titik-titik data mengumpul rapat dekat garis, tapi semakin ke kanan, sebarannya semakin melebar. Ini adalah ciri khas heteroskedastisitas. Dalam konteks finansial, ini sangat masuk akal: saat pasar tenang, return saham bergerak dalam kisaran sempit, tapi saat terjadi krisis atau berita besar, seperti pengumuman suku bunga BI atau laporan keuangan mengejutkan, volatilitas melonjak dan sebaran error ikut melebar. Masalahnya bukan pada nilai koefisien beta itu sendiri — beta yang dihitung tetap tidak bias — tapi pada standard error-nya, yang membuat uji signifikansi seperti uji-t menjadi tidak bisa dipercaya. Inilah salah satu alasan kenapa kita nanti mempelajari model ARCH dan GARCH, yang dirancang khusus untuk menangkap volatilitas yang berubah-ubah ini.

Masalah #2: Autokorelasi

Error hari ini berkorelasi dengan error hari sebelumnya — umum pada data time series finansial (harga cenderung "menempel" ke tren).

Contoh Kasus

Model memprediksi return harga saham Astra terlalu rendah tiga hari berturut-turut saat sedang tren naik.
Errornya tidak "acak" — ada pola yang berulang dari waktu ke waktu.

Konsekuensi & Deteksi

Standard error terlalu kecil → hasil terlihat "signifikan" padahal belum tentu.
Dideteksi dengan uji Durbin-Watson (nilai ideal ≈ 2).

Autokorelasi artinya kesalahan prediksi hari ini punya pola yang berkaitan dengan kesalahan prediksi hari kemarin. Bayangkan model regresi kita memprediksi return saham Astra Internasional, tapi selama tiga hari berturut-turut model itu selalu meleset ke arah yang sama, misalnya selalu memprediksi terlalu rendah saat harga sedang tren naik. Itu tanda bahwa error kita tidak acak, melainkan mengikuti pola dari waktu ke waktu — ini melanggar asumsi keempat kita. Data finansial sangat rentan terhadap ini karena harga aset punya momentum dan sering "menempel" pada tren jangka pendek. Konsekuensinya mirip heteroskedastisitas: standard error jadi terlalu kecil, sehingga kita bisa salah menyimpulkan suatu variabel signifikan padahal sebetulnya tidak. Alat standar untuk mendeteksinya adalah uji Durbin-Watson, dengan nilai idealnya mendekati angka 2.

Masalah #3: Multikolinearitas

Berlaku saat $X$ lebih dari satu (regresi berganda) — dua atau lebih variabel penjelas saling tumpang tindih secara statistik. Bahas mendalam di multikolinearitas.

Contoh: $X_1$ = suku bunga BI, $X_2$ = suku bunga deposito bank → keduanya bergerak nyaris identik

GEJALA

$R^{2}$ Tinggi

Model terlihat "bagus" tapi koefisien individual jadi tidak stabil dan sulit diinterpretasi.

DETEKSI

$\text{VIF} > 10$

Variance Inflation Factor — angka tinggi menandakan variabel saling redundan.

Multikolinearitas muncul ketika kita menggunakan lebih dari satu variabel penjelas dan dua di antaranya ternyata bergerak hampir bersamaan. Contoh klasik di keuangan Indonesia adalah suku bunga acuan BI dan suku bunga deposito bank umum — keduanya cenderung naik-turun bersamaan karena bank menyesuaikan suku bunga simpanan mengikuti kebijakan BI. Kalau kita masukkan keduanya sekaligus ke satu model, komputer kesulitan memisahkan pengaruh masing-masing variabel, sehingga koefisiennya menjadi tidak stabil — bisa berubah drastis hanya karena menambah atau mengurangi satu observasi data. Gejalanya, model secara keseluruhan terlihat bagus dengan R kuadrat tinggi, tapi begitu kita lihat koefisien satu per satu, tandanya bisa aneh atau bahkan terbalik dari logika ekonomi. Alat deteksinya bernama Variance Inflation Factor atau VIF; aturan praktis umum, nilai di atas 10 dianggap bermasalah.

Bagian 3 dari 4

Membaca Output Regresi

Koefisien, R-kuadrat, dan uji signifikansi — cara mengubah angka di layar Python/Excel menjadi kesimpulan bisnis.

$R^{2}$: Seberapa Baik Model Menjelaskan Data?

$R^{2}$ (koefisien determinasi) mengukur proporsi variasi $Y$ yang berhasil dijelaskan oleh $X$. Rentang $0$ sampai $1$. Lihat juga koefisien determinasi.

$R^{2} = 1 - \dfrac{\text{SSR}}{\text{SST}}$

Nilai $R^{2}$	Interpretasi Umum
$0{,}80 - 1{,}00$	Model menjelaskan data dengan sangat kuat (jarang di data finansial mentah)
$0{,}30 - 0{,}60$	Cukup umum untuk data return saham harian — pasar penuh "noise"
$< 0{,}10$	Model hampir tidak menjelaskan apa-apa — perlu variabel/model lain

Jebakan umum: $R^{2}$ tinggi bukan jaminan model benar — bisa jadi hasil overfitting atau multikolinearitas.

Uji Signifikansi: Apakah $\beta$ Bisa Dipercaya?

Uji-$t$ menguji apakah koefisien $\beta$ secara statistik berbeda dari nol (yaitu, $X$ benar-benar berpengaruh terhadap $Y$). Dasar di uji hipotesis.

P-VALUE < $0{,}05$

Signifikan

Kemungkinan hubungan ini terjadi karena kebetulan < 5% — cukup meyakinkan untuk ditolak $H_0$ ($\beta = 0$).

P-VALUE $\geq 0{,}05$

Tidak Signifikan

Tidak cukup bukti bahwa $X$ memengaruhi $Y$ — gagal tolak $H_0$, meski koefisiennya bukan nol persis.

Ambang $0{,}05$ (5%) adalah konvensi umum di riset sosial/keuangan — bukan hukum alam yang mutlak.

Hitung dari Nol: Standard Error dan Uji-$t$ Sederhana

Lanjutan dari data sebelumnya: $\beta = 1{,}0$, standard error (SE) $\beta = 0{,}25$, $n = 5$ observasi.

Langkah	Perhitungan	Nilai
1. Hitung $t$-statistik	$t = \beta \div \text{SE} = 1{,}0 \div 0{,}25$	$4{,}0$
2. Bandingkan dengan nilai kritis	$t$-tabel ($\text{df}=3$, $\alpha=5\%$) $\approx 3{,}18$	$3{,}18$
3. Uji: $\|t_{\text{hitung}}\| > t_{\text{tabel}}$?	$4{,}0 > 3{,}18 \rarr$ ya	SIGNIFIKAN
4. Kesimpulan bisnis	Return IHSG berpengaruh nyata terhadap return BBCA	TOLAK $H_0$

Karena $t$-hitung ($4{,}0$) melebihi $t$-tabel ($3{,}18$), kita tolak hipotesis nol — $\beta$ secara statistik berbeda dari nol.

Sekarang kita lengkapi perhitungan tadi dengan uji signifikansi. Kita punya beta sebesar 1,0 dengan standard error 0,25. Langkah pertama, kita hitung t-statistik dengan membagi beta dengan standard errornya, hasilnya 1,0 dibagi 0,25 sama dengan 4,0. Langkah kedua, kita bandingkan dengan nilai kritis dari tabel distribusi-t, yang untuk derajat bebas 3 dan tingkat kepercayaan 5 persen kira-kira sebesar 3,18. Langkah ketiga, kita cek apakah nilai mutlak t-hitung kita, yaitu 4,0, lebih besar dari t-tabel 3,18 — ternyata benar, jadi hasilnya signifikan. Kesimpulannya, kita bisa menolak hipotesis nol yang menyatakan beta sama dengan nol, dan menyimpulkan bahwa return IHSG memang berpengaruh nyata secara statistik terhadap return BBCA. Inilah alur berpikir lengkap dari angka mentah sampai kesimpulan bisnis yang bisa dipertanggungjawabkan.

Bagian 4 dari 4

Latihan dan Jembatan ke Pertemuan Depan

Menguji pemahaman Anda, lalu melihat ke mana OLS ini akan berkembang di model time series berikutnya.

Coba Sendiri: Diagnostik Residual: Cek Asumsi OLS

Asumsi klasik Gauss-Markov bukan formalitas. Plot residual membocorkan pelanggaran heteroskedastisitas dan non-linearitas yang membuat OLS tidak lagi BLUE.

Coba Sendiri: Standar Error, t-test & CI Slope

Slope yang tampak signifikan bisa sebenarnya tidak berbeda dari nol. Geser standar error dan lihat bagaimana interval kepercayaan melebar.

Latihan Kelas: Diagnosis Cepat

Kerjakan berpasangan (5 menit). Untuk tiap skenario, tentukan asumsi klasik mana yang paling mungkin dilanggar.

Skenario A

Regresi return saham BUMI (batu bara) terhadap IHSG. Saat harga komoditas melonjak (2021–2022), sebaran error jauh lebih lebar dibanding periode tenang.

Skenario B

Model memprediksi harga rumah memakai dua variabel: luas tanah (m²) dan luas bangunan (m²), yang ternyata berkorelasi 0,95 satu sama lain.

Diskusikan juga: konsekuensi praktis apa yang terjadi kalau masalah ini dibiarkan tanpa koreksi?

Rangkuman: Cheat Sheet OLS

Konsep	Inti
OLS	Metode mencari $\alpha$, $\beta$ yang meminimumkan jumlah kuadrat residual (SSR)
5 Asumsi Klasik	Linearitas, eksogenitas, homoskedastisitas, non-autokorelasi, non-multikolinearitas
Heteroskedastisitas	Varians error tidak konstan — umum saat volatilitas pasar berubah
Autokorelasi	Error berpola dari waktu ke waktu — umum di data time series
$R^{2}$ & uji-$t$	$R^{2}$ = kekuatan penjelasan model; uji-$t$ = keandalan statistik koefisien

Penutup: Ke Mana Selanjutnya?

Minggu Depan

Kita akan naik dari regresi satu arah (X memengaruhi Y) ke Vector Autoregression (VAR) — model di mana beberapa variabel finansial saling memengaruhi satu sama lain dari waktu ke waktu.

TUGAS

Regresi Mini

Ambil 10 hari data return dua saham BEI pilihan Anda, hitung α dan β secara manual, kumpulkan minggu depan.

Sebagai penutup, ingat bahwa OLS yang kita pelajari hari ini adalah regresi satu arah, di mana X memengaruhi Y tapi tidak sebaliknya. Minggu depan kita akan melangkah ke Vector Autoregression atau VAR, sebuah model yang jauh lebih realistis untuk dunia keuangan karena mengakui bahwa variabel-variabel seperti suku bunga, inflasi, dan return saham sebenarnya saling memengaruhi satu sama lain dari waktu ke waktu, bukan cuma satu arah. Sebagai latihan mandiri, saya minta Anda mengambil sepuluh hari data return dua saham BEI pilihan Anda sendiri — boleh BBCA dan TLKM, boleh juga GOTO dan BUKA — lalu hitung alpha dan beta secara manual seperti yang kita latih hari ini, dan kumpulkan hasilnya minggu depan sebelum kita mulai materi VAR. Terima Kasih atas perhatian Anda, sampai jumpa minggu depan.

📖 Baca juga: Beta Unlevering Relevering — penjelasan mendalam dan contoh numerik.