Etika Data & Masa Depan Data Science

Pertemuan 14 | Data Science | Program Bisnis Digital

Data Science Pertemuan 14 / 14 CPMK 1–4 150 menit

Agenda Hari Ini

Teori (75 menit)

Privasi data & hak subjek data
Bias algoritmik & keadilan (fairness)
UU PDP Indonesia (UU No. 27/2022)
Prinsip etika data global vs lokal

Praktik & Diskusi (75 menit)

Studi kasus: pelanggaran data di Indonesia
Tren data science 2025–2030
Peta karir: peran & skill yang dibutuhkan
Diskusi: tanggung jawab data scientist

Penutup semester: setelah pertemuan ini, Anda siap mengerjakan tugas akhir dengan kesadaran etika yang matang.

Tujuan Pembelajaran

Identifikasi isu etika

Mengenali potensi pelanggaran privasi & bias dalam proyek data science

Pahami regulasi UU PDP

Memahami kewajiban perusahaan & hak individu menurut UU No. 27/2022

Rumuskan prinsip etika

Menyusun panduan penggunaan data yang bertanggung jawab dalam konteks bisnis digital Indonesia

Petakan peluang karir

Mengenali tren & peran data science yang relevan untuk karir di Indonesia

Topik 1

Privasi Data & Bias Algoritmik

Hak individu · Diskriminasi tersembunyi · Tanggung jawab data scientist

Privasi Data: Hak yang Sering Diabaikan

Definisi: Privasi data adalah hak individu untuk menentukan bagaimana informasi tentang dirinya dikumpulkan, diproses, dan dibagikan.

Data pribadi sensitif: kesehatan, keuangan, biometrik, lokasi real-time, orientasi seksual
Ancaman utama: data scraping, profiling tersembunyi, re-identification dari data anonim
Prinsip minimasi data: kumpulkan hanya data yang benar-benar diperlukan

Prinsip GDPR & UU PDP

Prinsip	Makna Praktis
Lawfulness	Ada dasar hukum pemrosesan
Purpose limitation	Data hanya untuk tujuan semula
Data minimization	Kumpulkan seperlunya saja
Accuracy	Data harus akurat & ter-update
Storage limitation	Hapus setelah tidak diperlukan

Bias Algoritmik: Diskriminasi yang Tidak Terlihat

Bias Data

Data historis mencerminkan ketidakadilan masa lalu. Model yang dilatih pada data ini akan mereproduksi — bahkan memperkuat — pola diskriminatif tersebut.

Bias Algoritma

Pilihan fitur, bobot, dan threshold yang tidak sensitif dapat menghasilkan prediksi yang sistematis merugikan kelompok tertentu.

Bias Interpretasi

Cara output model diinterpretasikan dan digunakan pengambil keputusan dapat menambah lapisan bias tambahan di atas model.

Contoh nyata: Sistem penilaian kredit yang menggunakan kode pos sebagai fitur dapat secara tidak langsung mendiskriminasi kelompok berdasarkan ras atau kelas sosial — meskipun variabel tersebut tidak dimasukkan secara eksplisit. Ini disebut proxy discrimination.

Keadilan Algoritmik: Metrik & Mitigasi

Metrik Fairness Umum

Metrik	Definisi Sederhana
Demographic Parity	Prediksi positif sama antar kelompok
Equal Opportunity	True positive rate sama antar kelompok
Predictive Parity	Precision sama antar kelompok
Individual Fairness	Individu serupa diperlakukan serupa

Catatan: Tidak semua metrik dapat dipenuhi secara bersamaan — ini adalah impossibility theorem dalam fairness ML.

Strategi Mitigasi

Pre-processing: re-sampling, re-weighting data training
In-processing: tambahkan fairness constraint dalam fungsi loss
Post-processing: kalibrasi threshold per kelompok
Audit rutin: monitor distribusi output secara berkala
Diverse team: tim yang beragam menangkap blind spot

Topik 2

Regulasi Data: UU PDP Indonesia

UU No. 27/2022 · Hak subjek data · Kewajiban pengendali · Sanksi

UU No. 27/2022 tentang Perlindungan Data Pribadi

Berlaku efektif: Oktober 2024 (setelah masa transisi 2 tahun sejak pengesahan September 2022).

Kategori Data Pribadi

Umum: nama, alamat, NIK, pekerjaan, status perkawinan
Spesifik (sensitif): kesehatan, data genetik, biometrik, pandangan politik, data keuangan, data anak

Data spesifik memerlukan persetujuan eksplisit dan perlindungan lebih ketat.

Aktor Utama UU PDP

Peran	Definisi
Subjek Data	Individu pemilik data pribadi
Pengendali Data	Pihak yang menentukan tujuan & cara pemrosesan
Prosesor Data	Pihak yang memproses atas nama pengendali
Lembaga Pengawas	Komite PDP (dibentuk oleh Presiden)

Coba Sendiri: Estimasi Denda Pelanggaran UU PDP

Masukkan skenario pelanggaran data (jumlah subjek data, jenis data, omzet perusahaan) dan amati bagaimana estimasi denda administratif dihitung.

Hak Subjek Data & Kewajiban Pengendali

Hak Subjek Data (UU PDP Pasal 5–16)

Hak	Isi Singkat
Informasi	Tahu tujuan & cara data diproses
Akses	Minta salinan data pribadinya
Portabilitas	Pindahkan data ke pengendali lain
Koreksi	Perbaiki data yang tidak akurat
Penghapusan	"Right to be forgotten"
Keberatan	Tolak pemrosesan tertentu (mis. profiling)

Kewajiban Pengendali Data

Dapatkan persetujuan eksplisit sebelum memproses
Tunjuk DPO (Data Protection Officer) jika skala besar
Laporkan kebocoran data dalam 14 × 24 jam ke lembaga pengawas
Lakukan DPIA (Data Protection Impact Assessment) untuk pemrosesan berisiko tinggi
Simpan catatan aktivitas pemrosesan data

Sanksi: Pidana hingga 6 tahun penjara dan/atau denda hingga Rp 6 miliar untuk pelanggaran berat.

UU PDP dalam Konteks Global

Aspek	UU PDP Indonesia	GDPR (Uni Eropa)	PDPA (Thailand/Singapore)
Berlaku sejak	Oktober 2024	Mei 2018	2019/2021
Denda maksimum	Rp 6 miliar / 6 tahun penjara	€20 juta / 4% turnover global	Variatif per negara
Dasar hukum pemrosesan	6 dasar (termasuk persetujuan)	6 dasar (GDPR Pasal 6)	Mirip GDPR
Data breach notification	14 × 24 jam	72 jam	3–72 jam
Transfer data lintas batas	Diatur, butuh mekanisme transfer	Ketat (adequacy decision/SCCs)	Diatur

Perusahaan Indonesia yang beroperasi di pasar Eropa atau Singapura harus memenuhi regulasi yang paling ketat dari semua yurisdiksi yang berlaku. Ini mendorong adopsi standar internasional.

Topik 3

Tren & Karir Data Science 2025+

Studi kasus Indonesia · Ekosistem digital · Peta peluang karir

Tren Data Science 2025–2030

AI Generatif & LLM

Model bahasa besar mengubah cara analisis teks, pembuatan laporan otomatis, dan code generation. Data scientist perlu mampu bekerja dengan & mengevaluasi LLM.

MLOps & DataOps

Operasionalisasi model di skala besar menjadi skill kritis. Pipeline otomatis, monitoring drift, dan CI/CD untuk ML model semakin dibutuhkan.

AI yang Dapat Dijelaskan (XAI)

Regulasi dan kepercayaan konsumen mendorong kebutuhan model yang interpretable. SHAP, LIME, dan teknik explainability lain menjadi standar industri.

Data Privacy Engineering

Differential privacy, federated learning, dan synthetic data menjadi solusi untuk mengolah data sensitif tanpa melanggar privasi.

Real-time & Edge Analytics

Analisis data di tepi jaringan (IoT, mobile) dan streaming real-time (Kafka, Flink) menggantikan batch processing untuk use case kritis.

Studi Kasus: Data Science di Ekosistem Digital Indonesia

GoTo (Gojek–Tokopedia)

~100 juta pengguna aktif menghasilkan data transaksi, lokasi, & perilaku secara real-time
Fraud detection: model ML mendeteksi transaksi mencurigakan dalam hitungan milidetik
Dynamic pricing GoRide/GoCar menggunakan prediksi permintaan berbasis lokasi & waktu
Isu etika: sempat terjadi keluhan driver soal algoritma penentuan order yang dianggap tidak transparan

BCA & BRImo

BRImo (~38 juta pengguna, data 2024) menggunakan analitik untuk deteksi penipuan & personalisasi produk keuangan
BCA menggunakan NLP untuk analisis sentimen laporan keuangan & monitoring berita nasabah korporat
Tantangan: data perbankan adalah data sensitif — UU PDP dan regulasi OJK berlaku bersamaan
Best practice: enkripsi end-to-end, audit akses data internal rutin

Pelanggaran Data di Indonesia: Pelajaran Penting

Insiden (~estimasi)	Skala	Pelajaran Etika
Kebocoran data BPJS Kesehatan (2021)	~279 juta record diduga bocor	Data kesehatan = sensitif; keamanan infrastruktur legacy kritis
Peretasan Pusat Data Nasional Sementara (2024)	Data ratusan instansi pemerintah terdampak	Backup & enkripsi data bukan opsional; ransomware nyata
Kebocoran data e-commerce Indonesia (berbagai, 2020–2023)	Puluhan juta akun pengguna	Hashing password & rate limiting adalah standar minimum

Pola umum: kebocoran data jarang terjadi karena kelemahan algoritma ML — lebih sering karena kelalaian keamanan infrastruktur, konfigurasi yang salah, atau social engineering. Data scientist perlu berkolaborasi erat dengan tim keamanan siber.

Peta Karir Data Science di Indonesia

Data Analyst

SQL, Excel, Tableau/Power BI
Laporan & dashboard bisnis
Entry-level, ~Rp 6–12 juta/bulan
Cocok: FEB, manajemen bisnis

Data Scientist

Python/R, ML, statistika lanjut
Model prediktif & klasifikasi
Mid-level, ~Rp 15–35 juta/bulan
Butuh: portfolio + GitHub aktif

ML Engineer

MLOps, cloud (AWS/GCP/Azure)
Deploy & monitor model produksi
Senior, ~Rp 25–50 juta/bulan
Butuh: software engineering skill

Business Intelligence (BI) Specialist

Jembatan antara data & keputusan bisnis
Sangat relevan untuk lulusan FEB/bisnis digital
Pertumbuhan pesat di perbankan, retail, FMCG

AI Ethics / Data Governance

Peran baru yang berkembang cepat
Memastikan kepatuhan UU PDP & etika AI
Butuh: kombinasi hukum + teknis + bisnis

Framework Etika Data: Dari Prinsip ke Praktik

Rangkuman Pertemuan 14

Pesan utama: Data science yang bertanggung jawab bukan pilihan — ia adalah prasyarat bisnis yang berkelanjutan dan kepatuhan hukum di Indonesia.

Privasi & bias adalah dua isu etika paling fundamental dalam data science — keduanya harus dikelola secara proaktif sejak desain sistem
UU PDP No. 27/2022 berlaku penuh sejak Oktober 2024 — pelanggaran membawa risiko pidana dan reputasi yang signifikan
Hak subjek data (akses, koreksi, penghapusan, portabilitas) harus difasilitasi oleh sistem yang Anda bangun

Lima pilar etika (privasi, keadilan, keamanan, transparansi, akuntabilitas) harus diimplementasikan bersama-sama
Tren 2025+: AI generatif, MLOps, XAI, dan data privacy engineering menjadi skill yang paling dicari
Karir: peran AI Ethics & Data Governance adalah peluang terbaru dengan kompetisi rendah dan relevansi tinggi untuk lulusan bisnis digital

Tugas & Diskusi Kelas

Diskusi Kelompok (30 menit)

Skenario: Sebuah startup fintech Indonesia ingin membangun model scoring kredit menggunakan data media sosial pengguna (likes, teman, konten postingan) tanpa memberitahu pengguna secara eksplisit.

Identifikasi pelanggaran UU PDP yang mungkin terjadi
Apa bias potensial yang bisa muncul dari data media sosial?
Bagaimana Anda sebagai data scientist merespons jika diminta membangun model ini?

Tugas Individu (dikumpulkan minggu depan)

Pilih satu perusahaan digital Indonesia (Gojek, Tokopedia, BCA, Telkom, atau lainnya). Buat Data Ethics Assessment satu halaman yang mencakup: (1) data apa yang mereka kumpulkan, (2) risiko privasi & bias yang mungkin ada, (3) bagaimana mereka seharusnya menerapkan UU PDP, dan (4) rekomendasi perbaikan.

Format: PDF, 500–800 kata, sertakan referensi minimal 3 sumber.

Tanya Jawab & Penutup Semester

Pertanyaan untuk Refleksi:

Apa satu hal dari kuliah ini yang akan mengubah cara Anda bekerja dengan data?
Dalam proyek akhir Anda, isu etika apa yang relevan?
Karir data science mana yang paling menarik minat Anda dan mengapa?

Pertemuan 15 (minggu depan):
Review & Ujian Akhir Semester — pastikan Anda mereview semua materi dari Pertemuan 1–14 dan membawa pertanyaan yang belum terjawab.

Terima Kasih

Anda telah menyelesaikan 14 pertemuan Data Science. Terus kembangkan skill, jaga integritas, dan jadilah data scientist yang bertanggung jawab.

Sumber Belajar Lanjut

Teks UU PDP: uu-27-2022-pdp.go.id
Fairness ML: fairmlbook.org
AI Ethics: ethics.fast.ai
Karir: Glints, Kalibrr, LinkedIn Indonesia