Materi 14 · Responsibility

AI Ethics, Bias & Responsible AI

AI yang powerful butuh tanggung jawab yang setara. Pelajari sumber bias, fairness metrics, transparency, privacy, dan regulasi yang membentuk masa depan AI yang etis.

⏱ 28 Menit🎯 All Levels📚 Module 14/15

1. Mengapa Etika AI Krusial?

AI Punya Power, Power Punya Konsekuensi

AI bisa decide siapa dapat pinjaman, siapa di-interview kerja, siapa diberi diagnosis kanker, siapa diawasi polisi. Bias dalam model = bias dalam keputusan yang mempengaruhi nyawa & masa depan jutaan manusia.

2. Tipe Bias dalam ML

📊

Historical Bias

Data masa lalu mengandung diskriminasi yang ada. Mis. resume 80% dari pria → model bias gender.

🎲

Sampling Bias

Sample tidak mewakili populasi. Mis. data dari 1 kota → model gagal di kota lain.

🔍

Measurement Bias

Cara collect data berbeda antar grup. Mis. credit data minoritas lebih sedikit.

🧪

Aggregation Bias

Asumsi 1 model untuk semua grup, padahal pola berbeda per demografi.

📉

Evaluation Bias

Test set tidak balance representasi grup minoritas.

🚀

Deployment Bias

Model dipakai di konteks berbeda dari training (mis. lab → real world).

3. Kasus Bias Terkenal

🚨 Real World · Cautionary

COMPAS — Algoritma Recidivism Court System

COMPAS dipakai di pengadilan US untuk predict probabilitas recidivism (mengulangi kejahatan). Investigasi ProPublica 2016: black defendants 2× lebih sering false-positive (di-flag tinggi tapi tidak mengulangi kejahatan) dibanding white defendants.

Pelajaran: model "akurat secara overall" bisa sangat tidak adil per grup. Audit fairness wajib di domain dengan dampak sosial besar.

4. Fairness Metrics

Metric	Definisi	Karakter
Demographic Parity	P(ŷ=1 \| A=0) = P(ŷ=1 \| A=1)	Sama proporsi positive antar grup
Equal Opportunity	P(ŷ=1 \| y=1, A=0) = P(ŷ=1 \| y=1, A=1)	Sama TPR antar grup
Equalized Odds	TPR & FPR sama antar grup	Lebih ketat dari Equal Opportunity
Predictive Parity	P(y=1 \| ŷ=1) sama antar grup	Same precision per grup

⚠️ Hard Truth

Impossibility Theorem

Tidak mungkin satisfy semua fairness metric bersamaan kecuali grup punya base rate sama. Trade-off harus dipilih sadar berdasarkan konteks etis & legal.

5. Mitigasi Bias

Pre-processing: resample data agar balance per grup, remove sensitive features, reweight samples.
In-processing: tambahkan fairness constraint di loss function selama training.
Post-processing: adjust threshold per grup setelah training untuk equalize metric.
Diverse team: tim ML yang divers cenderung notice bias yang homogen tim miss.
Audit reguler: monitor fairness metric di production, tidak hanya saat training.

6. Transparency & Explainability

🔬

SHAP

Game theory-based feature importance. Lokal & global interpretation.

📈

LIME

Local explanation dengan linear approximation per prediction.

🌳

Decision Tree

Inherently interpretable. Trade-off accuracy untuk interpretability.

Hak konsumen untuk "right to explanation" sudah masuk regulasi (GDPR Article 22, UU PDP Indonesia). Tidak bisa lagi black-box AI di domain regulated (finansial, hiring, medical).

7. Privacy & Data Protection

Differential Privacy: tambahkan noise terkalibrasi sehingga individu tidak bisa di-identifikasi dari output model.
Federated Learning: train di device user (smartphone) tanpa data ke server. Google Keyboard, Apple.
Homomorphic Encryption: compute pada encrypted data. Cutting edge, masih mahal.
Data Minimization: kumpulkan hanya yang perlu. Anonymize, pseudonymize sebelum training.
Right to be Forgotten: user request hapus data → model harus bisa di-retrain tanpa user data.

8. Regulasi Global

Regulasi	Wilayah	Fokus
GDPR	Uni Eropa	Data protection, right to explanation
EU AI Act	Uni Eropa, 2024	Risk-based AI regulation
UU PDP	Indonesia, 2022	Personal data protection
Stranas KA	Indonesia, 2020-2045	Strategi nasional AI
NIST AI RMF	USA, 2023	AI Risk Management Framework
NY Local Law 144	NYC, 2023	Audit AI hiring tools

9. Responsible AI Checklist

Sebelum Deploy AI

✓ Apakah training data representatif?
✓ Apakah ada audit fairness antar grup?
✓ Apakah keputusan model bisa dijelaskan?
✓ Apakah ada mekanisme appeal untuk affected user?
✓ Apakah privacy user terlindungi?
✓ Apakah ada monitoring drift & performance per grup?
✓ Apakah environmental impact (carbon dari training) di-track?
✓ Apakah ada plan untuk handle adversarial misuse?

📝 Tugas

Bias Audit

Pilih dataset publik dengan demographic info (mis. UCI Adult Income).
Train classifier baseline. Hitung accuracy overall.
Hitung accuracy, TPR, FPR per gender dan ras.
Hitung Demographic Parity dan Equal Opportunity.
Apply mitigasi: resampling atau adjust threshold per grup.
Tulis 1-page report: temuan bias + mitigasi + trade-off accuracy vs fairness.

Rangkuman

AI bias = bias di keputusan yang mempengaruhi nyawa manusia. Bukan urusan teknis — etis.
6 tipe bias: historical, sampling, measurement, aggregation, evaluation, deployment.
Fairness metrics: demographic parity, equal opportunity, equalized odds — pilih sesuai konteks.
Mitigasi di 3 stage: pre, in, post processing.
Transparency wajib di domain regulated. SHAP, LIME, decision tree.
Privacy modern: differential privacy, federated learning, data minimization.
Regulasi global makin ketat — kompliance bukan optional.