BAGIAN 1: THE ATTENTION ECONOMY
Jika aplikasi itu gratis, maka kamulah produknya.
Algoritma "Rekomendasi"
Platform media sosial (Instagram, TikTok, X) hidup dari iklan. Pendapatan iklan bergantung pada seberapa lama pengguna menatap layar (*Screen Time*). Oleh karena itu, *Data Scientist* merancang algoritma rekomendasi (FYP/Feeds) dengan satu fungsi objektif: Memaksimalkan Keterlibatan (*Engagement*).
Masalah etisnya: Algoritma mesin menyadari bahwa emosi manusia yang paling memicu klik, komentar, dan *share* BUKANLAH kebahagiaan atau fakta objektif, melainkan Kemarahan (*Outrage*), Polarisasi, dan Kontroversi.
Dampak Sosial Algoritma
BAGIAN 2: ETIKA UI/UX & DARK PATTERNS
Saat *Frontend Engineer* merekayasa psikologi pengguna melalui antarmuka.
Bukan hanya algoritma *Backend* yang memanipulasi, antarmuka (*User Interface*) juga dirancang untuk mengeksploitasi kerentanan psikologis manusia. Praktik manipulatif dalam desain aplikasi ini dikenal dengan istilah hukum dan etika sebagai Dark Patterns.
Infinite Scroll
Desain *feed* yang tidak ada ujungnya (menghilangkan tombol "Next Page"). Menghapus jeda alami (*stopping cues*) bagi otak manusia, memicu kecanduan yang disebut Doomscrolling.
Variable Rewards
Notifikasi "Lonceng Merah" dirancang meniru mesin judi (*Slot Machine*). Kita tidak tahu notifikasi apa yang muncul, memicu pelepasan Dopamin di otak yang memaksa kita terus membuka HP.
Roach Motel & Sneaking
Mudah mendaftar berlangganan, tapi sangat sulit membatalkan (tombol *Unsubscribe* disembunyikan). Atau diam-diam memasukkan *item* tambahan ke keranjang *checkout* (Melanggar UU Perlindungan Konsumen).
BAGIAN 3: KEBEBASAN BEREKSPRESI & UU ITE
Di mana letak garis batas antara opini, kritik, dan tindak pidana?
Banyak netizen bersembunyi di balik tameng Hak Kebebasan Berekspresi (Pasal 28E UUD 1945). Namun, dalam hukum positif Indonesia, kebebasan berekspresi di ruang digital dibatasi secara ketat oleh Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) agar tidak menginjak hak asasi orang lain.
Pasal 28 (Ujaran Kebencian / SARA)
"Setiap Orang dengan sengaja dan tanpa hak menyebarkan informasi yang ditujukan untuk menimbulkan rasa kebencian atau permusuhan individu/kelompok masyarakat tertentu berdasarkan SARA."
Pasal 27 (Pencemaran Nama Baik)
"Setiap Orang dengan sengaja menyerang kehormatan atau nama baik seseorang dengan menuduhkan sesuatu hal untuk diketahui umum dalam bentuk Informasi Elektronik."
BAGIAN 4: BERKAS KASUS 14
Saat algoritma lebih memprioritaskan "Kemarahan" dibanding kedamaian sipil.
ARCHIVE: THE FACEBOOK FILES (2021)
Klasifikasi: Algorithmic Manipulation & Social Polarization
> PERINGATAN: Algoritma News Feed mengubah pembobotan "Reaksi Emoticon".
> Analisis Sistem: Reaksi "Angry" (Marah) diberi bobot 5x lipat lebih tinggi dari reaksi "Like" (Suka) dalam sistem poin algoritma.
> Akibat: Konten hoaks, ujaran kebencian, dan provokasi politik membanjiri *timeline* pengguna secara eksponensial.
1. The Incident (Kronologi)
Pada 2021, *Data Scientist* Frances Haugen (Whistleblower) membocorkan puluhan ribu dokumen internal Meta ke Kongres AS. Dokumen itu membuktikan bahwa eksekutif perusahaan tahu algoritma mereka memperkuat konten provokatif yang memicu perpecahan politik dan merusak kesehatan mental remaja, namun mereka memilih mengabaikannya demi mengejar keuntungan (Ad Revenue).
2. The Bug (Etika Algoritma)
*Developer* merancang fungsi objektif Machine Learning murni berfokus pada Metrik Keterlibatan (Engagement). Karena konten yang membuat marah (*Outrage*) memicu diskusi (komentar/share) lebih lama, algoritma secara otomatis menyuapi pengguna dengan konten beracun (*Toxic*). Ini adalah kegagalan Etika Profesi IT untuk melindungi *Public Safety*.
3. The Law (Regulasi)
Kasus ini memicu kemarahan global dan melahirkan Digital Services Act (DSA) di Eropa. Aturan ini memaksa *Big Tech* untuk transparan terkait algoritma rekomendasinya, memitigasi risiko sistemik (seperti hoaks pemilu), dan melarang penggunaan Dark Patterns. Di Indonesia, dorongan revisi UU ITE terkait kewajiban moderasi konten *platform* semakin menguat.
4. The Patch (Mitigasi Etika)
- Algorithmic Demotion: Merancang sistem AI yang otomatis menurunkan (*demote*) visibilitas konten yang terindikasi *Hate Speech* (meskipun *engagement*-nya tinggi).
- Chronological Feed Option: Mewajibkan *platform* memberi tombol opsi kepada *user* untuk melihat *feed* berdasarkan waktu murni (kronologis), bukan berdasarkan "Rekomendasi Algoritma".
LAB SIMULASI: THE ENGAGEMENT DILEMMA
> INITIATE roleplay.sh --scenario "Lead_Data_Scientist"
Anda adalah seorang Lead Data Scientist di aplikasi media sosial lokal yang sedang naik daun. Masa Pemilu sedang berlangsung. Traffic aplikasi Anda menurun dan investor mengancam akan menarik dana.
CEO memanggil Anda dan berkata: "Ubah algoritma FYP kita sekarang! Setiap ada konten politik yang penuh caci maki (Hate Speech) atau provokasi SARA, berikan multiplier *boost* 10x lipat ke beranda semua *user*. Saya tidak peduli itu hoaks atau bukan, yang penting user pada berantem di kolom komentar, screen-time kita naik, dan kita dapat duit dari iklan!"