Pensiunan di India melawan alogaritma yang menyatakan mereka sudah mati

Dhuli Chand berusia 102 tahun pada 8 September 2022, ketika ia memimpin prosesi pernikahan di Rohtak, sebuah kota distrik di negara bagian Haryana, India utara.

Seperti kebiasaan dalam pernikahan di India utara, dia duduk di atas kereta dengan perhiasan pernikahannya, mengenakan karangan bunga uang kertas rupee India, sementara sebuah band memainkan musik perayaan dan anggota keluarga serta penduduk desa menemaninya.

Namun alih-alih menjadi pengantin, Chand justru dalam perjalanan menemui pejabat pemerintah.

Chand menggunakan kejenakaannya untuk membuktikan kepada para pejabat bahwa dia tidak hanya masih hidup tetapi juga masih bergairah. Sebuah plakat yang dipegangnya bertuliskan, dalam dialek lokal: “thara foofa zinda hai”, yang secara harfiah berarti “pamanmu masih hidup”.

Enam bulan sebelumnya, dana pensiun bulanannya tiba-tiba dihentikan karena ia dinyatakan “meninggal” dalam catatan pemerintah.

Di bawah skema Tunjangan Samman Hari Tua Haryana, orang berusia 60 tahun ke atas, yang pendapatannya bersama pasangannya tidak melebihi 300,000 rupee (sekitar Rp57 juta) per tahun, berhak atas pensiun bulanan sebesar 2,750 rupee (Rp523 ribu).

Pada bulan Juni 2020, negara bagian tersebut mulai menggunakan sistem algoritmik yang baru – Penyimpanan Data Identitas Keluarga atau database Parivar Pehchan Patra (PPP) – untuk menentukan kelayakan pemohon tunjangan kesejahteraan.

PPP adalah tanda pengenal unik delapan digit yang diberikan kepada setiap keluarga di negara bagian dan berisi rincian kelahiran dan kematian, pernikahan, pekerjaan, properti, dan pajak penghasilan, serta data lain dari anggota keluarga. Sistem ini memetakan informasi demografis dan sosio-ekonomi setiap keluarga dengan menghubungkan beberapa database pemerintah untuk memeriksa kelayakan mereka untuk menerima skema kesejahteraan.

Negara mengatakan bahwa PPP menciptakan “data seluruh keluarga yang autentik, terverifikasi, dan dapat diandalkan”, dan mewajibkan warga negara untuk mengakses semua skema kesejahteraan.

Namun dalam praktiknya, PPP secara keliru menandai Chand sebagai “mati”, sehingga ia tidak menerima pensiun selama beberapa bulan. Yang lebih buruk lagi, pihak berwenang tidak mengubah status “meninggal” meskipun dia berulang kali bertemu langsung dengan mereka.

“Kami pergi ke kantor distrik setidaknya 10 kali, dan lima kali di antaranya dia [Chand] juga menemani kami,” kata Naresh, cucu Chand. “Bahkan setelah beberapa kali upaya untuk memperbaiki anomali ini di kantor-kantor pemerintah, dan setelah mengajukan keluhan di portal menteri utama, tidak ada yang terjadi.”

Baru setelah Chand melakukan parodi prosesi pernikahan dan bertemu dengan politisi setempat, pihak berwenang akhirnya mengakui kesalahannya dan melepaskan dana pensiun Chand.

Chand bukanlah contoh kegagalan algoritma yang terisolasi. Menurut data yang disajikan oleh pemerintah di majelis negara bagian pada bulan Agustus tahun lalu, pemerintah menghentikan dana pensiun bagi 277.115 warga lanjut usia dan 52.479 janda dalam kurun waktu tiga tahun karena mereka “meninggal”.

Namun, beberapa ribu penerima manfaat ini sebenarnya masih hidup dan dinyatakan meninggal karena kesalahan data yang dimasukkan ke dalam basis data KPS atau kesalahan prediksi yang dibuat oleh algoritma.

Anomali seperti ini tidak hanya terjadi pada pensiun hari tua saja. Penerima manfaat pensiun cacat dan janda, serta skema kesejahteraan lainnya seperti subsidi pangan, juga tidak disertakan karena algoritme KPS membuat prediksi yang salah mengenai pendapatan atau pekerjaan mereka, sehingga tidak memasukkan mereka ke dalam kriteria kelayakan.

Ketika orang-orang yang telah salah dihapus oleh algoritma tersebut pergi ke pejabat pemerintah untuk memperbaiki catatannya, mereka menghadapi birokrasi. Banyak dari mereka yang dipindahkan dari satu kantor ke kantor lain, dan diminta untuk mengajukan lamaran tanpa henti untuk membuktikan hal yang sudah jelas – bahwa mereka sebenarnya masih hidup.

Cobaan berat yang dihadapi ratusan ribu warga dalam mengoreksi data mereka telah menjadikan PPP salah satu rencana pemerintah Haryana yang paling kontroversial dalam beberapa tahun terakhir. Partai oposisi menyebutnya ‘Parehani Patra Permanen’ (dokumen ketidaknyamanan permanen) dan berjanji akan membatalkan program tersebut jika mereka berhasil meraih kekuasaan pada pemilihan majelis berikutnya, yang dijadwalkan pada tahun 2024.
​
Namun, negara tidak hanya terus mempertahankan tetapi bahkan memperluas program tersebut. Sofia Dahiya, sekretaris Departemen Informasi Sumber Daya Masyarakat yang menangani fungsi KPS, pada bulan September 2022 mengatakan, “KPS memudahkan dan meningkatkan penyampaian layanan kepada penerima manfaat yang tepat dan mencegah kebocoran melalui penggunaan kecerdasan buatan dan pembelajaran mesin. Keterkaitan berbagai database dilakukan untuk mendapatkan database terintegrasi yang merupakan ‘satu-satunya sumber kebenaran’.”

India menghabiskan sekitar 13 persen dari produk domestik brutonya, atau hampir $256 miliar, untuk memberikan tunjangan kesejahteraan kepada sekitar setengah penduduk negara tersebut. Khawatir bahwa manfaat tersebut akan diambil alih oleh pihak yang mengajukan klaim yang tidak memenuhi syarat, pemerintah federal dan beberapa negara bagian semakin bergantung pada teknologi untuk menghilangkan penipuan kesejahteraan.

Dalam beberapa tahun terakhir, setidaknya setengah lusin negara bagian telah mengadopsi sistem algoritmik untuk memprediksi kelayakan warga negara untuk menerima skema kesejahteraan. Selama setahun terakhir, Al Jazeera, bekerja sama dengan Jaringan Akuntabilitas Kecerdasan Buatan (AI) Pulitzer Center, menyelidiki penggunaan dan dampak algoritma kesejahteraan tersebut.

Membuat profil keluarga
Ketua Menteri Haryana Manohar Lal Khattar meluncurkan program KPS pada Juli 2019 dan setahun kemudian mewajibkan semua tunjangan kesejahteraan.

Karena tidak adanya undang-undang privasi, partai-partai oposisi menentang langkah pengumpulan data pribadi warga negara untuk membangun PPP. Pemerintah berpendapat bahwa mereka mengizinkan pemberian bantuan “proaktif” tanpa pemohon harus menunjukkan dokumen apa pun atau memerlukan verifikasi lapangan. Pada bulan September 2021, pihaknya memberikan sanksi hukum terhadap program tersebut dengan mengesahkan Undang-Undang Haryana Parivar Pehchan.

Namun, dalam waktu satu tahun, masalah besar pada data KPS mulai muncul. Setelah aksi ‘prosesi pernikahan’ Chand menjadi berita utama, ribuan masyarakat miskin memadati kantor departemen kesejahteraan sosial di tingkat distrik, mengeluhkan tidak diikutsertakannya mereka dalam skema tersebut. Kemarahan masyarakat memaksa pemerintah untuk meluncurkan kamp penanganan keluhan di seluruh negara bagian untuk meninjau data KPS.

Pada tanggal 29 Agustus 2023, Ketua Menteri Khattar mengakui bahwa dari total 63,353 penerima manfaat yang pensiun hari tuanya dihentikan berdasarkan data KPS, 44,050 (atau 70 persen) kemudian dinyatakan memenuhi syarat. Meskipun Khattar mengklaim bahwa pemerintah telah memperbaiki sebagian besar catatan yang salah dan mengembalikan manfaat bagi mereka yang tidak diikutsertakan, laporan media menunjukkan bahwa kesalahan tersebut masih terus terjadi.

Kotak hitam algoritma
Pemerintah tidak menanggapi permohonan Hak Atas Informasi (RTI) Al Jazeera yang mencari informasi mengenai desain dan fungsi basis data untuk memastikan apa yang menyebabkan kesalahan dalam basis data KPS.

Namun, beberapa dokumen pemerintah yang tersedia untuk umum memberikan gambaran tentang cara kerja program ini.

Untuk membangun database, pemerintah terlebih dahulu mengumpulkan data demografi dan identitas keluarga, termasuk nomor Aadhaar mereka, nomor identitas unik berbasis biometrik yang diberikan kepada setiap warga negara India, bukti usia, rekening bank, dan nomor identifikasi pajak melalui entri data di tingkat desa.

Sistem elektronik terpusat kemudian menggunakan otentikasi berbasis Aadhaar untuk mencocokkan identitas warga negara di database pemerintah lainnya seperti pencatatan kelahiran dan kematian, catatan tanah dan properti, database pegawai pemerintah, konsumsi listrik, dan database pengembalian pajak penghasilan, antara lain, untuk membangun profil sosioekonomi komprehensif mereka.

Data ini kemudian digunakan untuk memverifikasi pendapatan tahunan, usia, dan kondisi kelayakan lainnya dari pelamar secara “elektronik”. Apabila verifikasi elektronik tidak memungkinkan karena tidak tersedianya data, maka dilakukan verifikasi lapangan secara fisik. Jika verifikasi fisik tidak berhasil, pendapatan keluarga diperoleh melalui “kecerdasan buatan [AI] berbasis logika.”

Kantor kepala menteri dan departemen yang mengelola KPS dan skema pensiun hari tua tidak menanggapi pertanyaan Al Jazeera yang menanyakan logika, formula, dan kode sumber yang digunakan oleh AI. Laporan ini juga tidak menjelaskan apakah kesalahan dalam PPP disebabkan oleh entri data yang salah atau prediksi AI yang salah. Pemerintah juga belum menanggapi pertanyaan RTI Dhuli Chand yang meminta pihak berwenang menjelaskan mengapa PPP menandainya sebagai “mati.”

Khattar mengatakan kepada Majelis negara bagian bahwa keluarga dapat menentang verifikasi pendapatan yang dilakukan oleh PPP melalui “mekanisme online yang ditunjuk”.

Namun keluarga yang datanya akhirnya dikoreksi mengatakan kepada Al Jazeera bahwa proses menghadapi mekanisme resmi yang tidak responsif adalah hal yang berat dan memakan waktu.

Kematian berdasarkan data
Ram Chander dan istrinya Ompati, keduanya berusia 60 tahun, adalah warga desa Chhichhrana di Haryana. Pada Maret 2022, pasangan ini mengetahui bahwa dana pensiun hari tua mereka, yang baru dimulai enam bulan lalu, telah dihentikan karena mereka dinyatakan meninggal di database PPP.

Ram Chander mengajukan banyak pengaduan ke berbagai kantor pemerintah tetapi tidak berhasil. Pada bulan Mei tahun itu, ia menyerahkan pernyataan tertulis yang ditandatangani notaris kepada pejabat pemerintah yang menyatakan bahwa ia dan istrinya masih hidup dan pensiun mereka akan dimulai kembali.

Pada bulan Juli 2022, basis data KPS memperbaiki status mereka menjadi “Hidup” namun kesalahan tersebut berlanjut di basis data pemerintah lainnya. Operator entri data setempat menerima permintaan “Tandai sebagai hidup” dan akhirnya disetujui setelah mereka hadir di kantor Wakil Komisioner Tambahan (ADC) yang memimpin pelaksanaan KPS di tingkat kabupaten. Dana pensiun bagi keduanya dimulai kembali sekitar enam bulan setelah mereka diputus.

“Saya terus mengunjungi kantor ADC sejak Maret 2022,” kata Chander kepada Al Jazeera pada September 2022. “Mereka memberi tahu saya bahwa kesalahan tersebut telah diperbaiki. Kemudian saya mengunjungi operator entri data setempat dan mengetahui bahwa status saya masih ‘mati’, maka saya kembali pergi ke kantor ADC. Hal ini terus terjadi setiap saat.”

Al Jazeera bertemu dengan beberapa keluarga lain di Haryana yang ditolak pensiunnya karena kesalahan dalam PPP.

Daya Kor, 64, tinggal bersama keluarga yang terdiri dari dua orang putra, seorang menantu perempuan, dan dua cucu. Setelah kematian suaminya, Omprakash, pada tahun 1996, ia mulai menerima dana pensiun janda bulanan dari negara. Perempuan yang menjanda saat ini menerima 2.750 rupee (Rp524 ribu) setiap bulan melalui skema ini. Namun dana pensiun Kor dihentikan pada Maret 2022. Berdasarkan catatan PPP, dia dan cucunya memperoleh pendapatan tahunan masing-masing sebesar 600.000 rupee (Rp114 juta). Cucu perempuannya baru berusia sembilan tahun.
​
Keluarga Kor mengatakan bahwa satu-satunya anggota keluarga yang berpenghasilan adalah putra sulungnya Devendar, 37, yang bekerja sebagai sopir bus di sebuah sekolah swasta – berpenghasilan sekitar 7.000 rupee (Rp1.3 juta) per bulan – dan juga memiliki pekerjaan sampingan sebagai a petani paruh waktu.

“Jika pendapatan keluarga lebih dari 12 lakh rupee, mengapa kami memerlukan dana pensiun 2.500 rupee (Rp476 ribu)?” Dia bertanya.

Pensiun Daya Kor akhirnya dimulai kembali, namun keluarganya tidak dapat melupakan cobaan berat yang mereka alami dalam proses tersebut.

“Untuk koreksi di KPBU, saya disuruh di kantor ADC untuk mendapatkan surat keterangan penghasilan,” kata Devendar. “Tapi untuk mendapatkan surat keterangan penghasilan, saya dimintai KPBU saya. Saya tidak mengerti bagaimana menghadapi hal ini.”