Bagaimana jurnalis dapat memerangi bias AI

Pada tahun 2020, Microsoft memberhentikan puluhan karyawan redaksi dan menggantinya dengan AI. Sayangnya, mereka tidak mempertimbangkan masalah bias dalam algoritme dan seringnya ketidakmampuan algoritme untuk membedakan orang dengan warna kulit. Tak lama setelah reporter robot Microsoft memulai debutnya, algoritme skimming berita menerbitkan cerita ke MSN tentang Jade Thirwell dari band Little Mix dan refleksi pribadinya tentang rasisme... dengan foto orang yang salah. Alih-alih foto Thirwell, algoritme memposting foto rekan bandnya Leigh-Ann Pinnock.

Ketidakmampuan AI untuk mengenali wajah orang kulit berwarna merupakan topik yang sangat memprihatinkan. Pada tahun 2021, film dokumenter Coded Bias mengikuti Joy Buolamwini, seorang ilmuwan komputer di M.I.T. Media Lab setelah dia membuat penemuan mengejutkan bahwa perangkat lunak pengenalan wajah AI tidak dapat mendeteksi wajah berkulit gelap atau mengenali wanita dengan akurat.

Mengapa algoritma rasis?

Dalam bukunya, Automated (Un)Intelligence, profesor jurnalisme data Meridith Broussard menjelaskan bahwa istilah pembelajaran mesin agak menyesatkan. Ketika ilmuwan komputer mengatakan bahwa aplikasi AI "belajar", itu tidak berarti belajar dalam pengertian manusia. AI belajar dari data pelatihan — kumpulan data besar yang mengajarkannya pola statistik di dunia. Pada dasarnya, AI mempelajari cara memecahkan masalah dengan lebih baik dan lebih cepat karena dapat memprediksi apa yang akan terjadi dari data yang dipelajarinya. Namun, hasil dari hal ini adalah bahwa mesin kehilangan banyak nuansa kecerdasan dan komunikasi manusia — misalnya, kemungkinan tidak akan dapat mendeteksi sarkasme atau kiasan.

Selain itu, AI diciptakan oleh manusia — dan manusia memiliki bias. Jadi jika kumpulan data mencerminkan bias manusia, AI akan menghasilkan keluaran yang bias. Jadi, misalnya, ketika Amazon menggunakan AI untuk menyaring resume dan memfilter pelamar kerja, dengan cepat ditemukan bahwa algoritme tersebut memilah resume wanita.

Algoritme dilatih berdasarkan resume karyawan yang sukses dan Silicon Valley tidak dikenal karena keragaman gendernya. Jadi, aplikasi mulai menolak resume dengan bahasa feminin di dalamnya, menghukum resume yang mengandung kata "wanita" di dalamnya dan resume yang memuat nama perguruan tinggi wanita tertentu. Hasilnya adalah Amazon harus berhenti menggunakan aplikasi tersebut segera setelah memperkenalkannya. Meskipun alat tersebut telah diedit untuk membuatnya lebih netral, tidak ada cara untuk memverifikasi bahwa alat tersebut tidak akan diskriminatif lagi — sehingga alat tersebut tidak digunakan kembali.

Bagaimana bisa menggunakan AI sambil mempertimbangkan bias?

Meskipun penting untuk mempertimbangkan kekurangan bias algoritmik, kita tidak harus membuang semua AI. Penggunaan AI yang bertanggung jawab berarti mengakui bahwa manusia memberikan prasangka mereka terhadap mesin dan bahwa kita masih membutuhkan campur tangan manusia dalam banyak kasus. Dalam kasus editor AI yang menerbitkan foto wanita kulit hitam yang salah, kesalahan dapat dihindari jika editor manusia hanya memeriksa fakta postingan tersebut.

Jadi memahami bias algoritmik sangat membantu ruang redaksi yang ingin menambahkan aplikasi pembelajaran mesin ke beberapa aspek siklus berita. Kecil kemungkinan AI akan dapat menggantikan jurnalis manusia kapan saja di masa mendatang, yang konsisten dengan tanggapan dari pembuat keputusan berita lokal yang berpartisipasi dalam studi Associated Press terkait penggunaan AI di ruang redaksi lokal.

Berikut adalah cara untuk mempertimbangkan bias algoritmik saat menggunakan AI di ruang redaksi:

Konfirmasikan ejaan nama dalam transkripsi;

Gunakan pemeriksa fakta manusia;

Pastikan foto adalah orang yang tepat sebelum menerbitkan cerita;

Secara teratur mengaudit aplikasi AI untuk menyaring bias.

AI berfungsi lebih baik sebagai pembantu daripada agen yang tidak dicentang. Meskipun potensi aplikasi algoritmik di ruang redaksi masih merupakan bidang yang berkembang, kita dapat mulai dengan mengembangkan pemahaman dasar tentang cara kerjanya dan cara terlibat dalam jurnalisme layanan yang lebih baik dengan dukungan teknologi.