Permainkan algoritma: Kontrol platform medsos atas ruang publik terbukti gampang disalahgunakan

Istilah 'disinformasi', dan pola berulang tentang mengatasi, membendung atau memeranginya, telah menjadi seruan keras dari tokoh-tokoh politik termasuk mantan presiden Barack Obama menjelang pemilu di Brasil dan Amerika Serikat.

Apa sebenarnya yang kita bicarakan ketika kita membahas 'disinformasi'? Ini sering didefinisikan sebagai informasi palsu yang disengaja, dibandingkan dengan berbagi 'misinformasi' yang salah secara tidak sengaja. Tetapi apakah pandangan ini berguna untuk mempelajari lingkungan informasi? Bagaimana dengan propaganda, yang bisa benar atau salah, dan di mana kekuatan cocok dengan persamaannya?

Jem Bartholomew (JB) merupakan Mitra Pelaporan di Tow Center for Digital Journalism. Karya Jem telah ditampilkan di The Wall Street Journal, Guardian, Economist, TIME, New York Magazine, dan lainnya. Pada 2019, ia dianugerahi Pendatang Baru Terbaik di penghargaan pers State Street.

JB berbicara dengan Courtney Radsch (CR), yang lebih menyukai istilah 'operasi informasi'. Radsch adalah pakar di Institut Teknologi, Hukum dan Kebijakan UCLA dan ahli senior di Pusat Inovasi Tata Kelola Internasional.

Percakapan ini telah diedit dan diringkas untuk kejelasannya.

JB: Bagaimana Anda menjelaskan istilah 'operasi informasi' kepada mereka yang mungkin belum pernah mendengarnya?

CR: Operasi Informasi mengacu pada manipulasi platform media sosial, infrastruktur internet kita, untuk mempromosikan jenis informasi tertentu. Mereka disebut 'operasi' karena mereka terkoordinasi dan biasanya memerlukan beberapa dana atau sumber daya untuk mewujudkannya, untuk membedakannya dari, katakanlah, gerakan organik dan jenis keterlibatan lainnya. Ada banyak istilah berbeda yang telah digunakan dalam beberapa tahun terakhir, mulai dari disinformasi dan misinformasi, malinformasi, propaganda komputasi, berbagai macam istilah. Bagi saya, saya menemukan operasi informasi istilah yang berguna karena tidak benar-benar masuk ke kebenaran atau kepalsuan informasi — karena itu tidak mengubah dinamika fakta bahwa itu adalah operasi informasi. Juga, banyak penelitian saat ini tentang disinformasi sering kali tidak benar-benar melihat sejarah panjang propaganda, jadi saya ingin menggunakan istilah operasi informasi untuk merujuk kembali dan mengakui tradisi panjang mempelajari dan memeriksa bagaimana propaganda digunakan. Sekali lagi, propaganda bisa benar atau salah, atau di antara keduanya.

JB: Dan mencoba mendistorsi ruang publik adalah bagian penting, bukan?

CR: Tepat. Idenya adalah bahwa di ruang publik, setiap orang secara teoritis seharusnya memiliki suara yang sama dan perspektif mereka didengar. Kita tahu dari kritik panjang teori ruang publik bahwa itu tidak sempurna, tetapi distorsi itu berasal dari fakta bahwa sekarang ini adalah sistem bayar untuk bermain. Banyak platform yang menengahi ruang publik didorong oleh algoritme keterlibatan dan bentuk kecerdasan buatan lainnya yang dapat dimanipulasi oleh aktor. Mereka dapat membayar untuk informasi — atau membayar firma hubungan masyarakat — untuk memanipulasi hasil, memainkan desain platform, dan membuat informasi yang berjalan dengan baik berdasarkan logika platform tertentu.

JB: Untuk menjelaskannya secara konkret, apa saja contoh spesifik dari algoritme yang dimainkan di seluruh dunia dan bagaimana hal itu mengarahkan opini publik?

CR: Tujuan mendistorsi ruang publik telah menjadi tujuan pendorong bagi aktor politik di seluruh dunia. Menurut penelitian dari Oxford Internet Institute, setidaknya 70 negara di seluruh dunia telah melihat propaganda komputasi — pada dasarnya operasi informasi — dipersenjatai untuk mempromosikan sudut pandang atau agenda tertentu. Cara kerjanya adalah mempengaruhi framing dan agenda setting, yang merupakan peran penting yang biasanya dimainkan oleh media berita dan aktor institusional lainnya, atau bahkan gerakan sosial.

Kita tahu, misalnya, bahwa pemilihan umum di seluruh dunia adalah target operasi informasi. Kami melihatnya sekarang di Brasil, di mana disinformasi telah menjadi tantangan besar. Kami telah melihat Facebook dan Google meluncurkan upaya baru untuk menangani hal itu [yang telah dikritik]. Anda dapat melihat operasi informasi di pemilu AS, di tengah semester serta di pemilu 2016. Di Myanmar, ada operasi informasi yang dipromosikan oleh junta militer yang terlibat dalam genosida menurut PBB.

Lalu ada operasi informasi seluruh masyarakat yang kurang luas, di mana mereka sering ditargetkan pada masalah tertentu. Anda bisa melihat ini dalam konflik Azerbaijan-Armenia Nagorno-Karabakh dalam hal mencoba membentuk narasi. Anda dapat melihat ini dengan Maria Ressa di Filipina, jurnalis pemenang Hadiah Nobel, dan upaya untuk memberantas media independennya, membingkai ulang perang narkoba — yang telah menyebabkan ribuan kematian menurut pengamat independen — dan tuduhan palsu terhadap dia. Itu mempersulit publik untuk berdebat rasional dengan [negara] mengendalikan informasi. Pemerintah telah mengurangi perspektif alternatif, seperti perintah untuk menutup Rappler, dan pada saat yang sama menciptakan pasukan pendukung secara online untuk membuat konten dan keterlibatan yang membingkai ulang ruang publik dan memengaruhi opini.

JB: Bisakah Anda membongkar bagaimana algoritma media sosial dapat dimainkan?

CR: Kami melihat banyak manipulasi lintas platform. Salah satu caranya adalah dengan membuat sinyal yang akan diambil oleh algoritme sebagai indikasi popularitas atau keterlibatan organik, karena itu akan mengarahkan algoritma rekomendasi untuk menampilkan konten tersebut lebih tinggi. Itu dapat dilakukan, tergantung pada platformnya, oleh banyak orang yang menautkannya atau membagikannya, terkadang dikoordinasikan dalam grup tertutup. Kami melihat ini di Malta, misalnya, di mana investigasi oleh The Shift menunjukkan bahwa sebelum pembunuhan Daphne Caruana Galizia ada grup Facebook rahasia yang akan mengoordinasikan pesan yang menargetkannya untuk hari itu, berusaha merusak kredibilitasnya sebagai jurnalis. Saat ini, ada kesadaran di antara platform tentang koordinasi lintas platform. Tetapi belum ada cara untuk benar-benar melacak atau mengidentifikasinya secara algoritmik. Sangat sulit ketika koordinasi itu dilakukan di ruang pribadi atau terenkripsi.

JB: Anda telah menyentuh bagaimana reporter telah menjadi target penganiayaan terkoordinasi (terkadang berpihak pada negara). Mungkin Anda bisa menguraikan taktik apa yang telah digunakan untuk mendelegitimasi jurnalis yang ingin meminta pertanggungjawaban kekuasaan.

CR: Ya, ada berbagai taktik yang digunakan. Operasi informasi, disinformasi terkoordinasi yang berupaya menargetkan dan mendelegitimasi jurnalis, pelecehan online, yang merupakan jenis penangkapan umum semua istilah untuk berbagai ancaman dan serangan terhadap jurnalis — termasuk berbagi informasi pribadi, mendelegitimasi mereka sebagai jurnalis, menyamakan mereka dengan mata-mata, dan jenis pencemaran nama baik lainnya yang mengganggu kredibilitas, yang tentu saja merupakan urat nadi jurnalisme. Terkadang menggunakan gambar, audio, atau teks yang dimanipulasi — yang sering kita sebut sebagai deep fakes — tetapi jujur, sering kali itu hanya palsu yang dangkal. Karena ini tidak selalu tentang menipu orang, ini tentang membuat orang berbagi dan meme sesuatu.

JB: Dan jelas ada elemen besar orang-orang dari kelompok yang terpinggirkan — perempuan, orang kulit berwarna, orang non-biner — lebih sering menjadi sasaran dan berusaha menghalangi mereka dari kehidupan publik. Bisakah Anda mengatakan lebih banyak tentang bagaimana senjata itu dipersenjatai?

CR: Ya, komunitas yang begitu terpinggirkan dalam konteks yang berbeda — apakah itu Muslim di India, sekularis di Bangladesh, wanita — sering menjadi sasaran kampanye ini. Soalnya, di media independen, orang-orang yang mencoba berbicara kebenaran kepada penguasa dan melakukan liputan independen, mereka sering kali adalah perempuan atau berasal dari kelompok terpinggirkan dan kemudian menjadi sasaran operasi informasi. Mereka biasanya menyertakan pelecehan online dengan berbagai taktik. Misalnya, fitnah dan fitnah terus-menerus yang mengacu pada kiasan nasionalistik atau stereotip budaya, seperti peran 'pantas' perempuan dalam masyarakat. Itu memiliki beberapa fungsi. Pertama, mendelegitimasi mereka di ruang publik. Dua, itu memfokuskan kembali obrolan, pembicaraan, dan keterlibatan ke interaksi negatif ini, dan mengalihkan perhatian dari penyelidikan atau pelaporan asli. Dan ketiga, dengan mendistorsi percakapan publik, semakin sulit untuk meminta pertanggungjawaban pemerintah.

JB: Anda telah menulis bagaimana peningkatan operasi informasi yang selaras dengan negara ini bertepatan dengan penurunan media independen selama beberapa dekade terakhir. Bisakah Anda menjelaskan mengapa hal itu sangat mengkhawatirkan?

CR: Landasan dasar ekosistem informasi kita terdiri dari berbagai titik data. Jadi konten adalah bagian yang sangat penting dari dasar sistem AI ini. Jika Anda memiliki penurunan jurnalisme independen, Anda memiliki penurunan informasi independen yang tidak terafiliasi dengan partai politik atau sudut pandang. Sementara itu, Anda mengalami peningkatan dalam produksi dan pembuatan propaganda dan informasi yang dipersenjatai. Itu menciptakan ketidakseimbangan dalam konten yang digunakan untuk melatih dan mendorong pembelajaran mesin yang menjadi dasar sistem ini. Itu di atas bahaya yang lebih jelas dari penurunan pelaporan — peliputan yang lebih sedikit, liputan investigasi yang lebih sedikit, lebih sedikit anggota masyarakat yang pernah bertemu dengan seorang jurnalis, dan semua dampak negatif tentang akuntabilitas dan pemeriksaan kekuasaan yang independen.

JB: Salah satu taktik yang Anda lihat adalah 'pencucian berita', yang dipelajari oleh Tow Center, sebagai cara menyebarkan pesan tertentu yang disamarkan sebagai pelaporan berita netral. Mungkin Anda bisa berbicara lebih banyak tentang metode itu.

CR: Pada dasarnya, ini menciptakan informasi yang terlihat seperti berita, tetapi lebih cenderung berafiliasi dengan sudut pandang atau partai politik tertentu. Pencucian berita semakin marak. Karena ada juga perlindungan untuk berita di beberapa platform dan dalam undang-undang. Ini adalah tantangan nyata. Anda akan melihat perkembangan ini dari sudut-sudut yang tidak jelas di internet, menjadi media pengidentifikasi berita yang tidak jelas, dan kemudian diambil oleh jurnalis partisan atau media atau lainnya di ruang publik. Dengan membuatnya tampak seperti informasi yang berasal dari situs berita, ia mendapatkan lapisan legitimasi yang memungkinkan situs berita lain meliputnya dan politisi merujuknya. Padahal sebenarnya mungkin sudah ditanam di tempat pertama.

JB: Masuk ke perusahaan media sosial, apakah menurut Anda Facebook dan lainnya memahami skala platform mereka yang terbuka untuk manipulasi?

CR: Oh ya, tidak ada pertanyaan di benak siapa pun tentang seberapa terbukanya manipulasi platform ini. Terutama dalam bahasa selain bahasa Inggris. [Whistleblower Facebook] Frances Haugen mengungkapkan 87% dari anggaran global Facebook untuk waktu yang dihabiskan untuk mengklasifikasikan informasi yang salah masuk ke AS. Itu benar-benar bermasalah. Ada lebih dari 7.000 bahasa di dunia. Di Ethiopia, sebuah negara besar, sebagian besar bahasa tidak didukung oleh platform, tetapi juga merupakan bagian penting dari ruang publik. Hal yang sama di India. Itu salah satu masalah terbesar, dan perusahaan tahu ada masalah besar. Tetapi sumber daya untuk mengatasinya tidak bisa datang begitu saja. Itu perlu datang pada tingkat yang lebih mendasar. Misalnya, jenis data apa yang mereka gunakan untuk pembelajaran atau pelatihan mesin. Kumpulan data dan bahasa yang digunakan untuk melatih model memengaruhi seberapa efektif model tersebut secara algoritme.

JB: Jadi jika platform memahami skala masalah, apa yang bisa mereka lakukan untuk mengatasinya?

CR: Yah, pertama ada banyak jenis platform. Jadi seperti Facebook, Google — platform yang berfokus pada konten media sosial — memiliki sumber daya moderasi konten. Namun, platform yang lebih kecil — pesaing potensial atau lainnya seperti pendaftar nama domain atau ISP — biasanya tidak memiliki sumber daya moderasi konten.

Kedua, ini tidak bisa hanya tentang moderasi. Iklan berbayar dan amplifikasi harus lebih terbuka untuk dianalisis. Karena kami tahu kampanye Trump memiliki puluhan ribu versi berbeda dari iklan Facebook yang sedang diuji, dan Anda memiliki apa yang disebut 'perusahaan humas hitam' atau 'tentara bayaran moderat' yang keluar untuk memanipulasi platform untuk mempromosikan informasi mereka. Perlu ada lebih banyak transparansi.

Secara terpisah, platform kaya, yang mendominasi ruang publik berbasis konten, perlu mencurahkan lebih banyak sumber daya untuk penelitian dasar dan menciptakan kumpulan data yang diperlukan untuk berfungsi dalam berbagai bahasa. Demikian pula, platform perlu berbuat lebih banyak, terutama dalam konteks non-Barat, untuk memastikan bahwa ada sinyal yang dapat diandalkan dari informasi yang dapat dipercaya. Jadi ini bukan hanya tentang menyingkirkan informasi yang buruk, tetapi bagaimana Anda kemudian meningkatkan informasi yang lebih baik.

JB: Akhirnya, saat kita menuju ujian tengah semester, apa yang Anda harapkan?

CR: Saya berharap ini akan menjadi contoh lain di mana ruang publik media sosial menjadi tempat disinformasi, kebencian, dan ketakutan. Saya tidak berpikir itu benar-benar telah dilakukan. Dan begitu banyak debat moderasi konten Amerika Serikat telah dipolitisasi sehingga sangat sulit bagi platform untuk bertindak. Sebagian karena dinamika politik yang lebih luas: Anda memiliki persepsi yang tidak akurat ini bahwa konten Partai Republik atau sayap kanan lebih mungkin untuk ditindaklanjuti daripada konten sayap kiri. Itu tidak benar — beberapa situs paling populer adalah sayap kanan — tetapi persepsi itu terus berlanjut dan platform belum berhasil menyanggahnya.(cjr)