Beberapa waktu lalu, beredar video Presiden Joko Widodo (Jokowi) tengah berpidato menggunakan bahasa Mandarin dengan fasih. Video itu disertai narasi “Jokowi berbahasa Mandarin”. Pada Kamis (26/10), Kementerian Komunikasi dan Informatika (Kemenkominfo) menyatakan dalam situs web resmi bahwa video itu hasil suntingan yang menyesatkan.
Kemenkominfo menyebut, secara visual video itu mirip dengan video yang diunggah kanal YouTube The U.S.-Indonesia Society (USINDO) pada 13 November 2015 lalu. Kemenkominfo memasukkan video itu dalam kategori disinformasi.
“(Video itu) telah disunting sedemikian rupa yang diduga memanfaatkan teknologi artificial intelligence (AI) deepfake,” tulis Kemenkominfo dalam situs webnya.
Dalam kanal YouTube The U.S.-Indonesia Society (USINDO), video itu berdurasi tujuh menit dua detik, dengan judul “Oct. 26, 2015 - President Jokowi Delivers Speech at Gala Hosted by USINDO, US Chamber, and USABC”. Saat itu, Jokowi berpidato dalam bahasa Inggris dalam acara jamuan makan malam yang diadakan United States-Indonesia Society (USINDO) di Amerika Serikat pada 26 Oktober 2015.
Seiring dengan perkembangan zaman, teknologi AI kini digunakan sebagai cara baru membuat hoaks. Dirjen Informasi dan Komunikasi Publik Kemenkominfo Usman Kansong menyebut, pihaknya baru pertama kali menemukan kasus deepfake, yakni video Jokowi berpidato menggunakan bahasa Mandarin.
“Tapi, di balik itu kan ada orang yang membuatnya. Kita belum menemukan kasus-kasus lainnya, dalam arti ada tujuan tidak baik lah begitu,” kata Usman kepada Alinea.id, Senin (30/10).
Bahaya dan cara menangani
Dilansir dari Tech Target, deepfake adalah jenis kecerdasan buatan yang digunakan untuk membuat foto atau gambar, audio, dan video palsu dengan meyakinkan. Deepfake dikreasi menggunakan dua algoritma, yakni generator dan diskriminator.
Generator digunakan untuk membuat kumpulan data berdasarkan keluaran yang diinginkan atau membuat konten digital palsu awal. Sedangkan diskriminator menganalisis seberapa realistis atau tidak konten versi awal tersebut.
Proses itu diulang-ulang, sehingga generator bisa meningkatkan kemampuan dalam membuat konten yang realistis dan diskriminator menjadi lebih baik dalam menemukan kekurangan untuk diperbaiki generator. Kombinasi algoritma generator dan diskriminator menciptakan generative adversarial network (GAN).
“Saat membuat video deepfake, GAN melihat video tersebut dari berbagai sudut, serta menganalisis perilaku, gerakan, dan pola bicara. Kemudian dijalankan melalui diskriminator beberapa kali untuk menyempurnakan video,” tulis Tech Target.
“Video deepfake dibuat dengan salah satu dari dua cara, yakni bisa menggunakan sumber video asli dari target dan dibuat untuk mengatakan sesuatu yang tak pernah dilakukan atau menukar wajah target ke video orang lain.”
Ketua Cyber Law Center Fakultas Hukum, Universitas Padjadjaran (Unpad) Sinta Dewi mengatakan, dalam dua atau tiga tahun terakhir teknologi AI banyak digunakan untuk berbagai kepentingan. Termasuk hoaks.
“Memang ini mengkhawatirkan, apalagi akan ada pemilu, ya,” kata Sinta, Senin (30/10).
Menurut Sinta, masalah hoaks yang dirancang dengan teknologi AI belum ada aturan spesifik. Berbeda dengan black campaign yang sudah diatur. “Teknologi yang digunakan sekarang lebih canggih, sehingga orang tidak menyadari itu hoaks. Tidak sadar,” tuturnya.
Soal kebijakan menyangkut AI, Sinta menuturkan, di beberapa negara tengah disusun. Aturan itu lebih kepada etika, bukan undang-undang. “Kalau undang-undang susah ya mengatur teknologi yang berubah-ubah,” ujarnya.
Ia melanjutkan, Indonesia sebenarnya juga sudah memiliki strategi nasional AI tahun 2020. Akan tetapi, belum ada kelanjutannya. “Sekarang belum ada satu instansi (yang jelas untuk menangani AI). Sementara pemilu sudah di depan mata,” tutur dia.
Sinta khawatir di tengah situasi yang semakin memanas menjelang pemilu, AI digunakan sebagai media untuk memprovokasi. Apalagi masyarakat yang heterogen kian mudah mengakses internet. Kata Sinta, saat ini akses internet sudah lebih dari 70% jumlah penduduk.
“Kalau orang-orang di kota besar yang paham, ya tidak masalah. Tapi kan kalau yang di desa terprovokasi, itu bagaimana?” katanya. “Ini mengkhawatirkan. Pengaturannya belum ada, lembaganya belum jelas.”
Di sisi lain, untuk menangkal bahaya deepfake, Usman mengatakan pihaknya mendorong berbagai platform menciptakan teknologi yang bisa mengidentifikasi secara cepat deepfake. “Kita sudah bicara dengan (pihak) media sosial, agar mereka juga concern dengan ancaman deepfake,” tuturnya.
Upaya lainnya, menurut Usman, pihaknya sudah mengimbau masyarakat untuk melaporkan kepada Kemenkominfo, kalau menemukan kasus deepfake. “(Supaya) Kominfo bisa meminta platform men-take down dan bisa melakukan kontra narasi,” ujarnya.
Di samping itu, pihaknya pun mulai mengintensifkan patroli siber. Kemenkominfo, ujar Usman, juga tengah meningkatkan kapasitas automatic identifiation system (AIS) mereka. “Siapa tahu kita sukses mengembangkan AIS itu, (dan) bisa identifikasi deepfake tadi,” kata dia.
Bagi Usman, masyarakat bisa diedukasi pula lewat literasi digital yang dilakukan Kemenkominfo agar tak terkecoh hoaks berbasis AI. Ia mengimbau masyarakat supaya kritis setiap mendapatkan informasi dari media sosial.
“Apalagi di masa-masa menjelang pemilu ini,” ucap dia.
Sedangkan Sinta menuturkan, menangkal hoaks dengan teknologi canggih semacam AI adalah tugas pemerintah, dalam hal ini Kemenkominfo, untuk meluruskannya. “Kalau ada berita apa pun harus cepat di-counter,” tutur Sinta.
Kemudian, kata Sinta, masyarakat juga harus diberikan pemahaman supaya mendapatkan berita dari sumber resmi. Bukan sembarang akun media sosial. “Kalau misalnya (video, foto, atau teks) disebarkan oleh orang yang kita tidak kenal, nah itu harus patut dicurigai. Harus mengonfirmasi kepada sumber yang resmi atau (portal) berita,” kata dia.
Ia menegaskan, dalam menangani hoaks menggunakan AI banyak pihak yang mesti dilibatkan. Selain pemerintah dan masyarakat, juga pihak platform media sosial.
“Jadi pendekatannya harus multi-stakeholder,” ujarnya.
