Video yang dibuat dengan aplikasi Veo 3 kian marak di media sosial. Dengan fitur-fitur unggulan seperti pembuatan audio asli, resolusi 4K, dan efek visual realistis, hasil rekaan aplikasi kecerdasan buatan milik Google itu nyaris tidak jauh berbeda dengan video yang diambil langsung.
Sayangnya, narasi dalam konten video yang dihasilkan kerap memuat potensi masalah. Belum lama ini, misalnya, seorang konten kreator bernama Yulianto Harimurti merilis video bertajuk "umrah ke Borobudur" yang bikin publik marah.
Warga Kota Surakarta itu lantas dilaporkan ke polisi karena bikin konten yang dianggap menyingggung suku, agama, dan ras (SARA). Dari penyelidikan, polisi menemukan Yulianto memproduksi konten "berbahaya" itu hanya demi mempromosikan produk kemenyan miliknya di TikTok.
Di Youtube, video kisah fiktif yang dibuat menggunakan teknologi Veo3 juga marak. Menggunakan kata-kata kunci yang potensial dicari warganet, para konten kreator memproduksi berita-berita fiktif yang berkaitan dengan Front Pembela Islam, GRIB Jaya, dan bahkan ada yang mendompleng polemik kasus ijazah Jokowi.
Pakar komunikasi politik Universitas Padjadjaran (Unpad) Kunto Adi Wibowo menilai video-video dengan narasi rekaan yang dihasilkan Veo 3 bakal sulit dibendung. Jika tidak diregulasi, Kunto menilai video-video rekayasa itu potensial memicu kerusuhan sosial.
"Selain itu, ada insentif entah itu politik ekonomi atau apa pun untuk manipulasi. Ya, memang intinya teknologinya memang memungkinkan dan orang menggunakan itu ada keuntungannya. Jadi, agak susah juga bagi Google untuk kemudian mencegah," kata Kunto kepada Alinea.id, Rabu (11/6).
Kunto menilai seharusnya Google memberikan watermark atau ciri khusus pada visualisasi hasil Veo 3. Namun, dia menduga langkah itu tak akan dilakukan Google. Pasalnya, watermark tanda video tiruan akan menurunkan harga jual Veo 3.
"Media sosial tidak mungkin kita menyensor, enggak mungkin kita melakukan take down. Justru ini yang paling menantang bagi platform dan pemerintah adalah kemudian memformulasikan hukum atau teknologi lain yang bisa mencegah penyebaran hasil video manipulasi AI ini digunakan untuk hal-hal yang berisiko," kata Kunto.
Selain regulasi untuk mencegah konflik sosial akibat video AI, menurut Kunto, publik juga perlu diedukasi untuk tidak mudah tertipu oleh narasi di media sosial. Masyarakat terutama harus bisa membedakan apakah sebuah video dibuat menggunakan AI atau tidak.
"Kemudian kalau pun itu kita tidak bisa membedakan dengan cepat, ada usaha-usaha untuk menahan diri atau emosi untuk tidak segara bereaksi," kata Kunto.
Guru besar ilmu komunikasi dari Fakultas Psikologi Ilmu Sosial Budaya Universitas Islam Indonesia (UII) Masduki menilai publik saat ini sedang gagap dengan kehadiran AI Veo 3. Walhasil, banyak kreator konten yang memproduksi video "aneh", termasuk yang isinya bermuatan SARA.
Sebagai platform penyedia teknologi, Google semestinya bisa memberikan batasan-batasan agar konten yang dibuat Veo 3 tak disalahgunakan. Masduki juga mengusulkan agar pemerintah dan DPR menyempurnakan UU ITE dan menambah ketentuan spesifik pada AI.
"Tujuannya bisa memaksa platform digital seperti Google untuk men-take down atau melarang konten-konten yang berisiko terhadap apa yang disebut dengan hak-hak publik atas informasi yang berkualitas.. Pelindungan atas kepentingan-kepentingan publik, misalnya pemurnian pemahaman keagamaan, soal pornografi, terorisme, atau SARA," kata Masduki kepada Alinea.id.
Menurut Masduki, pemerintah dan DPR bisa mencontoh regulasi pada negara-negara Uni Eropa dalam menyikapi AI. Dengan begitu, bisnis AI dan hak publik bisa selaras tanpa risiko memunculkan benturan atau konflik sosial di masyarakat.
Seiring itu, pemerintah juga bisa menekan Google untuk berperan sebagai penyaring informasi yang berbahaya. "Google kan bisa memperkuat moderasi konten. Jadi, dia menjadi gatekeeper (penjaga arus informasi). Kalau dulu (di redakasi), ada wartawan, producer, jurnalis. Sekarang, ya, mereka (Google)," kata Masduki.
Masduki sepakat literasi digital masyarakat juga perlu ditingkatkan. Apalagi, warganet Indonesia cenderung lebih doyan mengonsumsi konten- konten yang kurang berkualitas. Pada area ini, Google juga bisa turut berperan aktif sebagai "penjaga gerbang".
"Kalau mereka membiarkan konten-konten buruk, maka reputasi mereka turun. Celakanya, di Indonesia itu, situasinya tidak selaras. Jadi, mau konten buruk dan konten yang baik, itu sama. Selama ini, ya, kita anggap itu hal normal. Bahayanya di sini," kata Masduki.
