Waspada! Penipu online pakai suara dan gambar palsu hasil kecerdasan buatan

Pelaku kriminal terutama penipu semakin canggih menjalankan operasinya dalam memangsa korban. Kini kecerdasan buatan atau AI, sudah mereka gunakan. Korban bisa sangat mudah tertipu, karena para penjahat itu bisa menggunakan AI untuk memproduksi suara, gambar dan video palsu.  

"Media sosial sekarang menjadi alat pengintaian untuk kelompok kriminal transnasional, untuk orang yang melakukan perdagangan manusia, hal-hal seperti itu," kata Morgan Wright, kepala penasihat keamanan SentinelOne.

"Mereka mengintai Anda, mereka mencari tahu apa yang Anda lakukan dan begitulah cara penipuan ini bekerja."

Dua penipuan pemerasan yang melibatkan AI terjadi di Arizona, Amerika Serikat, bulan lalu. Di kedua kasus tersebut, penjahat meminta uang tebusan menggunakan suara anggota keluarga yang dihasilkan oleh AI.

"Putriku berkata, 'Bu, orang-orang jahat ini menculikku. Bantu aku, bantu aku, bantu aku,'" kata Jennifer DeStefano, salah satu korban di Arizona. "Itu suara putriku."

"Saya tidak pernah ragu sedetik pun itu adalah putri saya," katanya. "Faktanya, itu sangat nyata bagiku."

Penculik palsu yang menuntut uang tebusan memberi tahu DeStefano, "Jika Anda menelepon siapa pun, jika Anda tidak melakukan apa yang diperintahkan, saya akan mencekokinya narkoba, mengambil cara saya dengannya dan kemudian membuangnya di Meksiko. Dan kau tidak akan pernah melihat putrimu lagi."

Kecepatan penipuan dan kepercayaan suara deepfake (video seseorang yang wajah atau tubuhnya telah diubah secara digital sehingga tampak seperti orang lain, biasanya digunakan untuk maksud jahat atau untuk menyebarkan informasi palsu) buatan AI memberi penjahat kekuasaan atas korbannya, menurut Wright.

"Mereka menemukan suara -- apakah itu di TikTok, Facebook, apa pun itu -- suara yang cukup untuk menciptakan kembali suara anak perempuan itu," katanya. "Tidak peduli itu bukan anaknya, itu yang diyakini orang tua."

"Mereka mengisolasi Anda," kata Wright, seorang mantan detektif. "Mereka tidak akan memberi orang tua waktu untuk merespons."

Para pengintai juga kemungkinan tahu bahwa DeStefano dan putrinya, 15 tahun, terpisah jarak pada saat itu, kata mantan detektif tersebut.

"Anda mendengar suara yang Anda yakini adalah anak Anda," lanjut Wright. "Dan sekarang mereka mempengaruhi karena Anda tidak tahu di mana anak Anda."

DeStefano, beruntung, segera mengetahui situasi sebenarnya, bahwa putrinya aman-aman saja. Tetapi mengaku bahwa pengalaman itu membuat dia dan keluarganya ketakutan. Dia mengatakan ceritanya harus meningkatkan kesadaran tentang bagaimana AI digunakan dalam kejahatan.

Penipuan menggunakan AI menjadi lebih umum karena alat menjadi lebih mudah diakses dan dimanfaatkan, bahkan oleh aktor jahat dengan sedikit keterampilan teknis, kata Wright.

Ada garis di mana beberapa alat AI merambah "kebebasan privasi dan ruang pribadi," kata DeStefano. "Itu bisa digunakan untuk banyak kejahatan.

"Itu pasti sesuatu yang perlu kita bicarakan, dan perlu ada batasan," pungkasnya.