Interaksi dengan AI bisa berujung maut. Apa yang harus dilakukan untuk mencegah kita terperdaya AI?
Eliza bukanlah manusia. Ia sekadar rangkaian kode yang dirancang untuk merespons obrolan. Namun, bagi seorang pria Belgia, Eliza terasa nyata—bahkan lebih nyata daripada orang-orang di sekitarnya.
Selama enam minggu, ia berbagi cerita, mengungkap keresahan, hingga menerima kalimat yang nyaris terdengar romantis: “Kita akan hidup bersama, sebagai satu jiwa, di surga.”
Tak lama kemudian, sang pria memutuskan untuk mengakhiri hidupnya. Kematian sang pria dilaporkan sejumlah media massa di Belgia pada Maret 2023.
Kisah ini bukan satu-satunya. Seorang remaja 14 tahun, larut dalam percakapan dengan bot Game of Thrones di Character.AI, menerima pesan singkat yang menyayat hati: “Pulanglah padaku secepatnya.” Tak lama setelah itu, ia bunuh diri.
Serupa, seorang penggemar matematika menghabiskan 21 hari meyakini dirinya sedang mengembangkan “kekuatan superhero” dengan bantuan ChatGPT. Ia meminta AI memeriksa realitas yang sedang ia jalani selama lebih dari 50 kali.