ChatGPT seringkali mengeluarkan jawaban yang dikarang. Kenapa bisa seperti itu?
Lixing Sun pernah ditipu mentah-mentah oleh ChatGPT. Beberapa bulan lalu, penulis buku The Liars of Nature and the Nature of Liars: Cheating and Deception in the Living World itu meminta ChatGPT merekomendasikan buku karya atau tentang Hermann Joseph Muller, ilmuwan genetika peraih Nobel.
Dengan patuh sistem akal imitasi buatan OpenAI itu menyebutkan tiga buah judul buku. Namun, ternyata tidak ada judul yang nyata. Tak patah arang, Sun menginstruksikan perintah yang sama pada ChatGPT.
"Muncul tiga judul baru. Masih salah. Kali ketiga saya sadar: sistem ini bukan sekadar keliru—ia sedang mengarang," kata Sun seperti dikutip Psychology Today, Jumat (12/9).
Sun bukan satu-satunya yang mengalami "prank" AI model itu. Pada Juni 2023, dua pengacara di New York kena sanksi karena mengajukan dokumen hukum berisi enam putusan pengadilan palsu—semuanya hasil ChatGPT.
Awal tahun ini, laporan kesehatan publik yang terkait kampanye Robert F. Kennedy Jr. kedapatan mencantumkan studi fiktif, diduga hasil AI. Dan, bulan lalu, OpenAI digugat orang tua seorang remaja 16 tahun yang pernah mengungkapkan pikiran bunuh diri ke ChatGPT.