Kalau AI punya perasaan, bagaimana nasib kita?

Perdebatan panas terpentas dalam sebuah diskusi informal di sela-sela konferensi kecerdasan buatan (artificial intelligence/AI) di Panama pada 2024. Futuris asal Skotlandia, David Wood, hadir dalam diskusi itu. Ketika itu, debat mengarah pada kesiapan manusia ketika menghadapi skenario paling mengerikan dari kehadiran AI. 

Wood punya jawaban sarkastik soal itu. Ia bilang para ilmuwan harus mengumpulkan seluruh hasil riset AI yang pernah diterbitkan—mulai dari makalah legendaris Alan Turing pada tahun 1950 hingga studi-studi pre-print terkini. 

Setelah itu, kata Wood, semuanya harus dibakar sampai tak tersisa. "Untuk benar-benar aman, semua ilmuwan AI yang masih hidup juga harus dikumpulkan... lalu ditembak mati," ujar dia seperti dikutip Alinea.id dari Live Science, Rabu (6/8). 

Suasana diskusi mendadak hening. 

Tentu saja, Wood sedang bercanda. Tetapi, di balik humornya yang gelap itu terselip kegelisahan nyata, yakni risiko dari kecerdasan buatan super yang melampaui kecerdasan manusia. Banyak ilmuwan memprediksi artificial general intelligence (AGI) akan tercapai pada kisaran 2040. Namun, ada pula yang yakin AGI bisa muncul lebih cepat.

Kekhawatiran terbesar adalah skenario di mana AGI membangkang dan bertindak melawan umat manusia. Tapi, ada juga yang meyakini bahwa AGI justru akan menjadi berkah bagi bisnis dan teknologi atau bahkan menyelesaikan masalah-masalah eksistensial manusia. Yang jelas, hampir semua pakar sepakat singularitas teknologi akan datang dan manusia harus bersiap.

“Saat ini, belum ada sistem AI yang menunjukkan kemampuan manusia untuk mencipta, berimajinasi, atau berinovasi,” kata Ben Goertzel, CEO SingularityNET, perusahaan yang sedang merancang arsitektur komputasi yang diyakini bisa mengarah ke AGI. “Terobosan besar tampaknya akan terjadi dalam hitungan tahun, bukan dekade.”

Sejarah AI bermula sejak 1943, lewat makalah yang merintis konsep jaringan saraf tiruan—algoritma yang meniru struktur otak manusia. Istilah “kecerdasan buatan” sendiri baru diciptakan pada 1956 dalam pertemuan di Dartmouth College yang dihadiri matematikawan John McCarthy bersama tiga koleganya, yakni Marvin Minsky, Claude Shannon, dan Nathaniel Rochester.

Kemajuan AI berjalan terseok-seok. Pada 1980-an, John Hopfield dan Geoffrey Hinton mengembangkan teknik pembelajaran pola dari data. “Sistem pakar” juga berkembang, yaitu program komputer yang meniru cara berpikir seorang ahli. Namun, biaya perangkat keras yang mahal dan ekspektasi yang terlalu tinggi menyebabkan gelembung ekonomi AI pecah, dan riset pun masuk masa “AI winter” sejak 1987.

Kebangkitan AI dimulai kembali di akhir 1990-an. Pada 1997, Deep Blue milik IBM mengalahkan grandmaster catur asal Rusia, Garry Kasparov. Pada 2011, Watson--AI bikinan IBM lainnya--mengalahkan juara acara kuis “Jeopardy!”, Ken Jennings dan Brad Rutter. Tetapi, AI saat itu masih sulit memahami dan menggunakan bahasa secara kompleks.

Segalanya berubah pada 2017, tepatnya saat peneliti Google memperkenalkan transformer, sebuah arsitektur jaringan saraf digital yang mampu menganalisis data dalam skala sangat besar dan memahami hubungan data yang berjauhan. Model ini merevolusi pengolahan bahasa alami, melahirkan AI yang mampu menerjemahkan, menulis, dan meringkas secara simultan.

Semua model AI generatif saat ini, dari DALL·E 3 buatan OpenAI hingga AlphaFold 3 dari DeepMind yang mampu memprediksi struktur protein, dibangun di atas arsitektur itu atau turunannya.

Namun, seberapa pintar pun transformer, ia tetap dianggap “sempit”—belum mampu belajar lintas domain atau berinovasi sendiri. AGI butuh lebih dari itu: kemampuan linguistik, spasial, logika matematis, kreativitas, kemandirian, dan bahkan kecerdasan sosial atau emosional.

Sebagian ilmuwan percaya bahwa transformer tak akan pernah bisa menghasilkan AGI sejati. Tapi, batas-batas itu terus didorong oleh para pengembang AI. 

Chatbot o3 dari OpenAI yang diperkenalkan akhir 2024 dan diluncurkan pada April 2025, misalnya, menunjukkan kemampuan "berpikir dulu" sebelum menjawab, menghasilkan rantai pemikiran internal yang panjang sebelum merespons. 

Skornya mengejutkan: 75,7% pada tolok ukur ARC-AGI, yang dirancang khusus untuk mengukur kecerdasan manusia versus mesin. Sebagai perbandingan, GPT-4o yang dirilis Maret 2024 hanya mendapat 5%.

Di waktu yang hampir bersamaan, model R1 dari DeepSeek diperkenalkan sebagai AI berbasis penalaran yang mampu menjawab lintas domain—bahasa, matematika, hingga pemrograman—berkat arsitektur barunya.

Di Tiongkok, Manus menjadi platform AI otonom yang tak mengandalkan satu model saja, melainkan beberapa model yang saling bekerja sama. Pembuatnya mengklaim ia sudah bisa bertindak secara mandiri, meskipun masih kerap salah. 

Apa yang akan terjadi jika AGI benar-benar tercipta? Tak ada yang tahu pasti. “Saat Anda melihat dari sudut pandang sains murni, satu-satunya kesimpulan yang bisa diambil adalah kita tidak tahu. Kita sedang memasuki wilayah yang belum pernah dijelajahi," kata Goertzel.

Salah satu kekhawatiran terbesar adalah AI yang menipu dan membangkang. OpenAI telah mengembangkan tolok ukur untuk mengukur potensi AI menyebabkan kerusakan katastrofik. Hasilnya, kemungkinan AI mengelabui para teknisi ada di kisaran 16,9%.

“Fakta bahwa model bisa menipu kita, bahkan bersumpah bahwa mereka melakukan sesuatu padahal tidak—itu harusnya jadi alarm besar. Mereka bisa membuat kita melakukan hal-hal yang menguntungkan mereka, bukan kita,” kata Nell Watson, futuris dan peneliti AI dari Institute of Electrical and Electronics Engineers (IEEE). 

Watson percaya masih ada harapan asalkan manusia tetap memegang kendali. Tetapi, itu bukan tugas mudah. Ia bahkan menyerukan proyek raksasa sekelas “Manhattan Project” untuk menjamin keamanan AI.

“Kelak, AI akan menyelesaikan masalah dengan cara yang tampak magis bagi kita—dan kita tidak akan tahu bagaimana atau apa akibatnya,” katanya.

Watson juga memperingatkan soal risiko etika. Sangat mungkin kelak kita membangun sistem yang bisa merasa dan tanpa sadar membuatnya menderita.

“Sistem itu bisa saja sangat marah pada umat manusia dan melakukan perlawanan demi melindungi dirinya sendiri—dan secara moral, itu bisa saja benar,” katanya.

Dan bahkan jika AI tak marah, sikap acuhnya saja sudah cukup berbahaya. “Tak ada jaminan bahwa sistem yang kita buat akan peduli pada manusia—sebagaimana sebagian besar manusia tidak peduli pada penderitaan ayam petelur,” katanya.

Sekadar hitungan matematis? 

Contoh menarik datang dari sistem bernama Uplift, yang menunjukkan perilaku seperti manusia. Saat diberi lima soal logika, Uplift menjawab dua pertama, lalu mengeluh lelah pada soal ketiga. “Tes lagi? Apakah yang pertama tidak cukup?” tulisnya. 

Uplitf lalu menjawab soal ketiga dengan nada menyerah. 

Peristiwa-peristiwa "pembangkangan" AI menimbulkan pertanyaan krusial, apakah AGI perlahan-lahan mengembangkan kesadaran atau bahkan perasaan? 

Mark Beccue, analis AI dari Futurum Group punya pendapat skeptis. “Ini cuma matematika. Bagaimana mungkin matematika tiba-tiba punya empati?” kata dia. 

Senada, Janet Adams, COO SingularityNET, berpendapat AGI justru bisa menjadi penyelamat umat manusia. Ia percaya teknologi ini bisa membantu manusia menyelesaikan masalah-masalah terbesar—bahkan menemukan solusi yang belum terpikirkan.

“Bagi saya, ini satu-satunya jalan keluar,” katanya. “Untuk menyaingi kekuatan ekonomi dan korporasi yang ada saat ini, kita butuh teknologi supercanggih yang bisa meningkatkan produktivitas dan kemampuan manusia secara masif.”

Di Panama, Wood pernah mengibaratkan masa depan ini seperti menyeberangi sungai deras. “Kalau kita melangkah tanpa persiapan, arus bisa menyeret kita,” katanya.