Ketika Tuhan Mulai Cemburu: Wara’ Algoritmik dan Hasrat Melampaui Batas
(Risalah di Akhir Muharam)
Mitos bahwa mesin suatu hari akan bangkit, memiliki kesadaran mandiri, lalu memusnahkan penciptanya—sebagaimana berulang kali diproduksi oleh industri fiksi ilmiah—sesungguhnya dapat menjadi selubung ideologis yang mengalihkan pandangan kita dari persoalan yang lebih mendasar. Kecerdasan buatan (artificial intelligence atau AI), pada dirinya sendiri, tidak memiliki kehendak bebas (irādah); ia lebih menyerupai cermin raksasa yang memantulkan kesombongan (takabbur), kerakusan, dan kekosongan spiritual manusia beserta struktur kuasa yang merancang dan mengendalikannya.
Ketika AI perlahan merangsek ke ruang publik dan privat, kita sesungguhnya tidak sedang menyaksikan kebangkitan suatu entitas asing. Kita sedang berhadapan dengan techno-hubris: kesombongan teknologis manusia yang telah tercerabut dari jangkar eksistensialnya. Di tengah situasi inilah sebuah ungkapan provokatif layak dihadirkan sebagai guncangan filosofis bagi kesadaran kita: “Tuhan mulai cemburu.”
Ungkapan tersebut tentu tidak boleh dimaknai sebagai kelemahan psikologis Tuhan, apalagi sebagai antropomorfisme Ilahi. Dalam horizon teologis-filosofis, “kecemburuan Tuhan” dihadirkan di sini sebagai metafora radikal untuk menyingkap pelanggaran batas-batas ontologis oleh manusia. Manusia hari ini tidak lagi menciptakan teknologi semata-mata sebagai instrumen atau perpanjangan kapasitas dirinya. Lebih jauh, manusia tengah melahirkan suatu entitas yang perlahan mengambil alih fungsi-fungsi yang selama ini dipandang sebagai wilayah khas kemanusiaan, bahkan dibayangkan menyerupai atribut ketuhanan: mengetahui nyaris segala hal, menentukan apa yang dianggap benar, menilai tindakan, memprediksi masa depan, hingga menawarkan jawaban instan atas pencarian makna hidup yang paling sunyi.
Di sinilah kita berhadapan dengan sebuah ironi paradoks antropologis. Manusia modern merancang dan mengembangkan AI dengan ambisi memperluas kapasitas, kuasa, dan kendalinya atas realitas. Namun, semakin canggih ciptaan itu bekerja, semakin besar pula kecenderungan manusia untuk menyerahkan agensi, kedaulatan berpikir, dan pertimbangan moralnya kepada mesin. Kita menciptakan teknologi agar menjadi makhluk yang lebih berdaya; tetapi melalui proses yang sama, kita justru berisiko kehilangan kuasa atas ciptaan sendiri. Manusia yang semula memosisikan dirinya sebagai subjek pencipta perlahan-lahan mereduksi diri menjadi objek pasif: perilakunya diprediksi, pilihannya diarahkan, dan perhatiannya diperebutkan melalui kalkulasi probabilistik algoritma.
Karena itu, problematisasi terhadap fenomena AI tidak boleh disempitkan menjadi pertanyaan teknis-fungsional belaka: seberapa canggih kemampuan komputasi mesin ini kelak, atau sejauh mana regulasi hukum mampu membatasinya? Pertanyaan tersebut harus dihunjamkan ke wilayah yang lebih mendasar: apakah AI masih berada dalam horizon teknologi yang melayani tujuan manusia, atau telah bertransformasi menjadi proyeksi material terbaru dari hasrat purba manusia untuk melampaui batas-batas kemanusiaannya sendiri?
Pertanyaan itu menjadi semakin mendesak karena AI tidak berkembang di ruang hampa. Ia lahir, tumbuh, dan beroperasi di dalam struktur ekonomi-politik tertentu. Dalam kapitalisme lanjut, hasrat manusia untuk mengetahui dan menguasai berkelindan dengan dorongan untuk mengakumulasi. Jejak perilaku, perhatian, preferensi, bahkan data personal manusia semakin dikumpulkan, diolah, dan dikonversi menjadi sumber nilai ekonomi. Dalam proses ini, pengalaman manusia tidak lagi sekadar dijalani; ia juga mengalami datafikasi, ekstraksi, dan kalkulasi sebagai bahan bagi akumulasi.[1] Dengan demikian, AI bukan hanya cermin ambisi manusia untuk melampaui batas eksistensialnya; ia juga dapat menjadi mesin yang mengubah pengalaman manusia menjadi sumber daya ekonomi.
Untuk memahami bagaimana disorientasi ini terjadi, kita perlu menelusuri genealogi hasrat manusia itu sendiri. Persoalan paling krusial dalam AI tidak bermula dari baris-baris kode di laboratorium silikon, melainkan jauh di hulu: pada ambisi manusia untuk melampaui keterbatasan eksistensialnya. Hasrat untuk mengetahui, ketika berkelindan dengan hasrat untuk menguasai, dapat bergeser menjadi kehendak menundukkan alam; lalu berkembang menjadi ambisi mereplikasi kecerdasan; hingga, pada bentuknya yang paling ekstrem, mewujud dalam obsesi transhumanis untuk mengatasi kerapuhan biologis, memperpanjang kehidupan tanpa batas, dan mendekati fantasi purba manusia untuk menjadi “seperti Tuhan”.
Pada titik inilah tiga lintasan pemikiran kritis Barat dapat dipertemukan—bukan untuk menyeragamkan mereka, melainkan untuk menerangi dimensi berbeda dari hasrat tersebut. Gagasan will to power dari Friedrich Nietzsche[2] membantu kita membaca kehidupan bukan sebagai sesuatu yang statis, melainkan sebagai medan daya yang terus berusaha memperluas, menafsirkan, dan menegaskan dirinya. Dalam horizon AI, gagasan ini membuka sebuah pertanyaan kritis: apakah dorongan untuk menciptakan teknologi yang semakin cerdas semata-mata lahir dari kehendak memperbaiki kehidupan, atau juga menyimpan hasrat manusia untuk memperluas jangkauan kuasanya atas realitas?
Pertanyaan tentang kuasa itu memperoleh kedalaman ontologis dalam kritik teknologi Martin Heidegger.[3] Bagi Heidegger, bahaya teknologi modern tidak terutama terletak pada mesin sebagai benda, melainkan pada cara penyingkapan dunia yang dibawanya. Melalui Gestell—kerangka pembingkaian teknologis—realitas cenderung tampil sebagai sesuatu yang tersedia untuk dihitung, diatur, dan dimanfaatkan. Alam menjadi cadangan sumber daya; waktu menjadi ukuran produktivitas; perhatian menjadi objek optimasi; dan, pada akhirnya, manusia sendiri berisiko dipandang sebagai sekumpulan data yang dapat dipetakan, diprediksi, serta dikelola.
Ketika cara penyingkapan teknologis tersebut berkelindan dengan praktik-praktik kekuasaan modern, analisis Michel Foucault[4] memberi kita perangkat lain untuk memahami persoalan. Pengetahuan, bagi Foucault, tidak berdiri steril di luar relasi kuasa; apa yang diakui sebagai benar, normal, penting, menyimpang, atau tidak relevan selalu dibentuk melalui praktik, institusi, dan mekanisme tertentu. Dalam peradaban digital, algoritma AI dapat menjadi salah satu mekanisme semacam itu: ia mengurutkan visibilitas, mengklasifikasikan subjek, memprediksi perilaku, dan turut membentuk medan kemungkinan tempat manusia melihat dunia serta mengambil keputusan.
Dari Nietzsche, kita memperoleh kecurigaan terhadap hasrat yang terus memperluas dirinya. Dari Heidegger, kita memahami bahaya ketika dunia hanya tampak sebagai sesuatu yang dapat dihitung dan dimanfaatkan. Dari Foucault, kita belajar bahwa pengetahuan dan klasifikasi tidak pernah sepenuhnya terpisah dari operasi kuasa. Ketiganya membawa kita pada satu diagnosis bersama, meskipun melalui jalan yang berbeda: problem AI tidak semata-mata terletak pada kecanggihan mesin, tetapi pada manusia dan struktur kuasa yang menentukan untuk apa kecanggihan itu digunakan, dunia macam apa yang dibentuk olehnya, dan jenis manusia seperti apa yang perlahan-lahan dilahirkannya.[5]
Namun, diagnosis kritis itu belum membawa kita sampai ke hulu persoalan. Masih tersisa satu pertanyaan yang lebih sunyi dan lebih mendasar: apa yang terjadi di dalam diri manusia ketika kemampuannya untuk mengetahui dan menguasai tumbuh jauh lebih cepat daripada kemampuannya untuk membatasi diri? Pada titik inilah metafora awal kita perlu mengalami pembalikan. Tuhan, tentu saja, tidak pernah terancam oleh sirkuit silikon atau algoritma secanggih apa pun. Karena itu, ungkapan “Tuhan mulai cemburu” tidak menunjuk pada kompetisi antara Sang Pencipta dan mesin ciptaan manusia. Metafora itu justru menyingkap sesuatu yang lebih menggelisahkan: manusia mulai memberikan kepada teknologi bentuk-bentuk kepercayaan, ketergantungan, dan penyerahan diri yang semakin dalam.
Geraknya berlangsung perlahan, hampir tanpa disadari. Manusia menciptakan AI, lalu mengagumi kecanggihannya; dari kekaguman tumbuh ketergantungan; dari ketergantungan muncul kebiasaan menyerahkan penilaian; dan dari penyerahan penilaian lahir risiko terkikisnya kedaulatan batin. Persoalannya, dengan demikian, bukan bahwa manusia secara harfiah bersujud kepada mesin, melainkan bahwa algoritma dapat mulai menempati posisi yang semakin menentukan dalam cara manusia mengetahui, menilai, memilih, dan membayangkan masa depannya.
Di sinilah kita dapat mengenali suatu kecenderungan yang layak disebut “pemberhalaan epistemik”: ketika keluaran algoritma tidak lagi diperlakukan sebagai hasil komputasi yang dapat diperiksa dan dipersoalkan, tetapi diterima sebagai otoritas yang seolah-olah bebas dari keterbatasan, kepentingan, dan kemungkinan salah. Pada titik ekstremnya, manusia bukan lagi sekadar menggunakan mesin untuk membantu berpikir; ia mulai menyerahkan kepada mesin keberanian untuk berpikir, menimbang, dan bertanggung jawab.
Akan tetapi, kritik terhadap pemberhalaan epistemik belum cukup. Sebab, persoalan terdalamnya tetap berada pada manusia. Mengapa makhluk yang menciptakan teknologi untuk memperluas kemampuannya justru begitu mudah menyerahkan kedaulatannya kepada ciptaannya sendiri? Mengapa kecerdasan yang semakin besar tidak dengan sendirinya melahirkan kebijaksanaan untuk membatasi diri? Dan mengapa manusia yang begitu mahir mengendalikan dunia tetap begitu rapuh ketika harus mengendalikan hasratnya sendiri?
Pertanyaan-pertanyaan itulah yang membuka jalan bagi Al-Ghazali. Ia tidak hadir untuk menggantikan Nietzsche, Heidegger, atau Foucault, apalagi sekadar menjadi ornamen keislaman setelah rangkaian pemikiran Barat. Ia hadir karena diagnosis tentang hasrat, teknologi, dan kuasa masih menyisakan sebuah wilayah yang belum sepenuhnya terjamah dalam percakapan kita: struktur batin manusia yang menggunakan kuasa itu sendiri.
Jika Nietzsche membantu kita membaca dinamika hasrat, Heidegger menyingkap cara teknologi membingkai dunia, dan Foucault memetakan pertautan pengetahuan dengan kuasa, maka Al-Ghazali mengarahkan pandangan ke medan yang lebih intim: bagaimana manusia menjaga dirinya ketika pengetahuan memperbesar kemampuan, kemampuan melahirkan kuasa, dan kuasa menggoda jiwa untuk merasa tidak lagi membutuhkan batas?
Dalam horizon tasawuf Al-Ghazali, krisis manusia tidak semata-mata lahir dari kekurangan pengetahuan. Ia juga dapat tumbuh dari pengetahuan yang tidak disertai disiplin jiwa.[6] Semakin besar kemampuan manusia, semakin mendesak kebutuhan untuk memeriksa gerak batinnya sendiri: hasrat yang menyamar sebagai kebutuhan, kesombongan yang menyamar sebagai kemajuan, dan kehendak menguasai yang menyamar sebagai kemaslahatan. Problem AI, jika dibaca dari titik ini, bukan lagi semata-mata persoalan tentang seberapa cerdas mesin dapat menjadi. Ia berubah menjadi pertanyaan yang jauh lebih mengusik: masihkah manusia yang menciptakan mesin itu mengetahui cara menjadi manusia?
Bagaimanapun, diagnosis spiritual tidak boleh membawa kita kepada romantisme antiteknologi. Menolak AI secara naif sama problematisnya dengan menyerahkan diri kepadanya tanpa syarat. Kita tidak perlu menjadi Luddite yang memusuhi setiap inovasi, tetapi juga tidak boleh menjadi pemuja teknologi yang menganggap segala sesuatu yang dapat diciptakan dengan sendirinya layak diwujudkan. Yang kita perlukan adalah sebuah rekonstruksi etis-aksiologis yang mampu berdiri di antara dua ekstrem tersebut: Wara’ Algoritmik.
Dalam tradisi Islam, wara’ bertumbuh dari kesadaran bahwa kehidupan moral tidak berakhir pada garis pemisah antara halal dan haram. Hukum memberi manusia batas normatif yang harus ditaati, tetapi kehidupan batin menuntut kepekaan yang lebih halus: kemampuan mengambil jarak dari perkara yang meragukan (syubhat), berlebihan, atau berpotensi menggelincirkan diri, sekalipun belum seluruhnya dapat dipastikan sebagai sesuatu yang terlarang. Dalam horizon tasawuf Al-Ghazali, wara’ karena itu dapat dibaca bukan sebagai ketakutan pasif terhadap dunia, melainkan sebagai disiplin aktif untuk menjaga kejernihan hati di tengah tarikan hasrat.
Dari horizon etis-spiritual inilah konsep Wara’ Algoritmik dapat dirumuskan. Ia bukan penolakan terhadap algoritma, bukan pula seruan untuk menarik diri dari peradaban digital. Wara’ Algoritmik adalah disiplin batin untuk mengambil jarak kritis dari kemungkinan-kemungkinan teknologis, terutama ketika kemampuan untuk melakukan sesuatu tumbuh lebih cepat daripada kebijaksanaan untuk menentukan apakah sesuatu itu patut dilakukan.
Konsep ini berangkat dari satu kenyataan sederhana tetapi mendasar: tidak semua yang dapat dilakukan secara teknologis dengan sendirinya boleh dilakukan; tidak semua yang boleh dilakukan dengan sendirinya layak dilakukan; dan tidak semua yang layak dilakukan dalam keadaan tertentu dengan sendirinya bijak dilakukan. Karena itu, Wara’ Algoritmik bekerja melalui empat lapis pertanyaan:
Dapat dilakukan? → Boleh dilakukan? → Layak dilakukan? → Bijak dilakukan?
Pertanyaan pertama berada pada wilayah kapabilitas: apakah teknologi memungkinkan kita melakukannya? Pertanyaan kedua memasuki wilayah legalitas dan norma: apakah tindakan itu diperbolehkan? Pertanyaan ketiga bergerak lebih dalam ke wilayah etis: apakah tindakan itu patut dilakukan jika ditimbang dari martabat manusia, dampaknya terhadap sesama, dan tanggung jawab sosial? Namun, pertanyaan keempat memasuki wilayah yang paling sunyi: sekalipun suatu tindakan mungkin, diperbolehkan, dan dalam keadaan tertentu dapat dibenarkan, apakah tindakan itu sungguh mencerminkan kebijaksanaan manusia dalam menjaga batas dirinya?
Di sinilah Wara’ Algoritmik bekerja sebelum larangan tiba. Ia hadir ketika hukum belum memiliki pasal, ketika regulasi masih tertinggal di belakang inovasi, dan ketika kerusakan belum cukup kasatmata untuk dibuktikan. Ia tidak menggantikan etika, hukum, atau regulasi, tetapi mengisi ruang yang sering kali tidak dapat segera mereka jangkau: ruang keputusan batin ketika manusia berhadapan dengan sesuatu yang mampu dilakukan, tetapi belum tentu harus dilakukan.
Kemampuan mengkloning suara seseorang yang telah meninggal, merekayasa persepsi publik melalui profil psikografis, atau menghasilkan jawaban keagamaan secara instan tanpa proses keilmuan yang memadai menunjukkan betapa lebarnya jarak antara kemampuan teknis dan kebijaksanaan moral. Pertanyaan pertama peradaban digital hampir selalu berbunyi: bisakah kita melakukannya? Wara’ Algoritmik menginterupsi kegairahan itu dengan pertanyaan yang lebih sulit: meskipun kita bisa, haruskah kita?
Karena itu, Wara’ Algoritmik bukanlah sikap takut terhadap teknologi, melainkan keberanian untuk tidak diperbudak oleh kemungkinan-kemungkinan yang ditawarkannya. Ia menuntut manusia untuk mengambil jarak, menahan diri, dan mempertanyakan: apakah penyerahan keputusan ini masih menjaga kehormatan manusia sebagai subjek moral? Apakah kemudahan ini memperluas kebebasan, atau justru perlahan mengikis kemampuan kita untuk memilih? Apakah kecerdasan mesin membantu manusia menjadi lebih bijaksana, atau hanya membuatnya semakin enggan memikul beban untuk berpikir dan bertanggung jawab?
Pada pengertian inilah Wara’ Algoritmik menemukan bentuknya yang paling radikal: kesanggupan moral-spiritual untuk tidak melakukan segala sesuatu yang secara teknologis dapat dilakukan, demi menjaga agar kemampuan manusia tidak tumbuh lebih cepat daripada kebijaksanaannya, dan agar kecanggihan ciptaannya tidak merampas kedaulatan batinnya sendiri.
Pada titik inilah kita sampai pada kesimpulan yang paling mengusik ego modernitas: AI sesungguhnya tidak pernah berhasrat menjadi Tuhan. Manusialah yang, melalui AI, terus menguji seberapa jauh ia dapat melampaui batas-batas dirinya sendiri. Namun, paradoksnya segera tampak. Semakin besar kemampuan yang berhasil diciptakannya, semakin besar pula godaan untuk menyerahkan kepada ciptaan itu sebagian dari apa yang seharusnya tetap menjadi tanggung jawabnya sendiri: menimbang, memilih, memutuskan, dan menanggung akibat.
Karena itu, krisis AI pada akhirnya bukan semata-mata krisis kecerdasan. Ia adalah krisis kemampuan manusia untuk membatasi kecerdasannya sendiri. Mesin dapat terus belajar, menghitung, memprediksi, dan menghasilkan kemungkinan-kemungkinan baru; tetapi hanya manusia yang dapat bertanya apakah setiap kemungkinan itu patut diwujudkan. Di antara kemampuan untuk menciptakan dan kebijaksanaan untuk menahan diri terbentang ruang moral yang tidak dapat diserahkan begitu saja kepada algoritma.
Di ruang itulah Wara’ Algoritmik menemukan urgensinya. Ia tidak meminta manusia berhenti mencipta, melainkan mengingatkan bahwa kemajuan tidak selalu berarti bergerak sejauh mungkin. Ada saat ketika keberanian manusia tampak dalam kemampuannya melangkah maju; tetapi ada pula saat ketika kebijaksanaannya justru diuji oleh kesanggupan untuk berhenti. Peradaban yang tinggi bukanlah peradaban yang melakukan segala sesuatu yang mampu dilakukannya, melainkan peradaban yang mengetahui batas antara apa yang dapat diwujudkan dan apa yang sebaiknya ditinggalkan.
Masa depan manusia di era kecerdasan buatan, karena itu, tidak akan diselamatkan hanya oleh mesin yang semakin cerdas, regulasi yang semakin ketat, atau sistem keamanan yang semakin canggih. Semua itu diperlukan, tetapi tidak mencukupi. Selama hasrat manusia untuk melampaui batas tumbuh lebih cepat daripada kebijaksanaannya untuk menjaga batas, setiap kemajuan akan selalu membawa kemungkinan baru bagi kehilangan.
Barangkali, pada akhirnya, inilah hikmah paling sederhana yang masih dapat kita bawa pulang dari perziarahan panjang ini: kecerdasan mengajarkan manusia tentang apa yang dapat dilakukan, tetapi kebijaksanaan mengajarkannya kapan harus berkata “cukup”. Syahdan, justru ketika manusia kehilangan kemampuan untuk berkata “cukup”, metafora itu kembali mengetuk kesadaran kita: Tuhan mulai cemburu.*****
Endnotes:
[1] Smythe, D. W. (1977). “Communications: Blindspot of Western Marxism.” CINÉ-TRACTS, 1(3), 1–27; Mosco, V. (1996). The Political Economy of Communication: Rethinking and Renewal. Sage Publications; Sadowski, J. (2019). “When Data Is Capital: Datafication, Accumulation, and Extraction.” Big Data & Society, 6(1).
[2] Nietzsche, F. (1968). The Will to Power (W. Kaufmann & R. J. Hollingdale, Trans.). Vintage Books.
[3] Heidegger, M. (1977). The Question Concerning Technology and Other Essays (W. Lovitt, Trans.). Garland Publishing.
[4] Foucault, M. (1980). Power/Knowledge: Selected Interviews and Other Writings, 1972–1977 (C. Gordon, Ed.). Pantheon Books.
[5] Mosco, V. (2004). The Digital Sublime: Myth, Power, and Cyberspace. MIT Press.
[6] Al-Ghazali. (2018). Ihya Ulumuddin (K. Anwar, Trans.). Pustaka Imani; Al-Ghazali. (2020). Al-Arba’in fi Ushuluddin: Ringkasan Ihya Ulumuddin Bidang Akidah dan Tasawuf (M. S. Nasrullah, Trans.). TuROS.
Profil Singkat Penulis:
Mohammad Suud, adalah seorang akademisi/pemerhati masalah sosial [Dosen Tetap Program Studi Kesejahteraan Sosial, Dengan Tugas Tambahan sebagai Kepala Unit Pengelola Mata Kuliah Wajib Kurikulum Universitas Wijaya Kusuma Surabaya]. Fokus pada kajian pembangunan sosial, kebijakan sosial, dan dinamika kebudayaan siber. Penulis dapat dihubungi melalui email: [email protected]
