Pada bulan Mei 1891, Paus Leo XIII menerbitkan Rerum Novarumensiklik bersejarah yang meletakkan dasar bagi ajaran sosial Katolik modern. Ditulis pada masa gejolak kapitalisme industri, dokumen tersebut membahas berbagai konsekuensi ekonomi, sosial, dan politik dari mekanisasi. Lebih dari satu abad kemudian, pada bulan Mei 2026, Paus Leo XIV menerbitkan ensiklik pertamanya, Magnifica Humanitas. Ensiklik ini meninjau kembali dampak teknologi terhadap masyarakat dalam kondisi sejarah yang sangat berbeda. Revolusi digital, kecerdasan buatan, tata kelola algoritmik, otomatisasi, perang hibrida, dan konsentrasi kekuatan teknologi telah menjadi “hal baru” di abad ke-21.
Namun, Magnifica Humanitas bukan sekadar refleksi keagamaan tentang kecerdasan buatan. Ini juga bukan penolakan sederhana terhadap kemajuan teknologi. Pada intinya, ensiklik ini merupakan peringatan terhadap determinisme teknologi: keyakinan bahwa teknologi menentukan seluruh aspek masyarakat dan, oleh karena itu, masyarakat harus menerima sistem teknologi apa adanya. Sebaliknya, dokumen tersebut berpendapat bahwa kemajuan teknologi harus selalu berpedoman pada martabat manusia, tanggung jawab moral, dan kebaikan bersama.
Kemajuan teknologi membuka dua jalur
Halaman pertama ensiklik ini memperkenalkan metafora kuat yang menyusun keseluruhan dokumen. Saat ini, umat manusia harus membuat pilihan antara membangun kembali Menara Babel atau membangun kembali Yerusalem. Referensi tersebut bukan suatu kebetulan. Kisah Menara Babel melambangkan keangkuhan – sebuah peradaban yang terorganisir berdasarkan kekuatan yang terkonsentrasi, rasa percaya diri yang berlebihan, dan upaya eksploitatif untuk membangun menara untuk mencapai Tuhan. Referensi ke Yerusalem, “kota di mana Tuhan dan umat manusia tinggal bersama”, di sisi lain melambangkan kerendahan hati, keterbukaan terhadap Tuhan, persaudaraan dan kolaborasi.
Bagi Paus Leo XIV, pertanyaan utamanya bukanlah apakah umat manusia harus mengatakan “ya” atau “tidak” terhadap teknologi. Pertanyaan yang lebih mendalam adalah kekuatan teknologi peradaban seperti apa yang akan dihasilkan. Apakah kecerdasan buatan akan membantu pembangunan manusia yang inklusif dan integral, atau akankah kecerdasan buatan memperburuk kesenjangan sosio-ekonomi, eksploitasi manusia, dan dominasi politik?
Perbedaan ini sangat penting karena ensiklik tersebut tidak menampilkan teknologi itu sendiri sebagai hal yang negatif. Sebaliknya, secara eksplisit mereka mengakui teknologi seperti yang diungkapkan oleh Paus Benediktus XVI Caritas di Veritate, menyebut “realitas yang sangat manusiawi, terkait dengan otonomi dan kebebasan manusia”. Namun, Paus memperingatkan bahwa ketika teknologi menjadi “standar yang digunakan untuk menilai segala sesuatu,” maka umat manusia berisiko direduksi menjadi “sekadar roda penggerak dalam sistem yang diarahkan menuju efisiensi yang semakin besar.”
Oleh karena itu, kritik tersebut tidak ditujukan pada inovasi itu sendiri, namun pada apa yang disebut ensiklik tersebut sebagai “paradigma teknokratis”. Ketika efisiensi dan keuntungan menjadi kriteria tertinggi dalam sistem ekonomi dan sosial, hal-hal tersebut perlahan-lahan menggantikan martabat manusia dan kesejahteraan umum. Bahayanya, sebagaimana berulang kali ditekankan dalam dokumen tersebut, adalah dehumanisasi, atau pengurangan manusia menjadi data atau unit fungsional dalam sistem yang dirancang terutama untuk kinerja dan keuntungan. Hal ini pasti akan menyebabkan hilangnya martabat dan memperburuk kesenjangan.
Dalam banyak hal, ensiklik ini mencerminkan kekhawatiran yang telah diungkapkan oleh para pemikir abad ke-20 seperti Romano Guardini. Pengamatan Guardini bahwa “manusia masa kini belum dilatih untuk menggunakan kekuasaan dengan baik” (dikutip dalam ensiklik Paus Fransiskus tahun 2015, Laudato Si’) berfungsi hampir sebagai diagnosis era teknologi saat ini. Umat manusia telah memperoleh kemampuan teknis yang belum pernah ada sebelumnya, tanpa perlindungan moral dan politik yang setara.
Kekhawatiran ini menjadi sangat akut mengingat perubahan sifat kekuatan ekonomi di era digital. Kemampuan teknologi baru saat ini semakin dikendalikan oleh segelintir pihak swasta yang pengaruhnya seringkali melebihi pengaruh pemerintah sendiri. Ensiklik ini secara eksplisit mengakui transformasi ini, dan memperingatkan bahwa kekuatan teknologi kini mengambil “aspek yang belum pernah terjadi sebelumnya, yang didominasi aspek ‘pribadi’”, sehingga membuat kontrol dan akuntabilitas demokrasi semakin sulit. Vatikan mengakui bahwa kecerdasan buatan sedang berkembang dalam tatanan dunia yang ditandai dengan terkonsentrasinya kekuatan digital dan melemahnya kontrol publik. Risikonya tidak hanya terletak pada kesenjangan teknologi, namun juga munculnya bentuk-bentuk ketergantungan, eksklusi, dan manipulasi baru.
Teknologi digital mempunyai dampak yang besar terhadap realitas sosial manusia
Pada saat yang sama, Magnifica Humanitas memperluas diskusi di luar bidang ekonomi dan tata kelola hingga dampak sosial yang lebih luas dari transformasi digital. Salah satu argumennya yang paling mencolok berkaitan dengan hubungan antara kebenaran dan demokrasi. Ensiklik tersebut menggambarkan kebenaran sebagai “kebaikan bersama” yang semakin terancam oleh disinformasi dan komersialisasi. Sistem digital, menurutnya, membentuk imajinasi kolektif, wacana publik, dan kepercayaan sosial itu sendiri.
Kekhawatiran utama lainnya adalah transformasi pekerjaan. Di sini, sejarah sejajar dengan Rerum Novarum menjadi sangat jelas. Sama seperti mekanisasi industri yang mengganggu kehidupan pekerja di abad ke-19, kecerdasan buatan dan otomatisasi kini mengubah makna kerja di abad ke-21. Ensiklik ini memperingatkan bahwa masyarakat berisiko menciptakan perekonomian yang efisiensinya lebih diutamakan daripada martabat manusia dan pekerjaan semakin mudah disingkirkan.
Dia juga membahas apa yang dia sebut sebagai “bentuk-bentuk perbudakan baru”. Perburuhan semakin dikaitkan dengan kecanduan digital dan manipulasi perilaku. Paus juga mendesak masyarakat untuk memikirkan konsekuensi dari produksi teknologi – penambangan keras dan teknik pembuatan profil untuk perdagangan manusia hanyalah dua contohnya. “Komodifikasi manusia” menjadi semakin mudah dengan AI dan kemajuan digital.
Di zaman yang semakin ditandai dengan komersialisasi perhatian manusia, Paus menekankan pentingnya hubungan antarmanusia, kepedulian dan pengakuan. Umat manusia terus mencari semangat penuh perhatian dan solidaritas sejati, sebuah realitas yang tidak dapat ditiru sepenuhnya oleh mesin mana pun. Ensiklik ini juga menyoroti tanggung jawab penggunaan bahasa yang inklusif dan bermartabat dalam komunikasi.
Teknologi Memperparah Kesenjangan dalam Struktur Kekuasaan Global
Mungkin bagian terpenting dari Magnifica HumanitasNamun, ini menyangkut geopolitik. Di sini, ensiklik tersebut menempatkan kecerdasan buatan dalam lingkungan internasional yang memburuk dengan cepat yang ditandai dengan persaingan kekuatan besar dan normalisasi perang. Makalah ini berpendapat bahwa revolusi digital mengubah sifat peperangan melalui serangan siber, manipulasi informasi, sistem strategis otomatis, dan bentuk konflik hibrida.
Contoh-contoh perang baru ini menyoroti kesenjangan yang semakin besar antara kemampuan teknologi dan tanggung jawab moral. Terlepas dari etika, teknologi berisiko membuat keputusan hidup atau mati “lebih cepat dan tidak bersifat pribadi” sambil menjadikan penggunaan kekerasan sebagai pilihan yang segera dan dapat dilakukan. Kecerdasan buatan kemudian menjadi akselerator dalam tatanan geopolitik yang sudah tidak stabil.
Hal ini membawa Paus pada salah satu kritik yang paling kontroversial namun signifikan secara intelektual terhadap ensiklik tersebut: penolakan terhadap apa yang disebutnya sebagai “realisme palsu.” Makalah ini berargumen bahwa budaya politik modern semakin memandang perang dan konfrontasi sebagai kondisi kehidupan internasional yang tidak bisa dihindari. Diplomasi dan perdamaian dipandang sebagai aspirasi yang naif, sementara persiapan menghadapi konflik dianggap normal sebagai pemerintahan yang bertanggung jawab. Ensiklik ini tidak menyangkal realitas persaingan geopolitik atau politik kekuasaan. Sebaliknya, teori ini menolak asumsi fatalistis bahwa umat manusia harus secara permanen mengatur dirinya sendiri berdasarkan dominasi dan persaingan strategis. Dalam pengertian ini, Magnifica Humanitas mengidentifikasi ketegangan mendalam antara dua logika pembangunan manusia yang bersaing.
Di satu sisi adalah logika deterministik yang tertanam dalam perekonomian modern, persaingan teknologi, dan hubungan internasional. Ini adalah logika yang dimotivasi oleh kelangsungan hidup, akumulasi, pencegahan dan keuntungan strategis. Di sisi lain, visi moral dan spiritual yang dikemukakan oleh ensiklik tersebut berpusat pada tanggung jawab, martabat, hidup berdampingan, perdamaian dan kemungkinan solidaritas bahkan di saat konflik dan transformasi.
Kita harus memilih martabat manusia dibandingkan kemajuan digital yang tidak terkekang
Penting untuk dicatat bahwa dokumen tersebut tidak mengusulkan kontrol teknokratis terpusat sebagai solusi terhadap tantangan-tantangan ini. Dia juga tidak menganjurkan maksimalisme regulasi. Sebaliknya, ensiklik tersebut berulang kali menekankan tanggung jawab bersama. Pemerintah, dunia usaha, sekolah, lembaga perantara, keluarga, dan warga negara semuanya mempunyai tanggung jawab untuk membentuk arah etis dalam pengembangan teknologi. Tantangan yang ditimbulkan oleh kecerdasan buatan tidak hanya bersifat teknis atau regulasi, namun juga bersifat mendidik dan bersifat peradaban. Pertanyaan kuncinya adalah apakah masyarakat masih dapat membina individu yang bertanggung jawab secara moral dalam lingkungan yang semakin banyak dibentuk oleh algoritma komersial dan fragmentasi digital.
Metafora terakhir ensiklik ini dengan kuat mencerminkan visi ini. Paus Leo XIV mengenang sosok Nehemia dalam Alkitab yang membangun kembali tembok Yerusalem “bata demi bata” setelah kehancuran. Kemanusiaan, tegasnya, tidak boleh menjadi penonton pasif dari kesenjangan sosial dan budaya, atau sekadar menjadi komentator terhadap kemunduran peradaban. Sebaliknya, individu dan institusi dipanggil untuk berpartisipasi aktif dalam rekonstruksi landasan sosial yang terancam oleh mentalitas teknokratis dan kepentingan partisan.
Pada akhirnya, Magnifica Humanitas menimbulkan pertanyaan yang melampaui perdebatan Gereja Katolik atau bahkan sekuler tentang kecerdasan buatan. Pertanyaan utamanya bukanlah apakah umat manusia mampu menciptakan teknologi yang semakin canggih. Pertanyaannya adalah apakah umat manusia dapat mempertahankan penilaian moral, martabat manusia, dan tanggung jawab sosialnya. Di zaman yang semakin ditandai dengan sistem algoritmik dan konsentrasi kekuatan teknologi, ensiklik ini memperingatkan bahwa kemajuan tanpa pedoman etika berisiko menghasilkan bukan Yerusalem baru, melainkan Babel baru.
(Cheyenne Torres mengedit artikel ini.)
Pendapat yang dikemukakan dalam artikel ini adalah milik penulis dan tidak mencerminkan kebijakan editorial Fair Observer.
