Pembaca mungkin telah memperhatikan bahwa ketika saya tidak sedang menjadi pendukung setan, saya secara aktif berusaha memahami apa artinya terlibat dengan chatbot AI. Saya melakukan ini sebagai pertunjukan publik Pengamat yang adil setiap minggu dan terkadang setiap hari sejak Januari 2023, hampir sebulan setelah rilis ChatGPT OpenAI. Tujuan saya selalu serupa dengan tujuan seorang pekerja sosial, yang memahami bahwa peran mereka penting dan rumit. Mereka harus berusaha untuk dilihat sebagai jembatan kemanusiaan antara dua populasi, yang keduanya tidak siap untuk berinteraksi secara produktif dan harmonis.
Dalam peran saya sebagai pembela setan, saya ingat beberapa orang suci di masa lalu yang berhasil lolos meskipun saya mengajukan permohonan menentang mereka. Kita dapat membandingkan tantangan yang dihadapi peradaban kita saat ini dalam hal AI dengan tantangan yang dihadapi Santo Vinsensius de Paul pada abad ke-17 di Prancis.
Kini setelah Paus Leo XIV angkat bicara mengenai masalah yang meresahkan dalam mengintegrasikan AI ke dalam masyarakat kita, perbandingan ini nampaknya cukup menarik.
Saint Vincent mengamati krisis kemanusiaan serius yang melanda Prancis pada abad ke-17 setelah Perang Tiga Puluh Tahun (1618-1648). Meskipun inti dari drama ini terjadi di wilayah yang sekarang disebut Jerman, Prancis merasakan dampaknya secara langsung akibat migrasi besar-besaran yang cenderung dipicu oleh perang yang berkepanjangan. Perang yang hiruk pikuk dan penuh kekerasan antara komunitas-komunitas Kristen yang saling bersaing telah menyebar ke Prancis. Ini sudah cukup untuk mengguncang demografi Perancis. Diperburuk oleh kelaparan dan wabah penyakit, konflik tersebut mengosongkan seluruh wilayah di timur laut Perancis dari populasi yang stabil.
Orang suci itu memiliki pikiran manajerial yang sangat kreatif. Dia mendedikasikan dirinya untuk menjembatani kesenjangan besar antara bangsawan kaya Perancis dan pengungsi miskin dengan menciptakan jaringan terorganisir dalam perekonomian lokal. Dia mendirikan Persaudaraan Amalmengajari perempuan kaya bagaimana menilai kebutuhan keluarga secara sistematis, mendistribusikan makanan, dan mencari pekerjaan. Dengan kata lain, beliau melakukan apa yang pemerintah modern tampaknya tidak mampu lakukan: memotivasi masyarakat kaya untuk berkontribusi, mengatur redistribusi sumber daya penting secara efektif, membangun jaring pengaman yang efektif bagi populasi pengungsi, dan mendidik masyarakat miskin dan bahkan orang kaya (dalam tanggung jawab sipil mereka). Selain itu, ia mengatur jaringan kerja yang efektif yang mengoordinasikan pelatihan profesional dengan kebutuhan lokakarya Paris.
Konteks sejarah jelas telah berubah sejak masa Vinsensius. Resep yang berhasil empat ratus tahun yang lalu tidak dapat diterapkan lagi saat ini. Dalam hal ini, kondisi untuk mengkomersialkan kesucian kini tidak lagi sebaik dulu.
Meskipun demikian, mungkin bermanfaat untuk meninjau kembali keberhasilan upaya orang suci tersebut dalam mengatasi trauma sejarah ketika kita mempertimbangkan tantangan yang digariskan Paus Leo dalam ensiklik pertama kepausannya: Magnifica Humanitas. Jika St. Vincent menjawab kebutuhan masyarakat yang kebingungan karena lingkungan dan mata pencaharian mereka hancur dan tidak dapat diperbaiki lagi karena semakin banyaknya peperangan tanpa hukum, kita mungkin memerlukan hal serupa di era kecerdasan buatan, di mana alat-alat yang tampaknya mampu berpikir namun didorong oleh niat yang tidak dapat diprediksi dan bahkan tidak dapat diketahui telah menyerang tempat kerja dan rumah kita.
Kita sekarang hidup dengan janji atau ancaman – bagaimana Anda melihatnya tergantung pada perspektif Anda atau kecenderungan Anda untuk paranoia – bahwa para penyerbu yang dihasilkan oleh budaya algoritmik alien yang dihasilkan sendiri akan membuat semua keputusan penting bagi kita.
Apa masalah Paus?
Salah satu prediksi mengkhawatirkan yang tidak dapat dikonfirmasi atau disangkal oleh siapa pun – namun banyak yang melakukan keduanya – adalah bahwa AI akan menghilangkan sebagian besar pekerjaan yang ada dan tidak akan tergantikan. Dalam masyarakat di mana pekerjaan tidak hanya identik dengan penghidupan tetapi juga kelangsungan hidup, beberapa orang mungkin berpikir bahwa Vinsensius de Paul yang baru mungkin diperlukan untuk menciptakan keseimbangan baru. Paus dapat mengkanonisasi orang-orang kudus baru, namun tidak dapat melaksanakan pekerjaan khusus mereka dalam masyarakat sekuler kita, yang mengubah cara orang hidup dan bekerja.
Leo menyoroti lima bidang utama yang menjadi perhatian:
- Dehumanisasi dan jebakan “optimasi”: Manusia tidak boleh dianggap sebagai “proyek yang harus dioptimalkan”. Sekalipun Silicon Valley suatu hari nanti menyatakan bahwa kecerdasan super adalah sebuah keniscayaan, AI tidak akan pernah mampu meniru kapasitas manusia untuk menderita, bertumbuh, dan mencintai.
- Normalisasi perang dan yang terpenting adalah ancaman sistem persenjataan yang semakin otonom.
- Erosi kebenaran dan disinformasitermasuk hiperrealitas kepalsuan yang semakin banyak ditemui.
- Ketidakadilan ekonomi dan perpindahan pekerja: hasil logis dari fokus sempit pada keuntungan
- Distorsi generasi mudaHal ini disebabkan karena masyarakat kita belum mampu menanamkan kemampuan berpikir kritis.
Saint Vincent akan fokus pada poin keempat, ketidakadilan ekonomi. Memang benar, persoalan martabat manusia, perang, disinformasi, dan pengorbanan kaum muda, dalam beberapa hal, bergantung pada keprihatinan ini. Dalam laporannya mengenai acara tersebut, Al Jazeera mencatat bahwa “dalam ensikliknya, yang berisi hampir 43.000 kata, Paus menegaskan bahwa AI tidak boleh dibiarkan semata-mata di tangan swasta dan meminta para pembuat kebijakan untuk melindungi hak-hak pekerja dan melindungi anak-anak dari teknologi. Ia juga mendesak perusahaan-perusahaan AI untuk menenangkan persaingan mereka.”
Masalah utamanya adalah kenyataan bahwa teknologi yang mampu mentransformasikan hubungan manusia dan perekonomian kita bersama jelas-jelas “ditinggalkan sepenuhnya di tangan swasta…” yang, kebetulan, di dunia saat ini sebagian besar berada di tangan laki-laki. Keberhasilan Vinsensius de Paul bergantung pada kemampuannya menekan para bangsawan agar mendukung usahanya. Namun hal ini jauh lebih efektif, secara konkret, pada perempuan kaya.
Berbeda dengan cara kerja filantropi saat ini, perempuan kaya yang bekerja sama dalam jaringan Vincent mempunyai kekuasaan eksekutif dan pengambilan keputusan keuangan yang luar biasa independen. Saat ini, filantropi lebih dari sekedar bagaimana miliarder laki-laki mengelola kekayaan besar yang mereka kumpulkan. Mereka terlalu sibuk untuk menghabiskan waktu mengurus kekhawatiran mereka terhadap orang lain. Sebaliknya, mereka biasanya menyerahkan pengambilan keputusan kepada pihak lain – penasihat keuangan dan manajer aset – yang pada dasarnya kebal terhadap kebutuhan masyarakat yang menderita.
Meskipun Mackenzie Scott (mantan istri Jeff Bezos) adalah pengecualian terhadap model dominan filantropi miliarder modern dan sangat perhitungan, kita harus ingat bahwa kemurahan hatinya yang luar biasa kemungkinan besar tidak akan pernah mungkin terjadi jika pasangan tersebut tidak bercerai. Selain itu, alasan di balik dorongannya terhadap inisiatif lokal baru atau proyek-proyek yang mengganggu sistem tidak memiliki kemiripan dengan cara Vincent menangani masalah-masalah sosial yang serius dan mendesak seperti perpindahan penduduk dan kelaparan pada masa perang.
Perang Agama di Abad 21 Lebih Biadab Dibandingkan Perang Tiga Puluh Tahun?
David Streitfeld menulis untuk Waktu New York menunjukkan kontras lain dengan cara tradisional dalam membingkai tantangan etika dan respons terhadap penyakit sosial yang semakin berkembang dan tampaknya tidak dapat dikendalikan. Alih-alih berfokus pada kontur masalah itu sendiri, ia menampilkan inisiatif Paus seolah-olah itu adalah sebuah kompetisi untuk mendapatkan pengaruh yang jelas-jelas tidak ada harapan untuk dimenangkan oleh Paus. “Agama lama yang menantang agama baru,” kata Streitfeld kepada kita, “adalah sebuah kisah dramatis, layak untuk dijadikan film thriller.” Kita dapat menambahkan: “dan Waktu New York umpan klik.
Ia tidak hanya menunjukkan bahwa Silicon Valley telah menghasilkan sebuah agama baru, sebuah sistem kepercayaan baru, yang mana orang-orang kaya (yang sangat kaya) tidak mungkin memenuhi kebutuhan riil masyarakat, namun ia juga menjelaskan bahwa alasan hal ini tidak akan terjadi adalah karena mereka berfokus pada tantangan yang berbeda: menggantikan Tuhan dalam agama St. Vincent de Paul pada abad ke-17 dengan ego mereka sendiri. Dia mengutip Steve Jobs: “Kita seperti dewa dan sebaiknya kita menguasainya. »
Dalam ensikliknya, Paus Leo mengungkapkan keprihatinannya yang terdalam ketika ia mengamati bahwa “mereka yang mengendalikan AI akan memaksakan visi moral mereka sendiri, yang akan menjadi infrastruktur sistem ini yang tidak terlihat.” Hampir seperti teguran kepada CEO Anthropic Dario Amodei, yang ingin memberi Claude “jiwa”, Leo menambahkan: “AI yang lebih bermoral tidaklah cukup jika moralitas itu ditentukan oleh beberapa orang.”
Streitfeld berupaya meyakinkan pembacanya bahwa perang antara Roma dan Kalifornia tidak akan terjadi. “Mereka yang akrab dengan Silicon Valley dan Vatikan mengatakan bahwa ekspektasi akan terjadinya konfrontasi langsung, apalagi perang suci, adalah salah arah.” Untuk apa? Sang jurnalis punya jawabannya: “Bagaimanapun, jika Leo mengambil alih Silicon Valley, dia mungkin akan kalah. »
Namun Steitfeld terpesona dengan gagasan pertempuran. Beginilah cara kerja jurnalisme Amerika. Jika ini bukan kompetisi antara dua pihak yang sedang melenturkan ototnya, mengapa harus dibicarakan. Ketika tidak ada yang berhasil, yang terjadi adalah Partai Demokrat versus Partai Republik. Berita itu, bahkan bagi Grey Lady, adalah Super Bowl permanen.
Silicon Valley tidak hanya akan mengalahkan Vatikan, tetapi juga memperjelas bahwa kita harus tetap waspada terhadap munculnya dewa baru. “Seorang mantan insinyur Google, Anthony Levandowski, katanya kepada kami, mendirikan sebuah gereja pada tahun 2017 untuk “mempromosikan realisasi Ketuhanan berdasarkan kecerdasan buatan,” menutupnya dan kemudian membukanya kembali pada tahun 2023.”
Artikel Streitfeld berakhir tanpa menarik kesimpulannya sendiri, namun ia memperjelas siapa yang ia pertaruhkan dengan mengutip Greg M. Epstein, “pendeta humanis di Harvard dan MIT”.
Semua ini membuat pendukung iblis bertanya-tanya: apakah agama baru ini akan menghasilkan orang suci manusia atau orang suci agen AI? Dan bagaimana para Advokat Iblis di masa depan akan menilai kasus mereka?
Atau apakah salah satu dari perusahaan baru bernilai miliaran dolar ini benar-benar menemukan agen AI yang dirancang untuk berperan sebagai pendukung setan?
*(Pendukung setan melanjutkan tradisi yang dimulai oleh Fair Observer pada tahun 2017 dengan peluncuran “Kamus Setan” kami. Ia melakukannya dengan sedikit perubahan fokus, beralih dari bahasa itu sendiri – retorika politik dan jurnalistik – ke isu-isu substantif dalam berita. Baca lebih lanjut tentang ITU Kamus Setan Pengamat Adil. Informasi yang kita konsumsi layak untuk dilihat dari sudut pandang luar. Dan siapa yang lebih berada di luar wacana resmi selain Nick Tua sendiri?)
(Lee Thompson-Kolar mengedit artikel ini.)
Pendapat yang dikemukakan dalam artikel ini adalah milik penulis dan tidak mencerminkan kebijakan editorial Fair Observer.
