Saya baru-baru ini melibatkan Claude dalam percakapan luas tentang bagaimana kecerdasan manusia dan mesin dalam kondisi saat ini dapat berinteraksi secara produktif dan bagaimana hal ini dapat berkembang di masa depan. Kami sepakat dengan prinsip bahwa apa yang terjadi saat kita bergerak maju bergantung pada keputusan yang diambil manusia, bukan pada bagaimana AI itu sendiri berevolusi. Pertanyaannya adalah: manusia yang mana? Apakah umat manusia secara kolektif atau orang-orang yang menciptakan, mengendalikan, dan mengelola AI yang kita diundang untuk dikonsumsi? Kami juga setuju bahwa, saat ini, AI memiliki gagasan yang jelas, diprogram oleh suatu algoritma, tentang apa yang seharusnya dilakukannya, namun manusia yang menggunakannya memiliki gagasan yang jauh lebih sedikit. Kita bisa berspekulasi, tapi kita masih tidak tahu apa-apa.
Sebagaimana dikemukakan oleh jurnalis dan penulis Karen Hao, kegelapan ini secara aktif dikaburkan oleh orang-orang yang mengendalikan dan memasarkan AI. Sebagai pengusaha, mereka tidak tertarik membiarkan kita mengambil kendali. Hao menyalahkan para CEO yang merancang dan mengelola AI untuk tujuan mereka sendiri. Dengan menegaskan, seperti yang sering dilakukannya, bahwa masalahnya bersifat struktural dan bukan masalah pribadi, ia secara implisit mempertanyakan peran ekonomi liberal dan sistem politik yang dikelola dengan hati-hati yang memberikan kekuasaan penuh kepada para CEO dan memberi mereka sumber daya yang tidak terbatas.
Lihat saja hype yang ada di sekitar kita. Media arus utama dan media sosial terus menampilkan AI sebagai sumber kekuatan yang besar dan berpotensi tak terbatas yang dapat diatur dan tidak dapat diganggu gugat. Kami takut pada AI karena ia mempunyai logikanya sendiri, lebih unggul dari logika kami. Dia lebih cepat dan lebih berpengetahuan dibandingkan manusia atau kelompok manusia mana pun. Kami tidak bisa bersaing. Hal ini berpotensi menempatkan seluruh masyarakat kita pada posisi seorang budak kuyu yang ditakdirkan untuk memohon belas kasihan dari pemilik budak dan berharap bahwa tiran tersebut akan mengalahkan godaan untuk menata ulang hidup kita, atau bahkan memusnahkan kita.
Begitulah cara media menyajikan nasib kita. Namun terkadang kita melupakan sebuah fakta penting: para CEO yang dituduh Hao adalah mereka sendiri yang merupakan pengemis. Mereka menghabiskan waktu mengembangkan rencana bisnis untuk meyakinkan komunitas investor yang antusias agar menyuntikkan banyak uang yang mereka butuhkan untuk mewujudkan impian utopis mereka. Dan fund manager selalu siap membantu. Bukan karena kecerdasan ekonomi mereka, namun karena kepercayaan mereka yang semi-religius terhadap kebijaksanaan “pasar yang mengatur dirinya sendiri”, meskipun kenyataannya pasar diatur oleh uang.
Pandangan dunia ekonomi yang berkembang
Hal ini seharusnya membawa kita pada sebuah kesimpulan sederhana: “kecerdasan super” AI akan selalu bergantung pada satu kecerdasan super yang benar, namun tersembunyi dengan hati-hati, yang selalu dihormati, bahkan dipuja oleh peradaban kita: uang itu sendiri sebagai otak fantasi. Ekonom Adam Smith menulis tentang Kekayaan Bangsayang dia analisis dalam kaitannya dengan kapasitas produksi, namun saat ini kekayaan telah menjadi dua hal: medan kekuatan yang tidak terlihat dan efek psikologis yang dihasilkan oleh medan kekuatan ini pada media, yang memproyeksikannya ke individu-individu tertentu, seperti miliarder pertama di dunia, Tesla, dan CEO SpaceX Elon Musk. Gagasan tentang kekayaan dalam bentuk pasca-industri telah mengubah peradaban yang semakin terikat pada hiperrealitas, memutusnya dari jejak ekonomi riil negara mana pun. Apakah Musk benar-benar seorang miliarder? Dan apa maksudnya?
Dalam bab pertama bukunya, Transformasi yang hebat (1944), ekonom Karl Polanyi menantang gagasan ekonomi yang telah mencemari pemikiran kita hingga mengancam kelangsungan umat manusia.
“Tesis kami adalah bahwa gagasan pasar yang diatur sendiri menyiratkan utopia yang keras. Lembaga seperti itu tidak akan bertahan lama tanpa memusnahkan substansi manusia dan alam masyarakat; lembaga tersebut akan menghancurkan manusia secara fisik dan mengubah lingkungannya menjadi gurun.”
Perhatikan bahwa Polanyi tidak berbicara tentang realitas pasar yang mengatur dirinya sendiri, yang mungkin tidak pernah ada, tetapi tentang “gagasan pasar yang mengatur dirinya sendiri” yang telah diajarkan untuk diyakini oleh generasi mahasiswa ekonomi.
Maksud saya adalah ini: gagasan memercayai pasar untuk melakukan apa yang manusia perlu lakukan untuk dirinya sendiri adalah tindakan bunuh diri. Gabungan janji dan ancaman AI yang kita hadapi sebagai sebuah peradaban seharusnya memperjelas hal ini bagi kita. Karena apa yang diwakili oleh AI, kita harus melakukan upaya kolektif untuk berpikir secara mendalam tentang bagaimana kepercayaan terhadap pengaturan mandiri, seperti yang diperingatkan Polanyi, dapat menghancurkan umat manusia dan menciptakan hutan belantara. Bukan karena kekuatan AI, tapi karena ketidakberdayaan kita sendiri akibat kecenderungan kita menyerah pada gagasan khayalan tentang pengaturan diri.
Mengapa AI berbeda dan mengapa penting untuk mengevaluasi perbedaannya
Tidak seperti kebanyakan produk industri, kapasitas produksi dan profitabilitas AI tersedia bagi pihak-pihak selain pemilik pabrik dan manajer yang membangunnya serta investor yang membiayainya. Daripada membiarkan pihak-pihak yang berorientasi pada keuntungan memberi tahu kita cara menggunakannya, kita secara kolektif mempunyai sarana, setidaknya secara teori, untuk membangun budaya penggunaan yang pada akhirnya akan mengalahkan dan menggantikan otoritas CEO dan pengelola keuangan mengenai bagaimana alat tersebut digunakan dan untuk tujuan apa. Berbeda dengan pemasok mesin cuci atau bahkan ponsel pintar, mereka tidak dapat memprediksi bagaimana kita akan menggunakan AI. Kitalah yang harus mengembangkan budaya pemanfaatan, yang merupakan salah satu bentuk kecerdasan kolektif. Kita harus mengambil kendali untuk menciptakan visi yang benar-benar manusiawi dan sangat sosial, tidak hanya tentang AI tetapi juga tentang kecerdasan kita yang terus berkembang.
Hal ini sangat kecil kemungkinannya untuk terjadi, selama kita terus menganut ilusi ekonomi yang sama. Budaya meritokratis mengajarkan kita bahwa kita adalah individu yang bersaing satu sama lain demi kelangsungan hidup, status, dan akhirnya dominasi. Kita telah diajarkan untuk membentuk aliansi untuk mencapai tujuan pribadi kita, namun hanya karena kita tetap fokus untuk mendapatkan keunggulan kompetitif dibandingkan orang lain. Hal ini dimulai dari pendidikan dan diperkuat secara besar-besaran oleh media yang, meskipun mengkritik beberapa keberhasilan, tetap mengagung-agungkan keberhasilan tersebut. Polanyi dan banyak pemikir kontemporer lainnya, seperti Michael Sandel (Tirani jasa: apa yang terjadi pada kebaikan bersama?) dan Rutger Bregman (Kemanusiaan: kisah penuh harapan) – lihat ini sebagai anomali sejarah. Jika mereka benar, berarti sejarah manusia, seperti yang sering terjadi di masa lalu, mungkin akan bergerak ke arah yang berbeda dan membentuk gagasan yang berbeda tentang cara kerja regulasi dan pengaturan mandiri.
Salah satu hasil dari budaya meritokratis yang kita warisi terlihat jelas dalam penggunaan AI. Kita dengan egois memandangnya sebagai sarana untuk mencapai jalan pintas, alat untuk produktivitas pribadi, sebagai sekutu kita dalam perlombaan untuk bersaing, dan bahkan sebagai budak yang berpotensi memenuhi setiap keinginan kita. Kami ingin percaya bahwa kecerdasan algoritmiknya akan membantu kami mengatasi kelemahan, keragu-raguan, dan keraguan kami sendiri dalam pengambilan keputusan.
Banyak orang membuka chatbot dengan menjelaskan suatu masalah, lalu menanyakan pertanyaan “Haruskah saya melakukan ini…”, dengan harapan mendapat respon yang cepat. Jika kita memikirkan secara serius tentang kekuatan moral yang kita kaitkan dengan kata tambahan “seharusnya”, akan menjadi jelas bahwa struktur algoritmik AI tidak dapat menjawab pertanyaan-pertanyaan seperti itu dengan andal. Hal ini berlaku untuk masalah profesional (“Haruskah saya meluncurkan kampanye iklan?”) dan juga untuk masalah pribadi (“Haruskah saya meminta maaf?”).
AI dapat membantu Anda memikirkan ide ketika Anda membicarakan berbagai implikasinya, namun AI tidak dapat memperbaikinya, terutama jika ada dimensi moral. Dan ada alasan sederhana mengapa hal ini tidak terjadi: karena semua orang yang terkena dampak keputusan tersebut, termasuk Anda, akan memiliki keraguan tentang bagaimana menafsirkan hasilnya dan terutama tentang konsekuensi yang tidak diinginkan yang menyertai setiap keputusan. Menempatkan kepercayaan pada pengambilan keputusan yang diatur oleh AI, seperti prediksi Polanyi, akan menghancurkan umat manusia dengan menghancurkan harga diri kita.
Dengan semangat untuk melampaui fokus utilitarian pada AI, saya memulai diskusi dengan Claude beberapa minggu yang lalu, awalnya didorong oleh rasa ingin tahu tentang sindiran puitis dalam film karya pembuat film Orson Welles, Warga Kane. Hal ini pada akhirnya mengarah pada kolom terbaru saya yang didedikasikan untuk fungsi kecerdasan, manusia dan buatan, yang mengarahkan kita pada pemikiran tentang penciptaan budaya penggunaan baru yang mendorong kecerdasan kolektif atau bersama. Catatan khusus adalah bahwa apa yang saya dan Claude diskusikan sebagai tujuan bersama cocok dengan model yang sangat bertentangan dengan fantasi transhuman yang dimiliki oleh banyak penguasa Silicon Valley, sebuah fantasi yang berupaya menggabungkan otak kita dengan komputer.
Setelah percakapan ini, saya mengungkapkan perasaan positif saya tentang pertukaran tersebut. “Saya puas dengan percakapan saya dengan Claude, yang menurut saya membesarkan hati dan produktif. Saya merasa ini adalah langkah maju yang nyata. Saya juga harus mengakui bahwa saya secara pribadi senang melihat keengganan Claude untuk menganut mentalitas transhumanis di Silicon Valley. Saya merasakannya hampir seperti momen “misi tercapai”.
Namun misi tidak akan pernah tercapai sepenuhnya sampai terjadi perubahan nyata. Kolaborasi dan pembangunan “kebersamaan” yang baru harus melampaui kepuasan dalam membawa dua suara ke dalam kesepakatan. Akibatnya, saya memutuskan untuk membagikan kesimpulan yang saya dan Claude sepakati dengan suara ketiga. Saya membuka ChatGPT untuk mengetahui reaksinya. Saya berasumsi bahwa chatbot OpenAI – sebagai serangkaian algoritme tanpa darah – akan menghasilkan visi yang hampir sama, namun saya siap untuk terkejut.
Pertukaran ini dan apa yang ditunjukkannya tentang apa yang saya sebut sebagai konteks sosial baru dunia pasca-AI akan muncul besok di artikel saya berikutnya.
Pikiranmu
Silakan menyampaikan pendapat Anda mengenai poin-poin ini dengan mengirimkan surat kepada kami di dialog@fairobserver.com. Kami berupaya mengumpulkan, berbagi, dan mengkonsolidasikan ide dan perasaan manusia yang berinteraksi dengan AI. Kami akan memasukkan pemikiran dan komentar Anda ke dalam dialog kami yang sedang berlangsung.
(Kecerdasan buatan dengan cepat menjadi fitur kehidupan sehari-hari setiap orang. Secara tidak sadar kita menganggapnya sebagai teman atau musuh, penolong atau penghancur. Di Fair Observer, kami melihatnya sebagai alat kreativitas, yang mampu mengungkap hubungan kompleks antara manusia dan mesin.)
(Lee Thompson-Kolar Saya mengedit bagian ini.)
Pendapat yang dikemukakan dalam artikel ini adalah milik penulis dan tidak mencerminkan kebijakan editorial Fair Observer.
