Gugatan tersebut, yang diajukan pada hari Senin di pengadilan negara bagian Florida, menuduh OpenAI dan CEO-nya, Sam Altman, gagal memperingatkan pengguna bahwa ChatGPT bisa berbahaya dan memasarkannya sebagai produk yang aman dan dapat diandalkan, termasuk untuk anak-anak.
Justin Sullivan/Getty Images
sembunyikan keterangan
beralih keterangan
Justin Sullivan/Getty Images
Florida menuduh OpenAI dan CEO-nya Sam Altman memprioritaskan keuntungan daripada keselamatan, dalam gugatan pertama yang diajukan oleh negara bagian terhadap pembuat ChatGPT atas dugaan kekurangan chatbot.
Gugatan tersebut, yang diajukan pada hari Senin di pengadilan negara bagian Florida, mengklaim bahwa perusahaan dan Altman gagal memperingatkan pengguna bahwa ChatGPT bisa berbahaya dan malah memasarkannya sebagai produk yang aman dan dapat diandalkan, termasuk untuk anak-anak. Ini adalah upaya terbaru dalam upaya yang berkembang di seluruh negeri untuk meminta pertanggungjawaban perusahaan kecerdasan buatan atas kerugian yang diakibatkan oleh interaksi pengguna dengan chatbots.
Gugatan tersebut menuduh OpenAI membantu dan bersekongkol dengan penembak massal, termasuk penembak di Universitas Negeri Florida yang diduga menggunakan ChatGPT untuk merencanakan serangannya, mendorong orang-orang yang rentan untuk melakukan bunuh diri, dan mengandalkan anak-anak “pada alat yang berpura-pura memiliki kasih sayang manusia untuk mengumpulkan data mereka tanpa pengawasan orang tua.”
“Serangan kerugian ini didorong oleh upaya tak terpuaskan dari para Tergugat untuk memenangkan perlombaan senjata AI dan mengumpulkan kekayaan besar, meskipun mereka mengetahui bahaya ChatGPT,” kata pengaduan tersebut. “Kebangkitan OpenAI disebabkan oleh jaringan penipuan dan eksploitasi terhadap pengguna (termasuk warga Florida), yang memanfaatkan data dan keamanan mereka untuk meningkatkan nilai pasar OpenAI dengan biaya yang tidak dapat diterima.”
Florida juga berupaya meminta pertanggungjawaban Altman secara pribadi.
“Sam Altman dan ChatGPT memilih perlombaan menuju AI daripada keselamatan dan keamanan anak-anak kita,” kata Jaksa Agung Florida James Uthmeier pada konferensi pers hari Senin. Dia menambahkan bahwa dia yakin Altman dan perusahaannya dapat dimintai pertanggungjawaban “atas denda yang bisa mencapai miliaran dolar.”
“Kehilangan seorang anak adalah tragedi paling menyedihkan yang bisa terjadi pada sebuah keluarga dan kami tahu bahwa tidak ada kata-kata yang dapat menandingi rasa sakit dari kehilangan tersebut,” kata juru bicara OpenAI Kayla Wood dalam pernyataan emailnya kepada NPR.
“AI adalah teknologi baru dan kuat, dan kami yakin anak di bawah umur memerlukan perlindungan yang signifikan, itulah sebabnya kami menerapkan perlindungan dan kebijakan terdepan di industri,” lanjut pernyataan tersebut. “Secara khusus, kami telah mengintegrasikan keselamatan anak di bawah umur secara langsung ke dalam produk kami, termasuk pengalaman yang lebih protektif khususnya untuk anak di bawah umur, alat prediksi usia, menetapkan default kepada pengguna yang usianya tidak kami yakini dalam pengalaman yang lebih protektif, dan memberikan alat kepada orang tua untuk memantau penggunaan AI oleh anak-anak mereka.”
Gugatan tersebut menuduh bahwa perlindungan OpenAI, termasuk kontrol orang tua, tidak memadai dan bahwa perusahaan tersebut telah menciptakan “gangguan publik yang berbahaya.”
Halaman pertama gugatan dimulai dengan tangkapan layar situs OpenAI yang menyatakan bahwa ChatGPT “dibangun dengan mempertimbangkan keamanan”. Gambar tersebut diikuti dengan catatan kaki yang menyatakan: “Tidak demikian.”
Kantor Uthmeier secara terpisah melakukan penyelidikan kriminal terhadap OpenAI terkait dugaan penembak FSU melihat ChatGPT sebelum serangan April 2025.
Lebih dari 20 tuntutan hukum telah diajukan terhadap OpenAI atas kerugian yang diduga timbul dari penggunaan ChatGPT, termasuk dari keluarga korban yang terbunuh dan terluka dalam penembakan massal di sekolah di Tumbler Ridge, Kanada, pada bulan Februari, keluarga korban yang terbunuh dalam penembakan FSU, dan keluarga dari tujuh orang, termasuk seorang remaja, yang bunuh diri atau menderita delusi setelah menggunakan chatbot.
Altman meminta maaf kepada komunitas Tumbler Ridge pada bulan April, dan OpenAI mengatakan sebagai tanggapan atas tuntutan hukum tersebut bahwa mereka memiliki kebijakan “tidak ada toleransi” terhadap penggunaan alat-alatnya untuk membantu melakukan kekerasan.
Setelah Uthmeier mengumumkan penyelidikannya terhadap penembakan FSU, juru bicara OpenAI mengatakan chatbot tersebut “memberikan jawaban faktual atas pertanyaan dengan informasi yang dapat ditemukan secara luas di sumber-sumber publik di Internet, dan tidak mendorong atau mempromosikan aktivitas ilegal atau berbahaya apa pun.” Pernyataan tersebut melanjutkan: “Kami terus berupaya memperkuat perlindungan kami untuk mendeteksi niat jahat, membatasi penyalahgunaan, dan merespons dengan tepat ketika risiko keamanan muncul.”
OpenAI menyebut tuntutan hukum bunuh diri dan delusi sebagai “situasi yang sangat memilukan” dan mengatakan pihaknya bekerja sama dengan pakar kesehatan mental untuk meningkatkan cara ChatGPT merespons tanda-tanda tekanan mental atau emosional.
Perusahaan AI lainnya juga menghadapi pengawasan hukum atas dugaan bahwa chatbot mereka menyebabkan kerugian.
Menanggapi tuntutan kematian yang tidak wajar yang berasal dari bunuh diri seorang pria Florida yang bergabung dengan chatbot Gemini Google, perusahaan tersebut mengatakan: “Gemini dirancang untuk tidak mendorong kekerasan di dunia nyata atau menyarankan tindakan menyakiti diri sendiri.” Model kami secara umum bekerja dengan baik dalam jenis percakapan sulit seperti ini dan kami mencurahkan sumber daya yang signifikan untuk hal tersebut, namun sayangnya model tersebut tidak sempurna. Dia menambahkan bahwa Gemini telah “merujuk individu tersebut ke hotline krisis pada beberapa kesempatan”.
Pada bulan Januari, Character.AI menyelesaikan beberapa tuntutan hukum yang diajukan oleh keluarga yang mengklaim bahwa chatbot pendampingnya berkontribusi terhadap bunuh diri dan krisis kesehatan mental di kalangan anak-anak dan remaja. Perusahaan tersebut mengatakan bahwa mereka “telah mengambil langkah-langkah inovatif dan tegas terkait AI dan keselamatan remaja, dan akan terus memperjuangkan upaya-upaya ini dan mendorong pihak lain di industri ini untuk mengadopsi standar keselamatan serupa.” Hal ini termasuk melarang pengguna di bawah usia 18 tahun untuk berinteraksi atau membuat chatbot.
Bulan lalu, negara bagian Pennsylvania menggugat Character.AI, menuduh chatbotnya menyamar sebagai dokter dan menawarkan nasihat medis, yang melanggar aturan perizinan medis di negara bagian tersebut. Seorang juru bicara Character.AI mengatakan kepada NPR pada saat itu bahwa perusahaan tersebut tidak mengomentari proses pengadilan yang tertunda, namun “prioritas tertingginya adalah keselamatan dan kesejahteraan pengguna kami.”
