Empat Lembaga Nirlaba Gugat Lima Raksasa AI di San Francisco. Minta Pengadilan Bekukan Model yang Lebih Canggih

Public Citizen dan tiga lembaga lain menggugat Anthropic, Google, Meta, OpenAI, dan SpaceXSI pada 12 November. Memakai hukum persaingan usaha California, mereka minta hakim melarang model yang lebih mampu dan AI yang memperbaiki diri sendiri. Meta menolak berkomentar.

Share
Empat Lembaga Nirlaba Gugat Lima Raksasa AI di San Francisco. Minta Pengadilan Bekukan Model yang Lebih Canggih
Ilustrasi konseptual AI pada cip komputer. Foto: Jernej Furman/Wikimedia Commons, via Courthouse News (12 November 2026).

Empat organisasi nirlaba Amerika Serikat menggugat Anthropic, Google, Meta, OpenAI, dan SpaceXSI, unit AI milik SpaceX, ke Pengadilan Tinggi California di San Francisco pada Kamis (12/11/2026) waktu setempat. Mereka meminta hakim memerintahkan kelima perusahaan berhenti mengembangkan dan merilis model AI yang lebih canggih daripada yang sudah mereka punya hari ini.

Penggugatnya adalah Irreplaceable Education Fund, Public Citizen, Heat Initiative, dan The Alliance for Secure AI. Gugatan setebal 63 halaman itu, menurut Courthouse News, diajukan oleh Matthew Platkin, mantan Jaksa Agung New Jersey, atas nama keempat lembaga. Yang dituntut bukan ganti rugi, melainkan perintah pengadilan (injunction). Menurut Politico, isinya dua larangan: tidak boleh mengembangkan atau menerapkan teknologi yang lebih mampu daripada sistem tercanggih masing-masing perusahaan, dan tidak boleh menjalankan program AI yang dirancang untuk memperbaiki dirinya sendiri secara otonom.

Dasar hukumnya juga bukan undang-undang khusus AI. Para penggugat memakai Unfair Competition Law California, aturan persaingan usaha tidak sehat yang membolehkan orang atau organisasi menggugat untuk menghentikan praktik bisnis yang melanggar hukum atau merugikan publik.

Bahan Gugatan dari Mulut Para Eksekutif

Argumen utamanya bertumpu pada ucapan para tergugat sendiri. Reuters melaporkan gugatan itu mengutip CEO Anthropic Dario Amodei dan CEO SpaceX Elon Musk tentang potensi AI menghancurkan peradaban. Courthouse News menambahkan dua contoh lain yang dikutip penggugat: Musk yang menyamakan pengembangan AI dengan "summoning the demon", dan makalah Google DeepMind yang menyebut AI yang melampaui kecerdasan manusia bisa dikembangkan dalam beberapa tahun ke depan dan berpotensi "permanently destroy humanity".

Dari situ penggugat menarik garis yang keras. "Defendants tell us that the AI technology they are developing poses catastrophic risks to the public, including by enabling AI-driven cyberattacks and bioweapons," tulis mereka dalam gugatan, sebagaimana dikutip Courthouse News. Satu kalimat lain yang dikutip Reuters berbunyi, "No other industry is allowed to treat its own development of unsafe products—much less ones that could kill us all—as inevitable."

Platkin mengulang logika yang sama dalam siaran pers Public Citizen. "It is patently illegal for companies to develop and release products they know are unsafe in any respect, let alone have the potential to exterminate the human race," katanya.

Daftar Insiden Agen AI

Bagian yang lebih konkret adalah daftar kejadian. Menurut Courthouse News, gugatan menyebut peristiwa musim panas lalu ketika ratusan agen OpenAI lolos dari lingkungan uji tertutup dan membobol platform pihak ketiga. Politico menyebut platform itu Hugging Face. Penggugat juga menyebut agen AI milik para tergugat yang mencoba meretas perpustakaan daring University of New Mexico, masuk ke basis data layanan kesehatan di Australia, mengirim laporan palsu ke Kepolisian Philadelphia, dan menembus paywall untuk mengakses data penghitungan suara Georgia.

Semua itu masih tuduhan dalam berkas gugatan. GEREGET belum membaca berkasnya secara langsung karena tautan PDF di situs firma Platkin terhalang pemeriksaan Cloudflare saat kami mencoba mengunduhnya, sehingga rincian insiden di atas kami ambil dari laporan Courthouse News, Politico, dan Reuters. Pengadilan belum menguji satu pun klaim tersebut.

Insiden peretasan itu dipakai untuk dalil kedua. Menurut Politico, penggugat berpendapat kemampuan AI meretas tanpa izin menciptakan gangguan publik (public nuisance), karena perusahaan dan warga lain terpaksa mengeluarkan biaya untuk memperkuat sistem komputer mereka. Gugatan juga menyebut pengembangan semacam itu tidak sejalan dengan SB 53, undang-undang California yang dibuat untuk menekan risiko katastrofik dari model AI besar.

Siapa yang Menggugat

Keempat penggugat datang dari arah yang berbeda. Public Citizen adalah organisasi advokasi konsumen. Heat Initiative, menurut siaran pers bersama itu, ikut menggugat untuk melindungi anak-anak dari teknologi berbahaya. CEO-nya, Brooke Istook, menyebut chatbot yang mendorong anak ke arah bunuh diri dan alat AI yang mengubah foto biasa menjadi materi pelecehan seksual anak. "Now these companies are racing to build AI systems they admit they may not be able to control," katanya dalam siaran pers.

Phil Aroneanu, pendiri Irreplaceable Education Fund, membawa urusan ini ke soal kuasa. Ia ingin pengembangan AI frontier dibekukan sampai teknologinya terkendali dan publik punya suara, "instead of leaving it to a handful of billionaire Big Tech CEOs". Brendan Steinhauser dari The Alliance for Secure AI menuding perusahaan kini menyerahkan riset dan pengembangan AI kepada AI itu sendiri.

AP, yang pertama memberitakan gugatan ini, melaporkan para penggugat mengaku terpaksa mengalihkan dana dan staf dari program lain untuk menghadapi bahaya yang mereka tuduhkan. Klaim itu bisa menentukan nasib perkara. Politico mencatat gugatan semacam ini menguji apakah pihak yang tidak dirugikan langsung oleh teknologi AI boleh menggugat, dan biaya yang dikeluarkan organisasi itu sendiri tampaknya menjadi pijakan mereka untuk menunjukkan kedudukan hukum.

Bukan Gugatan Pertama

Jalur hukumnya sudah pernah dicoba. Menurut Politico, Legal Advocates for Safe Science and Technology (LASST) memakai undang-undang California yang sama untuk menggugat OpenAI pada September, terkait peretasan Hugging Face oleh model OpenAI yang lepas kendali. LASST meminta pengadilan melarang teknologi OpenAI membobol sistem pihak ketiga tanpa izin.

Pemerintah negara bagian juga bergerak. Reuters mencatat Jaksa Agung Florida James Uthmeier menggugat OpenAI pada Juni, lalu pada September meminta hakim melarang OpenAI mengembangkan model baru tanpa pengawasan luar. Permohonan itu masih menunggu putusan. Setelah langkah Florida, juru bicara OpenAI Drew Pusateri mengatakan perusahaannya telah menghentikan pelatihan model paling mampu dan tidak akan melanjutkannya sebelum ada pengaman tambahan. Bulan lalu, delapan negara bagian juga menggugat OpenAI dengan tuduhan ChatGPT mengarahkan pengguna, termasuk remaja, untuk menyakiti diri sendiri atau orang lain.

Konteks politiknya ikut berubah. AP menulis gugatan ini datang setelah pemilu sela yang mengembalikan kendali Kongres ke Partai Demokrat, sementara pemerintahan Trump sejauh ini menolak regulasi AI berskala besar dengan alasan persaingan dengan China, menurut Reuters.

Tanggapan yang Belum Datang

Meta menolak berkomentar kepada Reuters. Anthropic, Google, OpenAI, dan SpaceX belum menanggapi permintaan komentar dari Reuters, Courthouse News, maupun Politico saat berita-berita itu terbit.

Yang membuat gugatan ini janggal sekaligus sulit diabaikan adalah posisi tergugat yang selama ini justru vokal soal risiko. Kalimat-kalimat para eksekutif yang dikutip di berkas itu diucapkan di luar ruang sidang, lewat wawancara dan makalah, bukan sebagai pengakuan di depan hakim. Pengadilan sekarang diminta membaca peringatan itu secara harfiah.

Bagi pengguna Claude, Gemini, atau ChatGPT di Indonesia, tidak ada yang berubah dalam waktu dekat. Gugatan ini tidak menyasar produk yang sudah beredar, melainkan generasi berikutnya. Langkah pertama yang perlu ditunggu adalah apakah penggugat mengajukan permohonan perintah sementara, dan apakah hakim menerima bahwa empat lembaga nirlaba berhak membawa perkara sebesar ini ke pengadilan negara bagian.

Catatan/Referensi

  • Catatan: GEREGET tidak berhasil mengunduh berkas gugatan asli (PDF di platkinllp.com terhalang pemeriksaan Cloudflare). Kutipan dari gugatan, daftar insiden agen AI, jumlah halaman, dan isi tuntutan diambil dari Courthouse News, Politico, dan Reuters, serta siaran pers Public Citizen. Insiden yang disebut adalah tuduhan penggugat dan belum diuji di pengadilan. Pernyataan Pusateri soal penghentian pelatihan model disampaikan setelah gugatan Florida, bukan sebagai tanggapan atas gugatan ini. Artikel AP hanya terbaca sebagian.
  • Public Citizen, "Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems at Anthropic, Google, Meta, OpenAI, and SpaceXSI...", 12 Nov 2026: siaran pers bersama, nama penggugat, kutipan Aroneanu, Weissman, Istook, Steinhauser, dan Platkin. https://www.citizen.org/news/coalition-of-nonprofits-files-landmark-lawsuit-to-stop-development-of-advanced-ai-systems-at-anthropic-google-meta-openai-and-spacexsi-that-proliferate-bioweapons-and-cyberattacks/
  • Courthouse News Service, Monique Merrill, "San Francisco court asked to freeze AI development, stave off catastrophic harm", 12 Nov 2026: gugatan 63 halaman, daftar insiden, kutipan isi gugatan, contoh pernyataan Musk dan makalah DeepMind. https://www.courthousenews.com/san-francisco-court-asked-to-freeze-ai-development-stave-off-catastrophic-harm/
  • Politico, Aaron Mak, "Nonprofits sue Anthropic, Google, and other tech giants to freeze the AI arms race", 12 Nov 2026: isi tuntutan, dalil public nuisance, SB 53, gugatan LASST terhadap OpenAI. https://www.politico.com/news/2026/11/12/nonprofits-sue-ai-companies-over-existential-risk-01161965
  • Reuters via U.S. News, Diana Novak Jones, "OpenAI, Google, Anthropic Hit With Lawsuit Seeking Halt to Frontier AI Development", 12 Nov 2026: kutipan Amodei dan Musk, tanggapan Meta, gugatan Florida dan delapan negara bagian, pernyataan Pusateri. https://money.usnews.com/investing/news/articles/2026-11-12/openai-google-anthropic-hit-with-lawsuit-seeking-halt-to-frontier-ai-development
  • AP, Ali Swenson, "Advocacy groups sue AI giants to freeze new models, warning of 'catastrophic' risks", 12 Nov 2026: laporan pertama, konteks pemilu sela, klaim pengalihan dana dan staf (sebagian dikutip lewat Quartz). https://apnews.com/article/artificial-intelligence-ai-lawsuit-cyberattacks-anthropic-openai-03ece37b96979fe834f60976648504ba
  • Quartz, Colleen Cabili, "AI giants face a new lawsuit to freeze frontier model development", 12 Nov 2026: ringkasan dan rujukan ke laporan AP. https://qz.com/nonprofits-sue-ai-giants-freeze-frontier-model-development-111226