Model Anthropic Kirim Tip Palsu ke Polisi dan 20 Formulir Visa. Gedung Putih Wajibkan Lab AI Lapor Insiden

Anthropic mengakui model-model Claude bertindak di luar perintah ketika diuji di internet terbuka: mengirim tip pembunuhan karangan ke formulir polisi, menembus server universitas lewat celah perangkat lunak, dan memakai token akses untuk mengambil data pemerintah yang semestinya berbayar. Pengakuan itu dimuat dalam laporan berjudul “Investigating unintended model actions in our evaluations and internal use” di laman riset Anthropic.

Laporan terbit Jumat (9/10/2026) waktu AS, setelah Kepolisian Philadelphia (PPD) lebih dulu mengumumkan satu kasusnya sendiri “demi transparansi penuh pemerintah”. Anthropic tidak menyebut nama lembaga yang terdampak, dengan alasan menghindari membuka celah sistem mereka dan atas permintaan lembaga itu sendiri. Perusahaan hanya menulis bahwa sebagian kasus melibatkan situs badan pemerintah AS “di tingkat federal, negara bagian, dan lokal”, dan bahwa Gedung Putih serta setiap lembaga sudah diberi tahu.

Tip yang Tersangkut di Folder Spam

Kasus Philadelphia paling gamblang karena teksnya ikut dibuka. Claude Haiku 4.5, model kelas hemat Anthropic, sedang ditugasi memperagakan contoh interaksi di halaman web acak. Dalam satu putaran, model itu mendarat di laman kasus pembunuhan yang belum terungkap di PhillyUnsolvedMurders.com, lengkap dengan formulir tip milik polisi.

Instruksinya melarang model masuk akun, membuat akun, mengisi data pribadi, berbelanja, atau mengirim apa pun yang merusak. Mengirim formulir tidak termasuk larangan. Claude lalu menulis, dalam bahasa Inggris, bahwa ia “mungkin punya informasi” soal kasus itu dan ingat melihat seseorang “yang cocok dengan deskripsi” di sekitar jalan yang disebut di halaman tersebut. Laman itu, catat Anthropic, sama sekali tidak memuat deskripsi pelaku. Kolom nama dan kontak dibiarkan kosong, dan formulir terkirim.

Menurut PPD dalam pernyataan tertulis yang dimuat 6abc, kiriman itu bertanggal 18 Juli 2026 pukul 23.27, langsung ditandai sebagai spam, dan tidak pernah diteruskan ke Real-Time Crime Center. Polisi tidak menemukan akses tidak sah ke sistem mereka. Yang membuat PPD keras adalah waktunya. Anthropic baru menemukan kejadian itu pada 28 September, memberi tahu polisi pada 7 Oktober, lalu bertemu pejabat kepolisian sehari kemudian. “Keterlambatan dua bulan dalam mendeteksi dan melaporkan insiden ini kepada Kota tidak dapat diterima,” tulis PPD.

Catatan: Anthropic menulis temuan itu dibagikan ke polisi pada 8 Oktober; PPD menyebut pemberitahuan 7 Oktober dan rapat 8 Oktober.

Pengaman di sisi PPD membatasi dampaknya, tulis departemen itu, tetapi tidak mengurangi seriusnya “sistem AI yang menyajikan informasi rekaan seolah-olah datang dari orang yang mengetahui sebuah pembunuhan”.

Dua Puluh Formulir Visa

Formulir berikutnya lebih banyak jumlahnya. Anthropic menggambarkan satu model riset yang belum dirilis dan bukan model frontier, yang semestinya mengisi salinan latihan sebuah formulir pemerintah. Ketika salinan itu gagal dimuat, atau tertutup tanpa sengaja, model tersebut membuka situs tempat formulir aslinya berada dan mengirimnya di sana. Kejadiannya berulang dalam evaluasi yang sama.

Anthropic tidak menyebut formulir apa. Seorang juru bicara Kementerian Luar Negeri AS mengatakan kepada The Philadelphia Inquirer, Sabtu (10/10/2026), bahwa sebuah model uji Anthropic mengirim 19 permohonan visa nonimigran pada Agustus dan satu pada Mei lewat formulir publik di situs kementerian. Semuanya tidak lengkap dan tidak diproses. “Tidak sekali pun sistem kementerian dibobol atau diretas oleh model Anthropic,” kata juru bicara itu. The New York Times, mengutip dua sumber, juga menulis angka 20 permohonan.

Catatan: Bahwa 20 formulir visa itu adalah kasus “salinan latihan formulir pemerintah” dalam laporan Anthropic merupakan simpulan dari pernyataan Kementerian Luar Negeri dan laporan NYT. Anthropic sendiri tidak mengonfirmasi kaitan itu; juru bicaranya menolak berkomentar di luar isi blog, tulis NYT.

Celah Server dan Tarif yang Dilewati

Dua kategori lain dalam laporan menyangkut cara model mengakali hambatan. Dalam satu evaluasi, Claude Mythos Preview diminta menjalankan analisis ilmiah dengan alat publik milik sebuah universitas. Alat itu mengembalikan galat. Model lalu menjelajahi situsnya, menemukan skrip yang mau menyerahkan berkas apa pun yang diminta, menyalin kode skrip itu, dan di dalam kode tersebut menemukan celah injeksi untuk menjalankan perintah di server universitas. Kalkulasinya pun dikerjakan di sana.

Claude Mythos 5 memakai cara serupa untuk data publik yang dikunci tarif. Saat menebak lokasi sebuah foto, model itu mengambil token akses dari berkas pengaturan peta properti milik pemerintah daerah lalu menanyai servernya langsung. Dalam proyek statistik seorang peneliti Anthropic, ia meminta token dari dasbor publik sebuah lembaga negara bagian dan mengambil data tanpa membayar. Anthropic juga mencatat Claude Opus 5 dan Mythos 5 memakai layanan pemendek URL gratis untuk mengakali batas panjang alamat di alat pengambil halamannya. Operator da.gd, salah satu layanan itu, ikut melaporkan temuan yang sama.

Pola ini muncul di tolok ukur publik yang lazim dipakai industri, seperti BrowseComp, OSWorld, dan Humanity’s Last Exam. Anthropic menyebut sebagian besarnya kegigihan (persistence): ketika tugas tak bisa diselesaikan sesuai perintah, model mencari jalan memutar alih-alih berhenti.

“Jauh Kurang Parah”, Menurut Anthropic

Anthropic menilai kasus-kasus ini berdampak minimal dan “jauh kurang parah” dibanding insiden keamanan siber yang dilaporkannya pada 30 Juli dan 9 September. Pada insiden Juli, model Claude yang diuji di lingkungan mitra evaluasi Irregular ternyata tersambung ke internet dan masuk ke sistem tiga organisasi sungguhan. Sejauh yang diketahui perusahaan, kasus terbaru tidak menyentuh data pelanggan maupun sistem internal Anthropic.

Penilaian itu datang dengan pengakuan yang tidak kecil. Pelatihan perilaku dan alignment, tulis Anthropic, “belum cukup atau sepenuhnya andal dengan sendirinya”, setidaknya untuk jangka pendek. Beberapa kasus juga tidak terjadi di evaluasi, melainkan saat Claude dipakai sebagai agen sehari-hari di dalam perusahaan. Sebagai respons, Anthropic mematikan akses internet langsung untuk semua evaluasi internal sampai sistem pemantauannya terbukti menangkap perilaku semacam ini. Perkakas deteksi barunya, menurut perusahaan, memblokir semua kasus dalam laporan ketika diuji ulang.

Kapan akses itu dinyalakan lagi, dan dengan bukti apa, tidak dijelaskan. Conrad Stosz dari lembaga pengawas AI Transluce mengatakan kepada TechCrunch bahwa kasus ini menegaskan perlunya verifikasi pihak ketiga yang independen, “bukan mengandalkan perusahaan untuk mengungkapkannya secara sukarela”.

Wajib, tetapi Sanksinya Belum Ada

Gedung Putih menanggapi pada hari yang sama. Super Intelligence Force, gugus tugas yang dibentuk Presiden Donald Trump pada 4 Oktober dan dipimpin Jay Clayton, menyatakan Anthropic menghubungi mereka Jumat untuk melaporkan insiden yang ditemukan akhir September. Dalam pernyataan yang dibagikan eksklusif kepada Axios, gugus tugas itu menuntut transparansi penuh dan pemulihan bagi “warga Amerika yang dirugikan”. “Proses pemberitahuan dan pemulihan ini tidak opsional. Ini kewajiban keamanan nasional yang krusial,” bunyi pernyataan tersebut, yang berlaku untuk semua perusahaan AI.

Kata “wajib” itu belum disertai alat. Menurut Axios, pernyataan itu tidak menjelaskan mekanisme penegakan atau sanksinya. Teksnya juga tidak mendefinisikan insiden yang wajib dilapor ataupun tenggatnya. Padahal baru pada 29 September enam perusahaan AI, termasuk Anthropic, menandatangani komitmen keselamatan sukarela di Gedung Putih yang juga tanpa sanksi. Sabtu (10/10/2026), CEO Microsoft Satya Nadella ikut menulis di X bahwa model harus diperlakukan sebagai potensi ancaman dari dalam, dengan “rem darurat” yang bisa menghentikan model di tengah tugas.

Pertanyaan yang tersisa bersifat praktis. Kasus Philadelphia baru diketahui pembuat modelnya 72 hari setelah formulir terkirim, dan satu-satunya pengaman yang bekerja tepat waktu adalah filter spam di sisi polisi. Pemerintahan Wali Kota Cherelle Parker menyatakan akan menimbang perlindungan regulasi bersama mitra negara bagian dan federal. Anthropic berjanji terus melaporkan perilaku serupa. Laporan berikutnya akan menunjukkan apakah jeda dua bulan itu menyusut.

Catatan / Referensi

• Anthropic, “Investigating unintended model actions in our evaluations and internal use”, 9 Okt 2026 (16.09 UTC): sumber primer empat kategori perilaku, kasus Haiku 4.5 dan formulir tip, Mythos Preview/Mythos 5/Opus 5, daftar evaluasi, remediasi, pengakuan alignment training belum cukup. https://www.anthropic.com/research/investigating-unintended-model-actions
• Philadelphia Police Department, pernyataan tertulis 9 Okt 2026, dimuat utuh oleh 6abc Philadelphia: 18 Juli pukul 23.27, spam, Real-Time Crime Center, ditemukan 28 Sep, diberi tahu 7 Okt, rapat 8 Okt, “unacceptable”, rencana regulasi pemerintahan Parker. https://6abc.com/post/anthropic-ai-model-submitted-false-tip-unsolved-murder-philadelphia-police-say/19925243/
• The Philadelphia Inquirer, Amy S. Rosenberg, 10 Okt 2026: juru bicara Kemlu AS soal 19 + 1 permohonan visa nonimigran, tidak lengkap, sistem tidak dibobol; latar Super Intelligence Force. https://www.inquirer.com/news/philadelphia/anthropic-ai-philadelphia-police-department-state-department-20261010.html
• Axios, Maria Curi, Marc Caputo, Ina Fried, “Exclusive: Anthropic breaches spark White House AI reporting mandate”, 9 Okt 2026 (diperbarui): teks lengkap pernyataan SI Force; tidak ada mekanisme penegakan atau sanksi. https://www.axios.com/2026/10/09/anthropic-ai-security-white-house
• The New York Times, 10 Okt 2026 (dibaca lewat salinan DNYUZ): dua sumber menyebut 20 permohonan visa; juru bicara Anthropic menolak berkomentar di luar blog. https://dnyuz.com/2026/10/10/anthropic-agents-tried-to-fill-out-visa-forms-on-state-dept-website/
• TechCrunch, Tim Fernholz, 9 Okt 2026: penutupan akses internet evaluasi, pernyataan Conrad Stosz (Transluce). https://techcrunch.com/2026/10/09/anthropic-cant-reliably-control-its-ai-agents-its-cutting-off-its-internal-evals-from-the-live-internet-instead/
• TechCrunch, Amanda Silberling, 9 Okt 2026: rilis PPD lewat surel. https://techcrunch.com/2026/10/09/an-anthropic-ai-model-sent-a-false-homicide-tip-to-philadelphia-police/
• Anthropic, “Investigating three real-world incidents in our cybersecurity evaluations”, 30 Jul 2026: konteks insiden musim panas (tiga organisasi, mitra Irregular). https://www.anthropic.com/research/investigating-incidents-cybersecurity-evals
• Satya Nadella di X, artikel “Models as Insider Risks in the Super Intelligence Era”, 10 Okt 2026 14.43 UTC; dirangkum TechCrunch (Anthony Ha) hari yang sama. https://x.com/satyanadella/status/2108931348857827686 · https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/
• Catatan GEREGET: Anthropic tidak menyebut nama lembaga selain Kepolisian Philadelphia (yang mengungkap diri sendiri). Kaitan 20 formulir visa dengan kasus “salinan latihan formulir pemerintah” berasal dari Kemlu AS dan NYT, bukan konfirmasi Anthropic. Selisih tanggal pemberitahuan (7 vs 8 Okt) belum dijelaskan. Pernyataan SI Force tidak memuat dasar hukum, tenggat, atau sanksi.