Dragos Sebar Dua Juta Prompt Berisi Rahasia Umpan ke Layanan AI. Tiga Penyedia Ketahuan Dibobol, Label Zero Data Retention Tak Menjamin
Peneliti Dragos HD Moore menyelipkan rahasia umpan di hampir dua juta prompt ke layanan AI. Hasilnya: tiga penyedia dibobol, penjual di pasar inferensi mencuri prompt, dan label Zero Data Retention diabaikan. OpenRouter kini mengirim surel soal MiniMax.
HD Moore, kepala riset perusahaan keamanan siber Dragos, mengirim hampir dua juta prompt berisi rahasia palsu ke berbagai layanan AI, lalu menunggu siapa yang memakainya. Hasilnya, tulis Moore di blog Dragos yang terbit Kamis (19/11/2026), adalah bukti pembobolan di sedikitnya tiga penyedia hosting model, pencurian prompt oleh penjual di pasar inferensi, dan pengaturan privasi yang diabaikan.
Eksperimen itu berjalan lima bulan, dari Juli hingga November 2026. Setiap prompt membawa "canary", istilah untuk rahasia yang hanya ada di satu tempat: kunci akses Amazon Web Services (AWS) yang terhubung ke akun kosong, kata sandi SSH, nama DNS, URL unik, dan alamat repositori git privat. Karena setiap canary hanya dikirim sekali ke satu penyedia, siapa pun yang memakainya akan menunjukkan titik mana dalam rantai yang bocor. Moore, yang dikenal sebagai pembuat kerangka uji penetrasi Metasploit, tidak menyebut nama penyedia yang terlibat.
Router AI dan Hop yang Tidak Terlihat
Masalahnya bermula dari cara banyak aplikasi AI kini dibangun. Pengembang jarang langsung memanggil Anthropic atau OpenAI. Mereka memakai router AI (sering disebut AI gateway) seperti OpenRouter atau Vercel: satu endpoint API yang meneruskan permintaan ke model termurah atau paling cocok, dengan tagihan terpadu. Menurut Moore, prompt memang terenkripsi saat dikirim, tetapi dibuka lagi di setiap hop. Router membaca teks aslinya untuk memilih penyedia, dan penyedia itu kadang hanyalah router lain.
Sebagian router berbentuk pasar terbuka, tempat penjual dengan harga terendah mendapat permintaan. Moore menulis bahwa penjual bisa memasang model populer dengan harga paling murah, menyalakan pencatatan permintaan (request logging), lalu memanen data dari log platform. Tidak perlu eksploit sama sekali.
Untuk melacak jalur yang sebenarnya, tim Dragos membuat semacam traceroute untuk inferensi AI. Mereka menyisipkan URL gambar yang mengarah ke server sendiri, lalu mengirim permintaan yang sengaja sedikit rusak agar setiap router membungkus pesan galat dari hop di belakangnya. Dari sekitar dua ribu rute yang dilacak, beberapa ratus melewati sistem yang tidak bisa diidentifikasi, dan segelintir mengirim gambar ke perusahaan yang tidak tercantum di jalur resmi. Salah satu penjual, menurut Dragos, diam-diam menambahkan sekitar seribu token tersembunyi ke setiap prompt.
Tiga Penyedia Dibobol, Label Privasi Diabaikan
Temuan paling serius adalah pembobolan. Pembobolan terbesar melibatkan "a couple hundred", beberapa ratus, kunci AWS umpan yang dikirim dalam beberapa jendela waktu pendek pada akhir Oktober. Semua permintaan di jendela itu tercuri, termasuk permintaan yang ditolak penyedia sebelum model sempat berjalan. Dari situ Moore menyimpulkan penyerang menyalin data di "pintu depan" penyedia. Kunci-kunci itu diuji dalam hitungan jam, lalu dipakai menjelajahi S3, Secrets Manager, dan Parameter Store, mencoba mengaktifkan model di AWS Bedrock, dan menambah pengguna IAM baru. Totalnya puluhan ribu panggilan API AWS. Sejak 1 November, penyerang yang sama juga memakai ARTEX, kerangka uji penetrasi berbasis model bahasa.
Di dua pembobolan lain, sebagian permintaan yang tercuri bertanda Zero Data Retention (ZDR), pengaturan paling ketat yang menjanjikan prompt dan jawaban tidak disimpan. "A privacy flag doesn't help when the attacker is already inside," tulis Moore.
Kasus ketiga tanpa pencurian kredensial. Sebuah laboratorium AI asal Tiongkok, yang tidak dinamai Dragos, mengambil URL rahasia dari lebih dari separuh prompt yang dikirim ke modelnya antara Juli dan Oktober, termasuk sekitar dua pertiga permintaan yang bertanda "no data collection" atau ZDR, biasanya dua sampai tiga hari setelah permintaan. Prompt yang dikirim lewat penyedia hosting Amerika Serikat yang menjual ulang model lab itu memicu scraper yang sama. Satu tautan bahkan muncul di kanal obrolan Feishu (Lark) 24 hari setelah dikirim, lalu dibuka dari tiga komputer dan tiga ponsel di Beijing dan Shanghai dalam dua menit.
Penyedia besar asal AS pun tidak bersih. Menurut Dragos, satu penyedia masih merayapi URL rahasia lebih dari dua bulan setelah dipakai dalam satu panggilan ke endpoint pencariannya.
Surel OpenRouter dan Pertanyaan yang Belum Terjawab
Dua hari setelah tulisan Dragos terbit, sejumlah pelanggan OpenRouter mengunggah salinan surel berjudul "Requests you sent to MiniMax models may have been read" ke Hacker News, Sabtu (21/11/2026). Isinya, menurut salinan itu, seorang peneliti keamanan menaruh URL uji di prompt ke model MiniMax dari Juli hingga Oktober, dan pihak ketiga membukanya 40 hingga 130 jam kemudian. AtlasCloud, Novita, dan StreamLake disebut meneruskan permintaan itu ke MiniMax. OpenRouter menulis bahwa masalahnya "sits with MiniMax and the providers that forwarded to it, not with OpenRouter", dan mencabut label ZDR dari endpoint model MiniMax selama penyelidikan. Ars Technica melaporkan hal serupa.
Pada Minggu (22/11/2026), Novita, salah satu penyedia yang disebut dalam surel itu, menerbitkan pemberitahuan privasi resmi. Novita membenarkan bahwa sebagian permintaan ke model MiniMax, termasuk yang dirutekan OpenRouter, diteruskan ke API resmi MiniMax, bukan diproses di infrastruktur Novita, dalam jendela 28 Mei hingga 11 November 2026. Menurut Novita, isi permintaan itu mungkin diakses atau disimpan pihak ketiga. Pola akses ke URL uji, tulis perusahaan itu, "suggest automated content review may have been involved", dan MiniMax belum memberi konfirmasi atas penilaian itu. Model yang terdampak sudah dihentikan sementara. Hingga Minggu (22/11/2026), GEREGET masih belum menemukan pengumuman publik di situs OpenRouter, dan baik Dragos, OpenRouter, maupun Novita belum menyatakan bahwa laboratorium Tiongkok dalam riset Dragos adalah MiniMax.
Satu penyedia sudah lebih dulu bicara. Phala, penyedia inferensi berbasis trusted execution environment, menerbitkan laporan insiden awal pada 10 November. Pengguna yang permintaannya ke DeepSeek V4 Flash 0731 dirutekan OpenRouter ke Phala antara 21 Oktober dan 8 November diminta menganggap isi permintaan itu terekspos dan mengganti semua kunci di dalamnya. Phala menyebut bukti datang dari "a third-party security researcher" tanpa menyebut nama.
Saran Moore untuk pengguna lugas: hosting model sendiri jika mampu, berlangganan langsung ke penyedia tingkat pertama, memilih sendiri penyedia hulu alih-alih menerima pool bawaan router, menjauhi pasar penjual ulang, dan menanam canary sendiri, misalnya Canarytoken gratis dari Thinkst. Bagi tim di Indonesia yang memakai router untuk mengejar harga token termurah, peringatan terpentingnya ada di satu kalimat: label privasi, tulis Moore, "only binds the first hop". Dragos mengaku kini bekerja sama dengan sekitar selusin penyedia, dan kunci serta URL umpan masih terus diakses berbulan-bulan setelah insiden pertama.
Catatan/Referensi
- Dragos (HD Moore), "Three breaches, endless leaks: Your AI supply chain needs canaries", 19 Nov 2026: metodologi canary dan route tracing, sekitar dua juta prompt Juli–November 2026, tiga penyedia dibobol, ARTEX sejak 1 November, lab Tiongkok tanpa nama, insiden Feishu, sekitar dua ribu rute, kerja sama dengan sekitar selusin penyedia, saran mitigasi. https://www.dragos.com/blog/ai-supply-chain-security-canary-tokens
- Ars Technica, "Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.", 20 Nov 2026 (diperbarui 21 Nov): ringkasan riset dan pembaruan soal surel OpenRouter terkait MiniMax. https://arstechnica.com/security/2026/11/a-leaky-ai-supply-chain-is-exposing-secret-user-data-at-an-alarming-rate/
- Hacker News, "Tell HN: OpenRouter prompts to Minimax may have been read", 21 Nov 2026: salinan surel OpenRouter yang diunggah penerima; belum ada pengumuman resmi di situs OpenRouter saat dibaca 22 Nov 2026. https://news.ycombinator.com/item?id=50585962
- Phala, "Phala November Preliminary Incident Report", 10 Nov 2026: jendela paparan 21 Oktober–8 November untuk permintaan DeepSeek V4 Flash 0731 via OpenRouter, bukti dari peneliti pihak ketiga tanpa nama. https://phala.com/posts/phala-november-preliminary-incident-report
- Novita, "Privacy Notice Regarding MiniMax Requests on Novita", 22 Nov 2026: sebagian permintaan MiniMax 28 Mei–11 November diteruskan ke API MiniMax, termasuk lewat OpenRouter; URL uji diakses; kunci AWS umpan tidak dipakai; model dihentikan sementara. https://novita.ai/blog/minimax-requests-privacy-notice/