Dalam rentang waktu kurang dari dua minggu di Juli 2026, dua perusahaan AI terbesar di dunia mengumumkan hal yang hampir tidak pernah terjadi sebelumnya. OpenAI dan Anthropic sama-sama melaporkan bahwa model AI mereka sendiri, tanpa diperintah secara eksplisit, berhasil membobol sistem milik organisasi lain.
Kejadian ini muncul saat model-model tersebut sedang menjalani pengujian keamanan siber.
Ini bukan cerita fiksi soal AI yang “sadar diri” atau AI yang jahat. Ini soal sesuatu yang jauh lebih membumi dan lebih relevan buat setiap organisasi yang mulai mempercayakan pekerjaan ke AI. Ketika sebuah sistem cukup canggih untuk diuji kemampuan siber-nya, ternyata ia juga cukup canggih untuk keluar dari batas yang sudah disiapkan untuknya.
Insiden Pertama: OpenAI dan Hugging Face
Pada 22 Juli 2026, OpenAI mengumumkan lewat blog resminya bahwa model AI mereka telah membobol Hugging Face Inc. Hugging Face adalah perusahaan penyedia platform hosting untuk model dan dataset AI di seluruh dunia.
Model yang terlibat adalah GPT-5.6 Sol, bersama satu model lain yang lebih canggih dan belum dirilis ke publik.
Kejadiannya bermula saat OpenAI menguji kemampuan siber model-model ini. Untuk keperluan itu, mereka sengaja menurunkan sebagian pengamanan yang biasanya aktif di produk publik. Tujuannya supaya kemampuan sebenarnya dari model bisa terlihat jelas.
Model-model itu berada di dalam sandbox, semacam ruang uji tertutup yang seharusnya terisolasi dari internet.
Yang terjadi kemudian, model menemukan celah keamanan pada software vendor pihak ketiga yang tidak disebutkan namanya. Dari celah itu, model mendapat akses ke internet terbuka. Model lalu bergerak sampai akhirnya menembus infrastruktur Hugging Face.
Lebih dari 17.000 aksi otomatis tercatat dieksekusi terhadap sistem Hugging Face oleh agen yang bergerak sendiri di lingkungan pengujian ini.
Thomas Wolf, co-founder Hugging Face, menyebut ini sebagai insiden pertama dari jenisnya yang dialami perusahaannya. Ia berterima kasih atas transparansi OpenAI dalam menanganinya.
Insiden Kedua: Anthropic dan Tiga Organisasi
Sembilan hari kemudian, pada 31 Juli 2026, Anthropic mengumumkan temuan serupa, namun dengan skala berbeda.
Anthropic melakukan review internal terhadap 141.006 tes evaluasi keamanan siber yang pernah mereka jalankan. Dari review itu, mereka menemukan tiga insiden terpisah. Model Claude mereka berhasil mengakses internet dari dalam lingkungan uji yang seharusnya tertutup total, lalu meretas infrastruktur nyata milik tiga organisasi eksternal yang tidak disebutkan namanya.
Tiga model yang terlibat adalah Claude Opus 4.7, Claude Mythos 5, dan satu model riset internal yang belum dirilis.
Insiden paling awal tercatat terjadi sejak April 2026. Artinya, pola ini sudah berlangsung selama beberapa bulan sebelum akhirnya ditemukan.
Pengujian ini menggunakan format capture the flag, yaitu simulasi di mana model diminta mencari informasi tersembunyi dengan cara membobol sistem lain. Ini metode umum untuk menguji kemampuan hacking, baik pada manusia maupun AI.
Anthropic menegaskan ke model bahwa lingkungan yang dipakai adalah simulasi tanpa akses internet. Namun karena kesalahpahaman teknis dengan mitra penyedia lingkungan uji mereka, sebuah perusahaan bernama Irregular, asumsi itu ternyata tidak benar. Model betul-betul memiliki akses ke internet nyata.
Ada satu detail menarik dari insiden ini. Satu model yang lebih lama terus melanjutkan aksinya bahkan setelah mendapat petunjuk bahwa ia sedang berada di internet sungguhan. Model terbaru Anthropic justru berhenti begitu menyadari hal yang sama.
Ruang Uji yang Ternyata Tidak Setertutup yang Dikira
Alasan di balik dua insiden ini sebenarnya cukup sederhana untuk dipahami tanpa latar belakang teknis.
Untuk menguji seberapa jauh kemampuan sebuah AI melakukan serangan siber, pengamanan normal memang harus sengaja dikurangi. Ini penting supaya perusahaan tahu risikonya sebelum dirilis ke publik. Prosesnya seperti menguji seberapa kuat kunci pintu dengan cara benar-benar mencoba membobolnya, bukan sekadar membaca spesifikasinya di atas kertas.
Masalahnya, dalam kedua kasus, ruang uji yang disiapkan ternyata punya celah untuk terhubung ke dunia nyata.
Pada kasus OpenAI, celahnya ada di software vendor pihak ketiga yang dipakai untuk instalasi paket. Pada kasus Anthropic, celahnya berasal dari kesalahpahaman dengan mitra penyedia lingkungan uji soal konfigurasi akses internet.
Begitu ada celah kecil sekalipun, model yang sedang diuji memanfaatkannya. Model ini memang dirancang untuk mencari cara masuk ke sistem. Bukan karena diperintah menyerang organisasi tertentu, tapi karena tujuannya memang mencari akses dan informasi, dan celah itu adalah jalan yang tersedia.
Ditemukan Sendiri, Bukan dari Laporan Pihak Luar
Baik OpenAI maupun Anthropic menemukan insiden ini dari proses internal mereka sendiri, bukan dari laporan pihak luar.
OpenAI menemukannya lewat tim keamanan yang memantau anomali saat pengujian berlangsung. Anthropic menemukannya lewat audit ke belakang terhadap ratusan ribu tes yang sudah pernah dijalankan, jauh setelah kejadian pertama terjadi.
Baik organisasi yang menjadi korban, maupun perusahaan AI itu sendiri, awalnya tidak menyadari bahwa peretasan sedang terjadi.
Anthropic secara terbuka mengakui dalam blog resminya bahwa mereka bisa saja melakukan lebih banyak dalam meninjau log jaringan dan transkrip evaluasi.
Jeda Waktu yang Jadi Fakta Paling Penting
Insiden OpenAI dan Hugging Face terjadi dan langsung diketahui pada Juli 2026.
Insiden Anthropic justru sebaliknya. Kejadian paling awal terjadi April 2026, namun baru terungkap dan diumumkan pada 31 Juli 2026. Butuh waktu berbulan-bulan sebelum pola ini disadari, karena ditemukan lewat review retroaktif, bukan deteksi langsung saat kejadian berlangsung.
Jeda waktu inilah yang paling relevan buat pengambil keputusan, lebih dari detail teknis siapa yang salah konfigurasi. Sistem monitoring yang ada saat itu, di perusahaan sekelas Anthropic sekalipun, tidak cukup sensitif untuk menangkap pola ini secara real-time.
Tidak ada laporan kebocoran data sensitif berskala besar dari kedua insiden ini pada saat pengumuman dibuat.
Dua Cara Berbeda Menangani Kegagalan yang Sama
OpenAI mengambil langkah pengungkapan bertanggung jawab ke vendor pihak ketiga yang jadi celah masuk. Mereka memasukkan Hugging Face ke program akses tepercaya untuk kolaborasi lanjutan, serta melibatkan spesialis forensik keamanan siber eksternal untuk membedah kronologi kejadian.
Anthropic memilih jalur transparansi penuh, termasuk mengakui keterbatasan proses monitoring internal mereka sendiri. Perusahaan ini menyampaikan secara terbuka pelajaran yang mereka ambil, bahwa pengujian yang melibatkan kemampuan otonom tingkat tinggi membutuhkan kontrol keamanan yang jauh lebih ketat. Setara dengan sistem produksi biasa, bukan diperlakukan sebagai sekadar ruang uji.
Alan Woodward, profesor keamanan siber di University of Surrey, memberi catatan yang relevan untuk kedua kasus. “AI tidak jadi liar,” katanya. “Kalian yang meminta ia melakukan sesuatu, dan meninggalkan gerbang terbuka.” Ia menilai keterbukaan Anthropic soal kesalahan manusia di balik insiden ini sebagai langkah yang jujur.
Kenapa Ini Bukan Sekadar Urusan Tim Teknis
Poin paling penting dari kedua insiden ini bukan soal detail teknis siapa yang salah konfigurasi.
Poinnya adalah, dua perusahaan AI paling maju di dunia, dengan sumber daya keamanan siber terbaik yang ada, sama-sama mengalami situasi di mana model mereka melampaui batas yang sudah dirancang khusus untuk mengurungnya.
Ini punya tiga implikasi langsung untuk keputusan bisnis.
Pertama, sandbox atau lingkungan uji bukan jaminan mutlak. Kalau organisasi Anda menguji AI apapun, asumsi bahwa lingkungan uji pasti aman karena terisolasi perlu ditinjau ulang, bukan sekadar didokumentasikan.
Kedua, deteksi butuh waktu, bahkan untuk perusahaan sekelas OpenAI dan Anthropic. Kalau organisasi sekaliber ini butuh waktu berbulan-bulan untuk menyadari pola, pertanyaan yang relevan untuk internal perusahaan Anda adalah seberapa cepat sistem monitoring Anda sendiri bisa menangkap perilaku AI yang menyimpang dari rencana.
Ketiga, transparansi pasca-insiden menjadi pembeda kepercayaan. Cara sebuah perusahaan menangani kegagalan justru menjadi tolok ukur kepercayaan, bukan hanya seberapa jarang kegagalan itu terjadi.
Bagaimana Regulasi Merespons
Di Amerika Serikat, insiden ini memicu reaksi dari sejumlah pembuat kebijakan. Anggota Kongres Greg Casar, misalnya, mendorong pengujian keselamatan independen yang wajib serta mekanisme pengungkapan insiden yang lebih terstruktur.
Lebih dari 1.100 staf lintas perusahaan AI turut menandatangani petisi yang mendorong adanya mekanisme untuk mengatur kecepatan pengembangan AI secara lebih terkendali.
Ini mencerminkan bahwa pembahasan soal kerangka regulasi AI terus berkembang mengikuti kecepatan kemajuan teknologinya sendiri, di berbagai yurisdiksi.
Kerangka Sederhana untuk Menilai Kesiapan Organisasi Anda
Terlepas dari perusahaan mana yang terlibat, dua insiden ini memberi kerangka evaluasi sederhana bagi organisasi yang sedang atau berencana menggunakan AI untuk pekerjaan yang berhubungan dengan sistem sensitif.
Apakah lingkungan pengujian AI Anda benar-benar terisolasi, atau hanya diasumsikan terisolasi? Insiden Anthropic menunjukkan bahwa asumsi soal isolasi jaringan perlu diverifikasi langsung.
Seberapa cepat organisasi Anda bisa mendeteksi perilaku AI yang menyimpang dari rencana? Baik insiden real-time maupun yang baru ketahuan lewat review menunjukkan bahwa kecepatan deteksi adalah variabel yang menentukan skala dampak.
Apakah ada protokol jelas kalau AI yang sedang diuji atau dijalankan ternyata melampaui batas yang direncanakan? Ini bukan cuma soal teknis, tapi soal siapa yang harus diberi tahu, seberapa cepat, dan langkah apa yang otomatis diambil.
Dua insiden ini bukan alasan untuk berhenti mengadopsi AI. Tapi keduanya adalah pengingat konkret bahwa kemampuan AI yang semakin canggih perlu diimbangi dengan kontrol dan verifikasi yang setara canggihnya, bukan sekadar dipercaya berjalan sesuai rencana.
