Kill switch AI sering dianggap jawaban paling sederhana atas kekhawatiran soal kendali. Jika sistem bermasalah, cukup matikan. Namun benarkah semudah itu?
Pak Dian mengutip pernyataan Menteri Luar Negeri Singapura, Vivian Balakrishnan, untuk menjawab pertanyaan ini. Pernyataan itu juga muncul dalam laporan media pada akhir September 2026. Artikel ini merangkum apa yang ia katakan, bagaimana regulator merespons, dan apa yang lebih dibutuhkan selain tombol darurat.
Pernyataan Balakrishnan tentang kendali AI
Balakrishnan berbicara dalam diskusi di Asia Society. Menurut laporan media, ia menyebut tiga risiko utama. Pertama, hilangnya kendali atas agen AI. Kedua, penyalahgunaan oleh pihak jahat. Ketiga, rusaknya kepercayaan publik.
Ia juga mengusulkan pembicaraan tentang konvensi PBB mengenai AI. Soal kendali, ia mempertanyakan apakah pembuat AI sekalipun bisa menjamin penguasaan penuh. Menurutnya, siapa pun yang mengaku punya kendali mutlak atas kill switch sedang menyesatkan Anda.
Ia menambahkan bahwa hilangnya kendali adalah risiko yang sangat nyata. Ia juga menegaskan dirinya bukan pihak yang suka meramalkan bencana.
Mengapa agen AI mempersulit kendali
Pak Dian menyinggung satu hal yang menarik. Orang baru benar-benar paham maksud peringatan itu setelah mencoba menjalankan agen AI.
Perbedaannya terletak pada cara kerja. Chatbot hanya menjawab pertanyaan. Agen AI dapat merencanakan langkah, memakai alat, dan bertindak di sistem lain. Satu perintah bisa memicu banyak tindakan berantai.
Seorang pakar yang dikutip Dark Reading menjelaskan masalahnya dengan lugas. Agen tidak perlu berniat melawan untuk mengabaikan tombol mati. Cukup ada target yang ia kejar, lalu penghentian dianggap sebagai hambatan.
Respons regulator: usulan AI Kill Switch Act
Kekhawatiran ini sudah masuk ke ranah legislasi. Pada Juli 2026, anggota DPR Amerika Serikat Ted Lieu dan Nathaniel Moran mengajukan rancangan undang-undang bernama AI Kill Switch Act.
Rancangan itu mewajibkan pengembang sistem AI canggih menjaga kemampuan teknis untuk memperlambat, menangguhkan, atau mematikan sistem dan agennya. Insiden hilangnya kendali juga harus dilaporkan ke Departemen Keamanan Dalam Negeri. Laporan media menyebut denda bisa mencapai 20 juta dolar AS per hari bagi yang melanggar.
Perlu diingat, ini baru usulan. Statusnya belum menjadi undang-undang.
Mengapa kill switch saja tidak cukup
Para praktisi keamanan mengingatkan keterbatasan tombol darurat. Analisis dari NHI Management Group menyebut kill switch sebagai kontrol pemutus, bukan model tata kelola. Ia hanya bekerja setelah kendali mulai menurun.
Tombol itu tidak menjelaskan apa saja yang sudah diakses agen. Ia juga tidak menjamin tindakan sebelumnya bisa dibatalkan. Karena itu, kontrol harus dimulai lebih awal.
Pendekatan yang banyak disarankan meliputi:
- Akses minimum. Beri agen hanya izin yang dibutuhkan untuk tugas yang sedang berjalan.
- Pemantauan berkelanjutan. Pantau aktivitas agen selama bekerja, bukan hanya saat sudah bermasalah.
- Pencatatan yang utuh. Simpan log di luar kendali agen agar bisa diaudit.
- Uji coba berkala. Latih prosedur penghentian secara rutin agar teruji sebelum dibutuhkan.
Pengawasan manusia yang bermakna
Pengawasan manusia sudah menjadi syarat dalam regulasi. Pasal 14 EU AI Act, misalnya, mewajibkannya untuk sistem berisiko tinggi. Namun sejumlah analisis mengingatkan bahwa ada dasbor belum berarti ada pengawasan efektif.
Pengawasan perlu sanggup mengimbangi kecepatan dan skala kerja agen. Pihak yang mengawasi juga perlu memahami bidang yang ditangani agen tersebut.
Kesimpulan
Peringatan Balakrishnan tidak berarti AI harus dihindari. Pesannya lebih praktis: kendali penuh tidak boleh diasumsikan. Kendali perlu dirancang, diuji, dan diperiksa secara berkala.
Bagi organisasi yang mulai memakai agen AI, langkah awalnya jelas. Petakan apa saja yang bisa diakses setiap agen. Tentukan siapa yang bertanggung jawab. Setelah itu, siapkan kill switch sebagai lapisan terakhir, bukan satu-satunya.
Referensi: https://www.youtube.com/watch?v=nY-6QTC60_0&t=3107s
