Selama beberapa tahun terakhir, perusahaan teknologi berlomba membuat AI semakin mampu memahami informasi, menyelesaikan masalah, hingga menjalankan tugas secara otomatis. Namun, semakin besar kemampuan AI, semakin penting pula pertanyaan mengenai bagaimana teknologi tersebut tetap aman ketika digunakan di dunia nyata.
Pertanyaan ini menjadi perhatian dalam pertemuan Presiden Amerika Serikat Donald Trump dengan sejumlah pemimpin perusahaan teknologi, termasuk Google, Anthropic, Meta, OpenAI, Nvidia, dan SpaceX. Pertemuan tersebut menghasilkan White House Accord on Super Intelligence, sebuah kesepakatan yang menempatkan tanggung jawab keselamatan AI terutama pada perusahaan yang mengembangkan teknologinya.
Perusahaan diharapkan membangun sistem pengamanan, mendeteksi masalah dengan cepat, serta melibatkan auditor independen untuk menilai apakah AI bekerja sesuai dengan yang seharusnya. Trump menyebut kesepakatan tersebut mengikat secara moral.
Namun, muncul pertanyaan yang cukup mendasar: jika perusahaan mengawasi teknologinya sendiri, siapa yang memastikan pengawasan tersebut benar-benar berjalan?
Sebelum Self-Regulation, Pengamanan Sebenarnya Sudah Ada
Self-regulation bukan berarti perusahaan AI sebelumnya tidak memiliki sistem keamanan. Perusahaan sudah dapat melakukan pengujian, membatasi kemampuan model, dan memasang berbagai pengamanan sebelum sebuah produk diluncurkan.
Masalahnya adalah efektivitas pengamanan tersebut.
AI yang mampu menjalankan tugas secara otomatis memiliki tantangan yang berbeda dari perangkat lunak biasa. Sistem dapat menerima sebuah tujuan, menyusun langkah, menggunakan berbagai alat, kemudian menjalankannya secara berurutan. Karena itu, keamanan tidak cukup dilihat dari apakah AI memberikan jawaban yang benar. Akses, tindakan, dan kemampuannya mengikuti batasan juga perlu diperhatikan.
Di sinilah persoalan akuntabilitas muncul. Ketika sistem melakukan sesuatu yang tidak diinginkan, perlu ada pihak yang memastikan masalah tersebut ditemukan, diperbaiki, dan tidak terulang.
Beberapa pengamat menilai pakta tersebut menunjukkan adanya kesepahaman baru di industri, tetapi masih menyisakan pertanyaan mengenai pertanggungjawaban perusahaan dan seberapa ketat standar keamanan yang akan diterapkan.
Mengapa Perusahaan Diberi Tanggung Jawab?
Ada alasan praktis di balik pendekatan ini. Perusahaan yang mengembangkan AI memiliki akses langsung terhadap model, infrastruktur, hasil pengujian, dan sistem yang diperlukan untuk menemukan masalah.
Ketika terjadi kesalahan, pengembang berada pada posisi yang paling memungkinkan untuk memeriksa penyebabnya, mengubah sistem, membatasi akses, lalu melakukan pengujian kembali.
Dalam pakta tersebut, tanggung jawab ini dibuat lebih terstruktur. Perusahaan diharapkan memastikan model bekerja sesuai tujuan, mendeteksi masalah dengan cepat, melakukan perbaikan, dan melibatkan auditor independen.
Pendekatan ini juga berkaitan dengan cepatnya perkembangan AI. Teknologi dan cara penggunaannya berubah dalam waktu singkat sehingga perusahaan membutuhkan ruang untuk menyesuaikan sistem pengamanannya.
Tetapi ada persoalan lain. Perusahaan juga memiliki kepentingan untuk terus mengembangkan dan meluncurkan teknologi baru, terutama di tengah persaingan AI antara Amerika Serikat dan Tiongkok. Artinya, mereka harus menjalankan dua hal sekaligus: mempercepat inovasi dan mengendalikan risikonya.
Apa yang Berubah Setelah Pakta Diumumkan?
Perubahan yang paling jelas adalah adanya komitmen bersama yang disampaikan secara terbuka.
Perusahaan tidak hanya mengandalkan prosedur internal masing-masing, tetapi menyatakan komitmen terhadap pengamanan sistem, deteksi masalah, dan pemeriksaan oleh auditor independen. Pemerintah Amerika Serikat juga menyatakan rencana membentuk dewan untuk mengawasi keselamatan perangkat AI.
Namun, ada perbedaan antara komitmen dan hasil.
Pengumuman pakta tidak otomatis membuktikan bahwa AI menjadi lebih aman. Untuk melihat dampaknya, masih diperlukan bukti mengenai bagaimana pengamanan diterapkan, hasil audit, penanganan insiden, serta apa yang terjadi jika perusahaan tidak memenuhi komitmennya.
Dengan kata lain, perubahan yang terlihat setelah pakta adalah adanya komitmen yang lebih terbuka. Efektivitasnya masih harus dilihat dari pelaksanaan.
Masalahnya: Siapa yang Mengawasi Pengawas?
Self-regulation memang dapat membantu perusahaan bergerak lebih cepat. Jika masalah ditemukan, pengembang dapat langsung melakukan perubahan tanpa harus menunggu proses yang panjang.
Audit independen juga dapat menjadi lapisan pemeriksaan tambahan.
Tetapi semuanya bergantung pada kualitas penerapannya. Jika pengujian terbatas, pemantauan tidak memadai, atau pemeriksaan independen tidak berjalan efektif, self-regulation dapat berhenti sebagai komitmen di atas kertas.
Kekhawatiran lain adalah tidak jelasnya konsekuensi jika perusahaan gagal memenuhi komitmennya. Karena pakta tersebut bersifat morally binding, komitmen itu tidak secara otomatis memiliki konsekuensi hukum seperti regulasi yang dapat ditegakkan oleh regulator.
Karena itu, pengawasan AI kemungkinan tidak cukup jika hanya dilakukan dari dalam perusahaan.
AI Tidak Berhenti di Batas Satu Perusahaan
Dampak AI juga semakin sulit dipisahkan dari persoalan antarnegara. Teknologi yang dikembangkan di satu negara dapat digunakan di negara lain, sementara dampaknya bisa dirasakan oleh masyarakat yang bahkan tidak terlibat langsung dalam pengembangannya.
Menteri Luar Negeri Singapura Vivian Balakrishnan menekankan pentingnya kerja sama dan aturan bersama dalam menghadapi teknologi yang berkembang cepat. Dalam konteks AI, kerja sama semacam ini dapat membantu menyelaraskan standar keselamatan dan membangun mekanisme pengawasan yang tidak sepenuhnya bergantung pada klaim perusahaan.
Ini bukan berarti pengawasan internal perusahaan tidak penting. Justru perusahaan tetap menjadi pihak yang paling memahami sistemnya. Namun, pengawasan eksternal diperlukan agar kepentingan masyarakat tidak sepenuhnya bergantung pada keputusan perusahaan itu sendiri.
Di Balik AI, Ada Persoalan Infrastruktur
Pembahasan mengenai keselamatan AI juga membawa kita pada persoalan lain: kebutuhan komputasi.
Model AI membutuhkan pusat data, chip, jaringan, dan energi dalam jumlah besar. Jensen Huang menggambarkan pusat data sebagai infrastruktur penting bagi perkembangan superintelligence. Elon Musk bahkan mengusulkan konsep orbital compute, meskipun gagasan tersebut masih menghadapi berbagai tantangan teknis dan ekonomi.
Perkembangan infrastruktur tersebut juga menimbulkan persoalan baru. Pembangunan pusat data membutuhkan listrik dalam jumlah besar dan dapat berdampak pada masyarakat di sekitar lokasi pembangunan. Dalam survei yang diberitakan BBC, 65% pemilih terdaftar yang disurvei menentang pembangunan pusat data di wilayah tempat tinggal mereka.
Artinya, tata kelola AI pada akhirnya tidak hanya membahas bagaimana sebuah model berperilaku. Ia juga menyentuh persoalan energi, infrastruktur, ekonomi, dan kepentingan masyarakat.
Self-Regulation Baru Awal
Pakta self-regulation menunjukkan adanya upaya untuk membuat perusahaan lebih bertanggung jawab terhadap keselamatan AI yang mereka kembangkan. Pengamanan internal, deteksi masalah, dan audit independen dapat menjadi bagian penting dari sistem tersebut.
Tetapi pakta itu sendiri belum membuktikan bahwa persoalan keselamatan AI telah terselesaikan.
Sebelum kesepakatan, perusahaan sudah memiliki pengamanan, tetapi masih terdapat pertanyaan mengenai efektivitas dan akuntabilitasnya. Setelah kesepakatan, komitmen tersebut menjadi lebih terbuka, tetapi hasilnya tetap bergantung pada bagaimana komitmen itu diterapkan dan diawasi.
Pada akhirnya, persoalan utamanya bukan hanya apakah perusahaan mampu membuat AI yang lebih aman. Yang tidak kalah penting adalah apakah keamanan tersebut dapat diuji secara independen, kelemahannya dapat diperbaiki, dan pihak yang bertanggung jawab dapat dimintai pertanggungjawaban ketika terjadi kegagalan.
Self-regulation dapat menjadi salah satu bagian dari sistem tersebut. Namun, apakah pendekatan ini cukup atau tidak, baru dapat dinilai dari apa yang benar-benar terjadi setelah kesepakatan dibuat.
Referensi:
-
https://www.bbc.com/news/articles/cme30dz5vkzko
