Banyak perusahaan kini menjalankan pekerjaan harian dengan bantuan AI. Namun standar penggunaan AI di perusahaan sering tertinggal dari kecepatan adopsinya. Tiga kasus berikut menunjukkan akibatnya, mulai dari data internal yang keluar hingga permintaan maaf di hadapan hakim.
Adopsi AI Lebih Cepat dari Aturannya
AI membantu menulis kode, merangkum rapat, hingga melayani pelanggan. Pekerjaan menjadi lebih cepat dan efisien. Namun kecepatan itu membawa risiko baru.
Tanpa aturan yang jelas, setiap karyawan menentukan sendiri data apa yang boleh dimasukkan ke AI. Mereka juga menentukan sendiri seberapa jauh hasilnya dipercaya. Akibatnya, kesalahan kecil bisa berubah menjadi masalah hukum dan reputasi.
Erika Richter dari American Society of Travel Advisors menggambarkan situasinya dengan tepat. Menurutnya, kerangka regulasi AI belum mengejar teknologinya. Industri perjalanan seperti membangun pesawat sambil terbang.
Samsung dan Data yang Masuk ke ChatGPT
Pada 2023, laporan The Economist Korea mengungkap tiga kejadian di Samsung Electronics. Karyawan divisi semikonduktor memasukkan data sensitif perusahaan ke ChatGPT.
Seorang karyawan memasukkan kode program yang bermasalah untuk mencari solusi. Karyawan lain memasukkan kode pendeteksi peralatan rusak untuk dioptimalkan. Yang ketiga mengubah rekaman rapat internal menjadi dokumen, lalu memasukkannya untuk dibuatkan notulen.
Niat mereka sederhana, yaitu bekerja lebih cepat. Masalahnya, antarmuka web ChatGPT memakai data masukan untuk melatih dan menyempurnakan alatnya. Muncul kekhawatiran bahwa informasi rahasia bisa menjadi bagian dari basis pengetahuan AI. Perlu dicatat, CIO Dive menyebutnya sebagai kekhawatiran, bukan kebocoran yang terbukti.
Setelah kejadian itu, Samsung membatasi unggahan menjadi 1024 byte per prompt. Artinya, batas baru dibuat setelah data terlanjur keluar.
Air Canada dan Chatbot yang Salah Menjanjikan Diskon
Pada 2022, Jake Moffatt hendak terbang untuk menghadiri pemakaman neneknya. Chatbot Air Canada memberi tahu bahwa ia bisa membeli tiket penuh terlebih dahulu. Diskon duka cita, kata chatbot, bisa diajukan setelahnya.
Informasi itu keliru. Aturan sebenarnya mewajibkan pengajuan sebelum penerbangan. Ketika Moffatt mengajukan klaim, Air Canada menolaknya.
Dalam sengketa, maskapai berdalih bahwa chatbot adalah entitas hukum terpisah yang bertanggung jawab atas tindakannya sendiri. Air Canada juga berargumen bahwa Moffatt seharusnya membuka tautan yang diberikan chatbot.
British Columbia Civil Resolution Tribunal menolak kedua dalih itu. Perusahaan diwajibkan membayar 812,02 dolar untuk ganti rugi dan biaya tribunal. Tribunal menegaskan bahwa perusahaan bertanggung jawab atas semua informasi di situsnya, baik dari halaman statis maupun chatbot.
Gabor Lukacs dari Air Passenger Rights menyebut putusan ini sebagai prinsip yang masuk akal. Perusahaan yang menyerahkan sebagian bisnisnya ke AI tetap bertanggung jawab atas hasilnya.
Firma Hukum Elite dan Halusinasi AI
Kasus ketiga terjadi pada April 2026 di salah satu firma hukum paling bergengsi di Wall Street. Sullivan & Cromwell, yang memiliki lebih dari 900 pengacara, mengakui dokumennya memuat kesalahan akibat halusinasi AI.
Dokumen itu diajukan pada 9 April dalam kasus Prince Group. Firma tersebut mewakili likuidator yang ditunjuk otoritas Kepulauan Virgin Britania. Kesalahan ditemukan oleh firma lain di kasus yang sama, Boies Schiller Flexner.
Kesalahannya cukup serius. AI salah mengutip undang-undang kepailitan Amerika Serikat. AI juga salah menyebut kasus dan merangkum kesimpulan putusan lain secara tidak akurat.
Andrew Dietderich, kepala bersama grup restrukturisasi global firma itu, meminta maaf kepada Hakim Martin Glenn. Ia juga menelepon firma yang menemukan kesalahan untuk berterima kasih. Firma kemudian mengajukan versi dokumen yang telah dikoreksi.
Yang menarik, firma ini sebenarnya memiliki kebijakan dan pelatihan penggunaan AI. Dalam suratnya, Dietderich mengakui kebijakan itu tidak diikuti. Pemeriksaan tahap kedua juga gagal mengenali kutipan yang tidak akurat.
Surat itu tidak menyebut alat AI yang dipakai. Surat itu juga tidak menjelaskan siapa penyusun dokumen atau tindakan yang diambil terhadap mereka. Pengacara memang boleh memakai AI, tetapi tetap wajib memastikan akurasi dokumen pengadilan.
Pola yang Sama dari Tiga Kasus
Ketiga kasus ini tampak berbeda, tetapi akar masalahnya serupa:
-
Samsung: batas penggunaan baru dibuat setelah data keluar.
-
Air Canada: tanggung jawab atas jawaban chatbot tidak jelas sejak awal.
-
Sullivan & Cromwell: standar ada, tetapi tidak ditegakkan.
Dengan kata lain, standar penggunaan AI di perusahaan bisa gagal dalam tiga cara. Standarnya belum ada, tidak jelas pemiliknya, atau tidak dijalankan.
Solusi: Standar yang Benar-Benar Dijalankan
Ethan Mollick, profesor di Wharton School yang meneliti AI di dunia kerja, menyatakan bahwa AI memang bisa mengerjakan banyak pekerjaan di balik layar dan membuat perusahaan lebih efisien. Tapi hasil itu tidak datang otomatis. Pimpinan harus turun tangan membuat standar yang jelas dan membenahi strukturnya. Masalahnya bukan soal AI mampu atau tidak, tapi soal siap atau tidaknya perusahaan mengaturnya.
Dari pola kasus, ada beberapa langkah yang bisa dipertimbangkan perusahaan:
-
Tetapkan data yang boleh dan tidak boleh dimasukkan ke AI. Tuliskan secara spesifik, jangan hanya imbauan umum.
-
Tunjuk penanggung jawab. Setiap keluaran AI yang menghadap pelanggan atau pengadilan harus punya pemilik yang jelas.
-
Wajibkan verifikasi manusia. Kutipan, angka, dan rujukan hukum harus dicek ke sumber aslinya.
-
Pastikan pemeriksaan berlapis benar-benar bekerja. Review kedua harus memeriksa isi, bukan sekadar menyetujui.
-
Latih dan audit secara berkala. Standar yang tidak diuji mudah berhenti di atas kertas.
Kesimpulan
Kasus Samsung, Air Canada, dan Sullivan & Cromwell menunjukkan bahwa risiko AI tidak hanya datang dari teknologinya. Risiko juga datang dari cara perusahaan mengaturnya. Standar yang belum ada, tidak jelas pemiliknya, atau tidak ditegakkan sama-sama membuka celah.
Firma hukum dengan kebijakan tertulis pun masih kebobolan. Jadi memiliki aturan belum cukup. Aturan harus dijalankan, diperiksa, dan dipimpin dari atas.
Bagaimana Standar Penggunaan AI di Perusahaan Anda?
Jika hari ini karyawan Anda memakai AI untuk pekerjaan penting, apakah aturannya sudah tertulis? Lebih penting lagi, apakah aturan itu benar-benar dijalankan?
Referensi:
