Menakar Nilai Ekonomi AI Agent di Finansial dan Ritel Indonesia, Menelusuri Biaya serta Kepatuhannya

Adopsi AI Agent dan Pembuktian Produktivitas Bisnis

Keberhasilan AI agent tidak cukup dibuktikan melalui kecepatan menjawab pelanggan. Di sektor finansial dan ritel, ukuran yang menentukan adalah ketepatan menyelesaikan transaksi. Banyaknya pengguna aplikasi belum membuktikan peningkatan produktivitas. Nilai bisnis harus ditelusuri melalui kecepatan layanan, ketepatan transaksi, dan biaya penyelesaian pekerjaan—ukuran yang menentukan daya saing perusahaan di Indonesia.

AI agent otonom menawarkan kemampuan yang berbeda dari chatbot penjawab percakapan. Sistem ini dapat menyusun rencana, menggunakan perangkat lunak, lalu bertindak sesuai kewenangannya. Jika otomatisasi berbasis aturan mengikuti alur yang telah ditentukan, agen dapat memilih langkah berdasarkan konteks.

Kemampuan menyusun rencana tidak otomatis membenarkan pemberian izin untuk mengubah saldo atau pesanan. Batas antara menjawab dan bertindak adalah batas kewenangan yang harus diperiksa.

Pandangan tentang Produktivitas dan Keamanan Implementasi

Ekspektasi terhadap AI generatif telah melampaui kemampuan yang terbukti. Itulah penilaian Daron Acemoglu dalam opini Get Ready for the Great AI Disappointment di WIRED pada 10 Januari 2024. Ia menyoroti keluaran keliru dan halusinasi tanpa menutup peluang peningkatan produktivitas pada sejumlah tugas.

Pandangan ekonom tersebut bukan hasil pengujian terhadap bank atau peritel Indonesia. Relevansinya terletak pada pemilihan pekerjaan untuk AI agent. Jawaban keliru dalam pencarian produk membawa konsekuensi berbeda dari instruksi salah yang langsung masuk ke sistem pembayaran.

Statistik penggunaan AI harus dipisahkan dari penerapan agen otonom. Pegawai yang memakai alat bantu menulis belum menyerahkan kewenangan operasional kepada perangkat lunak. Kebijakan ekonomi digital membutuhkan ukuran hasil kerja, bukan sekadar jumlah akun atau frekuensi percakapan.

Akses ke sistem merupakan pemberian kewenangan perusahaan. Batas tindakan AI agent harus tegas dan penanggung jawabnya harus jelas.

Menelusuri Penggunaan AI Agent di Finansial dan Ritel

Label AI agent otonom harus diuji melalui fungsi dan kewenangan, bukan kelancaran percakapan. Layanan digital BRI dan ekosistem Alfagift dapat menjadi pintu masuk pemeriksaan proses bisnis, tetapi keduanya tidak serta-merta dapat diberi label tersebut. Pemeriksaan dimulai dari fungsi konkret: menjelaskan layanan, mencari produk, atau mengubah sistem operasional.

Percakapan yang lancar belum membuktikan adanya tindakan mandiri. Pertanyaan penentunya adalah apa yang benar-benar dapat dilakukan sistem setelah percakapan berakhir.

Pemeriksaan pada layanan finansial menyasar akses data nasabah dan kewenangan bertransaksi. Di ritel, pemeriksaan mencakup kemampuan mengubah pesanan, mengembalikan dana, serta memperbarui persediaan. Bukti tindakan AI agent terletak pada integrasi perangkat lunak, izin akses, dan catatan eksekusi—bukan keluwesan antarmuka percakapannya.

Menguji Bukti Kinerja dan Batas Kewenangan Agent

Klaim peningkatan kinerja harus bertahan dalam perbandingan sebelum dan sesudah penerapan. Volume dan jenis pekerjaan harus sebanding. Waktu penyelesaian perlu dibaca bersama tingkat keberhasilan tugas, eskalasi kepada petugas, dan jumlah kesalahan. Respons yang lebih cepat kehilangan nilainya jika keluhan berulang meningkat.

Kesenjangan antara demonstrasi dan pekerjaan nyata perlu diperiksa. Keberhasilan mencari informasi dalam simulasi belum membuktikan bahwa AI agent mampu membatalkan pesanan ketika stok berubah. Hal serupa berlaku saat menangani permintaan nasabah dengan beberapa pengecualian. Lingkungan percobaan harus dibedakan dari lingkungan operasional produksi.

Persetujuan manusia sebelum tindakan penting merupakan bagian dari rancangan kewenangan, bukan sekadar hambatan teknis. Konfirmasi dari model pun bukan bukti bahwa pekerjaan selesai. Pengelola harus mencocokkan catatan sistem dengan hasil yang diterima pelanggan.

Perbandingan kinerja tetap harus memperhitungkan perubahan jumlah pegawai, promosi, dan lonjakan permintaan. Materi pemasaran hanya merupakan titik awal pemeriksaan klaim pemasok. Tanpa pemisahan faktor-faktor tersebut, seluruh manfaat berisiko keliru diatribusikan kepada AI agent.

Menghitung ROI AI Agent dan Dampak Negatif bagi Pelaku Usaha

Pekerjaan yang selesai lebih cepat tidak otomatis membuat perusahaan lebih untung. Pertanyaan ekonominya adalah berapa manfaat yang tersisa setelah seluruh biaya dan kerugian diperhitungkan.

Pengembalian investasi atau ROI AI agent harus dinilai dari manfaat bersih selama periode yang ditetapkan. Perhitungannya mencakup lisensi, komputasi, integrasi, pelatihan, pengawasan, keamanan, hingga pemulihan kesalahan. Waktu yang dihemat baru bernilai finansial jika mengurangi pengeluaran atau menambah kapasitas produktif yang benar-benar digunakan.

Tambahan penjualan dihitung sebagai tambahan margin, bukan seluruh pendapatan. Manfaat waktu pegawai juga tidak boleh dihitung ganda. Jika pegawai masih harus memeriksa ulang pekerjaan, waktu yang disebut dihemat tidak boleh kembali dicatat sebagai pengurangan biaya.

Transaksi keliru dan layanan yang tidak sesuai dapat menggerus manfaat AI agent. Ketergantungan pada pemasok dan perubahan kebutuhan keterampilan juga harus diperhitungkan. ROI yang mengabaikan beban tersebut tidak memberikan gambaran manfaat bersih.

Sensitivitas Biaya dan Distribusi Manfaat

Penghematan perlu diuji terhadap perubahan biaya, bukan hanya ditampilkan dalam satu skenario. Volume tugas bulanan, biaya per tugas, proporsi intervensi manusia, dan kerugian akibat kesalahan menjadi dasar perhitungan. Seluruh angka simulasi harus ditandai sebagai asumsi. Uji sensitivitas menunjukkan batas ketika kenaikan penggunaan komputasi atau kebutuhan pemeriksaan menghapus penghematan.

Hambatan infrastruktur turut memengaruhi biaya operasional. Laporan TechCrunch Data centers are turning to old jet engines as the wait for power grows menyebut sejumlah pengelola pusat data menggunakan mesin pesawat yang dikonversi untuk pembangkitan listrik. Contoh ini menggambarkan tekanan pasokan energi global, bukan bukti kondisi serupa di Indonesia.

Skala usaha menentukan ruang penghematan AI agent. Bank dan peritel besar berpotensi membagi biaya integrasi ke volume transaksi yang lebih tinggi. Sebaliknya, biaya tetap dan sistem lama dapat mempersempit kelayakan bagi UMKM.

Pemetaan tugas membantu menilai distribusi manfaat otomatisasi. Dalam opini The AI-Fueled Future of Work Needs Humans More Than Ever, Ryan Roslansky menekankan pembagian pekerjaan menjadi tugas yang dapat diotomatisasi, dibantu AI, atau tetap membutuhkan keterampilan manusia. Pertanyaannya: apakah beban kerja berkurang atau berpindah ke tim pengawasan dan penanganan keluhan?

Kepatuhan UU PDP dan Peluang Implementasi yang Terukur

Akses AI agent terhadap data merupakan persoalan kepatuhan hukum, bukan sekadar keputusan teknis. Perusahaan harus memeriksa kesesuaian penerapannya dengan UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. Dasar pemrosesan yang sah harus ditetapkan bersama tujuan penggunaan, pembatasan data, dan masa penyimpanan. Tanggung jawab pengendali dan prosesor juga harus jelas.

Persetujuan bukan satu-satunya dasar pemrosesan data pribadi. Namun, dasar yang dipilih harus sesuai dengan konteks penggunaannya. Pemrosesan yang berpotensi berisiko tinggi memerlukan penilaian dampak.

Keputusan berbasis pemrosesan otomatis memerlukan perhatian terhadap hak pelanggan. Ketika keputusan hanya didasarkan pada pemrosesan otomatis dan menimbulkan akibat hukum atau dampak penting bagi seseorang, hak untuk mengajukan keberatan perlu diperhatikan.

Bank dan penyedia pembayaran harus memeriksa ketentuan OJK atau Bank Indonesia sesuai dengan kegiatannya. Pemeriksaan mencakup aturan penggunaan pihak ketiga dan penanganan insiden. Pemberian akses kepada AI agent tidak menghapus tanggung jawab perusahaan atas pemrosesan data.

Peluang Positif melalui Pengawasan dan Evaluasi Bertahap

Kewenangan AI agent harus diikuti pengawasan yang dapat diperiksa. Perusahaan perlu menetapkan siapa yang memantau, menyetujui, dan menghentikan tindakan ketika terjadi kesalahan.

Investasi industri keamanan memperlihatkan besarnya kebutuhan pengawasan. Berdasarkan laporan The Wall Street Journal yang dikutip TechCrunch dalam CrowdStrike to shell out nearly $500M for 2 AI security startups as the market for securing agents takes off, nilai pembelian Fiddler AI sekitar 400 juta dolar AS, sementara nilai pembelian Dreadnode sekitar 95 juta dolar AS. Angka tersebut merupakan nilai transaksi perusahaan, bukan statistik adopsi agen.

Fungsi keamanan yang dituju mencakup pemantauan tindakan agen dan pengujian sebelum penerapan. Perusahaan Indonesia dapat menerapkan kebutuhan serupa melalui akses minimum dan pencatatan tindakan. Pengujian instruksi berbahaya, persetujuan manusia, serta mekanisme penghentian dan pemulihan juga menjadi bagian dari pengawasan.

Peluang AI agent untuk mempercepat layanan dan mengefisienkan persediaan paling masuk akal diuji pada tugas berisiko rendah. Evaluasi biaya harus berjalan bersama pemeriksaan transfer data lintas negara, pemenuhan hak pelanggan, dan prosedur insiden. Penerapan layak diperluas ketika manfaat bersih terukur, mutu layanan terjaga, dan kesalahan dapat dipulihkan.

Bantuan manusia atau otomatisasi berbasis aturan tetap rasional jika biaya pengawasan dan kerugian melampaui penghematan. Ukuran keberhasilan AI agent bukan besarnya kewenangan yang diserahkan, melainkan manfaat nyata setelah seluruh konsekuensi dihitung.

---

Referensi

1. CrowdStrike to shell out nearly $500M for 2 AI security startups as the market for securing agents takes off
2. Get Ready for the Great AI Disappointment
3. The AI-Fueled Future of Work Needs Humans More Than Ever
4. Data centers are turning to old jet engines as the wait for power grows
5. Netflix’s new AI Discover tab helps you find something to watch based on your mood
6. Reddit tests ads in search results as traffic declines and growth concerns mount
7. Google will let schools disable its AI tools, but not without sacrificing Search
8. Are Freezers Being Hacked? Europe and the U.S. Military Investigate.
9. OpenAI and Anthropic Set Up ‘War Rooms’ to Fight Disinfo About Midterm Elections
10. House Democrats Criticize Justice Dept. Support of OpenAI in Copyright Suit
11. Bodacious A.I. Bots Are Stealing Jokes From Young Female Comedians
12. Social Media Is Getting Smaller—and More Treacherous
13. A Dangerous New Home for Online Extremism
14. Voting Problems Cause a Surge in Misleading Fraud Claims Online
15. A Key to Detecting Brain Disease Earlier Than Ever