Dunia kecerdasan buatan (AI) saat ini bak arena pacuan kuda, dengan inovasi melesat dan persaingan yang tak kalah sengit. Jika Anda berencana menjual aplikasi AI sebagai produk mandiri, satu pertanyaan krusial wajib Anda renungkan: seberapa tangguh produk AI Anda?
Kenyataannya, mudahnya membangun produk AI adalah pedang bermata dua. Jika mudah bagi Anda, maka mudah juga bagi kompetitor. Lalu, benteng apa yang bisa Anda bangun untuk melindungi produk Anda dari gempuran persaingan?
Menyediakan Lapisan di Atas Model Dasar: Sebuah Anugerah atau Bencana?
Banyak aplikasi AI dibangun di atas apa yang kita sebut model dasar (foundation models). Bayangkan ini seperti Anda membangun sebuah rumah di atas pondasi yang sudah ada. Keuntungannya, Anda tidak perlu memulai dari nol. Namun, ada risiko besar: jika pondasi (model dasar) itu sendiri terus berkembang dan mampu melakukan lebih banyak hal, “rumah” yang Anda bangun mungkin akan tergerus dan akhirnya tidak relevan lagi.
Ambil contoh aplikasi pengurai PDF yang dibangun di atas ChatGPT. Awalnya, Anda mungkin berasumsi ChatGPT tidak bisa mengurai PDF dengan baik. Tapi bagaimana jika suatu hari kemampuan ChatGPT meluas dan bisa melakukannya dengan sempurna dalam skala besar? Tentu saja, daya saing aplikasi Anda akan langsung melemah. Namun, ada celah lain: aplikasi pengurai PDF mungkin tetap relevan jika Anda membangunnya menggunakan model open source yang bisa di-host sendiri oleh pengguna, menargetkan pasar yang berbeda.
Pimpinan sebuah firma modal ventura bahkan pernah berbagi pengalamannya: ia melihat banyak startup yang seluruh produknya sebenarnya bisa jadi cuma fitur kecil di Google Docs atau Microsoft Office. Jika produk mereka meledak, apa yang bisa menghentikan raksasa seperti Google atau Microsoft untuk mengerahkan beberapa insinyur mereka dan mereplikasi produk Anda hanya dalam hitungan minggu?
Menciptakan Keunggulan Kompetitif di Ranah AI
Dalam dunia AI, ada tiga pilar utama yang bisa jadi penentu keunggulan kompetitif: teknologi, data, dan distribusi.
- Teknologi: Dengan semakin dominannya model dasar, teknologi inti sebagian besar perusahaan AI akan cenderung serupa. Ini membuat diferensiasi dari sisi teknologi menjadi lebih sulit.
- Distribusi: Keunggulan distribusi, atau kemampuan untuk menghadirkan produk ke hadapan pengguna secara luas, jelas ada di tangan perusahaan-perusahaan besar yang sudah memiliki ekosistem dan basis pengguna raksasa.
- Data: Inilah area yang lebih menarik dan bernuansa. Perusahaan besar memang punya data melimpah. Namun, jika startup Anda bisa bergerak cepat, masuk pasar lebih dulu, dan mengumpulkan data penggunaan yang cukup, data inilah yang akan menjadi benteng pertahanan Anda. Data ini tak hanya bisa digunakan untuk melatih model, tetapi juga memberikan wawasan berharga tentang perilaku pengguna dan kekurangan produk, yang bisa memandu perbaikan berkelanjutan. Inilah yang sering disebut sebagai “data flywheel” — semakin banyak data, semakin baik produk Anda, yang menarik lebih banyak pengguna, dan menghasilkan lebih banyak data lagi.
Kita punya banyak contoh perusahaan sukses yang awalnya hanya “fitur” dari produk yang lebih besar. Calendly bisa saja menjadi fitur Google Calendar. Mailchimp bisa jadi bagian dari Gmail. Photoroom mungkin hanya akan menjadi fitur di Google Photos. Namun, dengan fokus dan inovasi, banyak dari startup ini berhasil menyalip kompetitor besar. Siapa tahu, produk Anda adalah yang berikutnya.
Menetapkan Ekspektasi: Apa Indikator Kesuksesan Produk AI Anda?
Setelah Anda memutuskan untuk terjun membangun aplikasi AI, langkah berikutnya adalah mendefinisikan apa arti kesuksesan. Metrik terpenting tentu saja adalah dampak terhadap bisnis Anda.
Misalnya, jika Anda membuat chatbot dukungan pelanggan, metrik kesuksesan bisa meliputi:
- Berapa persentase pesan pelanggan yang bisa diotomatisasi oleh chatbot?
- Berapa banyak pesan tambahan yang bisa diproses berkat chatbot?
- Seberapa cepat waktu respons Anda berkat chatbot?
- Berapa banyak biaya tenaga kerja manusia yang bisa dihemat?
Penting juga untuk melacak kepuasan pelanggan dan umpan balik secara umum. Chatbot yang bisa menjawab banyak pesan tidak serta merta membuat pelanggan senang jika jawabannya kurang akurat atau tidak membantu.
Sebelum produk diluncurkan, tentukan dengan jelas ambang batas kegunaannya. Seberapa bagus produk itu harus agar benar-benar bermanfaat? Pertimbangkan kelompok metrik berikut:
- Metrik Kualitas: Untuk mengukur kualitas respons AI.
- Metrik Latensi: Seperti waktu respons awal (TTFT) atau waktu per token keluaran (TPOT). Latensi yang dapat diterima sangat bergantung pada kasus penggunaan. Jika respons manual memakan waktu satu jam, chatbot yang lebih cepat tentu sudah sangat membantu.
- Metrik Biaya: Berapa biaya yang diperlukan untuk setiap permintaan inferensi AI.
- Metrik Lainnya: Seperti interpretasi (seberapa mudah memahami alasan di balik keputusan AI) dan keadilan (apakah AI bias atau tidak).
Perencanaan Tonggak Sejarah: Dari Demo Menarik ke Produk Hebat
Setelah tujuan terukur ditetapkan, buatlah rencana untuk mencapainya. Mulailah dengan mengevaluasi model yang ada di pasaran. Semakin kuat model off-the-shelf, semakin ringan pekerjaan Anda. Jika target Anda adalah mengotomatisasi 60% tiket dukungan pelanggan dan model siap pakai sudah bisa mengotomatisasi 30%, upaya Anda tentu lebih sedikit dibandingkan jika Anda harus memulai dari nol.
Sangat mungkin tujuan Anda akan berubah setelah evaluasi. Mungkin Anda menyadari sumber daya yang dibutuhkan untuk mencapai ambang batas kegunaan akan melebihi potensi keuntungan, sehingga Anda memutuskan untuk tidak melanjutkannya.
Tantangan last mile adalah bagian penting dalam perencanaan produk AI. Demo awal yang menyenangkan dengan model dasar bisa menyesatkan. Mungkin hanya butuh akhir pekan untuk membuat demo yang mengesankan, tetapi butuh berbulan-bulan, bahkan bertahun-tahun, untuk membangun produk yang solid. “Perjalanan dari 0 ke 60 itu mudah, sedangkan kemajuan dari 60 ke 100 menjadi sangat menantang,” kata Ding dkk. (2023) dalam makalah UltraChat. LinkedIn (2024) juga merasakan hal serupa; mereka butuh satu bulan untuk mencapai 80% dari pengalaman yang diinginkan, tetapi butuh empat bulan lagi untuk melampaui 95%, banyak waktu dihabiskan untuk mengatasi detail kecil dan masalah halusinasi.
Pemeliharaan: Berpacu dengan Perubahan AI yang Kilat
Perencanaan produk tidak berhenti setelah tujuan tercapai. Anda perlu memikirkan bagaimana produk ini akan berubah seiring waktu dan bagaimana cara memeliharanya. Pemeliharaan produk AI memiliki tantangan unik: laju perubahan AI yang sangat cepat. Dunia AI telah melesat luar biasa dalam dekade terakhir dan kemungkinan akan terus begitu. Membangun di atas model dasar saat ini berarti berkomitmen untuk menaiki kereta peluru ini.
Banyak perubahan yang sebenarnya baik. Misalnya, keterbatasan banyak model terus diatasi, panjang konteks semakin panjang, dan keluaran model semakin baik. Proses inferensi (komputasi keluaran dari masukan) juga semakin cepat dan murah.
Namun, bahkan perubahan yang baik ini bisa menimbulkan gesekan dalam alur kerja Anda. Anda harus terus waspada dan melakukan analisis biaya-manfaat dari setiap investasi teknologi. Pilihan terbaik hari ini bisa jadi pilihan terburuk besok. Anda mungkin memutuskan untuk membangun model in-house karena tampak lebih murah, hanya untuk mengetahui tiga bulan kemudian bahwa penyedia model telah memangkas harga mereka menjadi separuh, membuat opsi in-house justru jadi mahal.
Beberapa perubahan lebih mudah diadaptasi, misalnya, konvergensi API model yang memudahkan pertukaran satu model dengan model lain. Namun, setiap model punya keunikan, kekuatan, dan kelemahan, sehingga pengembang perlu menyesuaikan alur kerja, prompt, dan data mereka. Tanpa infrastruktur versioning dan evaluasi yang memadai, proses ini bisa sangat merepotkan.
Beberapa perubahan bahkan lebih sulit diadaptasi, terutama yang berkaitan dengan regulasi. Teknologi AI dianggap sebagai masalah keamanan nasional bagi banyak negara, artinya sumber daya AI (komputasi, talenta, dan data) diatur dengan ketat. Jika vendor GPU Anda tiba-tiba dilarang menjual GPU ke negara Anda, Anda dalam masalah besar.
Beberapa perubahan bahkan bisa fatal. Misalnya, regulasi seputar kekayaan intelektual (IP) dan penggunaan AI masih terus berkembang. Jika Anda membangun produk di atas model yang dilatih menggunakan data orang lain, apakah Anda yakin IP produk Anda akan selalu menjadi milik Anda? Banyak perusahaan yang bergerak di bidang IP sangat ragu menggunakan AI karena takut kehilangan kekayaan intelektual mereka di kemudian hari.
Membangun produk AI adalah sebuah komitmen. Dengan pemahaman yang mendalam tentang tantangan dan peluang ini, Anda bisa merencanakan langkah-langkah selanjutnya dengan lebih matang.
Baca Juga :
