AI in the Loop: cara aman menambahkan AI ke sistem bisnis yang sudah berjalan

Sebagian besar organisasi tidak membutuhkan platform AI baru. Yang mereka butuhkan adalah sistem yang sudah ada, seperti ERP, HRIS, point of sale, atau sistem manajemen pelabuhan, dapat menjawab pertanyaan lebih cepat dan menunjukkan apa yang perlu diperhatikan. Datanya sudah ada. Keputusannya sudah diambil setiap hari. AI dapat membuat keduanya lebih baik, asalkan ditambahkan dengan hati-hati.

Artikel ini menjelaskan cara praktis menambahkan AI ke sistem bisnis yang sudah berjalan tanpa melepaskan kendali atas keputusan maupun data. Di Kiwi Solutions, kami menyebutnya AI in the Loop.

Prinsipnya: AI di dalam proses, manusia yang memegang kendali

AI in the Loop punya satu aturan: AI mengamati, menyusun draf, dan memberi rekomendasi; manusia yang menyetujui. AI bekerja di dalam proses, tetapi tidak menggantikan penilaian manusia. Setiap tindakan yang mengubah sesuatu dalam bisnis, seperti menyetujui pembayaran, menjadwalkan ulang pengiriman, atau mempromosikan karyawan, harus melalui seseorang.

Hal ini penting karena tiga alasan:

• Akuntabilitas. Ketika terjadi kesalahan, harus ada yang bertanggung jawab atas keputusannya. Orang yang menyetujui rekomendasi dapat menjelaskan alasannya.
• Kepercayaan. Tim lebih cepat mengadopsi AI jika mereka bisa melihat dan membatalkan apa yang disarankannya.
• Penanganan kesalahan. Model AI kadang keliru. Langkah peninjauan menangkap kesalahan sebelum sampai ke pelanggan atau ke pembukuan.

Empat pola yang efektif di sistem yang sudah ada

Sebagian besar fitur AI yang berguna dalam sistem bisnis termasuk dalam empat pola. Urutannya dari risiko paling rendah hingga paling tinggi.

1. Menjelaskan (explain)

Jawaban dalam bahasa sehari-hari tentang arti angka dan alasan angka itu berubah. Seorang manajer bertanya mengapa penjualan turun minggu lalu, dan sistem menjawab dari data yang dimilikinya, lengkap dengan rujukan ke catatan di balik jawaban tersebut. Menjelaskan tidak mengubah apa pun, sehingga inilah titik awal yang paling aman.

2. Mendeteksi (detect)

Anomali yang ditandai beserta kemungkinan penyebabnya: stok habis, dwell time yang tidak wajar di terminal, transaksi yang tidak biasa, tugas yang terlambat. Deteksi mengubah sistem dari sesuatu yang harus dicari menjadi sesuatu yang memberi tahu ke mana harus melihat. Keputusan atas setiap tanda tetap diambil manusia.

3. Memprakirakan (forecast)

Prediksi jangka pendek untuk permintaan, beban kerja, atau pendapatan. Prakiraan membantu perencanaan, tetapi tetap berupa perkiraan. Tampilkan bersama data yang menjadi dasarnya, dan permudah perbandingan antara prakiraan dan realisasi dari waktu ke waktu, agar tim belajar kapan prakiraan itu bisa dipercaya.

4. Merekomendasikan (recommend)

Usulan tindakan yang disiapkan untuk disetujui seseorang: pesan ulang barang ini, alihkan tugas ini, tindak lanjuti pelanggan ini. Inilah pola yang paling bernilai sekaligus paling membutuhkan langkah persetujuan yang jelas, karena rekomendasi sudah sangat dekat dengan tindakan.

Data tetap di tempatnya

Menambahkan AI memunculkan pertanyaan yang wajar: ke mana data kami pergi? Bagi banyak organisasi, terutama di sektor keuangan, energi, kesehatan, dan pemerintahan, mengirim data operasional atau data pribadi ke layanan luar tidak dapat diterima. Undang-Undang Pelindungan Data Pribadi (UU PDP) juga menetapkan kewajiban tentang cara data pribadi diproses.

Dalam pendekatan Kiwi, data tetap berada di dalam batas infrastruktur Anda, on-premise atau cloud, sesuai kesepakatan pada fase arsitektur. Sepakati tiga hal sebelum fitur AI apa pun dibangun:

• Di mana data diproses, dan apakah ada data yang keluar dari lingkungan Anda.
• Siapa yang boleh melihat apa, dengan aturan akses yang sama seperti yang sudah diterapkan sistem saat ini.
• Apa yang dicatat, agar setiap saran AI dan setiap persetujuan manusia dapat ditelusuri di kemudian hari.

Langkah demi langkah

1. Pilih satu keputusan. Pilih keputusan yang sering diambil tim dan bergantung pada data yang sudah ada di sistem. Jangan memulai dari masalah yang paling sulit.
2. Periksa datanya. AI tidak dapat memperbaiki data yang hilang atau tidak konsisten. Jika datanya belum andal, perbaiki dulu proses pencatatannya.
3. Mulai dari menjelaskan atau mendeteksi. Hadirkan sesuatu yang berisiko rendah dan dipakai setiap hari, lalu kumpulkan umpan balik.
4. Rancang langkah persetujuan. Untuk prakiraan dan rekomendasi, tentukan siapa yang menyetujui, bagaimana mereka melihat alasannya, dan bagaimana mereka membatalkannya.
5. Ukur dan perbaiki. Sepakati KPI sebelum peluncuran dan tinjau di setiap fase. Perluas ke keputusan berikutnya hanya jika yang pertama sudah berjalan baik.

Kesalahan umum yang perlu dihindari

• Memulai dengan chatbot untuk segala hal. Asisten umum tanpa keputusan yang jelas di baliknya sulit diukur. Kaitkan setiap fitur AI dengan keputusan atau tugas yang spesifik.
• Melewatkan pemeriksaan data. Jika data dicatat terlambat atau ganda, AI akan menjelaskan dan memprakirakan angka yang salah dengan penuh keyakinan.
• Menyembunyikan alasan. Rekomendasi tanpa data pendukung sulit disetujui secara bertanggung jawab. Tunjukkan mengapa AI menyarankan sesuatu.
• Menghapus langkah persetujuan demi menghemat waktu. Waktu yang dihemat kecil, sedangkan risiko tindakan yang tidak ditinjau sampai ke pelanggan, karyawan, atau pembukuan tidak kecil.
• Menganggap AI sebagai proyek sekali jalan. Model dan data terus berubah. Rencanakan pemantauan dan peninjauan setelah peluncuran, bukan hanya rilis pertama.

AI juga mempercepat proses pembangunan

AI in the Loop berjalan dalam dua putaran. Putaran kedua adalah yang dijelaskan di atas: fitur AI di dalam sistem setelah sistem diluncurkan. Putaran pertama adalah cara sistem itu dibangun. Kiwi memakai AI di sepanjang proses pengerjaan: kebutuhan digali dari wawancara dan dokumen, alur disusun lalu disempurnakan oleh desainer, engineer bekerja berpasangan dengan AI untuk kode dan migrasi, test case dibuat dari kebutuhan, dan dokumentasi ditulis seiring sistem berkembang. Arsitektur dan review tetap dipegang manusia. Hasilnya, proyek selesai lebih cepat tanpa menghilangkan akuntabilitas.

Kedua putaran ini dijelaskan lebih rinci, lengkap dengan contoh langsung yang bisa dicoba, di halaman AI in the Loop.

Yang dibangun Kiwi Solutions

Layanan pengembangan AI dari Kiwi mencakup desain use case, sistem AI agent, predictive modeling dan machine learning, pendukung keputusan, NLP, visualisasi data, serta integrasi AI ke sistem yang sudah Anda jalankan. Jika sistem yang ada juga perlu dibenahi, tim pengembangan software kami menangani integrasi dan migrasi, sementara layanan konsultasi kami membantu memilih use case yang tepat sebelum apa pun dibangun.

Setiap kerja sama dimulai dengan discovery call singkat dan scoping selama satu sampai dua minggu yang menghasilkan pernyataan masalah, usulan arsitektur, serta rencana bertahap lengkap dengan harga. Jadwalkan discovery call untuk membahas di mana AI cocok dalam sistem Anda.