Asisten AI makin sering diberi akses untuk bertindak. Lewat integrasi dan standar seperti MCP, AI bisa mengirim email, mengubah stok, membuat invoice, atau membalas pelanggan atas nama perusahaan. Kemampuan ini menghemat banyak waktu. Risikonya juga ikut naik, karena satu salah paham dari AI bisa langsung sampai ke pelanggan atau ke pembukuan.
Human-in-the-loop adalah cara menjaga keseimbangan itu. AI tetap mengerjakan sebagian besar pekerjaan, tetapi aksi tertentu menunggu persetujuan manusia sebelum dijalankan. Artikel ini membahas aksi mana yang perlu persetujuan, cara merancang langkah persetujuan yang tidak merepotkan, dan pentingnya audit trail.
Apa itu human-in-the-loop pada AI
Istilah ini berarti ada manusia di dalam alur kerja AI yang memeriksa atau menyetujui hasilnya pada titik tertentu. Bentuknya bisa sederhana. AI menyiapkan draf balasan untuk pelanggan, lalu staf customer service membaca dan menekan tombol kirim. Bisa juga lebih terstruktur, misalnya AI agent menyusun purchase order ke pemasok, lalu PO itu masuk antrean persetujuan kepala gudang.
Perbedaan utamanya ada pada jenis tugas. Membaca data, merangkum, dan menyusun draf jarang berbahaya, karena hasilnya belum ke mana-mana. Risiko muncul ketika AI melakukan aksi yang mengubah sesuatu di dunia nyata, seperti mengirim pesan, mengubah angka, atau memindahkan uang.
Aksi yang perlu persetujuan manusia
Tidak semua aksi perlu persetujuan. Jika setiap langkah harus disetujui, AI tidak lagi menghemat waktu. Gunakan beberapa pertanyaan ini untuk menilai satu aksi: apakah bisa dibatalkan, apakah keluar ke pihak luar, apakah menyangkut uang atau data pribadi, dan berapa banyak data yang terdampak.
Sebagai gambaran, berikut perbandingan yang umum dipakai:
- Biasanya aman berjalan otomatis: mencari data, merangkum dokumen, menyusun draf, mengelompokkan tiket, memberi label pada email.
- Sebaiknya menunggu persetujuan: mengirim pesan ke pelanggan, mengubah harga atau stok, membuat atau membatalkan invoice, menghapus data, mengubah banyak data sekaligus.
- Sebaiknya tidak diberikan ke AI sama sekali untuk saat ini: transfer dana, perubahan hak akses pengguna, dan keputusan yang menyangkut status karyawan atau klien.
Batasnya berbeda untuk setiap bisnis. Toko online mungkin mengizinkan AI membalas pertanyaan ongkir secara otomatis, sedangkan klinik ingin setiap pesan yang menyebut kondisi pasien dibaca petugas lebih dulu.
Merancang langkah persetujuan yang praktis
Tampilkan rencana aksi dengan jelas
Orang yang menyetujui harus paham apa yang akan terjadi tanpa membaca log teknis. Tampilkan ringkasan dalam bahasa biasa, misalnya "Kirim invoice senilai sekian ke pelanggan ini lewat email", lengkap dengan data yang akan diubah. Beri pilihan untuk menyetujui, menolak, atau mengedit sebelum menyetujui.
Tentukan siapa yang berwenang
Persetujuan sebaiknya mengikuti struktur yang sudah ada. Perubahan harga disetujui manajer penjualan, PO disetujui kepala gudang, balasan sensitif disetujui supervisor. Jangan biarkan orang yang meminta aksi sekaligus menjadi satu-satunya yang menyetujui untuk aksi berisiko tinggi.
Hindari kelelahan persetujuan
Jika setiap hari ada ratusan permintaan persetujuan, orang akan mulai menekan tombol setuju tanpa membaca. Persetujuan seperti itu hanya formalitas. Kurangi jumlahnya dengan mengelompokkan aksi serupa, mengizinkan aksi berisiko rendah berjalan otomatis, dan memberi batas waktu untuk permintaan yang tidak ditanggapi.
Audit trail untuk setiap aksi AI
Audit trail adalah catatan lengkap tentang apa yang dilakukan AI. Catatan ini perlu memuat siapa yang meminta, apa yang diusulkan AI, data apa yang dibaca, siapa yang menyetujui atau menolak, kapan, dan apa hasilnya. Ketika ada pelanggan yang komplain karena menerima invoice ganda, tim Anda bisa menelusuri dari mana kesalahan itu berasal.
Simpan catatan ini di tempat yang tidak bisa diubah oleh agent itu sendiri, dan tentukan masa simpannya sesuai kebijakan perusahaan. Sediakan juga tampilan yang mudah dibaca oleh orang non-teknis. Audit trail yang hanya bisa dibuka developer jarang dipakai ketika benar-benar dibutuhkan, misalnya saat rapat dengan pelanggan yang komplain.
Pada sistem berbasis MCP, setiap panggilan tool oleh AI bisa dicatat dan dibatasi izinnya per tool. Agent bisa diberi akses baca ke data pesanan tanpa akses untuk mengubahnya. Kombinasi izin per tool, persetujuan, dan audit trail membuat pemakaian AI bisa dipertanggungjawabkan kepada pemilik bisnis maupun auditor.
Mulai dari mode draf
Cara paling aman memperkenalkan AI agent adalah memulainya dalam mode draf. Untuk beberapa minggu pertama, AI hanya menyiapkan aksi dan semuanya disetujui manusia. Catat seberapa sering staf mengubah atau menolak usulan AI. Aksi yang hampir selalu disetujui tanpa perubahan bisa dipertimbangkan untuk berjalan otomatis. Aksi yang sering dikoreksi tetap memerlukan persetujuan sampai kualitasnya membaik.
Pendekatan bertahap ini juga membantu tim percaya pada sistem. Staf melihat sendiri bagaimana AI bekerja sebelum diberi kewenangan lebih besar. Tinjau ulang batas ini secara berkala, terutama setelah model AI diganti atau proses bisnis berubah, karena aksi yang dulu aman belum tentu tetap aman.
Agent yang bekerja dengan izin dan persetujuan
Melalui layanan MCP & AI Agent, Averoa membangun server MCP yang menghubungkan Claude atau ChatGPT ke sistem Anda dengan OAuth, izin per tool, dan audit log. Aksi berisiko seperti mengubah data atau mengirim pesan bisa diatur untuk menunggu persetujuan sebelum dijalankan.
