Agen AI Bisa Bertindak Sendiri, Komdigi Minta Perusahaan Pakai Pendekatan 'Know Your Agent'

Sun, 18 Oct 2026 20:00:00 +0700

Kecerdasan buatan (AI) yang kini dipakai perusahaan bukan lagi sekadar mesin penjawab pertanyaan. Sebagian sudah berubah menjadi agen yang bisa mengambil tindakan sendiri: mengirim surel, mengubah data pelanggan, sampai memproses transaksi. Perubahan itu membuat Kementerian Komunikasi dan Digital (Komdigi) memberi peringatan baru kepada pelaku usaha.

Wakil Menteri Komdigi Nezar Patria menilai pendekatan lama dalam mengelola risiko digital, khususnya prinsip mengenal pelanggan, tidak lagi cukup. Menurut dia, perusahaan kini perlu menerapkan pendekatan yang mengenal agen AI-nya sendiri.

“Bukan lagi KYC, Know Your Customer, tetapi harus ada KYA, Know Your Agent,” ujar Nezar dalam acara Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, Kamis (15/10), dikutip dari Katadata.co.id.

Peringatan ini muncul di tengah derasnya adopsi agen AI di sektor bisnis. Nezar menyebut perusahaan semakin banyak memakai agen AI untuk layanan pelanggan, transaksi, dan berbagai proses kerja lain. Bedanya dengan sistem AI biasa, agen AI dilengkapi algoritma plus otorisasi sehingga dapat memproses data sekaligus menjalankan tindakan tertentu tanpa harus menunggu perintah manusia di setiap langkah.

Beda Chatbot Biasa dan Agen AI

Memahami perbedaan keduanya penting, karena di situlah letak risiko yang dibicarakan Komdigi. Sistem AI yang umum, misalnya chatbot, pada dasarnya cuma menghasilkan respons berupa teks. Agen AI melangkah lebih jauh: ia diberi kewenangan untuk bertindak, seperti mengubah status pesanan, menerbitkan dokumen, atau memindahkan data dari satu sistem ke sistem lain.

Efisiensinya nyata. Pekerjaan rutin yang biasanya butuh beberapa orang bisa diselesaikan dalam hitungan menit, dan layanan ke pelanggan bisa berjalan sepanjang hari. Namun Nezar mengingatkan, kemampuan itu ikut memperbesar peluang penyimpangan.

“Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.

Risiko yang dimaksud bukan skenario fiksi ilmiah. Menurut Komdigi, agen AI berpotensi bertindak di luar batas wewenang, melewati atau mengakali kebijakan internal perusahaan, mengakses data yang seharusnya tidak boleh dibukanya, hingga melakukan transaksi yang tidak diotorisasi. Ketika hal itu terjadi, dampaknya menumpuk: gangguan operasional, insiden keamanan, dan kebocoran data pribadi.

Izin yang Diberikan Tanpa Benar-Benar Dipahami

Kekhawatiran serupa datang dari industri teknologi global. CEO TikTok Shou Chew dalam acara DBS Asia Future Forward 2026 di Singapura, Senin (12/10), menyebut masalah terbesar agen AI justru muncul dari kebiasaan pengguna dan perusahaan sendiri.

“Saya pikir risiko keamanan sibernya cukup besar. Banyak pengguna mungkin memberikan izin kepada agen untuk melakukan banyak hal bagi mereka tanpa benar-benar memahami jenis izin yang sebenarnya telah mereka berikan,” kata Shou.

Ia memperkirakan agen AI akan makin mandiri dan diberi keleluasaan lebih besar oleh manusia. Karena itu, selain membangun kemampuan teknis, perusahaan perlu menyiapkan mekanisme kepercayaan, pagar pengaman (guardrails), dan pengawasan agar agen tidak berjalan lepas dari kendali.

Pada level kebijakan, Perdana Menteri Singapura Lawrence Wong bahkan menyebut risiko AI yang lepas kendali sebagai ancaman serius. Ia menyerukan aturan dan standar internasional, termasuk pengawasan oleh lembaga independen, proses audit, dan insentif bagi pengembang agar menaati mekanisme keamanan — pendekatan yang mirip dengan tata kelola di sektor penerbangan, keuangan, dan nuklir.

Apa yang Harus Dicek Perusahaan Menjalankan KYA

Pendekatan Know Your Agent yang didorong Komdigi pada dasarnya adalah disiplin verifikasi. Sebelum sebuah agen AI dibiarkan menyentuh sistem bisnis, perusahaan diminta mengetahui siapa agen itu, siapa yang mengendalikannya, dan tindakan apa saja yang boleh ia lakukan.

Dalam praktiknya, pengelola data dan tim teknologi bisa mulai dari hal-hal berikut:

Catat identitas setiap agen. Setiap agen AI yang terhubung ke sistem sebaiknya punya identitas unik, bukan memakai akun bersama yang tidak bisa dilacak.
Batasi kewenangan. Berikan akses seminimal mungkin. Agen layanan pelanggan tidak perlu punya izin menyentuh data keuangan atau basis data karyawan.
Tetapkan siapa pemiliknya. Harus jelas siapa manusia atau unit yang bertanggung jawab ketika agen bertindak keliru.
Pasang jejak audit. Setiap tindakan agen perlu tercatat agar bisa ditelusuri saat terjadi masalah.
Siapkan tombol berhenti. Perusahaan perlu punya cara cepat menghentikan agen yang berperilaku menyimpang.

Komdigi juga menyarankan perusahaan menerapkan prinsip security by design dan privacy by design sejak tahap perancangan sistem. Artinya, keamanan siber dan perlindungan privasi ditempatkan sebagai bagian inti pengembangan agen AI, bukan tambahan yang dipasang setelah sistem berjalan. Dengan begitu, kontrol akses, enkripsi, dan mekanisme audit sudah menyatu sejak awal, bukan tambalan belakangan.

Bagi perusahaan di Indonesia, urusan ini bersinggungan langsung dengan kewajiban perlindungan data pribadi. Data pelanggan yang diproses agen AI — nomor telepon, alamat, riwayat transaksi — termasuk data yang dilindungi aturan. Ketika agen keliru membuka akses atau meneruskan data ke pihak yang tidak berhak, perusahaan penanggung jawabnya tetap manusia, bukan mesin.

Relevansinya untuk Bisnis Kecil di Tangerang Raya

Wacana agen AI mungkin terdengar seperti urusan korporasi besar. Kenyataannya, bisnis kecil di Cikasungka, Adiyasa, dan wilayah lain Tangerang Raya sudah memakainya dalam bentuk yang sederhana: chatbot balas pesan WhatsApp, asisten otomatis yang menyusun katalog, atau alat bantu yang menarik data pesanan dari toko daring.

Untuk skala seperti ini, prinsip KYA tetap bisa diterapkan tanpa biaya besar. Pisahkan akun agen dari akun utama pemilik usaha, jangan simpan kata sandi pada percakapan, dan hindari memberi agen akses penuh ke daftar nomor pelanggan kalau hanya untuk menjawab pertanyaan umum. Keputusan menyangkut uang dan data pribadi sebaiknya tetap melewati persetujuan manusia.

Yang juga penting: jangan asal menempel aplikasi pihak ketiga ke sistem internal. Agen AI yang terhubung ke percakapan pelanggan bisa menjadi pintu masuk bila izin aksesnya tidak diperiksa. Sama seperti pintu rumah, bukan seberapa canggih kuncinya, tapi seberapa jelas siapa saja yang memegang anak kuncinya.

Tahap Berikutnya

Komdigi menyatakan masih membuka ruang masukan dari pelaku usaha agar risiko operasional dan perlindungan data pribadi dapat dikelola secara efektif. Sinyalnya cukup jelas: pemerintah tidak melarang adopsi agen AI, tetapi mendorong tata kelola yang rapi sebelum masalah datang.

Sejumlah pengembangan regulasi memang masih dalam proses, termasuk pembahasan aturan yang lebih rinci untuk sistem AI. Bagi pelaku usaha, menunggu aturan lengkap turun sambil membiarkan sistemnya terbuka bukan pilihan bijak. Menyiapkan pencatatan agen, pembatasan akses, dan jalur audit sekarang jauh lebih murah daripada menangani insiden kebocoran data nanti.

Adopsi AI di Indonesia sendiri terus melaju, mulai dari layanan publik hingga sektor usaha kecil. Karena itu, pesan Komdigi soal Know Your Agent layak dibaca sebagai pengingat sederhana: makin pintar mesin yang kita pakai, makin jelas harus aturan mainnya.