Kapan Percaya, Kapan Verifikasi Output AI

Setiap hari saya pakai LLM untuk berbagai hal, mulai dari menulis boilerplate Laravel, meringkas log, sampai membantu menyusun query SQL yang rumit. Pertanyaan yang selalu muncul bukan "apakah AI ini bisa dipercaya", tapi "seberapa jauh saya harus verifikasi sebelum output ini saya pakai". Ini pertanyaan penting karena dua ekstrem sama-sama berbahaya: terlalu percaya bikin bug lolos ke produksi, terlalu paranoid bikin AI jadi tidak berguna karena semua harus dicek ulang dari nol sampai kita rugi waktu.

Kerangka sederhana: risiko x biaya verifikasi

Cara paling praktis yang saya pakai adalah menimbang dua sumbu. Pertama, seberapa besar dampak kalau outputnya salah dan tidak ketahuan. Kedua, seberapa mahal (dalam waktu dan usaha) untuk memverifikasi output itu dibanding cuma mengerjakannya sendiri dari awal.

• Risiko tinggi, verifikasi murah — ini zona aman untuk terus pakai AI dengan verifikasi ketat. Misalnya AI menulis query DELETE atau migration database: dampaknya besar kalau salah, tapi verifikasinya gampang, tinggal baca WHERE clause-nya dengan teliti atau jalankan dulu di staging.
• Risiko tinggi, verifikasi mahal — ini zona paling berbahaya. Misalnya logika bisnis rumit yang menyangkut perhitungan tarif atau aturan koding medis yang berjenjang. Kalau verifikasi penuh sama mahalnya dengan mengerjakan sendiri, mending AI dipakai sebagai draft awal saja, keputusan akhir tetap di tangan manusia yang paham domainnya.
• Risiko rendah, verifikasi murah atau mahal — di sini saya biasanya lebih longgar. Contoh: AI membuatkan nama variabel, komentar, atau draft copy untuk halaman internal. Kalaupun salah, dampaknya kecil dan gampang diperbaiki belakangan.

Sinyal yang bikin saya lebih waspada

Ada beberapa pola yang saya jadikan alarm otomatis untuk verifikasi lebih dalam, terlepas dari kerangka di atas. Pertama, kalau AI menyebut angka atau statistik spesifik tanpa saya kasih sumbernya — model bahasa itu pada dasarnya memprediksi kata yang paling mungkin, bukan mengambil dari database fakta, jadi angka yang terdengar meyakinkan bisa saja karangan (sebagai ilustrasi, kalau AI tiba-tiba menyebut "efisiensi naik 37%" tanpa saya kasih data itu, itu tanda bahaya). Kedua, kalau tugasnya menyangkut aturan yang sering berubah, misalnya format koding klaim asuransi kesehatan atau versi API pihak ketiga — pengetahuan model punya batas waktu, jadi detail versi terbaru sangat mungkin sudah usang. Ketiga, kalau jawabannya terlalu mulus dan percaya diri untuk pertanyaan yang saya sendiri tahu susah — itu biasanya tanda model sedang "mengisi kekosongan" alih-alih benar-benar tahu.

Verifikasi murah yang layak jadi kebiasaan

Bukan berarti verifikasi harus mahal. Beberapa kebiasaan murah yang saya pakai rutin: minta AI jelaskan alasan di balik jawabannya (kalau alasannya kacau, biasanya jawabannya juga kacau), jalankan output di lingkungan aman dulu sebelum masuk produksi, atau minta AI kedua (atau model lain) mengecek ulang klaim yang sama sebagai pembanding. Untuk kode, saya tetap mewajibkan diri membaca diff baris demi baris walau AI yang menulis — bukan karena tidak percaya, tapi karena tanggung jawab akhir tetap ada di tangan saya sebagai yang submit perubahan.

Takeaway

Intinya, jangan perlakukan semua output AI dengan level kecurigaan yang sama. Petakan dulu seberapa besar kerugian kalau salah, lalu bandingkan dengan seberapa mahal verifikasinya. Untuk hal berisiko tinggi dan gampang dicek, verifikasi selalu. Untuk hal berisiko tinggi tapi susah dicek, jadikan AI sebagai draft, bukan keputusan akhir. Untuk hal berisiko rendah, boleh lebih santai — di situlah AI benar-benar menghemat waktu tanpa menambah beban verifikasi yang tidak perlu.