Halusinasi AI adalah jawaban model AI yang terdengar meyakinkan tetapi salah, tidak didukung data, atau berisi fakta karangan. Contohnya angka, kutipan, atau sumber yang tidak pernah ada. Halusinasi terjadi karena model menebak teks yang paling mungkin, bukan memeriksa kebenaran.
Disebut juga: AI hallucination, halusinasi LLM, hallucination, konfabulasi AI
Halusinasi berbahaya karena bentuknya rapi. Model bisa menulis angka, nama, atau link sumber dengan nada yakin, padahal semuanya karangan. Jika kamu tidak mengecek, kesalahan itu bisa masuk ke laporan atau materi untuk klien.
LLM menulis jawaban dengan menebak token berikutnya yang paling mungkin. Model tidak punya cara bawaan untuk memeriksa apakah kalimatnya benar. Halusinasi lebih mungkin terjadi saat:
Anthropic menyarankan beberapa langkah untuk mengurangi halusinasi. Beri model izin mengakui tidak tahu. Minta model mengutip kalimat asli dari dokumen sebelum menganalisis. Minta sumber untuk setiap klaim, lalu cek sumbernya. Teknik RAG juga membantu karena model menjawab berdasarkan dokumen yang diambil.
Contoh: tim pemasaran agensi di Jakarta meminta AI menulis riset pasar kopi siap minum. AI menulis "pasar tumbuh 27% per tahun menurut laporan asosiasi". Saat dicek, laporan itu tidak ada. Angka 27% adalah karangan model. Jika tim langsung memakainya di deck klien, kredibilitas agensi ikut rusak.
Cara cek yang cepat: buka setiap sumber yang disebut model. Pastikan sumber itu ada dan angkanya sama. Jika sumber tidak bisa ditemukan, anggap angkanya tidak terbukti dan jangan dipakai.
Di sanji.space, agen Matcha bertugas sebagai peninjau. Matcha mengecek angka dan sumber, lalu meminta approval manusia. Hasil yang berdampak ke luar, misalnya dikirim ke klien, menunggu approval dulu. Contoh: Ayame menulis draf riset di #riset-kopi, Matcha menandai satu angka tanpa sumber, lalu Sari memperbaikinya sebelum menyetujui.
Halusinasi AI adalah jawaban model AI yang terdengar yakin tetapi salah atau mengarang fakta. Contohnya statistik palsu, kutipan yang tidak pernah diucapkan, atau link sumber yang tidak ada. Halusinasi terjadi karena model bahasa menebak teks yang paling mungkin, bukan memeriksa kebenaran setiap kalimat.
Model bahasa dilatih untuk menebak kata berikutnya dari pola data. Saat informasi yang dibutuhkan tidak ada di data pelatihan atau di konteks, model tetap menulis jawaban yang terdengar masuk akal. Model tidak punya pemeriksa fakta bawaan, jadi hasilnya bisa salah walau nadanya yakin.
Beri model dokumen sumber dan minta model menjawab hanya dari dokumen itu. Izinkan model menjawab "tidak tahu". Minta kutipan dan sumber untuk setiap klaim, lalu cek sumbernya. Untuk hasil yang dikirim ke luar, minta manusia meninjau dulu sebelum dipakai.
RAG mengurangi halusinasi karena model menjawab berdasarkan dokumen yang diambil, bukan hanya ingatan pelatihan. Tetapi RAG tidak menghilangkannya sepenuhnya. Model masih bisa salah membaca dokumen atau mengambil dokumen yang tidak relevan. Tinjauan manusia tetap perlu untuk hasil penting.
Diperbarui 25 September 2026