Halusinasi AI: Cara Mengecek Jawaban dan Referensi dari ChatGPT

Anda bertanya kepada AI, jawabannya lancar dan meyakinkan, lengkap dengan nama penulis dan tahun terbit. Setelah dicari, artikel itu tidak ada. Ini bukan kebetulan; ini perilaku yang dikenal sebagai halusinasi AI. Memahaminya penting bagi siapa saja yang memakai AI untuk kuliah, kerja, atau riset.

Apa itu halusinasi AI?

Halusinasi AI adalah keadaan ketika model AI menghasilkan informasi yang terdengar meyakinkan tetapi salah atau tidak berdasar, misalnya fakta yang keliru, kutipan yang tidak pernah ada, atau referensi yang dikarang.

Model bahasa bekerja dengan memprediksi kata yang paling mungkin muncul berikutnya, bukan dengan mencari fakta di basis data yang sudah diverifikasi. Karena itu hasilnya bisa lancar dan tetap keliru. Banyak alat kini menambahkan pencarian web, yang membantu mengurangi masalah ini tetapi tidak menghilangkannya.

Daftar referensi dengan beberapa entri yang diberi tanda peringatan karena tidak dapat diverifikasi

Di mana halusinasi paling sering muncul?

• Referensi dan kutipan: judul artikel, nama penulis, DOI, atau halaman yang tampak nyata tetapi tidak ada.
• Angka dan statistik spesifik: persentase, tanggal, dan jumlah.
• Topik yang sempit atau baru: informasi yang sedikit di data pelatihan atau terjadi setelah model dilatih.
• Pertanyaan yang memancing jawaban pasti padahal jawabannya tidak ada atau tidak diketahui.
• Hukum, medis, dan keuangan: bidang yang konsekuensinya serius bila salah.

Cara mengecek jawaban AI

1. Pisahkan klaim yang bisa diperiksa. Tandai angka, nama, tanggal, dan kutipan.
2. Cari sumber aslinya. Telusuri judul di Google Scholar, situs jurnal, atau situs resmi lembaga. Jika tidak ada, anggap tidak ada.
3. Cek DOI dan tautan. DOI yang valid mengarah ke artikel yang sama dengan yang disebut AI.
4. Bandingkan dengan dua sumber independen untuk klaim penting.
5. Minta AI menyebut ketidakpastian. Misalnya, "Katakan jika kamu tidak yakin, jangan mengarang sumber." Ini mengurangi risiko, bukan menghilangkannya.
6. Baca sumber, jangan hanya judulnya. Pastikan sumber benar-benar mengatakan hal yang diklaim.

Alur memeriksa klaim dari AI ke sumber asli sebelum digunakan

Kebiasaan prompt yang membantu

• Berikan teks atau data sumber Anda sendiri dan minta AI menjawab hanya berdasarkan itu.
• Minta AI membedakan antara "yang ada di teks" dan "yang merupakan dugaan".
• Hindari meminta "10 referensi jurnal tentang X" lalu langsung memakainya. Cari referensi lewat basis data jurnal, lalu minta AI membantu merangkum artikel yang benar-benar Anda temukan.

Contoh prompt yang aman untuk kuliah ada di prompt AI untuk skripsi dan AI untuk tugas kuliah.

Mengapa ini penting untuk tulisan akademik

Referensi palsu dalam skripsi atau artikel jurnal bisa dianggap pelanggaran integritas akademik, apa pun alatnya. Tanggung jawab atas isi naskah tetap pada penulis. Baca juga cara mengutip yang benar.

Ingin belajar memakai AI dengan aman dan terarah? Tersedia kursus AI privat: sesi 1 jam online atau tatap muka di Yogyakarta, dengan latihan langsung pada tugas Anda.

Pertanyaan umum tentang halusinasi AI

Apakah AI yang bisa mencari web masih bisa berhalusinasi?

Ya. Pencarian web membantu, tetapi AI masih bisa salah merangkum atau salah mengutip sumbernya. Periksa sumber yang ditampilkan.

Mengapa AI mengarang referensi?

Karena model terlatih menghasilkan teks yang menyerupai pola referensi, bukan memeriksa daftar artikel yang benar-benar ada.

Apakah halusinasi bisa dihilangkan sepenuhnya?

Belum. Risikonya bisa dikurangi dengan sumber yang diberikan, prompt yang jelas, dan pemeriksaan manusia.

Apakah semua jawaban AI harus dicek?

Yang penting dan konsekuensinya besar, ya. Untuk hal sepele seperti ide judul atau draf kasar, pemeriksaan bisa lebih ringan.