Jakarta, CNN Indonesia --
Produk yang dihasilkan oleh teknologi kecerdasan buatan (AI), baik teks maupun visual, perlu mendapat perhatian karena meski hasilnya tampak meyakinkan, produk tersebut berpotensi tidak akurat.
Halusinasi adalah salah satu isu yang kerap terjadi pada model AI, dan memicu keluaran yang tidak akurat, menyesatkan, atau tidak koheren, karena algoritmanya menemukan pola dalam data yang tidak ada atau menafsirkan pola tersebut secara tidak tepat.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Dikutip dari Kaspersky, ada beberapa alasan AI berhalusinasi. Dalam banyak kasus, kondisi ini terjadi akibat kombinasi beberapa alasan sekaligus. Salah satu pemicu halusinasi adalah model AI tidak memiliki cukup data pelatihan untuk memberi hasil yang komprehensif dan akurat.
Di sisi lain, terlalu banyak data pelatihan juga dapat memicu halusinasi, karena terlalu banyak gangguan data yang tidak relevan tertukar dengan informasi penting yang diperlukan.
Bias dalam data juga bisa menjadi pemicu kesalahan dalam data yang diberikan. AI juga bisa membuat asumsi dan kesimpulan yang salah dari informasi yang telah diberikan pengguna.
Penyebab lain dari halusinasi AI adalah kurangnya konteks dunia nyata dalam model AI, seperti sifat fisik objek atau informasi yang lebih luas.
Risiko halusinasi membuat pentingnya manusia untuk melakukan evaluasi sebelum produk buatan AI digunakan atau dirilis ke publik. Kesalahan akurasi berpotensi menyesatkan jika produk akhir yang dikembangkan dengan bantuan AI dirilis oleh individu atau instansi terpercaya.
Dilansir MIT Sloan, ada beberapa cara yang dapat dilakukan untuk membantu memitigasi isu halusinasi dan bias dari AI, mulai dari evaluasi keluaran AI secara kritis hingga penggunaan prompt yang jelas dan terstruktur.
Evaluasi keluaran AI secara kritis
Tidak seperti manusia, sistem AI tidak memiliki kemampuan untuk berpikir atau membentuk keyakinan. Sistem ini beroperasi secara algoritmik berdasarkan data yang dilatih, tanpa kemampuan bawaan untuk bernalar atau merenung.
Mengingat hal ini, pengguna harus menanggapi hasil produk AI dengan pandangan kritis dan mengevaluasinya menggunakan penilaian manusia.
Diversifikasi sumber
Selalu periksa kembali keakuratan konten yang dihasilkan AI. Ini bisa berarti berkonsultasi dengan para ahli atau melakukan referensi silang dengan publikasi yang telah ditelaah oleh rekan sejawat.
Gunakan alat berbasis retrieval
Beberapa alat AI generatif dibangun dengan arsitektur Retrieval-Augmented Generation (RAG). Ini berarti mereka akan mengambil informasi relevan dari sumber tepercaya, seperti silabus, artikel penelitian, atau PDF kasus sebelum menghasilkan keluaran.
Penelitian menunjukkan bahwa RAG meningkatkan baik akurasi fakta maupun kepercayaan pengguna terhadap jawaban yang dihasilkan AI.
Gunakan prompt jelas dan terstruktur
Kualitas hasil AI sangat bergantung pada seberapa spesifik prompt yang diberikan pengguna. Perintah yang tidak jelas sering kali menghasilkan jawaban yang tidak jelas, atau bahkan tidak akurat.
Pengguna dapat mengurangi risiko ini dengan menetapkan ekspektasi yang jelas dan memberikan struktur yang harus diikuti oleh model.
Misalnya, meminta AI untuk menjelaskan alasannya langkah demi langkah dapat mengungkap celah logis atau klaim yang tidak didukung.
Teknik ini, yang dikenal sebagai Chain-of-Thought Prompting, telah terbukti meningkatkan transparansi dan akurasi dalam tugas-tugas kompleks.
Sesuaikan temperatur
Temperatur adalah pengaturan yang mengontrol seberapa acak atau kreatif respons model tersebut. Pada alat yang memungkinkan Anda menyesuaikannya, menggunakan suhu rendah (seperti 0-0,3) menghasilkan keluaran yang lebih terfokus, konsisten, dan faktual terutama untuk prompt yang terdefinisi dengan baik.
Sementara temperatur yang lebih tinggi (misalnya 0,7-1,0) mendorong respons yang lebih bervariasi dan imajinatif, sehingga lebih cocok untuk tugas terbuka seperti brainstorming atau bercerita.
AI generatif menawarkan potensi besar untuk meningkatkan cara manusia menjalankan kegiatan. Namun, penting untuk diingat bahwa alat-alat AI dapat menghasilkan informasi yang tidak benar dan memperkuat bias yang merugikan.
Meski AI merupakan alat yang sangat kuat, sentuhan manusia tetaplah sangat penting.
(lom/dmi)
Add
as a preferred source on Google
