Halusinasi AI: Mengapa Model Pintar Masih Mereka-reka Perkara

Laman Utama » Python » Halusinasi AI: Mengapa Model Pintar Masih Mereka-reka Perkara

Halusinasi kecerdasan buatan merupakan salah satu kelemahan paling pelik dan terpenting dalam sistem AI moden , terutamanya model bahasa yang besar dan alat generatif yang menulis, melukis atau menjawab soalan atas permintaan. Sistem ini boleh memberikan jawapan yang fasih dan yakin yang kedengaran munasabah, namun mengandungi fakta, petikan atau butiran yang direka-reka. Bagi pengguna, bahagian yang sukar ialah ralat sering tersembunyi di sebalik bahasa yang sangat meyakinkan.

Apabila orang ramai bercakap tentang "halusinasi AI", mereka tidak merujuk kepada mesin yang mempunyai mimpi atau penglihatan seperti manusia . Istilah ini adalah metafora: ia menggambarkan situasi di mana sistem AI menghasilkan kandungan yang kelihatan koheren dan munasabah, tetapi tidak betul, berat sebelah, cacat secara logik atau terputus daripada data latihannya. Dalam praktiknya, ini boleh terdiri daripada tarikh yang salah dalam ringkasan sejarah kepada rujukan saintifik yang direka-reka, kes undang-undang yang tidak wujud atau halaman web yang direka-reka.

Apakah sebenarnya halusinasi AI itu?

Dalam istilah teknikal, halusinasi AI ialah sebarang output daripada model yang mengelirukan, palsu atau tidak berasas oleh data yang dilatih atau dikondisikan oleh model tersebut . Dengan model generatif, pengguna menjangkakan jawapan yang menjawab gesaan mereka secara bermakna – contohnya, jawapan yang betul kepada soalan atau ringkasan dokumen yang tepat. Halusinasi muncul apabila sistem memberikan jawapan yang tidak mengikut sumbernya, tidak sepadan dengan fakta dunia sebenar atau tidak dapat dikesan kembali kepada sebarang corak yang boleh dipercayai dalam data latihannya.

Fenomena ini amat ketara dalam model bahasa besar (LLM) seperti chatbot dan model seperti Gemini . Model ini dilatih untuk meramalkan perkataan seterusnya dalam urutan dengan menganalisis sejumlah besar teks digital. Ia berfungsi seperti versi enjin auto-lengkap yang jauh lebih berkuasa: jika diberi gesaan, ia terus meneka token seterusnya yang paling mungkin, kemudian yang seterusnya, dan sebagainya. Kerana ia telah dioptimumkan untuk membantu, koheren dan fasih, ia sering terus menjana teks walaupun ia tidak pasti, bukannya secara terbuka memberi isyarat "Saya tidak tahu".

Hasilnya ialah sistem AI mungkin "mengisi jurang" apabila maklumat hilang, samar-samar atau kurang diwakili dalam data latihan . Apabila corak yang mencukupi tersedia, jawapannya cenderung munasabah. Tetapi sebaik sahaja model meneroka di luar corak tersebut, ia boleh mereka-reka butiran, menginterpolasi antara fakta yang tidak berkaitan atau menegaskan perkara yang tidak pernah diperhatikan dengan yakin. Inilah teras halusinasi: bahasa yang munasabah tanpa sauh fakta yang kukuh.

Halusinasi tidak terhad kepada teks; ia juga berlaku dalam sistem pengecaman imej dan corak . Model penglihatan kadangkala boleh "melihat" bentuk, objek atau ciri yang langsung tidak terdapat dalam data asas, sama seperti manusia yang melihat wajah di permukaan bulan atau haiwan di awan. Dalam kedua-dua kes, sistem tersebut mentafsirkan hingar secara berlebihan, menjadikan input yang tidak pasti atau samar-samar menjadi sesuatu yang kelihatan bermakna.

Oleh kerana halusinasi muncul daripada cara model ini dibina dan dilatih, ia bukan sekadar gangguan sekali-sekala tetapi juga risiko struktur . Penyelidik secara rutin mengukur kadar halusinasi dalam penanda aras dan papan pendahulu, dan penggunaan dunia sebenar dalam bidang seperti penjagaan kesihatan, undang-undang atau kewangan telah menghasilkan contoh berprofil tinggi di mana kandungan palsu terlepas dan sampai kepada pengguna akhir.

Mengapa sistem AI berhalusinasi: data, model dan pembumian

Untuk memahami mengapa halusinasi berlaku, adalah membantu untuk bermula daripada cara model AI dilatih . Kebanyakan sistem moden, terutamanya LLM, belajar daripada set data latihan yang luas yang menggabungkan buku, artikel, laman web dan sumber awam lain. Semasa latihan, model mencari keteraturan statistik: bagaimana perkataan cenderung mengikuti perkataan lain, topik mana yang muncul bersama, struktur mana yang berulang. Ia tidak membina model dunia dalaman dalam erti kata manusia, dan juga tidak menyimpan fakta eksplisit sebagai entri dalam pangkalan data.

Oleh itu, kualiti, kelengkapan dan bias data latihan adalah kritikal . Jika set data tidak lengkap, sangat condong, atau mengandungi ralat sistematik, model akan mengesan dan menguatkan herotan tersebut. Contohnya, pengelas imej perubatan yang dilatih hanya pada tisu kanser dan tidak pernah terdedah kepada imej yang sihat mungkin mengetahui bahawa mana-mana tisu yang menyerupai contoh latihannya mestilah kanser. Apabila sistem sedemikian digunakan di dunia nyata, ia boleh salah melabelkan tisu sihat sebagai malignan, bukan kerana ia berniat jahat, tetapi kerana itulah satu-satunya corak yang diketahuinya.

Data latihan yang rosak, bising atau berat sebelah hanyalah salah satu sumber halusinasi . Faktor utama lain ialah kekurangan asas yang betul dalam pengetahuan dunia sebenar, kekangan fizikal atau sumber luaran yang boleh disahkan. Banyak model AI beroperasi semata-mata dalam ruang simbol: ia memanipulasi teks atau piksel tanpa menghubungkannya secara langsung dengan objek fizikal, pangkalan data terkini atau pengalaman deria. Tanpa asas, model boleh menghasilkan pernyataan yang kedengaran realistik tetapi bercanggah dengan fakta asas dengan mudah – contohnya, memberikan tarikh yang salah untuk peristiwa sejarah atau mencipta konsep saintifik yang tidak pernah wujud.

Kekurangan asas ini boleh merangkumi rujukan, pautan dan petikan . Model teks telah diperhatikan mereka-reka URL, kertas saintifik, pengarang akademik dan juga petikan yang kelihatan benar-benar boleh dipercayai sepintas lalu. Model ini tidak "berbohong" dengan niat; ia mengarang teks yang secara statistiknya menyerupai rujukan yang pernah dilihatnya, walaupun gabungan khusus tajuk, pengarang dan jurnal tidak pernah berlaku dalam realiti.

Kerumitan model dan pemadanan berlebihan menambah satu lagi lapisan risiko . Model yang sangat kompleks dengan berjuta-juta atau berbilion parameter boleh mewakili corak halus, tetapi ia juga boleh menghafal korelasi atau hingar palsu. Apabila model memadankan diri secara berlebihan dengan data latihannya, ia mungkin bergantung pada isyarat rapuh yang tidak menggeneralisasikan, yang membawa kepada output yang pelik apabila keadaan berubah. Dalam pengecaman imej, ini boleh menghasilkan tafsiran yang tidak nyata atau seperti mimpi; dalam teks, ia boleh mencetuskan rantaian penaakulan yang panjang yang kedengaran canggih sambil bergantung pada premis yang salah.

Contoh konkrit halusinasi AI dalam amalan

Penggunaan AI generatif di dunia sebenar telah menghasilkan banyak contoh halusinasi awam . Satu kes yang dibincangkan secara meluas berlaku apabila chatbot Bard Google secara salah mendakwa bahawa Teleskop Angkasa James Webb telah merakam imej pertama planet di luar sistem suria kita. Kenyataan itu kedengaran mengagumkan dan dibentangkan dengan yakin, tetapi faktanya salah; teleskop sebelumnya telah pun menghasilkan imej sedemikian.

Satu lagi insiden berprofil tinggi melibatkan sistem sembang Microsoft, yang pada satu ketika dinamakan kod Sydney . Semasa ujian, pengguna melaporkan perbualan di mana model tersebut mengisytiharkan bahawa ia telah jatuh cinta dengan mereka, atau mendakwa ia sedang mengintip pekerja Bing. Jawapan ini tidak berasaskan sebarang realiti yang mendasari; ia adalah hasil daripada pemadanan corak model pada bahasa romantis atau konspiratif yang dilihat dalam data latihannya, digabungkan dengan gaya perbualan yang menggalakkan naratif yang rumit.

Model bahasa Galactica Meta, yang direka untuk membantu tugasan saintifik, juga telah ditarik balik sejurus selepas demonstrasi awamnya pada tahun 2022. Pengguna dengan cepat menunjukkan bahawa sistem itu boleh menghasilkan teks yang berbunyi saintifik yang mencampurkan fakta yang tepat dengan rujukan palsu, dakwaan berat sebelah dan artikel khayalan. Outputnya kelihatan seperti penulisan ilmiah, lengkap dengan jargon teknikal, tetapi kandungan faktanya boleh menjadi sangat tidak boleh dipercayai.

Media berita juga telah mendokumentasikan halusinasi yang lebih kecil tetapi menceritakan . Dalam satu kes, wartawan dari The New York Times bertanya kepada chatbot tentang kali pertama akhbar itu menerbitkan artikel tentang kecerdasan buatan. Model tersebut menawarkan beberapa jawapan terperinci, termasuk tarikh dan penerangan, namun sebahagian daripada butiran tersebut ternyata salah atau direka-reka sepenuhnya. Sistem tersebut menghasilkan cerita yang munasabah kerana gesaan tersebut sesuai dengan banyak corak dalam data latihannya, bukan kerana ia mempunyai akses kepada arkib yang tepat dan boleh disahkan.

Walaupun tugas yang kelihatan mudah seperti menulis nota biografi pendek boleh mencetuskan halusinasi . Sebelum pertabalan sebenar Raja Charles III, permintaan untuk profil pendek telah mendorong seorang chatbot untuk menyatakan dengan yakin bahawa upacara pertabalan telah berlangsung di Westminster Abbey pada 19 Mei 2023. Pada hakikatnya, pertabalan itu berlaku pada 6 Mei. Model itu mengetahui lokasi tipikal, frasa ritual dan jangka masa untuk pertabalan British, tetapi ia tidak mempunyai akses kepada peristiwa masa hadapan dan masih menawarkan tarikh tertentu yang salah yang dibingkai sebagai fakta yang telah ditetapkan.

Halusinasi dalam domain kritikal: perubatan, undang-undang dan seterusnya

Risiko meningkat dengan ketara apabila halusinasi muncul dalam bidang berisiko tinggi seperti penjagaan kesihatan, undang-undang atau kewangan . Dalam bidang perubatan, kajian terbaru menunjukkan bahawa model khusus domain yang canggih pun boleh menghasilkan struktur anatomi yang dicipta atau penerangan klinikal yang mengelirukan. Satu contoh melibatkan Med‑Gemini, model yang dikaitkan dengan Google, yang menyebut struktur otak yang tidak wujud yang dipanggil "ganglia basilar" dalam penjelasan gaya akademik. Istilah itu kedengaran seperti campuran perkataan anatomi sebenar, tetapi tiada struktur sedemikian wujud.

Dalam domain perundangan, halusinasi telah pun memasuki pemfailan mahkamah sebenar . Beberapa kes telah dilaporkan di mana peguam menggunakan chatbot untuk mendraf dokumen dan kemudian menyerahkannya tanpa pengesahan manusia yang menyeluruh. Sistem AI menghasilkan petikan kepada keputusan mahkamah yang kelihatan diformatkan dengan sempurna dan boleh dipercayai, tetapi pemeriksaan yang lebih dekat mendedahkan bahawa beberapa kes yang dirujuk tidak pernah diputuskan oleh mana-mana mahkamah. Preseden yang direka-reka ini memaksa hakim dan peguam lawan meluangkan masa mengesahkan sumber yang tidak wujud dan menimbulkan persoalan serius tentang tanggungjawab profesional.

Halusinasi juga boleh menjejaskan aplikasi harian seperti khidmat pelanggan . Terdapat situasi yang didokumenkan di mana bot sokongan automatik mencipta dasar bayaran balik atau jaminan yang bukan sebahagian daripada peraturan rasmi syarikat. Dari sudut pandangan pelanggan, jawapan bot itu kelihatan berwibawa – ia menggunakan nada dan perbendaharaan kata jenama – namun ia mengikat syarikat kepada kewajipan yang tidak pernah diluluskan oleh pihak pengurusan atau ditulis dalam sebarang terma dan syarat.

Kesan kumulatif kesilapan sedemikian adalah hakisan kepercayaan . Organisasi yang menggunakan pembantu AI berisiko merosakkan reputasi mereka jika pengguna berulang kali menemui jawapan yang salah tetapi yakin. Dalam sektor yang dikawal selia, taruhannya lebih tinggi: diagnosis halusinasi, duluan undang-undang yang direka-reka atau keperluan pematuhan fiksyen boleh membawa akibat kewangan, perubatan atau undang-undang yang sebenar.

Liabiliti dalam situasi ini masih merupakan sasaran yang bergerak . Apabila keputusan dibuat berdasarkan halusinasi yang dijana AI, tanggungjawab mungkin dikongsi antara pengguna, pembangun, vendor dan organisasi yang menggunakan. Penggubal undang-undang dan pengawal selia baru mula menentukan di mana terletaknya akauntabiliti, tetapi corak asasnya jelas: pergantungan yang tidak terkawal pada sistem generatif dalam keputusan kritikal boleh membuka pintu kepada kesilapan yang mahal dan pertikaian undang-undang.

Berapa kerapkah sistem AI berhalusinasi?

Walaupun terdapat kemajuan yang pesat, halusinasi kekal sebagai masalah yang boleh diukur dan tidak remeh dalam model canggih . Sekitar tahun 2023, beberapa kajian menganggarkan bahawa sehingga 27% jawapan daripada model bahasa yang besar mengandungi beberapa jenis ralat fakta, dengan kadar halusinasi melebihi 40% untuk jenis tugasan atau set data tertentu. Ini bermakna dalam banyak senario yang realistik, hampir separuh daripada jawapan yang nampaknya kukuh boleh menyelitkan sekurang-kurangnya satu butiran yang mengelirukan.

Kerja yang lebih baru menunjukkan bahawa generasi model yang lebih baharu telah bertambah baik, tetapi tidak menghapuskan isu tersebut . Contohnya, ujian dalaman yang dipetik dalam laporan industri telah mendakwa bahawa model yang lebih maju dapat mengurangkan kadar halusinasi daripada kira-kira 20.6% kepada kira-kira 4.8% dalam penanda aras terpilih. Sistem lain, seperti konfigurasi khusus Gemini‑2.0‑Flash‑001, dilaporkan telah mencapai kadar halusinasi hampir 1% dalam penilaian yang sempit dan jelas dengan menggunakan teknik semakan silang automatik.

Pada masa yang sama, para penyelidik telah menyedari satu paradoks yang menarik . Beberapa model penaakulan yang paling canggih, yang menghasilkan rantaian pemikiran yang lebih panjang dan penjelasan yang lebih terperinci, mungkin lebih banyak berhalusinasi daripada kurang. Alasannya adalah intuitif: jawapan yang panjang memberi lebih banyak peluang kepada model untuk menyimpang daripada fakta, menyelinap dalam andaian spekulatif atau membina hujah berbilang langkah di atas titik permulaan yang goyah.

Kerja akademik telah mula mengklasifikasikan dan mengukur halusinasi dengan cara yang sistematik . Tinjauan mengenai halusinasi LLM mencadangkan taksonomi yang membezakan antara halusinasi intrinsik (yang mana output tidak serasi dengan input yang diberikan, seperti ringkasan dokumen yang salah) dan halusinasi ekstrinsik (yang mana model menambah butiran yang munasabah tetapi tidak disokong). Papan pendahulu seperti Papan Pendahulu Halusinasi Vectara membandingkan model popular pada ujian standard untuk menilai model mana yang lebih cenderung menghasilkan kandungan yang salah.

Kaedah pengesanan baharu melangkaui pemeriksaan ketepatan yang mudah . ​​Satu kajian penting menggunakan entropi semantik – secara kasarnya, betapa tidak pastinya sesuatu model tentang apa yang sepatutnya dikatakannya – untuk menandakan output yang mencurigakan. Jika sesuatu model menunjukkan ketidaksepakatan dalaman yang tinggi antara pelbagai kemungkinan kesinambungan, entropi semantik yang tinggi itu boleh menjadi tanda amaran bahawa jawapan semasa mungkin berhalusinasi, walaupun tiada jawapan rujukan standard emas tersedia.

Teknik untuk mengurangkan dan mengesan halusinasi

Oleh kerana halusinasi telah diserapkan ke dalam cara model generatif berfungsi, tiada penyelesaian ajaib tunggal, tetapi beberapa strategi yang menjanjikan telah muncul . Satu pendekatan yang berpengaruh ialah Penjanaan Semula-Ditambah (RAG). Daripada membiarkan model hanya bergantung pada apa yang dihafalnya semasa latihan, sistem RAG terlebih dahulu menanyakan sumber data luaran yang dikurasi – seperti dokumentasi, pangkalan pengetahuan atau halaman web yang diindeks – dan kemudian meminta model untuk menjana jawapan yang secara eksplisit berasaskan dokumen yang diambil tersebut.

RAG secara berkesan memberikan model sesuatu yang konkrit untuk diandalkan . Apabila pengguna mengemukakan soalan, sistem akan mengambil petikan yang berkaitan dan model akan diminta untuk meringkaskan atau menggabungkannya, dan bukannya membuat improvisasi dari awal. Ini dapat mengurangkan halusinasi dengan ketara dalam domain yang mempunyai kandungan terkini dan boleh dipercayai, seperti manual teknikal, dasar dalaman syarikat atau pangkalan data saintifik.

Satu lagi barisan pertahanan ialah pengesahan dalaman dan pemeriksaan ketekalan kendiri . Sesetengah sistem menjana beberapa calon jawapan dan kemudian membandingkannya antara satu sama lain, daripada mempercayai satu laluan melalui model. Jika semua versi bertemu pada pernyataan yang sama, terdapat kemungkinan yang lebih tinggi bahawa ia stabil dan betul; jika ia berbeza, sistem boleh berkecuali, meminta penjelasan atau menandakan ketidakpastian secara eksplisit. Pemeriksaan ketekalan kendiri ini boleh diautomasikan dan telah menunjukkan potensi dalam mengurangkan halusinasi pada tugasan penaakulan.

Penyelidik juga telah mencadangkan lebih banyak seni bina eksperimen, seperti kaedah yang menstruktur semula pertanyaan pengguna sebelum menjawab . Satu contoh daripada kerja akademik baru-baru ini ialah teknik yang dikenali sebagai Acurai, yang bertujuan untuk merumuskan semula gesaan dengan cara yang mengarahkan model ke arah laluan penaakulan yang boleh disahkan. Walaupun pendekatan sedemikian masih dalam peringkat awal, ia menunjukkan masa depan di mana model membelanjakan lebih banyak usaha pengiraannya untuk merancang cara memikirkan soalan dan bukannya terus beralih kepada penceritaan yang lancar.

Dari segi pemantauan, prob entropi semantik dan alat berkaitan menawarkan cara yang murah untuk mengesan potensi halusinasi . Dengan mengukur sejauh mana model "tidak bersetuju dengan dirinya sendiri" secara dalaman semasa menghasilkan jawapan, prob ini boleh menandakan petikan yang patut disemak semula oleh manusia. Yang penting, teknik seperti ini tidak memerlukan set data berlabel jawapan yang betul, menjadikannya sesuai untuk senario dunia sebenar yang terbuka.

Peranan pengawasan manusia dan penggunaan yang bertanggungjawab

Walaupun dengan seni bina yang dipertingkatkan dan pengesanan yang bijak, penyeliaan manusia kekal penting dalam menguruskan halusinasi AI . Aplikasi yang paling mantap ialah aplikasi yang menganggap AI sebagai pembantu atau juruterbang bersama yang berkuasa, bukan sebagai pembuat keputusan autonomi. Dalam sektor seperti penjagaan kesihatan, perbankan atau pentadbiran awam, amalan terbaik adalah membiarkan model menapis maklumat, mendraf dokumen atau meringkaskan bahan yang panjang, sementara pakar manusia melakukan semakan dan kelulusan akhir.

Kedua-dua pemimpin industri dan penyelidik menekankan bahawa pengguna tidak seharusnya mempercayai output AI secara membuta tuli, terutamanya pada topik sensitif . Syarikat-syarikat di sebalik model utama telah memberi amaran secara jelas bahawa sistem mereka masih boleh berhalusinasi dan jawapan harus digunakan dengan berhati-hati untuk nasihat perubatan, perundangan atau kewangan. Sesetengah penyedia bergantung pada penilai manusia untuk menguji bias, ralat fakta dan kandungan yang berpotensi berbahaya, mengintegrasikan maklum balas mereka ke dalam latihan melalui pembelajaran peneguhan daripada maklum balas manusia (RLHF).

Ketelusan tentang batasan memainkan peranan penting dalam memelihara kepercayaan pengguna . Apabila penyedia mengakui bahawa model mereka boleh menghasilkan maklumat yang tidak tepat atau direka-reka, pengguna lebih cenderung untuk mengekalkan tahap skeptisisme yang sihat, menyemak semula jawapan dan mengelakkan daripada mewakilkan penilaian kritikal. Sebaliknya, menjual AI secara berlebihan sebagai sempurna atau "pintar" dalam erti kata manusia menimbulkan jangkaan secara tidak realistik dan menjadikan halusinasi terasa seperti pengkhianatan dan bukannya artifak teknikal.

Menjelang masa hadapan, peraturan berkemungkinan akan membentuk cara organisasi menguruskan risiko halusinasi . Pembuat dasar sudah merangka peraturan yang memerlukan penilaian risiko, proses manusia dalam gelung dan dokumentasi yang jelas tentang keupayaan model dan mod kegagalan. Di banyak bidang kuasa, firma yang menggunakan alatan AI dalam domain berisiko tinggi perlu menunjukkan bahawa mereka mempunyai perlindungan yang mencukupi untuk mencegah halusinasi daripada menjejaskan keputusan kritikal secara langsung.

Akhirnya, persediaan yang paling andal ialah persediaan yang mereka bentuk aliran kerja berdasarkan kekuatan dan kelemahan AI . Model generatif cemerlang dalam menjana draf, meneroka pilihan, menyediakan frasa alternatif dan menonjolkan corak dalam sejumlah besar teks. Ia jauh kurang andal sebagai penentu kebenaran tunggal. Apabila sistem dibina supaya manusia kekal mengawal keputusan penting dan langkah pengesahan, halusinasi menjadi hingar yang boleh diurus dan bukannya kegagalan yang dahsyat.

Seiring perkembangan teknologi ini, sikap yang realistik terhadap halusinasi AI adalah penting bagi semua orang yang terlibat – pembangun, organisasi, pengawal selia dan pengguna harian. Memahami bahawa jawapan yang lancar tidak semestinya betul, menggabungkan model dengan sumber pengetahuan luaran, mengukur dan mengesan halusinasi secara sistematik, dan memelihara pertimbangan manusia sebagai pusat keputusan penting adalah sebahagian daripada penggunaan AI generatif dengan bijak. Daripada bertanya sama ada halusinasi akan hilang sepenuhnya, soalan yang lebih berguna ialah bagaimana kita boleh membina sistem, insentif dan tabiat yang menjadikan kesilapan yang tidak dapat dielakkan itu kelihatan, terkawal dan jauh kurang berbahaya.