מה זה הזיית AI (AI Hallucination)

הגדרה

הזיית AI היא תוכן שמודל שפה מפיק והוא שגוי או מומצא, אבל נקרא כמו אמת: מחיר, שעת פתיחה, נוהל, כלל משפטי, נתון, ציטוט, מקור או קישור שלא קיימים, כתובים באותו טון בטוח כמו החלקים הנכונים. זה קורה כי המודל בנוי להפיק טקסט סביר, לא לבדוק עובדות. חוקרים ב-OpenAI טענו ב-2025 שהאימון והמדידה המקובלים מתגמלים ניחוש בטוח יותר מאשר "אני לא יודע", כמו מבחן שלא נותן נקודות על תשובה ריקה ולכן מתגמל ניחושים. פרופיל ה-AI הגנרטיבי של NIST מ-2024 קורא לאותו סיכון confabulation.

למה זה חשוב

אי אפשר לכבות הזיות. מקטינים אותן כשנותנים למודל את המסמכים שלכם לענות מהם, וכשיש כלל שאדם בודק כל מה שמגיע ללקוח.

קשור ישירות: RAG (יצירה מועשרת באחזור), LLM (מודל שפה גדול), פרומפט (Prompt).

טיפים לשיפור

• תנו לכלי את המסמכים שלכם לענות מהם, ואמרו לו מה לכתוב כשהתשובה לא שם: "אבדוק ואחזור אליך".
• בקשו את המקור של כל עובדה חשובה, ופתחו אותו לפני שאתם משתמשים בה.
• דאגו שאדם יבדוק כל מה שמגיע ללקוח: מחירים, תאריכים, נהלים, אלרגנים, ניסוח משפטי או רפואי.
• העבירו כל דבר משפטי, רפואי או פיננסי לאיש מקצוע מוסמך, לא רק למי שמכיר את העסק.

טעויות נפוצות

• לסמוך על ציטוטים, נתונים או קישורים של AI בלי לפתוח אותם.
• להאמין שהגדרה אחת או פרומפט אחד יכולים לכבות הזיות, כשאפשר רק להקטין אותן.
• לתת לעוזר שמול לקוחות לענות על שאלות שהמסמכים שלו לא מכסים, במקום להעביר אותן לאדם.