מה זה AI Hallucination (הזיית AI)

הגדרה

תופעה שבה מודל AI מייצר מידע שגוי או בדוי אך מציג אותו בביטחון גבוה. היא סיכון מרכזי בפריסת AI מול לקוחות ומחייבת כללי אימות ועיגון בנתונים.

יצירת תוכן על ידי מודל למידת מכונה, כאשר התוכן אינו נכון עובדתית, חסר היגיון, או אינו מעוגן בנתוני האימון שלו או בהקשר הקלט.

למה זה חשוב

הזיות הן סיכון משמעותי לכל עסק שמפעיל AI מול לקוחות. כשמבינים למה הן קורות, אפשר לתכנן בדיקות בטיחות, כללי אימות ומערכות עיגון שיגנו על המוניטין של המותג שלך.

קשור ישירות: Generative AI (AI גנרטיבי), LLM (מודל שפה גדול), Prompt (פרומפט).

טיפים לשיפור

• השתמש ב-RAG (יצירה מועשרת באחזור) כדי לספק עובדות ברורות והורה למודל לומר 'אני לא יודע' אם התשובה אינה בטקסט.
• הגדר את פרמטר הטמפרטורה של המודל לאפס כדי להפוך את תשובותיו לעובדתיות ופחות יצירתיות.
• כתוב פרומפטים מערכת קשיחים האוסרים על המודל לעשות הנחות או לנחש פרטים.

טעויות נפוצות

• לסמוך על עובדות, ציטוטים או כתובות URL שנוצרו על ידי AI מבלי לאמת את תקינותם.
• להאמין שטון ביטחוני גבוה של הצ׳אטבוט מצביע על כך שהתגובה מדויקת.
• לפרוס AI בתחומים בסיכון גבוה, כמו ייעוץ משפטי או רפואי, ללא מומחים אנושיים שבודקים כל תפוקה.