הנדסת פרומפטים
(Prompt Engineering)
Google_Prompt_Engineering_v7_2025_1744561280.pdf
1. אורך הפלט (Output Length)
• מגדיר את כמות הטוקנים (יחידות טקסט) שהמודל יכול להחזיר.
• ככל שהפלט ארוך יותר, כך העלות וזמן התגובה עולים.
• אין השפעה ישירה על סגנון, רק על מתי המודל מפסיק להגיב.
2. טמפרטורה (Temperature)
• שולטת ברמת האקראיות של הבחירה בטוקנים הבאים.
• ערך נמוך (למשל 0) = תגובה דטרמיניסטית.
• ערך גבוה (למשל 1) = תגובות מגוונות, לא צפויות.
3. Top-K
• מגביל את המודל לבחור מתוך K האפשרויות הסבירות ביותר.
• K=1 משמעו תגובה הכי צפויה בלבד (כמו טמפרטורה = 0).
4. Top-P (Nucleus Sampling)
• בוחר טוקנים עד שסכום ההסתברויות שלהם עובר את סף P.
• P קרוב ל־1 = יותר וריאציות; P קרוב ל־0 = תגובה מדויקת.
1. Zero-shot
• נותנים למודל הוראה בלי דוגמאות קודמות.
• דוגמה:
Prompt: סווג את הביקורת על הסרט ל”חיובית”, “ניטרלית” או “שלילית”:
“Her הוא סרט מטריד אך מבריק”
Output: חיובית
2. One-shot / Few-shot
• מוסיפים דוגמה אחת או כמה דוגמאות לפורמט הרצוי.
• עוזר למודל להבין תבנית ולחקות אותה.
• דוגמה Few-shot:
EXAMPLE:
I want a small pizza with cheese and tomato.
→ {"size": "small", "ingredients": ["cheese", "tomato"]}
Prompt:
I want a large pizza with pineapple.
→ ?
3. System Prompt
• קובע מטרת-על או דרישות טכניות.
• דוגמה: “סווג ביקורת סרט והחזר תשובה ב־JSON בלבד.”
4. Role Prompt
• מגדיר תפקיד למודל (מורה, יועץ, מתכנת).
• דוגמה: “פעל כמו מדריך טיולים. אני במנהטן, הצע לי שלושה מוזיאונים.”
5. Contextual Prompt
• מוסיף מידע רקע למשימה.
• דוגמה: “אתה כותב לבלוג בנושא משחקי וידאו רטרו. הצע 3 נושאים למאמר.”
6. Step-Back Prompting
• מתחילים משאלה כללית כדי “לעורר ידע”, ואז מתמקדים בשאלה הספציפית.
• דוגמה:
1. מהם סוגי הסביבות הפופולריות במשחקי יריות?
2. כתוב סיפור עבור אחת מהן.
7. Chain of Thought (CoT)
• מבקשים מהמודל לפרט שלבים לוגיים.
• דוגמה: “כשהייתי בן 3, בן זוגי היה פי 3 מגילי. היום אני בן 20. בן כמה הוא?”
ניתוח: בגיל 3 הוא היה בן 9. ההפרש הוא 6 שנים. כיום הוא 26.
8. Self-Consistency
• שולחים את אותו פרומפט מספר פעמים עם טמפרטורה גבוהה.
• בוחרים את התשובה הנפוצה ביותר.
• משפר אמינות של משימות לוגיות/קלאסיפיקציה.
9. Tree of Thoughts (ToT)
• כמו Chain of Thought אבל ב”עץ” של אפשרויות.
• המודל בוחן כמה מסלולי חשיבה במקביל ובוחר את הטוב ביותר.
10. ReAct (Reason + Act)
• שילוב של חשיבה וביצוע פעולות (כגון חיפוש באינטרנט).
• משמש ב־LangChain ליצירת סוכנים אינטראקטיביים.
• דוגמה: חפש בגוגל כמה ילדים יש לכל חבר בלהקת Metallica וחשב את הסכום.
11. Automatic Prompt Engineering (APE)
• פרומפטים שיוצרים פרומפטים.
• לדוגמה, יצירת וריאציות שונות לפרומפט הזמנה של חולצה ממרצ’נדייז.
• תן דוגמאות (few-shot).
• כתוב בשפה פשוטה וברורה.
• השתמש בהוראות במקום בהגבלות (עדיף “עשה” על פני “אל תעשה”).
• קבע במפורש את פורמט הפלט.
• נצל משתנים בפרומפטים למודולריות.
• נסה וריאציות שונות: ניסוחים, סגנונות, מבנים.
• תעד ניסיונות פרומפט שונים והשווה ביניהם.