אסטרטגיות לעיצוב הנחיות

עיצוב הנחיות הוא תהליך של יצירת הנחיות, או בקשות בשפה טבעית, שמניבות תשובות מדויקות ואיכותיות ממודל שפה.

בדף הזה מוסברים מושגים בסיסיים, אסטרטגיות ושיטות מומלצות שיעזרו לכם להתחיל לכתוב הנחיות כדי להפיק את המרב ממודלים של Gemini AI.

מדריכים לכתיבת הנחיות בנושאים ספציפיים

רוצים לקבל אסטרטגיות ספציפיות יותר לכתיבת הנחיות? כדאי לעיין במדריכים הנוספים שלנו לכתיבת הנחיות בנושאים הבאים:

אפשר למצוא הנחיות לדוגמה נוספות בגלריית ההנחיות, שנועדה להציג באופן אינטראקטיבי רבים מהמושגים שמופיעים במדריך הזה.

הוראות ברורות וספציפיות

דרך יעילה ונוחה להתאים אישית את התנהגות המודל היא לספק לו הוראות ברורות וספציפיות. ההוראות יכולות להיות בצורת שאלה, משימות מפורטות או מורכבות כמו מיפוי של חוויית המשתמש והלך הרוח שלו.

קלט

קלט הוא הטקסט שחובה להזין בהנחיה כדי שהמודל יספק תגובה. קלט יכול להיות שאלה שהמודל עונה עליה (קלט של שאלה), משימה שהמודל מבצע (קלט של משימה), ישות שהמודל פועל עליה (קלט של ישות) או קלט חלקי שהמודל משלים או ממשיך (קלט של השלמה).

סוג קלט הנחיה הפלט שנוצר באמצעות AI
שאלה 
     What's a good name for a flower shop that specializes in selling bouquets of     dried flowers? Create a list of 5 options with just the names.
 
     Here are 10 names for a flower shop specializing in dried flowers:      1. Everlasting Blooms     2. Dried & Delightful     3. The Petal Preserve     4. Whispers of Wildflowers     5. Forever Blooms
משימה 
     Give me a simple list of just the things that I must bring on a camping trip. The list should have 5 items.
 
     1. **Tent:** Your shelter from the elements.     2. **Sleeping Bag:** Stay warm and comfortable.     3. **Sleeping Pad:** Insulation and cushioning for a good night's sleep.     4. **Headlamp or Flashlight:** Light for nighttime activities.     5. **First Aid Kit:** Be prepared for minor injuries.
ישות 
     Classify the following items as [large, small]: Elephant Mouse Snail
 
 Here's the classification:  * **Elephant:** Large * **Mouse:** Small * **Snail:** Small

השלמה חלקית של קלט

מודלים גנרטיביים של שפה פועלים כמו כלי מתקדם להשלמה אוטומטית. כשמספקים תוכן חלקי, המודל יכול לספק את שאר התוכן או את מה שהוא חושב שהוא המשך של התוכן הזה כתשובה. אם תכללו דוגמאות או הקשר, המודל יוכל להתחשב בהם.

בדוגמה הבאה מופיעה הנחיה עם הוראה וקלט של ישות:

 For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or drink, with the value being the quantity.  Order: A burger and a drink.   
 {   "cheeseburger": 0,   "hamburger": 1,   "fries": 0,   "drink": 1 }

המודל פעל לפי ההנחיה, אבל לפעמים קשה לכתוב את ההוראות בשפה טבעית, והמודל צריך לפרש הרבה מהן. לדוגמה, התפריט של מסעדה יכול להכיל הרבה פריטים. כדי להקטין את הגודל של תגובת ה-JSON, כדאי להשמיט את הפריטים שלא הוזמנו. במקרה כזה, אפשר לתת דוגמה וקידומת לתשובה ולתת למודל להשלים אותה:

 Valid fields are cheeseburger, hamburger, fries, and drink. Order: Give me a cheeseburger and fries Output: ``` {   "cheeseburger": 1,   "fries": 1 } ``` Order: I want two burgers, a drink, and fries. Output:   
 ``` {   "hamburger": 2,   "drink": 1,   "fries": 1 } ```

שימו לב שהמילה cheeseburger לא נכללה בפלט כי היא לא הייתה חלק מההזמנה.

מגבלות

מציינים אילוצים לגבי קריאת ההנחיה או יצירת התשובה. אתם יכולים להגיד למודל מה לעשות ומה לא לעשות. לדוגמה, אתם יכולים לציין הנחיה בהנחיה לגבי אורך הסיכום שאתם רוצים:

 Summarize this text in one sentence: Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially faster than any modern traditional computer. At very tiny scales, physical matter acts as both particles and as waves, and quantum computing uses specialized hardware to leverage this behavior. The operating principles of quantum devices is beyond the scope of classical physics. When deployed at scale, quantum computers could be used in a wide variety of applications such as: in cybersecurity to break existing encryption methods while helping researchers create new ones, in meteorology to develop better weather forecasting etc. However, the current state of the art quantum computers are still largely experimental and impractical.     

       Exploiting quantum mechanical phenomena, quantum computers can perform calculations exponentially faster than traditional computers for potential applications like cybersecurity and meteorology, although they are currently largely experimental and impractical.

פורמט התשובה

אתם יכולים לתת הוראות שמציינות את הפורמט של התשובה. לדוגמה, אתם יכולים לבקש שהתשובה תהיה בפורמט של טבלה, רשימה עם תבליטים, הצגה עצמית קצרה, מילות מפתח, משפט או פסקה. ההוראה הבאה למערכת מורה למודל להיות יותר שיחתי בתשובה שלו:

     All questions should be answered comprehensively with details, unless the user requests a concise response specifically.   
     What is a smart way to make a business that sells DVD's in 2025?   
 Starting a business selling DVDs in 2025 presents significant challenges due to the overwhelming dominance of digital streaming and on-demand services; a "smart" approach would therefore require a highly specialized niche, a strong value proposition beyond just the disc, and likely a focus on community or collector markets rather than mainstream consumption.  Here's a breakdown of what a smart DVD business in 2025 would likely entail:  1. Extreme Niche Specialization: You cannot compete with streaming libraries. Your business must focus on what digital doesn't offer easily or at all. This could include:      * Out-of-Print & Rare Titles: Sourcing films or TV shows that have never been released digitally or are currently unavailable on major streaming platforms.     ....

עיצוב התשובות באמצעות אסטרטגיית ההשלמה

אסטרטגיית ההשלמה יכולה לעזור גם בעיצוב התשובה. בדוגמה הבאה, המודל מתבקש ליצור טיוטה של חיבור:

 Create an outline for an essay about hummingbirds.   
 Here is a possible outline for an essay about hummingbirds:  I. Introduction A. Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size). B. Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds. C. Thesis Statement: State the main point of the essay, which could be about the remarkable adaptations, behaviors, and ecological importance of hummingbirds.  II. Appearance and Identification .....

בהנחיה לא צוין פורמט לתוכן, והמודל בחר פורמט בשבילכם. כדי שהמודל יחזיר תרשים בפורמט מסוים, אפשר להוסיף טקסט שמייצג את תחילת התרשים ולתת למודל להשלים אותו על סמך התבנית שהתחלתם.

 Create an outline for an essay about hummingbirds. I. Introduction    *   
 Okay, here is an outline for an essay about hummingbirds, starting from the introduction you provided:  I. Introduction * Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size). * Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds, and their general characteristics. * Thesis Statement: State the main point of the essay, focusing on the remarkable adaptations, behaviors, and ecological significance that make hummingbirds extraordinary. .....

הנחיות ישירות (Zero-shot) לעומת הנחיות עם כמה דוגמאות (Few-shot)

אתם יכולים לכלול בהנחיה דוגמאות שמראות למודל איך נראה תוכן שעונה על הדרישות. המודל מנסה לזהות דפוסים וקשרים מהדוגמאות ומיישם אותם כשהוא יוצר תגובה. הנחיות שמכילות כמה דוגמאות נקראות הנחיות עם כמה דוגמאות, והנחיות שלא מכילות דוגמאות נקראות הנחיות ללא דוגמאות. הנחיות עם כמה דוגמאות משמשות בדרך כלל כדי לשלוט בעיצוב, בניסוח, בהיקף או בדפוס הכללי של תשובות המודל. כדאי להשתמש בדוגמאות ספציפיות ומגוונות כדי לעזור למודל לצמצם את המיקוד שלו וליצור תוצאות מדויקות יותר.

מומלץ תמיד לכלול בדוגמאות שלכם כמה דוגמאות של למידה עם מעט נתונים. הנחיות בלי דוגמאות מעטות לא יעילות בדרך כלל. למעשה, אם הדוגמאות ברורות מספיק ומציגות את המשימה, אפשר להסיר את ההוראות מההנחיה.

ההנחיה הבאה היא הנחיית zero-shot שבה המודל מתבקש לבחור את ההסבר הטוב ביותר.

 Please choose the best explanation to the question:  Question: How is snow formed? Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and accumulate on the ground. Explanation2: Water vapor freezes into ice crystals forming snow. Answer:   
 Explanation1 is the better explanation because it provides more detail on the process, including how ice crystals combine and grow into snowflakes as they fall through the atmosphere.

אם תרצו שהמודל יפיק תשובות תמציתיות, תוכלו לכלול בדוגמאות בהנחיה תשובות תמציתיות.

ההנחיה הבאה מספקת שתי דוגמאות שמראות העדפה להסברים קצרים יותר. בתשובה אפשר לראות שהדוגמאות עזרו למודל לבחור את ההסבר הקצר יותר (Explanation2) ולא את ההסבר הארוך יותר (Explanation1) כמו שהוא עשה קודם.

 Below are some examples showing a question, explanation, and answer format:  Question: Why is the sky blue? Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look blue. Explanation2: Due to Rayleigh scattering effect. Answer: Explanation2  Question: What is the cause of earthquakes? Explanation1: Sudden release of energy in the Earth's crust. Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a release of energy that creates seismic waves that can shake the ground and cause damage. Answer: Explanation1  Now, Answer the following question given the example formats above:  Question: How is snow formed? Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and accumulate on the ground. Explanation2: Water vapor freezes into ice crystals forming snow. Answer:   
 Answer: Explanation2

מספר אופטימלי של דוגמאות

מודלים כמו Gemini יכולים לזהות דפוסים באמצעות כמה דוגמאות, אבל יכול להיות שתצטרכו להתנסות עם מספר הדוגמאות שתספקו בהנחיה כדי לקבל את התוצאות הכי טובות. יחד עם זאת, אם תכללו יותר מדי דוגמאות, יכול להיות שהמודל יתחיל להתאים יתר על המידה את התשובה לדוגמאות.

דפוסים לעומת דפוסים לא מומלצים

יותר יעיל להשתמש בדוגמאות כדי להראות למודל דפוס לפעולה מאשר להשתמש בדוגמאות כדי להראות למודל דפוס לא רצוי שיש להימנע ממנו.

‫⛔ תבנית שלילית:

 Don't end haikus with a question: Haiku are fun A short and simple poem Don't you enjoy them?

‫✅ תבנית חיובית:

 Always end haikus with an assertion: Haiku are fun A short and simple poem A joy to write

עיצוב עקבי

כדי למנוע תשובות בפורמטים לא רצויים, חשוב לוודא שהמבנה והפורמט של הדוגמאות עם ההקשר המצומצם זהים. אחת המטרות העיקריות של הוספת דוגמאות עם מעט נתונים בהנחיות היא להראות למודל את פורמט התשובה. לכן, חשוב לוודא שכל הדוגמאות הן באותו פורמט, ובמיוחד לשים לב לתגי XML, לרווחים, למעברי שורה ולמפרידי הדוגמאות.

הוספת הקשר

אתם יכולים לכלול בהנחיה הוראות ומידע שהמודל צריך כדי לפתור בעיה, במקום להניח שיש לו את כל המידע הנדרש. המידע ההקשרי הזה עוזר למודל להבין את האילוצים ואת הפרטים של מה שאתם מבקשים ממנו לעשות.

בדוגמה הבאה, המודל מתבקש לספק הנחיות לפתרון בעיות בנתב:

 What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.   
   A yellow blinking light on your Google Wifi router usually indicates a problem   with the internet connection. Here are some steps to troubleshoot and fix the   issue:   1. Restart your router and modem:     - Unplug your modem from the power outlet and wait for 30 seconds.     - Plug your modem back in and wait for it to fully boot up.     - Unplug your Google Wifi router and wait for 30 seconds.     - Plug your Google Wifi router back in and wait for it to fully boot up. .....

התשובה נראית כמו מידע כללי לפתרון בעיות שלא ספציפי לנתב או לסטטוס של נוריות ה-LED.

כדי להתאים אישית את התשובה לנתב הספציפי, אפשר להוסיף להנחיה את מדריך פתרון הבעיות של הנתב כהקשר שאליו כדאי להתייחס כשמספקים תשובה.

 Answer the question using the text below. Respond with only the text provided. Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.  Text: Color: Slowly pulsing yellow What it means: There is a network error. What to do: Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.  Color: Fast blinking yellow What it means: You are holding down the reset button and are factory resetting this device. What to do: If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.  Color: Solid yellow What it means: Router is factory resetting. What to do: This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.  Color: Solid red What it means: Something is wrong. What to do: Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.   
 Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

הוספת קידומות

קידומת היא מילה או ביטוי שמוסיפים לתוכן ההנחיה, ויכולה לשמש למספר מטרות, בהתאם למיקום שלה:

  • קידומת קלט: הוספת קידומת לאותות הקלט, שהיא חלקים בעלי משמעות סמנטית בקלט למודל. לדוגמה, הקידומות 'אנגלית:' ו'צרפתית:' מציינות שתי שפות שונות.
  • קידומת של פלט: גם אם הפלט נוצר על ידי המודל, אפשר להוסיף קידומת לפלט בהנחיה. קידומת הפלט מספקת למודל מידע על התשובה הצפויה. לדוגמה, הקידומת 'JSON:' בפלט מסמנת למודל שהפלט צריך להיות בפורמט JSON.
  • קידומת לדוגמה: בהנחיות עם מעט דוגמאות, הוספת קידומות לדוגמאות מספקת תוויות שהמודל יכול להשתמש בהן כשיוצר את הפלט, וכך קל יותר לנתח את תוכן הפלט.

בדוגמה הבאה, 'Text:‎' הוא קידומת הקלט ו-'The answer is:‎' הוא קידומת הפלט.

 Classify the text as one of the following categories. - large - small Text: Rhino The answer is: large Text: Mouse The answer is: small Text: Snail The answer is: small Text: Elephant The answer is:   
 The answer is: large

פירוק ההנחיות לרכיבים

בתרחישי שימוש שבהם נדרשות הנחיות מורכבות, אפשר לעזור למודל להתמודד עם המורכבות הזו על ידי פירוק הדברים לרכיבים פשוטים יותר.

  1. פירוט ההוראות: במקום לכלול הרבה הוראות בהנחיה אחת, כדאי ליצור הנחיה אחת לכל הוראה. אתם יכולים לבחור איזו הנחיה לעבד על סמך הקלט של המשתמש.

  2. שרשור הנחיות: למשימות מורכבות שכוללות כמה שלבים עוקבים, כדאי להפוך כל שלב להנחיה ולשרשר את ההנחיות ברצף. בשרשרת הרציפה הזו של הנחיות, הפלט של הנחיה אחת ברצף הופך לקלט של ההנחיה הבאה. הפלט של ההנחיה האחרונה ברצף הוא הפלט הסופי.

  3. תגובות מצטברות: צבירה היא מצב שבו רוצים לבצע משימות מקבילות שונות בחלקים שונים של הנתונים ולצבור את התוצאות כדי ליצור את הפלט הסופי. לדוגמה, אפשר להנחות את המודל לבצע פעולה אחת על החלק הראשון של הנתונים, לבצע פעולה אחרת על שאר הנתונים ולצבור את התוצאות.

ניסוי עם פרמטרים של מודל

כל קריאה שאתם שולחים למודל כוללת ערכי פרמטרים שקובעים איך המודל יוצר תגובה. המודל יכול ליצור תוצאות שונות עבור ערכים שונים של פרמטרים. כדאי לנסות ערכי פרמטרים שונים כדי לקבל את הערכים הכי טובים למשימה. יכול להיות שיהיו הבדלים בין הפרמטרים שזמינים במודלים שונים. הפרמטרים הנפוצים ביותר הם:

  1. ‫Max output tokens: מציין את המספר המקסימלי של טוקנים שאפשר ליצור בתשובה. טוקן הוא בערך ארבעה תווים. ‫100 טוקנים תואמים בערך ל-60-80 מילים.

  2. טמפרטורה: הטמפרטורה שולטת במידת האקראיות בבחירת האסימון. הטמפרטורה משמשת לדגימה במהלך יצירת התשובה, שמתרחשת כשמחילים את topP ואת topK. טמפרטורות נמוכות טובות להנחיות שדורשות תשובה יותר דטרמיניסטית או פחות פתוחה, ואילו טמפרטורות גבוהות יכולות להוביל לתוצאות יותר מגוונות או יצירתיות. טמפרטורה של 0 היא דטרמיניסטית, כלומר תמיד נבחרת התגובה עם ההסתברות הכי גבוהה.

  3. ‫topK: הפרמטר topK משנה את האופן שבו המודל בוחר טוקנים לפלט. ערך topK של 1 מציין שהאסימון שנבחר הוא האסימון הסביר ביותר מבין כל האסימונים באוצר המילים של המודל (נקרא גם פענוח חמדני), ואילו ערך topK של 3 מציין שהאסימון הבא נבחר מבין 3 האסימונים הסבירים ביותר באמצעות הטמפרטורה. בכל שלב של בחירת אסימון, מתבצעת דגימה של topK אסימונים עם ההסתברויות הכי גבוהות. לאחר מכן, הטוקנים מסוננים עוד יותר על סמך topP, והטוקן הסופי נבחר באמצעות דגימה לפי טמפרטורה.

  4. ‫topP: הפרמטר topP משנה את האופן שבו המודל בוחר טוקנים לפלט. הטוקנים נבחרים מהסבירות הגבוהה ביותר לסבירות הנמוכה ביותר עד שסכום ההסתברויות שלהם שווה לערך topP. לדוגמה, אם ההסתברות של האסימונים A,‏ B,‏ ו-C היא 0.3,‏ 0.2 ו-0.1, והערך של topP הוא 0.5, המודל יבחר באסימון A או באסימון B כאסימון הבא באמצעות הטמפרטורה, ויפסול את C כמועמד. ערך ברירת המחדל של topP הוא 0.95.

  5. ‫stop_sequences: הגדרת רצף עצירה כדי להנחות את המודל להפסיק ליצור תוכן. רצף עצירה יכול להיות כל רצף של תווים. כדאי להימנע משימוש ברצף של תווים שעשויים להופיע בתוכן שנוצר.

אסטרטגיות לחידוד הנחיות

לפעמים צריך לבצע כמה איטרציות של עיצוב הנחיה כדי לקבל באופן עקבי את התשובה שמחפשים. בקטע הזה מפורטות כמה פעולות שאפשר לנסות כשמשפרים את ההנחיות:

  1. שימוש בניסוח שונה: שימוש במילים או בניסוח שונים בהנחיות שלכם לרוב יניב תגובות שונות מהמודל, גם אם כולן אומרות את אותו הדבר. אם לא קיבלתם את התוצאות הרצויות מההנחיה, נסו לנסח אותה מחדש.

     Version 1: How do I bake a pie?  Version 2: Suggest a recipe for a pie.  Version 3: What's a good pie recipe?

  2. מעבר למשימה דומה: אם לא הצלחתם לגרום למודל לפעול לפי ההוראות שנתתם לו למשימה מסוימת, נסו לתת לו הוראות למשימה דומה שתשיג את אותה התוצאה.

    ההנחיה הזו אומרת למודל לסווג ספר באמצעות קטגוריות מוגדרות מראש:

     Which category does The Odyssey belong to: thriller sci-fi mythology biography   
         The Odyssey belongs to the category of **mythology**.       Here's why:      * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his     journey home after the Trojan War. It features gods, monsters, and supernatural events common to     Greek mythology. .....

    התשובה נכונה, אבל המודל לא נשאר בגבולות האפשרויות. אתם רוצים שהמודל ישיב רק עם אחת מהאפשרויות במקום משפט מלא. במקרה כזה, אפשר לנסח מחדש את ההוראות כשאלה אמריקאית ולבקש מהמודל לבחור אפשרות.

     Multiple choice problem: Which of the following options describes the book The Odyssey? Options:
    • thriller
    • sci-fi
    • mythology
    • biography 
     The correct answer is mythology.

  3. לשנות את הסדר של התוכן בהנחיה: לפעמים הסדר של התוכן בהנחיה משפיע על התשובה. נסו לשנות את סדר התוכן ולראות איך זה משפיע על התשובה.

    Version 1: [examples] [context] [input]  Version 2: [input] [examples] [context]  Version 3: [examples] [input] [context]

תשובות חלופיות

תשובת גיבוי היא תשובה שמוחזרת על ידי המודל כשההנחיה או התשובה מפעילות מסנן בטיחות. דוגמה לתשובה חלופית היא: "אין לי אפשרות לעזור לך בנושא הזה, כי אני רק מודל שפה".

אם המודל מגיב בתשובת ברירת מחדל, נסו להגדיל את הטמפרטורה.

דברים שיש להימנע מהם

  • לא מומלץ להסתמך על מודלים ליצירת מידע עובדתי.
  • צריך להשתמש בזהירות בבעיות מתמטיות ובלוגיות.

מודלים גנרטיביים מאחורי הקלעים

בקטע הזה ננסה לענות על השאלה – האם יש אקראיות בתשובות של מודלים גנרטיביים, או שהן דטרמיניסטיות?

התשובה הקצרה היא כן לשתי השאלות. כשמזינים הנחיה למודל גנרטיבי, נוצרת תגובה טקסטואלית בשני שלבים. בשלב הראשון, המודל הגנרטיבי מעבד את הנחיית הקלט ומפיק התפלגות הסתברויות על פני אסימונים (מילים) אפשריים שסביר שיגיעו בהמשך. לדוגמה, אם מזינים את הטקסט "הכלב קפץ מעל ... ", המודל הגנרטיבי יפיק מערך של המילים הסבירות הבאות:

[("fence", 0.77), ("ledge", 0.12), ("blanket", 0.03), ...]

התהליך הזה הוא דטרמיניסטי. מודל גנרטיבי ייצור את אותה ההתפלגות בכל פעם שיוזן לו אותו טקסט של הנחיה.

בשלב השני, המודל הגנרטיבי ממיר את ההתפלגויות האלה לתגובות טקסט בפועל באמצעות אחת מכמה אסטרטגיות פענוח. אחת מהשיטות הפשוטות לפענוח היא בחירה של האסימון הסביר ביותר בכל פעימה. התהליך הזה תמיד יהיה דטרמיניסטי. אבל במקום זאת, אפשר לדגום באופן אקראי את ההתפלגות שהוחזרה על ידי המודל כדי ליצור תגובה. התהליך הזה יהיה סטוכסטי (אקראי). כדי לשלוט במידת האקראיות שמותרת בתהליך הפענוח הזה, צריך להגדיר את הטמפרטורה. טמפרטורה של 0 פירושה שרק האסימונים הסבירים ביותר נבחרים, ואין אקראיות. לעומת זאת, טמפרטורה גבוהה מוסיפה מידה גבוהה של אקראיות לאסימונים שנבחרים על ידי המודל, וכתוצאה מכך התשובות של המודל יהיו יותר לא צפויות ומפתיעות.

השלבים הבאים