איך עובדים מודלי שפה גדולים

העולם סביבנו משתנה בקצב מסחרר, ונדמה שאי אפשר לפתוח את החדשות או לגלוש ברשת בלי לשמוע על המהפכה הבאה של הבינה המלאכותית. כולנו משתמשים בצ'אטבוטים, נעזרים בהם לכתיבת מיילים ואפילו מבקשים מהם עצות לחיים, אבל כמה מאיתנו באמת מבינים מה מתרחש שם "מתחת למכסה המנוע"? בלב המהפכה הזו עומד מודל שפה מתוחכם, מערכת שלומדת ומייצרת טקסט בצורה שנראית כמעט אנושית, אך פועלת על עקרונות מתמטיים וסטטיסטיים שונים לחלוטין מהחשיבה שלנו. 

מהו בעצם מודל שפה גדול (LLM)?

כדי להבין את הטכנולוגיה ששינתה את חיינו, עלינו קודם כל לפרק את המושג עצמו לגורמים. מודל שפה גדול, או בקיצור LLM, הוא סוג של בינה מלאכותית שנועדה להבין, לנתח וליצור טקסט בשפה טבעית. זה נשמע פשוט, אבל היכולת הזו נשענת על עיבוד כמויות דאטה בלתי נתפסות. בניגוד לתוכנות מחשב מסורתיות שפועלות לפי חוקים נוקשים של "אם-אז", מודלים אלו פועלים על בסיס הסתברות וזיהוי תבניות.

כשאנחנו מדברים על "גדול", אנחנו מתייחסים לשני היבטים עיקריים: גודל מאגר הנתונים עליו המודל אומן, ומספר הפרמטרים במודל עצמו. פרמטרים הם למעשה המשתנים הפנימיים שהמודל מכוונן במהלך הלמידה כדי לשפר את התחזיות שלו. ככל שיש יותר פרמטרים, כך המודל מסוגל לקלוט דקויות מורכבות יותר של השפה, החל מתחביר בסיסי ועד להבנה של סרקזם, הקשרים תרבותיים ומשמעויות כפולות.

מודל שפה אינו "יודע" עובדות באותו אופן שבני אדם יודעים אותן, אלא הוא מחזיק בייצוג סטטיסטי של הסבירות שמילים מסוימות יופיעו יחד. 

ההבדל בין חיפוש לבין יצירה

רבים נוטים לבלבל בין מנועי חיפוש לבין מודלי שפה. בעוד שמנוע חיפוש סורק את האינטרנט כדי למצוא מידע קיים ולהציג אותו בפניכם, מודל שפה מייצר תשובה חדשה מתוך הידע הסטטיסטי שצבר. הוא לא "מעתיק" משפטים, אלא מרכיב אותם מחדש, מילה אחר מילה, בהתאם לבקשה שלכם. זו הסיבה שלעיתים הוא יכול להמציא מידע שאינו קיים, תופעה שחשוב להכיר ולהיזהר ממנה.

 

רשתות נוירונים: המוח הדיגיטלי

הקסם האמיתי מתרחש בתוך הארכיטקטורה של המודל, המכונה "רשת נוירונים עמוקה". הרשתות הללו שואבות השראה (אם כי שטחית למדי) ממבנה המוח האנושי. הן מורכבות משכבות רבות של צמתים (נוירונים מלאכותיים) המחוברים ביניהם, כאשר כל צומת מבצע חישוב מתמטי קטן ומעביר את המידע הלאה. אם תרצו להעמיק בהבדלים בין סוגי הלמידה, תוכלו לקרוא על למידת מכונה לעומת למידת עמוקה באתר שלנו.

במודלי שפה מודרניים, הארכיטקטורה הנפוצה ביותר נקראת "טרנספורמר" (Transformer). החידוש הגדול של הטרנספורמרים הוא מנגנון שנקרא "תשומת לב" (Attention Mechanism). המנגנון הזה מאפשר למודל להתמקד בחלקים שונים של המשפט או הטקסט בו זמנית, ולתת משקל שונה לכל מילה בהתאם להקשר שלה. לדוגמה, במשפט "הבנק נסגר כי הנהר עלה על גדותיו", המודל יבין שהמילה "בנק" מתייחסת לגדת נהר ולא למוסד פיננסי, בזכות הקשר המילים שבאו אחריה.

יכולת זו לנתח הקשרים ארוכי טווח היא שמאפשרת למודלים לכתוב מאמרים שלמים שנשארים קוהרנטיים מההתחלה ועד הסוף.

 

שפת המספרים: טוקנים וייצוג וקטורי

מחשבים לא באמת מבינים מילים; הם מבינים מספרים. לכן, השלב הראשון בכל מודל שפה הוא תרגום הטקסט ליחידות קטנות שנקראות "טוקנים" (Tokens). טוקן יכול להיות מילה שלמה, חלק ממילה, או אפילו תו בודד. המודל ממיר כל טוקן לרשימה ארוכה של מספרים (וקטור), המייצגת את המשמעות הסמנטית שלו במרחב רב-ממדי.

הנה דוגמה לאופן שבו מודל עשוי לפרק משפט בעברית לטוקנים ולנתח אותם:

המילה המקורית	חלוקה לטוקנים (הערכה)	משמעות למודל (הסבר פשוט)
"וכשכעסתי"	ו-כש-כעס-תי	חיבור, זמן, רגש שלילי, גוף ראשון עבר
"חתול"	חתול	חיה, פרוותית, חיית מחמד, קשור ל'מיאו'
"ChatGPT"	Chat-G-PT	שיחה, דגם ספציפי, טכנולוגיה
"1990"	199-0	שנה, עבר, היסטוריה קרובה

כפי שניתן לראות, החלוקה לטוקנים מאפשרת למודל להתמודד גם עם מילים מורכבות בעברית הכוללות אותיות יחס וחיבור. המודל לומד שקרבה מתמטית בין הווקטור של "מלך" לבין הווקטור של "מלכה" דומה לקרבה שבין "איש" ל"אישה". הבנה מתמטית זו היא הבסיס לכל היכולות המרשימות שאנו רואים.

 

💡חשוב לדעת💡 מודלי שפה "משלמים" על כל טוקן שהם מעבדים. בעברית, מכיוון שמילים רבות מורכבות מקידומות וסיומות, מילה אחת עשויה להתפרק למספר טוקנים רב יותר מאשר באנגלית. זה אומר שלעיתים השימוש במודלים בעברית הוא "יקר" יותר מבחינת כוח עיבוד וזיכרון, ולכן התשובות עשויות להיות קצרות יותר או איטיות יותר בהשוואה לאנגלית.

 

תהליך האימון: ללמוד את כל האינטרנט

איך מלמדים מכונה את כל השפות, העובדות והסגנונות הללו? התשובה היא אימון על כמויות מידע אדירות. המודלים נחשפים לטקסטים מגוונים: ספרות יפה, קוד תכנות, מאמרים אקדמיים, דיונים ברשתות חברתיות ועוד. אם אתם מתעניינים במקורות מידע אמינים, כדאי לקרוא את המדריך שלנו על איך לקרוא מחקר מדעי, שמסביר איך מבדילים בין מקור איכותי לרעש רקע.

תהליך האימון מתבצע במספר שלבים, כאשר העיקרי שבהם הוא "למידה בפיקוח עצמי". המודל מקבל טקסטים שבהם חלק מהמילים מוסתרות, והמטרה שלו היא לנחש את המילה החסרה. בהתחלה הניחושים אקראיים לחלוטין, אך לאחר טריליוני ניסיונות ותיקונים, המודל משתפר ומפתח הבנה עמוקה של מבנה השפה.

הנה רשימה של סוגי המידע המרכזיים שמזינים מודל שפה טיפוסי:

• טקסטים כלליים מהאינטרנט (Common Crawl): אוסף עצום של דפי אינטרנט המכיל הכל מהכל, החל מבלוגים אישיים ועד לאתרי חדשות מובילים.
• ספרים דיגיטליים: מאגרים של ספרות יפה וספרי עיון שעוזרים למודל ללמוד מבנים נרטיביים ארוכים ושפה עשירה.
• מאמרים מדעיים ואנציקלופדיות: מקורות כמו ויקיפדיה ומאגרי מחקר שמספקים למודל עובדות, היסטוריה וידע כללי רחב.
• קוד תכנות (GitHub ועוד): חשיפה לשפות תכנות עוזרת למודל לפתח חשיבה לוגית ומובנית, מעבר ליכולת לכתוב קוד.
• שיחות ופורומים: טקסטים מתוך רשתות חברתיות (כמו Reddit) שמלמדים את המודל סלנג, שפה מדוברת ודינמיקה של שיחה אנושית.

שילוב המקורות הללו יוצר בסיס ידע רחב, המאפשר למודל לענות על שאלות בנושאים מגוונים, החל ממתכון לעוגה ועד להסבר על פיזיקה קוונטית. עם זאת, חשוב לזכור שהמודל משקף גם את המידע השגוי או המוטה שקיים ברשת.

 

מנוע הניבוי: השלמה אוטומטית על סטרואידים

בסופו של דבר, הפעולה הבסיסית ביותר של מודל שפה היא ניבוי המילה הבאה. כשאתם שואלים אותו שאלה, הוא לא "חושב" על התשובה המלאה מראש. הוא מייצר אותה טוקן אחר טוקן. הוא מסתכל על כל הטקסט שהיה עד כה (כולל השאלה שלכם ומה שהוא כבר ענה), ומחשב מהי המילה הסבירה ביותר שתבוא לאחר מכן.

כדי להבין את התהליך הזה לעומק, מומלץ לצפות בסרטון הבא שמסביר בצורה ויזואלית וברורה איך המודלים הללו מעבדים מידע:

התהליך המתרחש בכל שבריר שנייה של יצירת טקסט הוא מורכב ומרתק:

1. קליטת הקלט: המודל מקבל את הטקסט שהזנתם (הפרומפט) וממיר אותו לטוקנים מספריים.
2. עיבוד ברשת הנוירונים: המספרים עוברים דרך מיליארדי פרמטרים בשכבות השונות של המודל, תוך חישוב ההקשרים בין המילים.
3. חישוב הסתברויות: המודל מייצר רשימה של אלפי מילים אפשריות להמשך, ולכל אחת מהן הוא מצמיד ציון הסתברות (למשל: 80% סיכוי למילה "בית", 15% ל"עבודה").
4. בחירת המילה (Sampling): המודל בוחר את המילה הבאה מתוך הרשימה; לרוב הוא יבחר את המילה הסבירה ביותר, אך לעיתים יבחר מילה פחות צפויה כדי ליצור טקסט יצירתי יותר.
5. חזרה בלולאה: המילה שנבחרה מתווספת לטקסט הקיים, והתהליך כולו מתחיל מחדש כדי לנבא את המילה שאחריה.

החזרתיות הזו היא המנוע שמניע את השיחה, ומאפשרת למודל לבנות משפטים מורכבים ופסקאות שלמות מתוך בחירות נקודתיות.

תהליך הדגימה (Sampling) הוא שקובע עד כמה המודל יהיה "יצירתי"; בחירה תמיד במילה הסבירה ביותר תוביל לטקסט משעמם וחזרתי. 

האם המודל מבין מה הוא אומר?

זוהי שאלת מיליון הדולר. מבחינה טכנית, מהם מודלי שפה גדולים אם לא מחשבונים סטטיסטיים משוכללים? הם אינם חווים רגשות, אין להם תודעה, והם לא "מבינים" את העולם הפיזי כמונו. אם תבקשו ממודל לתאר את הטעם של תפוח, הוא ידע לחבר מילים כמו "מתוק", "חמוץ" ו"פריך" בצורה משכנעת כי הוא ראה אותן מופיעות יחד בטקסטים רבים, לא כי הוא טעם תפוח מימיו. לקריאה נוספת על מגבלות הסטטיסטיקה, כדאי לעיין במאמר שלנו על חשיבות הסטטיסטיקה במחקר.

 

⭐טיפ זהב⭐ כדי לקבל תוצאות טובות יותר ממודל שפה, נסו לספק לו הקשר רחב ככל האפשר. אל תשאלו רק "כתוב לי מייל"; תנו לו תפקיד ("אתה מנהל שיווק"), הגדירו את הנמען ("ללקוח פוטנציאלי חששן") ואת המטרה ("לשכנע אותו לקבוע פגישה"). ככל שהקשר המילים יהיה עשיר יותר, כך הסטטיסטיקה תעבוד לטובתכם והתוצאה תהיה מדויקת יותר.

 

מכיול עדין ועד משוב אנושי (RLHF)

אם המודל רק חוזה את המילה הבאה על סמך האינטרנט, איך הוא יודע להיות מנומס, מועיל ולא גזעני? כאן נכנס לתמונה שלב קריטי נוסף שנקרא Fine-Tuning (כיול עדין) ו-RLHF (למידת חיזוק ממשוב אנושי). לאחר האימון הראשוני, המודל עובר שלב של חינוך מחדש. בני אדם אמיתיים בודקים את התשובות שלו, מדרגים אותן ונותנים לו משוב: "זו תשובה טובה", "זו תשובה מסוכנת", או "זה לא מה שביקשתי".

תהליך זה חיוני כדי להפוך את המודל מ"מכונת השלמת טקסט" ל"עוזר חכם". חברות כמו גוגל (Google) ו-OpenAI משקיעות משאבים אדירים בשלב זה כדי להבטיח שהמודלים יהיו בטוחים לשימוש. ללא המשוב האנושי, המודלים היו עלולים לפלוט תוכן פוגעני או שגוי בתדירות גבוהה, כפי שקרה בניסויים מוקדמים בתחום.

המעורבות האנושית בתהליך האימון היא זו שהופכת את המודל הגולמי למוצר שימושי שאפשר לנהל איתו דיאלוג מועיל ובטוח. 

מודלי שפה הם ללא ספק אחת ההמצאות המרתקות של המאה ה-21. הם משלבים בתוכם מתמטיקה מורכבת, כוח מחשוב אדיר והמון יצירתיות אנושית בבנייתם. ככל שנבין טוב יותר כיצד הם עובדים, כך נוכל להשתמש בהם בצורה חכמה יותר, להיזהר מהטעויות שלהם, ולנצל את הפוטנציאל האדיר שלהם לטובתנו. אנחנו בסיינטיפיק נמשיך לעקוב אחרי ההתפתחויות ולספק לכם את הידע המדויק ביותר.

אם אתם מרגישים שהגיע הזמן להבין לעומק איך הטכנולוגיה הזו יכולה לשרת את הארגון שלכם או לקדם את המחקר האישי שלכם, אני מזמין אתכם לא להישאר מאחור. פנו אלינו עוד היום לשיחת ייעוץ אישית, ונבנה יחד את הגשר בין הידע התיאורטי ליישום המעשי בעולם שלכם.

שאלות ותשובות

האם מודל שפה יכול לחשוב כמו בן אדם?

לא, מודל שפה אינו בעל תודעה או יכולת חשיבה כפי שאנו מכירים אותה. הוא פועל כמערכת סטטיסטית מתקדמת המחשבת את הסבירות של מילים להופיע ברצף מסוים על סמך דפוסים שלמד מכמויות עצומות של טקסט. כאשר הוא "עונה" על שאלה, הוא לא שולף ידע מתוך הבנה, אלא מנבא אילו מילים אמורות להופיע כתשובה הגיונית בהתאם להקשר. אין לו רגשות, כוונות או הבנה של העולם הפיזי, ולכן כל מה שנראה כ"חשיבה" הוא למעשה חיקוי משכנע של דפוסי תקשורת אנושיים.

מהם טוקנים (Tokens) ולמה הם חשובים?

טוקנים הם יחידות הבסיס של הטקסט שמודל השפה מעבד. המחשב אינו יודע לקרוא מילים כמו "בית" או "ספר", ולכן הטקסט מומר למספרים. כל טוקן יכול להיות מילה שלמה, חלק ממילה או אפילו סימן פיסוק. בעברית, בגלל המבנה הדקדוקי (כמו הוספת ו' החיבור או ה' הידיעה), מילה אחת יכולה להתפרק למספר טוקנים. חשיבותם של הטוקנים היא קריטית כי היא קובעת כיצד המודל "רואה" את המידע, וגם משפיעה על עלות השימוש ומהירות התגובה של המודל, שכן חישובי המערכת מתבצעים לפי כמות הטוקנים ולא לפי כמות המילים.

מדוע מודלי שפה ממציאים לפעמים מידע שגוי (הזיות)?

תופעת ה"הזיות" (Hallucinations) נובעת מכך שמטרת העל של המודל היא לייצר טקסט שנראה סביר ונכון מבחינה לשונית, ולא בהכרח לאמת עובדות. המודל לא בודק את המידע מול מאגר עובדות בזמן אמת, אלא משלים את המילה הבאה על סמך ההסתברות הסטטיסטית שלה. אם המודל נתקל בשאלה שאין לו עליה מידע מדויק בדאטה עליו הוא אומן, הוא עלול להרכיב תשובה שנשמעת משכנעת מאוד בסגנון שלה, אך תוכנה מומצא לחלוטין, פשוט כי המילים הללו מסתדרות יחד סטטיסטית בצורה טובה.

מהו תהליך ה-RLHF וכיצד הוא משפר את המודל?

תהליך ה-RLHF (Reinforcement Learning from Human Feedback) הוא שלב של למידת חיזוק המבוסס על משוב אנושי. לאחר שהמודל למד את בסיס השפה מהאינטרנט, הוא עובר שלב נוסף שבו בני אדם בודקים את התשובות שלו. הם מדרגים את התשובות לפי איכות, בטיחות ורלוונטיות. המודל לומד מהדירוגים הללו ומשפר את מדיניות התגובה שלו. תהליך זה חיוני כדי למנוע מהמודל לייצר תוכן פוגעני, גזעני או מסוכן, וכדי לכוון אותו להיות עוזר מועיל שמבין את כוונת המשתמש ולא רק משלים טקסט בצורה טכנית.