התשובה הקצרה: RAG היא שיטה שבה, לפני שה-AI עונה על שאלה, המערכת מחפשת את הקטעים הרלוונטיים במסמכים של העסק ומצרפת אותם לשאלה. כך התשובה מבוססת על המחירון, הנהלים והמידע שלכם, ולא על ניחוש.
השם הוא ראשי תיבות של Retrieval-Augmented Generation, כלומר “יצירה שנעזרת בשליפה”. אבל את השם לא צריך לזכור. את הרעיון כן.
למה ChatGPT לא יודע את המחירים שלכם?
מודל שפה אומן על כמות עצומה של טקסט מהאינטרנט. הוא יודע הרבה על העולם, אבל כלום על העסק שלכם: לא את המחירון, לא את שעות הפעילות המעודכנות, לא את מדיניות הביטולים.
כשהוא לא יודע, הוא לפעמים מנחש, ובביטחון מלא. לזה קוראים הזיה. בבוט שעונה ללקוחות, ניחוש כזה יכול להיות הבטחה שאתם לא יכולים לעמוד בה.
איך RAG עובד, שלב אחרי שלב?
תחשבו על עובד חדש וחכם, שקיבל קלסר עם כל הנהלים של המשרד. כשלקוח שואל אותו שאלה, הוא לא עונה מהראש: הוא פותח את הקלסר, מוצא את העמוד הנכון, וקורא ממנו.
RAG עושה בדיוק את זה:
- הכנה, פעם אחת: המסמכים של העסק מחולקים לקטעים קטנים, וכל קטע נשמר בצורה שמאפשרת לחפש בו לפי משמעות ולא רק לפי מילים מדויקות. (בשביל הסקרנים: זה נקרא Embedding, והקטעים נשמרים במסד וקטורי.)
- שאלה נכנסת: “אפשר לבטל תור יום לפני?”
- חיפוש: המערכת מוצאת את הקטעים הכי קרובים לשאלה, למשל את הסעיף של מדיניות הביטולים, גם אם בשאלה לא הופיעה המילה “מדיניות”.
- תשובה: המודל מקבל את השאלה יחד עם הקטעים שנמצאו, ועונה מתוכם. אפשר גם לבקש ממנו לציין מאיזה מסמך הגיעה התשובה.
דוגמה: משרד רואה חשבון
משרד רואה חשבון מקבל כל שבוע את אותן שאלות: אילו הוצאות מוכרות, מתי מגישים, מה צריך להביא לפגישה. התשובות קיימות, בחוזרים ללקוחות, בנהלים הפנימיים ובמיילים ישנים.
עם RAG, בוט או עוזר פנימי יכול לענות מתוך החומר הזה בדיוק. ואם השאלה לא מכוסה במסמכים, הוא מוגדר לענות “אין לי מידע על זה, אעביר לרואה החשבון”, במקום להמציא. עוד רעיונות בעמוד של רואי חשבון.
מה צריך כדי להתחיל?
פחות ממה שנדמה:
- מסמכים מסודרים יחסית. מחירון, שאלות נפוצות, נהלים, תנאי שירות. גם קובצי Word ו-PDF רגילים מתאימים. מסמך סרוק עובר קודם OCR.
- מידע עדכני. RAG טוב בדיוק כמו המסמכים שהוא מחפש בהם. מחירון משנה שעברה ייתן תשובות משנה שעברה.
- החלטה מה לא לשתף. אם יש במסמכים מידע אישי של לקוחות או מידע פנימי, מגדירים מראש מה הבוט רשאי לראות.
RAG או אימון של מודל?
שאלה שחוזרת הרבה: “לא עדיף לאמן מודל על המידע שלנו?”. את זה עושים בכוונון עדין, וברוב העסקים הקטנים זה מיותר. אימון יקר יותר, ובכל פעם שהמידע משתנה צריך לאמן מחדש. ב-RAG פשוט מעדכנים את המסמך.
כלל אצבע: אם אתם רוצים שה-AI ידע משהו, משתמשים ב-RAG. אם אתם רוצים שהוא יכתוב בסגנון מסוים, בדרך כלל פרומפט טוב עם כמה דוגמאות מספיק.
השורה התחתונה
RAG הוא מה שהופך בוט כללי לבוט שמכיר את העסק שלכם. ההשקעה העיקרית היא לא בטכנולוגיה, אלא בסידור המסמכים, וזה משהו שמשתלם לעשות גם בלי AI.
רוצים לראות איך זה עובד על המסמכים שלכם? אנחנו בונים מערכות כאלה לעסקים קטנים, ונשמח לשמוע מה יש לכם בקלסר.
שאלות נפוצות
מה זה RAG בשפה פשוטה?
שיטה שבה לפני שה-AI עונה, המערכת מחפשת את הקטעים הרלוונטיים במסמכים של העסק ומצרפת אותם לשאלה, כך שהתשובה מבוססת על המידע שלכם.
צריך לאמן מודל כדי להשתמש ב-RAG?
לא. RAG עובד עם מודל קיים ועם המסמכים שלכם כמו שהם. מעדכנים מסמך, והתשובות מתעדכנות בלי אימון מחדש.
RAG מונע מה-AI להמציא תשובות?
הוא מצמצם את זה מאוד, במיוחד יחד עם כלל שאומר לענות רק מתוך המסמכים ולהפנות למקור. כשאין מידע, הבוט אומר שאין ומעביר לאדם.
