מתי RAG, מתי GraphRAG ומתי fine-tuning: מדריך להחלטה

התשובה הקצרה

שלושה כלים, שלוש בעיות שונות. לפני שבוחרים, שואלים מה בדיוק משתבש בתשובות של הסוכן.

מי שמתחיל מ-fine-tuning כי זה נשמע רציני, בדרך כלל פותר בעיה שלא הייתה לו.

RAG: כשחסר ידע

ב-RAG (שליפה לפני ניסוח) הסוכן מחפש במסמכים שלכם את הקטעים הרלוונטיים לשאלה, ומקבל אותם יחד איתה. התשובה נשענת על מקור שאפשר להצביע עליו, ועדכון הידע הוא החלפת מסמך. זה המקום הנכון להתחיל בו אם הסוכן צריך לענות על מחירים, מדיניות, נהלים או מוצרים. הרחבנו על הרעיון במילון: Agentic RAG.

מה בודקים לפני שמרוצים: האם המסמכים עצמם נכונים ועדכניים. שליפה מעולה ממסמך שגוי מחזירה תשובה שגויה בביטחון מלא.

GraphRAG: כשהתשובה היא קשר

RAG רגיל טוב בשאלה שהתשובה שלה יושבת בפסקה אחת. הוא מתקשה בשאלה כמו "אילו לקוחות מושפעים מספק שהחליף תנאים". שם התשובה פזורה בכמה מקומות ותלויה בקשרים. GraphRAG בונה מראש מפה של ישויות וקשרים ושולף לפיה.

המחיר: הקמה ותחזוקה כבדות יותר. אם רוב השאלות אצלכם נענות מפסקה אחת, זו הוצאה בלי החזר. מוסיפים אותו רק כשיש רשימה של שאלות אמיתיות ש-RAG רגיל נכשל בהן.

Fine-tuning: כשהבעיה היא התנהגות

אימון נוסף מתאים כשהמודל מבין את התחום אבל צריך לכתוב או לסווג בצורה קבועה: מבנה תשובה אחיד, טון של המותג, סיווג פניות לקטגוריות שלכם. הוא לא הדרך לעדכן עובדות. מחירון שהשתנה לא אמור לדרוש אימון מחדש.

לפני שמאמנים, בודקים אם הנחיה ברורה עם כמה דוגמאות פותרת את אותה בעיה. לעיתים קרובות היא פותרת.

סדר העבודה שאנחנו ממליצים עליו

1. הנחיה טובה עם דוגמאות לתשובה רצויה.
2. RAG על המסמכים שמכסים את השאלות הנפוצות.
3. בדיקה קבועה: רשימה של שאלות אמיתיות ותשובה נכונה לכל אחת, שרצה אחרי כל שינוי.
4. GraphRAG או fine-tuning רק לכשל מסוים שהבדיקה הראתה ושהשלבים הקודמים לא פתרו.

כל שלב מוסיף עלות ותחזוקה, ולכן עוברים לבא אחריו רק כשיש ראיה שצריך.

מה זה אומר לעסק

אם אתם מתכננים סוכן ששולף מידע מהמערכות והמסמכים שלכם, כנראה שאתם צריכים RAG ולא יותר. מה סוכן כזה עולה בשוק: מחירי שוק לסוכן AI בישראל.

רוצים להחליט מה מתאים לסוכן שלכם? בעמוד סוכן AI לעסק אפשר לקבוע שיחה ראשונית של רבע שעה בוואטסאפ. ספרו איזה מידע הסוכן צריך לדעת ואיפה הוא נמצא היום.