מגדירים לכל בקשה עסקית מכסה מוגבלת לקריאות למודל, לניסיונות הפעלת כלים ולזמן שחלף. עוצרים עבודה שאינה מתקדמת, שומרים את מצבה ומעבירים אותה לאחראי.
נכתב בסיוע AI. אלו המלצות מעשיות להגדרת היקף; הדוגמאות הן להמחשה ואינן תוצאות של לקוחות.
מגדירים איזו בקשה מצדיקה ניסיון נוסף
עוזר לתיאום פגישות מבקש מועדים פנויים, מקבל תוצאה חלקית ושואל שוב. אחר כך הוא משנה את הניסוח וחוזר על אותה בדיקה. כל ניסיון עשוי לצרוך משאבים, בזמן שהלקוח עדיין אינו קרוב יותר לתשובה. לוח שימוש חודשי עלול לחשוף את הדפוס רק לאחר שהעבודה כבר בוצעה.
שליטה בעלויות של סוכן AI מתחילה בבקשה העסקית הבודדת. מגדירים מה נחשב לתוצאה מועילה ומושלמת, איזה מידע חסר ומתי היישום צריך להפסיק לנסות אוטומטית. סיום בהעברה כנה וברורה לאדם יכול להיות עדיף על עוד חשיבה על אותן עובדות שאינן זמינות.
המדריך מציע תרגיל תכנון עם גבולות ורשומות שהומצאו לצורך ההמחשה. הוא אינו מתאר מערכת שנמסרה ללקוח של AgenticShip ואינו מבטיח תקרת הוצאה אוניברסלית. תמחור ההקמה הוא שאלה נפרדת; כאן מחליטים כמה עבודה אוטומטית מותר לבקשה אחת להפעיל לפני שנדרשת בדיקה של אדם.
מפרידים בין מגבלת ביצוע לאומדן הוצאה
בתיעוד של LangGraph מתוארת שגיאת GRAPH_RECURSION_LIMIT כאשר הגרף מגיע למספר הצעדים המרבי לפני תנאי עצירה. לולאה היא סיבה אפשרית אחת; גם גרף מורכב ותקין עשוי להגיע למגבלה. הבקרה המסוימת של המסגרת הזו אינה קובעת תקציב כספי לתהליך עסקי שלם.
צעדי גרף, בקשות למודל, ניסיונות הפעלת כלי וטוקנים הם יחידות שונות. צעד אחד עשוי לפנות לכמה שירותים, וכלי או ספריית הלקוח שלו עשויים לנסות שוב באופן פנימי. מתעדים את היחידות שהמימוש הנבחר צורך בפועל. באומדן ההוצאה כוללים שימוש בקלט ובפלט, כלים המחויבים בנפרד וחיובים רלוונטיים נוספים של הספק.
מתייחסים לאומדן כאומדן. דיווח השימוש עלול להגיע באיחור, וקריאות שכבר יצאו עשויות להסתיים לאחר החלטת העצירה. מבררים אילו מגבלות מונעות עבודה חדשה, אילו רק מפיקות התראה ואיזו חשיפה נותרת. גם מגבלה חודשית לחשבון משרתת מטרה שונה מהמכסה לבקשת לקוח אחת.
עוברים על מכסה קטנה לבקשה Q-88
בתרגיל הבדיוני שלנו, Q-88 מבקשת שני מועדים פנויים. לעוזר מותר לקרוא זמינות ולהכין טיוטה; אסור לו לשנות הזמנה או לשלוח הודעה. אנו מציעים עד שלוש קריאות למודל, שני ניסיונות לכלי הזמינות ו־45 שניות מרגע קבלת הבקשה. המספרים הם קלט להמחשת בדיקת קבלה, ולא ברירות מחדל מומלצות או מכסות של ספק.
הקריאה הראשונה למודל בוחרת בבדיקת הזמינות. הניסיון הראשון לכלי נכשל זמנית; ניסיון שני ומותר אינו מחזיר מועדים שימושיים. קריאה שנייה למודל יכולה להכין העברה לאדם שמסבירה את חוסר הזמינות. יש לסרב לבדיקה שלישית גם כשנותרה קריאה אחת למודל. כל גבול חל בנפרד: יתרה בקטגוריה אחת אינה מחדשת מכסה אחרת.
אם המועד האחרון חולף לפני הבדיקה השנייה, לא מתחילים בדיקה חדשה. שומרים את מזהה הבקשה, התוצאה האחרונה הידועה, המכסה שנצרכה וסיבת העצירה. מעבירים את משימת התיאום שלא נפתרה לאחראי שסוכם, במקום להציג מועדים לא זמינים כתשובה שהושלמה. הניסוח ללקוח צריך להסביר את הצעד הבא בלי לחשוף אבחון פנימי.
מתעדים מה אוכף כל גבול
משתמשים בדף התכנון המוצע הזה בשלב האפיון. הרכיב האוכף צריך לבדוק זכאות לפני הוצאת עבודה נוספת; הנחיה למודל לחסוך אינה מנגנון האכיפה. בעבודה מקבילית שומרים מכסה באופן עקבי לפני הפעלת קריאות, כדי שכמה עובדים לא יצרכו כל אחד את אותה יתרה.
| הגבול | מה סופרים או בודקים | מה קורה כשמגיעים לגבול |
|---|---|---|
| מכסת המודל | כל קריאה למודל שיצאה, כולל ניסיונות שנכשלו | מסרבים לקריאה נוספת ושומרים את המשימה שלא נפתרה |
| מכסת הכלים | כל הניסיונות, כולל ניסיונות פנימיים ידועים | מפסיקים להפעיל את הפעולה הרלוונטית |
| זמן שחלף | מועד אחרון אחד לאורך המתנה, ניסיון חוזר והמשך | מעבירים עבודה באיחור למצב המתנה או בדיקה מפורש |
| אומדן הוצאה | שימוש רלוונטי יחד עם עבודה שכבר שוריינה ובדרך | חוסמים עבודה חדשה כשמדיניות האומדן שסוכמה מחייבת זאת |
| התקדמות ואחריות | תוצאה חוזרת, עובדה חסרה ואחראי | מתעדים מדוע האוטומציה נעצרה ומי מטפל בצעד הבא |
שומרים על אותה מכסה בניסיונות חוזרים ובהמשך
דפוס הניסיונות החוזרים של Microsoft מבחין בין תקלות זמניות לכשלים שלא צפויים להשתפר מחזרה. הוא גם מזהיר שמדיניות ניסיונות בתוך מדיניות ניסיונות אחרת עלולה להאריך עיכובים. בודקים את הגדרות הלקוח והעובד בפועל, במקום להניח שהמונה החיצוני רואה כל ניסיון.
ב־Q-88, רענון מסך, הפעלה מחדש של עובד או המשך שיחה שמורה אינם צריכים ליצור בשקט מכסה חדשה לאותה בקשה שלא נפתרה. שומרים את המונים שנצרכו ואת המועד האחרון המקורי עם המצב העמיד שלה. ניסיון חדש שקיבל אישור נפרד דורש מדיניות ורישום מפורשים; שינוי התווית של אותה משימה אינו שיטה לשליטה בעלויות.
עצירת חשיבה חדשה אינה מבטלת פעולה עסקית קודמת. אם תהליך אחר אולי כבר כתב הזמנה לפני שאיבד את התשובה, מאמתים את המצב במערכת היעד לפני ניסיון חוזר. תרגיל Q-88 שלנו מוגבל לקריאה ונמנע מהכתיבה הזו, אך היקף המסירה עדיין צריך לזהות תוצאות לא ודאיות ונתיב התאוששות עם אחראי.
בודקים מיצוי מכסה כמו שבודקים השלמה מוצלחת
מבצעים תרגיל מבודד עם קלט סינתטי ועם כתיבות בעלות השפעה מושבתות. תחילה מציגים בקשה רגילה שמסתיימת בתוך המכסה. אחר כך מאלצים תוצאות חלקיות חוזרות, כשל בכלי וחריגה מהמועד האחרון. בודקים את הקריאות שיצאו בפועל ואת מצב המשימה הסופי, ולא רק רישום שאומר שהמגבלה הושגה.
ממשיכים את הבקשה שמיצתה מכסה ומפעילים יחד שני עובדים זכאים סמוך ליתרה האחרונה. מוודאים שהמונים המתוכננים נשמרים ושמנגנון השריון שסוכם מונע קריאות עודפות. בודקים מה קורה כשטלמטריית השימוש או מאגר המונים אינם זמינים; החלופה הנבחרת צריכה להיות מפורשת ולא להעניק בשקט עבודה ללא גבול.
מוודאים שההעברה כוללת מספיק מידע כדי שהאחראי יוכל לפעול בלי להתחיל את כל הלולאה מחדש. מתעדים קריאות שנצרכו, זמן שחלף, עובדות חסרות ועבודה שעדיין בדרך. מקרה כשל עובר כאשר הגבול והצעד הבא שסוכמו הודגמו, ולא כשהעוזר רק מתנצל. שומרים את המקרה במערך ההערכה של התהליך.
מסכימים על גבולות מועילים לפני הרחבת התהליך
מבקשים משותף ההטמעה להראות מי אחראי למכסה, אילו יחידות נספרות, היכן האכיפה מתבצעת, איך מוגדרים ניסיונות חוזרים ומה קורה בהתאוששות בבקשה מייצגת אחת. כוללים בהיקף העבודה עיכוב בדיווח הספק ותלויות שלא נפתרו. מודל זול יותר לבדו אינו מוכיח שהלולאה שסביבו מוגבלת.
לאחר ההשקה בודקים כמה בקשות זכאיות מושלמות, נעצרות או מגיעות להעברה שהתקבלה אצל אחראי, ומדוע. משווים שימוש בפועל לתוצאות מועילות, ומשאירים את הניסיונות שנכשלו בסכומים. אם בקשות תקינות ממצות שוב ושוב את המכסה, חוקרים את העובדות החסרות או את תכנון התהליך לפני שמעלים את כל המגבלות. המטרה היא עבודה מועילה ומבוקרת עם צעד הבא ברור.
מקורות ראשוניים
ההנחיות למעלה מתארות את הגישה המוצעת של AgenticShip. המקורות הבאים מספקים רקע טכנולוגי להמלצות הרלוונטיות.