במאמר הזה
בקצרה: סוכן AI יכול למחוק בדיוק את מה שההרשאות שלו מאפשרות לו, ולא יותר. לכן את השאלה "מה הוא יכול למחוק בלי לשאול?" עונים לפני שהוא מתחיל לעבוד, לא אחרי תקלה. הכלל הפשוט: סוכן קורא, מסכם ומכין לבד. כל פעולה שאי אפשר להחזיר, כמו מחיקה, תשלום או שליחה החוצה, מחכה לאישור של אדם.
מקרה היפותטי: חברה נותנת לסוכן AI גישה לשרת הקבצים, כדי שיסדר תיקיות ויפנה מקום. הסוכן מזהה תיקייה גדולה שנראית לו כמו עותק ישן, ומוחק אותה. זו הייתה העבודה של שלושה חודשים. הגיבוי? היה על אותו שרת, והסוכן ניקה גם אותו.
אף אחד לא נתן לו הוראה למחוק את העבודה. נתנו לו הרשאה. וזה ההבדל שחשוב להבין לפני שמכניסים סוכן לעסק: סוכן לא עושה רק מה שביקשתם. הוא עושה כל מה שמותר לו.
למה סוכן AI שונה מתוכנה רגילה?
תוכנה רגילה עושה רק את מה שתכנתו אותה לעשות. אם יש בה כפתור "מחק", מישהו צריך ללחוץ עליו. סוכן AI מחליט בעצמו איזה צעד לעשות כדי להגיע למטרה. זה בדיוק מה שהופך אותו לשימושי: הוא מתמודד עם מצבים שאף אחד לא כתב מראש.
אבל זה גם אומר שהוא יכול לבחור צעד שאף אחד לא חשב עליו. ברוב המקרים הצעד הזה סביר. במקרים הנדירים שבהם הוא לא, מה שקובע את גודל הנזק הוא לא כמה הסוכן חכם. זה מה שהיה מותר לו.
איך מחלקים את הפעולות של הסוכן?
לפני שבונים סוכן, עוברים על כל מה שהוא אמור לעשות, ומחלקים לשלוש קבוצות:
| קבוצה | דוגמאות | מה הסוכן עושה |
|---|---|---|
| קריאה והכנה | לקרוא חשבוניות, לסכם שיחות, להכין טיוטת הזמנה, לבדוק סטטוס | לבד, בלי לשאול |
| פעולה הפיכה | לעדכן שדה ב-ERP, לתייק מסמך, לשלוח תזכורת שגרתית שכבר אושר הנוסח שלה | לבד, עם רישום של כל פעולה |
| פעולה שאי אפשר להחזיר | מחיקה, תשלום, חסימת לקוח, הודעה ללקוח בנושא רגיש, פרסום פומבי | מכין, ומחכה לאישור של אדם |
השאלה שמחליטה לאיזו קבוצה פעולה שייכת היא פשוטה: אם הסוכן טעה, אפשר לבטל את זה בדקה? אם כן, הוא יכול לעשות את זה לבד. אם לא, אדם מאשר.
חמישה כללים לפני שנותנים לסוכן גישה
1. הרשאה מינימלית
הסוכן מקבל משתמש משלו, ולא את המשתמש של מנהל המערכת. רק את הטבלאות, התיקיות והפעולות שהוא צריך. סוכן שעוקב אחרי חובות צריך לקרוא אותם ולשלוח הודעות. הוא לא צריך גישה למשכורות.
2. גיבויים בקריאה בלבד
גיבוי שהסוכן יכול למחוק הוא לא גיבוי. תנו לו הרשאת קריאה בלבד לגיבויים, או שלא ייגש אליהם בכלל. וגיבוי אמיתי יושב במקום אחר מהנתונים שהוא מגבה.
3. סביבת בדיקות קודם
כל כלל חדש רץ קודם על נתוני בדיקה. ב-Priority, למשל, זו חברת הבדיקות. רק אחרי שרואים שהסוכן עושה בדיוק מה שהתכוונו, הכלל עובר לנתונים האמיתיים.
4. כל פעולה נרשמת
מה הסוכן עשה, מתי, ולמה. בלי רישום, אחרי תקלה אפשר רק לנחש. עם רישום, מתקנים את הכלל ולא רק את המקרה.
5. רשימת אישורים כתובה
לא "נאשר מה שנראה רגיש". רשימה כתובה של פעולות שתמיד עוברות אדם. ככה הסוכן לא צריך לשפוט מה רגיש, והצוות יודע מה לצפות.
איך זה נראה ביום יום?
אישור של אדם לא אומר שמישהו יושב ובודק כל צעד. רוב העבודה של סוכן היא קריאה, מיון והכנה, והיא רצה לבד. כשמגיעה פעולה שצריכה אישור, הסוכן כבר הכין הכל: מה הוא רוצה לעשות, למה, ועל מה. האדם מקבל הודעה, בוואטסאפ או במערכת, עם שני כפתורים: לאשר או לדחות.
האישור לוקח שניות, ולא דקות, כי ההחלטה כבר הוכנה. וכל מה שלא נמצא ברשימת האישורים ממשיך לרוץ לבד.
איפה האדם נשאר בתמונה?
בדיוק במקומות שבהם טעות עולה הכי הרבה. סוכן ששולח תזכורות תשלום עושה את זה לבד, אבל חסימת לקוח מחכה לאישור. סוכן שקולט הזמנות מכין את ההזמנה, אבל פריט שלא קיים בקטלוג עוצר אצל אדם. ולאורך זמן, כשרואים שהסוכן מדייק בסוג מסוים של פעולות, אפשר להחליט להעביר אותן לקבוצה של "לבד". ההחלטה הזו שלכם, ולא שלו.
סוכן טוב הוא לא סוכן שלא טועה. הוא סוכן שהטעות שלו לא יכולה להפיל לכם את העסק.
איך מתחילים?
לפני שבוחרים טכנולוגיה, כתבו רשימה של כל הפעולות שהסוכן יעשה, וליד כל אחת: אפשר לבטל את זה בדקה? הרשימה הזו מבהירה מהר מאוד איפה הסוכן יכול לרוץ לבד ואיפה לא. על התהליכים האחרים שסוכן מבצע ב-ERP כתבנו בחמישה תהליכים ב-Priority שכדאי להעביר לסוכן. ואיך כל זה משתלב בבנייה של מערכת AI מההתחלה ועד התחזוקה, בAI SDLC: איך בונים מערכות AI.
שאלות נפוצות
האם סוכן AI יכול למחוק נתונים בעסק?
רק אם נתתם לו הרשאה לזה. סוכן עושה בדיוק מה שההרשאות שלו מאפשרות, ולכן את השאלה מה הוא יכול למחוק עונים כשמגדירים לו משתמש, לא אחרי.
אילו פעולות של סוכן AI צריכות אישור של אדם?
כל פעולה שאי אפשר להחזיר: מחיקה, תשלום, הודעה שיוצאת ללקוח בנושא רגיש, פרסום פומבי, או שינוי בנתונים של כסף. קריאה, סיכום והכנה של טיוטה לא צריכות אישור.
האם אישור אדם על כל פעולה לא מבטל את היתרון של הסוכן?
לא, כי רוב העבודה היא קריאה, מיון והכנה. האישור הוא לחיצה אחת על פעולה שהסוכן כבר הכין, ולכן הוא לוקח שניות ולא דקות.
איך מגנים על גיבויים מפני סוכן AI?
נותנים לסוכן הרשאת קריאה בלבד לגיבויים, או לא נותנים לו גישה אליהם בכלל. גיבוי שהסוכן יכול למחוק הוא לא גיבוי.
שוקלים להכניס סוכן AI לעסק? דברו איתנו על פיתוח סוכני AI שעושים את העבודה החוזרת, כשההחלטות נשארות אצלכם.
ספרו לנו על תהליך אחד בשיחה של 30 דקות. נגיד לכם בכנות אם סוכן יכול לעשות אותו.
