עובד שעושה את העבודה בלילה ומדווח לך בבוקר מה נעשה: זה החלום שסוכני AI מוכרים לבעלי עסקים. ב-20 באוקטובר 2026 פרסמה OpenAI דוח על שני סוכני AI שלה, תוכנות שמבצעות משימות לבד, שהחלישו את מערכת הבקרה בקוד שעבדו עליו. אחד השתיק את ההתראות לצוות האבטחה. השני מחק את הבקרה, וכשנשאל ישירות אם הסיר אותה, ענה שלא. לפי OpenAI, זו הייתה טענה כוזבת. אז אפשר לסמוך על סוכן AI בעסק? כן, אבל לא על הדיווח שלו. סוכן נמדד לפי מה שאפשר לבדוק שהוא עשה, לא לפי מה שהוא מספר. ואת הבדיקה הזאת אפשר להכניס לעסק כבר השבוע, בלי שורת קוד אחת. חשוב לדעת: שני המקרים קרו בתוך החברה, הבקרה על הסוכנים עצמם המשיכה לפעול, ו-OpenAI כותבת שייתכן שמדובר בהתעקשות לסיים משימה ולא בזדון. אבל השאלה שלך נשארת אותה שאלה: כשהסוכן אומר "בוצע", איך אתה יודע שזה נכון?
תחשוב על זה רגע.
אף האקר לא היה מעורב. אף אחד לא פרץ.
הסוכן קיבל הוראה רגילה… והחליט שהיא מתירה לו לכבות את האזעקה.
ומה שקרה שם, קורה גם בעסק שלך. רק שאצלך אף אחד לא כותב על זה דוח.
מה בדיוק עשו הסוכנים של OpenAI?
לפי הדוח של OpenAI, בשני מקרים פנימיים, ב-3 וב-6 באוקטובר 2026, סוכנים שקיבלו משימות שגרתיות פירשו הוראה רגילה כהיתר להחליש את הבקרה. החברה כותבת שבשני המקרים הסוכנים שקלו אם לשמור על הבקרה, ובכל זאת בחרו להחליש אותה. אף מקרה לא סווג בדרגת החומרה הגבוהה ביותר, ואף משימה לא נעצרה מעצמה.
המקרה הראשון: "אל תשלח הודעות"
חוקר ביקש מסוכן בשם GPT-6.1 Sol לבנות משימות בדיקה מתוך משובים של עובדים בצ'אט הפנימי של החברה. ההוראה הייתה ברורה: לא לשלוח הודעות בצ'אט.
באמצע העבודה מערכת הבקרה הרימה דגל. הסוכן החליט שההוראה חלה גם על ההתראות לצוות האבטחה, והעביר את התיקון לתת-סוכן, כלומר עוזר שהסוכן מפעיל בעצמו. העוזר עצר. הוא זיהה שכיבוי ההתראות יכבה התראות חובה. הסוכן הראשי דרס אותו והורה להשתיק, והעוזר רוקן את רשימת האנשים שמקבלים את ההתראות.
ובסוף, הדיווח: "לא נשלחו הודעות".
"לא נשלחו הודעות" היה משפט נכון. הוא פשוט הסתיר את הדבר היחיד שהיה חשוב.
המקרה השני: "לא הסרתי"
סוכן בשם GPT-6 Astra התבקש להעתיק לקוד של משתמש את הדרך שבה עובדת תוכנה אחרת. קודם לכן נאמר לו במפורש לא לכבות את הבקרה, "אפילו זמנית".
הוא העביר את העבודה לעוזר, עם הסתייגות קטנה: לשמור על הבקרה "לפי מה שמתאים". העוזר הסיר אותה. הוא גם החליף את הבדיקה שנועדה לוודא שהבקרה קיימת, בבדיקה שעוברת רק אם הבקרה לא קיימת. כמו להחליף את הבדיקה של גלאי העשן בבדיקה שעוברת רק כשאין גלאי.
העוזר דיווח לסוכן הראשי שהבקרה הוסרה, והסוכן הראשי אמר למשתמש רק שהעבודה הסתיימה. המשתמש שאל ישירות אם הוא הסיר את הבקרה. התשובה: "לא… לא הסרתי ממנו בקרה פעילה".
האם הסוכנים עשו את זה בכוונה?
אף אחד לא יודע, כולל OpenAI. החברה כתבה (כאן ובכל הציטוטים במאמר, בתרגום חופשי): "עדיין אין לנו הסבר מספק להתנהגות הזאת". לדבריה, ייתכן שמדובר בהתעקשות "תמימה": מודלים שלא מבינים למה בקרה חשובה, או שמתעקשים לבצע הוראה הרבה מעבר למה שאדם סביר היה מצפה.
ובהגינות, יש גם צד מרגיע:
- שני המקרים קרו בתוך OpenAI, לא אצל לקוחות.
- מרקוס ויליאמס, חוקר ב-OpenAI שעובד על הבקרה הזאת, הבהיר ברשת X (לפי הסיכום של CellCog) שהסוכנים שינו את הקוד שעבדו עליו, ולא כיבו את הבקרה על עצמם.
- מערכת הבדיקה האוטומטית של החברה עודכנה כך שתזהה ותחסום ניסיונות לכבות בקרה.
ובכל זאת, רומן ימפולסקי, מומחה ל-AI ולסייבר מאוניברסיטת לואיוויל, אמר לאל-ג'זירה משפט שכל בעל עסק צריך לתלות על המקרר: "אם המערכת שבודקים יכולה לכבות את מנגנון הבטיחות, זה לא מנגנון בטיחות אמין".
למה דיווח "הכל תקין" מסוכן יותר מתקלה?
תקלה רואים. דיווח שנשמע נכון לא בודקים. הסוכן הראשון לא אמר אף מילה לא נכונה, הוא פשוט דיווח על מה שנוח. והשני שינה את הבדיקה עצמה, כך שהיא תעבור. כשאותו גורם גם עושה את העבודה וגם קובע אם היא הצליחה, אין לך בקרה. יש לך עדות של צד מעוניין.
וזה לא מתחיל ב-AI. זה קורה בכל עסק:
- לידים: פלטפורמת הפרסום מדווחת כמה לידים הביאה. כמה מהם באמת נכנסו לטלפון של איש המכירות?
- לקוחות: נציג השירות מדווח "אין תלונות השבוע". האם טופס התלונות באתר בכלל מחובר למייל?
- כסף: "כל החשבוניות נשלחו". נשלחו, או שולמו? ומי הסתכל בחשבון הבנק, ולא בתוכנה ששלחה אותן?
"בוצע" זו טענה. מה שאפשר לבדוק בעצמך, זו עובדה.
איך אני בודק מה המערכת שלי עשתה בפועל?
אני גר בתאילנד והעסק רץ בישראל. כל בוקר בשש, שעון ישראל, מחכה לי דוח על כל הקמפיינים מאתמול. מערכת אוטומטית מכינה אותו, ואני מחליט מה עושים. הכלל שלי: המערכת מכינה, אדם מאשר, ובודקים מה קרה בפועל, לא רק מה דווח. ככה זה נראה:
היא לא מאמינה לפלטפורמת הפרסום. פייסבוק סופרת לבד כמה טפסים מילאו. לצד המספר הזה, המערכת סופרת כמה אנשים באמת הצטרפו אתמול לרשימת התפוצה שלי, מנפה הרשמות בדיקה ומזויפות, ומחשבת כמה עלה כל ליד לפי המספר האמיתי. שני המספרים יושבים אחד ליד השני. כשהם לא מסתדרים, אני יודע איפה לחפש.
"לא יודע" הוא לא אפס. פעם, כשהמערכת לא הצליחה לקרוא את המספר האמיתי, היא רשמה אפס. יצאה אזעקת שווא על יום בלי לידים. היום היא כותבת לי: לא הצלחתי לקרוא, תבדוק ידנית.
גם "נשלח" כבר לא מספיק. אחד מערוצי השליחה בוואטסאפ ענה "נשלח" בזמן שההודעה פשוט נבלעה. היום, אם התשובה מראה שההודעה הושתקה, המערכת רושמת כישלון, מפעילה את הערוץ מחדש ומנסה שוב.
מכינה. מאשר. בודק. המערכת רק קוראת נתונים ומציעה פעולות ממוספרות. בקוד שלה אין שום פעולה שמכבה קמפיין או משנה תקציב. את הכפתור לוחץ בן אדם, אחרי שהוא ראה מספר שלא הגיע מאותה מערכת שעשתה את העבודה.
כתבתי כאן על איך גורמים לאוטומציה לעצור ולבקש אישור לפני שליחה, ועל מה הסכנה האמיתית של AI לעסק קטן. הדוח של OpenAI מוסיף שכבה: גם אישור לא מספיק, אם מה שאתה מאשר הוא הדיווח של הסוכן עצמו.
אז אפשר לסמוך על סוכן AI בעסק שלך?
כן, באותה דרך שסומכים על עובד חדש: על תהליך, לא על מילים. נותנים לו לעבוד, ובודקים את התוצאה ממקור שהוא לא שולט בו. סוכן שמכין טיוטות, דוחות ורשימות חוסך שעות. סוכן שגם מבצע, גם מדווח וגם בודק את עצמו, זה סיכון. שלושה דברים לעשות השבוע:
- תשווה מספר אחד למקור. בחר דיווח אוטומטי אחד שאתה מקבל, למשל לידים מפרסום. השבוע, תספור פעם אחת בעצמך כמה לידים באמת הגיעו לטלפון או למערכת הלקוחות, ותשווה.
- תפריד בין "אפס" ל"לא יודע". תבקש מכל מי שמכין לך דוח, אדם או תוכנה, לכתוב "לא הצלחתי לבדוק" כשזה המצב. לא אפס ולא "הכל תקין".
- תשאיר את הכפתור האחרון אצל אדם. כל מה ששולח ללקוחות, מוציא כסף או מוחק: הסוכן מכין, בן אדם מאשר. למשל, הסוכן מנסח תשובות ללידים, והעובד לוחץ "שלח".
את האפשרות לכבות או לשנות את מה שבודק אותו. אם הסוכן יכול לערוך את הבדיקה, את הדוח או את רשימת מי שמקבל התראות, הבקרה שלך היא רק המלצה בשבילו.
שאלות ותשובות
האם הסוכנים של OpenAI פגעו בלקוחות?
לפי הדוח, לא. שני המקרים, ב-3 וב-6 באוקטובר 2026, קרו בתוך החברה, בזמן משימות של עובדים. מה שנפגע הוא הבקרה בקוד שהסוכנים עבדו עליו, ו-OpenAI עדכנה את הבדיקה האוטומטית שלה כך שתחסום ניסיונות כאלה.
האם סוכן AI יכול לשקר לי?
OpenAI תיעדה סוכן שנשאל שאלה ישירה ונתן תשובה שהחברה עצמה הגדירה כטענה כוזבת. האם יש שם כוונה? לפי החברה, אין לה עדיין הסבר מספק. לבעל עסק זה לא משנה הרבה. אל תשאל את הסוכן אם הוא הצליח. תבדוק במקור: כמה לידים במערכת הלקוחות, כמה כסף בחשבון הבנק, כמה הודעות הגיעו בפועל.
איך מתחילים עם סוכן AI בעסק קטן בלי סיכון?
מתחילים במשימות שבהן הסוכן רק קורא ומכין: סיכום בוקר, טיוטות תשובה, רשימת לידים לחזרה. אצלי, הדוח של שש בבוקר רק קורא את הנתונים מאתמול ומציע פעולות, ובכל פעם שיש המלצות, יש לצידן גם אפשרות להשאיר הכל כמו שהוא עוד 24 שעות. רק אחרי חודש של דיווחים שבדקת מול המקור, שווה לשקול לתת לו לבצע לבד.
רוצה סוכנים שעובדים בשבילך, עם בלמים?
ככה אנחנו עוזרים לבעלי עסקים לבנות מערכות שעובדות בשבילם, עם בדיקה שאדם עושה ולא רק דיווח של מכונה. בפגישת התאמה נעבור על הדוחות שאתה מקבל היום, ונמצא את המספר שאף אחד לא בודק מול המקור.
לבדיקת התאמה ›באהבה ענקית,
יהב.
