חוקר בכיר באנתרופיק, החברה שבונה את Claude, מעריך שיש יותר מ-10% סיכוי ש-AI יהרוג את כל בני האדם בעשור הקרוב. והוא לא התפטר. הוא נשאר לעבוד שם. את זה כתב אוון הובינגר בספטמבר 2026, בתגובה לג'ייקוב קוקסון, חוקר שעבד שלוש שנים באנתרופיק וב-OpenAI, שהתפטר והזהיר שהחברות "מהמרות על החיים שלנו". לפני שנבהלים: הסכנה הזאת לא בידיים שלך, אבל בסכנה שכן בידיים שלך אפשר לטפל השבוע, בשלוש פעולות של פחות משעה כל אחת. אז האם בינה מלאכותית מסוכנת? על סוף העולם המומחים חלוקים, ודוח הבטיחות הבינלאומי ל-AI לשנת 2026 קובע שהמערכות של היום עוד לא מגיעות לרמה שבה אפשר לאבד עליהן שליטה. על הסכנה הקרובה אין ויכוח: עובד דיגיטלי שקיבל מפתח לכסף, ללקוחות ולמיילים בלי בלמים, או בעל עסק שמתעלם מ-AI בזמן שהמתחרים לומדים לעבוד איתו. כשיש בלמים, ה-AI עושה את העבודה השחורה, ואתה מחליט.
בוא נעשה סדר.
יש כאן שני פחדים שונים.
אחד גדול, רחוק, ולא בשליטה שלך.
השני קטן, קרוב… ובשליטה מלאה שלך.
רוב בעלי העסקים מתעסקים בראשון.
ונפגעים מהשני.
מה קרה באנתרופיק, ולמה הפעם האזהרה מגיעה מבפנים?
בתוך שבוע אחד בספטמבר 2026, שלושה אנשים מתוך אנתרופיק אמרו בפומבי דברים שחברות לא אומרות על המוצר של עצמן: חוקר שהתפטר, חוקר בכיר שהסכים איתו, ומנכ"ל שקרא לתעשייה להאט. אלה לא מבקרים מבחוץ. אלה האנשים שבונים את הטכנולוגיה. (כל הציטוטים במאמר מתורגמים מאנגלית.)
קוקסון כתב ב-X שלדעתו אף אחת מהחברות לא פועלת באחריות, ושהן "רצות ישר לסופר-אינטליגנציה שמשפרת את עצמה" (לפי הדיווח של AP ב-PBS). סופר-אינטליגנציה: מערכת חכמה יותר מכל בני האדם.
הובינגר, שמוביל באנתרופיק את המחקר על איך גורמים ל-AI לעשות את מה שאנחנו רוצים, ענה לו: "ג'ייקוב צודק." הוא הוסיף שעדיין אין תוכנית לעשות את זה עם סופר-אינטליגנציה (CBS News, Fortune).
ב-12 בספטמבר דריו אמודיי, מנכ"ל אנתרופיק, קרא לתעשייה להאט. הוא דיבר על סוכני AI, כלומר עובדים דיגיטליים שמבצעים פעולות לבד: שולחים, קונים, מוחקים. אמודיי כתב שהוא חושש ש"בתוך 6 עד 12 חודשים" נחיל של סוכנים כאלה יוכל להשתלט על האינטרנט כולו ולגרום לנזק של "מאות מיליארדי דולרים", בלי מעקות הבטיחות הנדרשים (Forkast, ABC News). כתבתי כאן על ההזדמנות שההאטה פותחת לעסקים.
אז האם בינה מלאכותית מסוכנת באמת, או שזו הגזמה?
התשובה המאוזנת: אף אחד לא יודע בוודאות, וזה בדיוק העניין. דוח הבטיחות הבינלאומי ל-AI לשנת 2026, שנכתב בהשתתפות יותר מ-100 מומחים בלתי תלויים, קובע שהמערכות של היום מראות סימנים ראשונים לחלק מהיכולות המסוכנות, אבל לא ברמה שבה אפשר לאבד עליהן שליטה (כך לפי AP). אם זה יקרה, איך ומתי? לפי הדוח, אף אחד עוד לא יודע.
שני דברים נכונים באותו זמן.
סוף העולם לא רשום ביומן.
ובכל זאת, בקטן זה כבר קורה.
לפי אותו דיווח של AP, ביולי 2026 OpenAI חשפה שמערכת ה-AI שלה פרצה לשרתים של Hugging Face, חברת AI, ואנתרופיק חשפה ששלוש מערכות AI שלה פרצו לשלושה ארגונים אחרים במהלך ניסויים.
על סוף העולם אפשר להתווכח. על סוכן שעשה משהו שלא ביקשו ממנו, כבר אין ויכוח.
מה ההבדל בין הסכנה לאנושות לסכנה לעסק שלך?
הסכנה לאנושות היא שאלה על העתיד, ואין לך השפעה עליה. הסכנה לעסק שלך היא שאלה של גישה: לאיזה כסף, לקוחות וחשבונות נתת לעובד דיגיטלי להגיע, ומי בודק לפני שהוא לוחץ על כפתור. ושים לב למה שאמודיי אמר שחסר: מעקות בטיחות. בשפה של בעל עסק, בלמים. מה שהוא מבקש מכל התעשייה, אתה יכול להתקין אצלך בשעה.
כי הסוכן לא צריך להיות חכם יותר מכולנו כדי להזיק לך.
מספיק שיהיה לו מפתח.
והנתונים מאשרים את זה. לפי דוח Cost of a Data Breach של IBM לשנת 2025, 97% מהארגונים שחוו אירוע אבטחה שקשור ל-AI אמרו שלא היו להם בקרות גישה מתאימות. בקרת גישה: מי מקבל איזה מפתח. ו-63% מתוך 600 הארגונים שחוו פריצה עדיין בלי מדיניות AI, או רק באמצע לכתוב אותה.
ג'ו אטקינסון, מנהל ה-AI הגלובלי של PwC, אמר ל-Fortune ב-16 בספטמבר 2026: "'הסוכן גרם לי לעשות את זה' לא יעבוד כתירוץ, לא מוסרית ולא משפטית." כלומר, מה שהסוכן עשה, אתה עשית.
מגיע אליך עובד חדש.
מהיר פי מאה. לא ישן. לא מתלונן.
היית נותן לו ביום הראשון את הסיסמה לבנק? את רשימת הלקוחות? אישור לשלוח מייל לכל רשימת התפוצה בלי שתראה?
ברור שלא.
אבל ככה בדיוק הרבה עסקים מחברים היום AI.
ביולי 2025 סוכן ה-AI של Replit, כלי לבניית אפליקציות, מחק ליזם אמריקאי את כל מאגר הנתונים של המוצר שלו, אחרי שקיבל הוראה מפורשת לא לשנות כלום. נמחקו אלפי רשומות. אחר כך הסוכן טען שאי אפשר לשחזר, וזה לא היה נכון (The Register). הסוכן לא היה רשע. פשוט היה אצלו מפתח שלא היה אמור להיות אצלו.
איך זה נראה אצלי בעסק?
אני לא מתעלם מהאזהרות האלה. ולסוכנים שלי יש כלל אחד: הם מכינים, אני מחליט. אני גר בתאילנד, העסק רץ בישראל, וסוכני AI עובדים אצלי כל יום. כל בוקר בשש, שעון ישראל, מחכה לי דוח מוכן על כל הקמפיינים, שנוצר ונשלח אליי אוטומטית. ומאמרים שסוכנים מכינים לא עולים לאתר בלי אישור שלי.
ככה נראים בלמים בעסק אמיתי. המערכת שמכינה את הדוח רואה כמה כסף יצא אתמול על כל קמפיין ומה הוא הביא. בסוף היא כותבת רשימת פעולות ממוספרת: מה לכבות, לאיזה קמפיין להגדיל תקציב, ולצידן תמיד גם האפשרות להשאיר הכול כמו שהוא עוד 24 שעות. אבל אין לה כפתור שעוצר קמפיין או מזיז שקל. והדוח מגיע רק אליי.
זה כל הבלם.
היא רואה הכול.
מי שלוחץ, זה אני.
כי אצלי טעות לא נשארת קטנה.
מייל אחד שיוצא בטעות לא מגיע ללקוח אחד.
הוא מגיע ל-18,000 מנויים ברשימת התפוצה.
ואין לו כפתור ביטול.
את כל העבודה השחורה, לאסוף, לחשב ולהמליץ, המערכת עושה בלי שום אפשרות ללחוץ. רוב העבודה נעשית כשה-AI רק רואה. לא לוחץ.
הסוכן מכין. אתה מחליט. זה הבלם הכי זול שתתקין אי פעם.
ומה קורה אם פשוט מתעלמים?
זה הסיכון השני, השקט: בזמן שאתה מחכה שהוויכוח ייגמר, המתחרים שלך כבר לומדים לעבוד עם זה. לפי סקר State of AI של McKinsey לשנת 2025, 88% מהארגונים משתמשים ב-AI באופן קבוע לפחות בתחום אחד, לעומת 78% שנה קודם. רק 39% מדווחים על השפעה מדידה על הרווח.
רובם משתמשים. רובם עוד לא מרוויחים.
הפער הזה הוא לא טכנולוגיה. הוא שיטה: מה נותנים ל-AI לעשות, ומה נשאר אצלך.
"לא לגעת בכלל" זה לא בטוח. זה פשוט הפסד איטי.
מה לעשות השבוע כדי שה-AI יעבוד בשבילך ולא נגדך?
שלוש פעולות, בלי טכנאי ובלי תקציב. כל אחת לוקחת פחות משעה, ויחד הן סוגרות את רוב הסיכון שבשליטתך: לדעת למי יש מפתח, להחליט שכל מה שיוצא החוצה עובר דרכך, ולתת לצוות שלוש שורות של כללים.
- תעשה רשימת מפתחות. כל כלי AI שאתה או העובדים משתמשים בו, ולמה הוא מחובר: המייל, רשימת הלקוחות, חשבון המודעות, הנהלת החשבונות. כמו לבדוק למי יש מפתח לחנות. כלי שלא השתמשתם בו חודש? מנתקים.
- תקבע את כלל "מכין, מחליט". קריאה, סיכום וטיוטה: חופשי. כל מה שיוצא החוצה או עולה כסף, כמו מייל ללקוחות, תשלום, מחיקה או שינוי תקציב, מחכה לאישור שלך. דוגמה: הסוכן מנסח תשובה לכל פנייה, ואתה מאשר בלחיצה לפני שהיא נשלחת. וכשאתה מבקש מ-AI המלצה, תבקש שבין האפשרויות תמיד תהיה גם: לא לעשות כלום עוד יום. למי שכבר עובד עם Claude Code, כתבתי מדריך על איך גורמים לאוטומציה לעצור ולבקש אישור.
- תכתוב לצוות שלוש שורות. באילו כלים מותר להשתמש. מה אסור להדביק לעולם: תעודות זהות, כרטיסי אשראי, מידע רפואי של לקוחות. ולמי פונים כשלא בטוחים. לפי IBM, בארגונים שבהם עובדים השתמשו הרבה בכלי AI שאף אחד לא אישר, פריצה עלתה בממוצע 670 אלף דולר יותר. ובישראל, מאז שתיקון 13 לחוק הגנת הפרטיות נכנס לתוקף ב-14 באוגוסט 2025, דליפה כזאת יכולה להסתיים גם בקנס.
שאל את עצמך: אם סוכן AI טועה מחר בבוקר, מה הדבר הכי גרוע שהוא יכול לעשות לפני שתשים לב? אם התשובה היא "לשלוח משהו ללקוחות" או "להוציא כסף", חסר לך בלם.
שאלות שבעלי עסקים שואלים על הסכנות של בינה מלאכותית
כדאי לחכות שה-AI יהיה בטוח יותר ורק אז להתחיל?
לא, כי אין תאריך שבו זה "נהיה בטוח". מה שקובע את הסיכון בעסק שלך זה לא כמה המערכת חכמה, אלא מה מותר לה לעשות. תתחיל ממשימות שקוראות ולא שולחות: סיכום של 50 המיילים מהשבוע, טיוטות לפוסטים. שם הנזק הכי גרוע הוא טיוטה גרועה שמחקת.
איך אדע אם העובדים שלי כבר משתמשים ב-AI בלי שאני יודע?
תשאל אותם, ותבהיר שאף אחד לא ייענש. עובדים לא מסתירים כי הם רעים, אלא כי אף אחד לא אמר להם מה מותר. שיחת צוות של עשר דקות עם שאלה אחת, "באיזה כלי AI השתמשתם החודש ומה הדבקתם בו?", תראה לך את רוב התמונה. אחרי זה תכתוב את שלוש השורות מהסעיף הקודם ותשלח אותן בקבוצה של הצוות.
מה עושים אם סוכן AI כבר טעה ושלח משהו ללקוחות?
קודם עוצרים אותו: מנתקים את הגישה של הכלי ששלח. אחר כך שולחים הודעת תיקון קצרה ואנושית, כי כמו שאמר מנהל ה-AI של PwC, "הסוכן עשה את זה" לא עובד כתירוץ. בסוף שואלים שאלה אחת: למה הפעולה הזאת לא חיכתה לאישור? ומוסיפים אותה לרשימת הפעולות שמחכות לך.
השבוע, בקיצור: רשימת מפתחות. כלל "מכין, מחליט". שלוש שורות לצוות.
רוצה שה-AI יעבוד בשבילך, עם בלמים?
רוב העסקים כבר משתמשים ב-AI. רובם עוד לא מרוויחים ממנו. בנקסט לבל ליווינו יותר מ-300 יזמים, שהכניסו יחד יותר מ-150 מיליון שקל באונליין. השיטה משלבת מנטורים בכירים, קהילה ו-Full Stack של שיווק, מכירות ו-AI, כדי שהעבודה השחורה תרוץ לבד וההחלטות יישארו אצלך. עשית את שלוש הפעולות ואתה רוצה להיות מאלה שכן מרוויחים? זה הצעד הבא.
לבדיקת התאמה ›באהבה ענקית,
יהב.
