החברה שבונה את Claude כתבה למשקיעים שלה שה-AI שלה עלול לקפוץ קדימה, ושהיא אולי תגלה את זה רק אחרי שזה כבר קרה. אז האם בינה מלאכותית תשתלט על העולם? אין לכך הוכחה, ולפי אותו מסמך אף מודל שלה היום לא עבר את הרף המסוכן. ומה שבעל עסק יכול לעשות כבר השבוע הוא לכתוב בעצמו את הכללים שלפיהם ה-AI עובד אצלו, ולהשאיר את ההחלטה הסופית בידיים שלו. האזהרה מופיעה בעדכון לתשקיף ההנפקה שאנתרופיק הגישה לרשות ניירות הערך האמריקנית ב-2 בנובמבר 2026. שם כתוב שלפי הערכות פנימיות, מודלים עתידיים עלולים להגיע "בקרוב מאוד" לרף שבו ה-AI עצמו מאיץ את הפיתוח בצורה דרמטית, ושהחברה לא צופה שתוכל לתת ל-Claude לבנות לבד, באופן בטוח, את הדורות הבאים בלי פיקוח אנושי משמעותי. את זה לא כתב מבקר חיצוני או עיתונאי מודאג, אלא החברה עצמה, על עצמה. ואם היא בוחרת להשאיר בן אדם ליד ההגה, כדאי שגם אתה תבחר בזה.
תקרא שוב את המשפט הראשון.
החברה שבונה את המכונה… אומרת שאולי לא תראה בזמן כמה מהר היא רצה.
זה לא טוויט של מישהו מפוחד. זה מסמך משפטי למשקיעים.
מה בדיוק אנתרופיק כתבה לרשות ניירות הערך?
בפרק גורמי הסיכון של התשקיף המעודכן אנתרופיק כתבה ש"שימוש ב-AI כדי לעזור לבנות AI חזק יותר עלול להיות גם סיכון בטיחותי רציני", במיוחד אם הוא מאיץ בחדות את קצב ההתקדמות. החברה הוסיפה שהיא שוקלת לעדכן את המדיניות שלה כדי "להשאיר את בני האדם בשליטה" על פיתוח המודלים (הציטוטים בתרגום שלי מהמסמך המקורי).
תשקיף, אגב, הוא המסמך הרשמי שחברה מגישה לפני שהיא נכנסת לבורסה, כדי לגלות למשקיעים את הסיכונים.
המונח שמסתתר מאחורי כל זה נקרא "שיפור עצמי רקורסיבי". במילים פשוטות: מכונה שעוזרת לבנות את הגרסה החכמה יותר של עצמה. כמו עובד שמגייס ומכשיר את המחליף שלו, והמחליף מגייס מחליף חכם עוד יותר.
ולמה הם מודאגים? כי לפי המסמך, רוב הראיות שלהם על קצב ההאצה מגיעות ממדדים שמגיעים באיחור. הם רואים את התוצאה אחרי שהיא כבר קרתה.
אנתרופיק כתבה שככל שהיא נשענת יותר על Claude בתוך החברה, היא עלולה להפסיק לראות מה קורה בחלק מהתהליכים, עד מצב שבו אף אדם, וגם אף צוות, לא יצליח להבין אותם ולשלוט בהם. וגם: הניטור שלה לא מכסה את כל השימושים במודלים. אם זה מה שכותבת חברה עם צוותי בטיחות שלמים, תחשוב מה קורה בעסק שנתן לאוטומציה לרוץ בלי שאף אחד מסתכל.
האם בינה מלאכותית באמת עלולה להשתלט על העולם?
התשובה הכנה: אף אחד לא יודע, ומי שאומר לך בביטחון מלא "כן" או "לא" מוכר לך משהו. אנתרופיק עצמה כתבה באותו מסמך שלפי ההערכה שלה אף אחד מהמודלים שלה היום לא עבר את הרף, ושהיא ממשיכה לבחון את הנתונים. אין במסמך לוח זמנים ואין בו הוכחה.
וגם צריך לזכור מי כתב את זה.
TechCrunch מציין שספקנים יכולים לטעון שתשקיף הוא גם מסמך שמזהיר משקיעים וגם מסמך שיווקי. חברה שאומרת למשקיעים "אנחנו קרובים למכונה שבונה את עצמה" גם מוכרת להם משהו. ו-ynet מזכיר שאין היום הגדרה אחת מוסכמת לשיפור עצמי רקורסיבי.
מצד שני, החוקרים עצמם חלוקים: בסקר של 2,778 חוקרי AI, בין 38% ל-51% מהם (תלוי בניסוח) נתנו סיכוי של 10% לפחות לתוצאה גרועה מאוד.
לא ודאות. אבל גם לא משהו שמתעלמים ממנו.
מה זה אומר כש-Claude כותב 90% מהקוד של החברה שבונה אותו?
וזה הנתון שלדעתי חשוב יותר מהאזהרה עצמה. לפי המסמך, יותר מ-90% מהתרומות לקוד של אנתרופיק בספטמבר 2026 נכתבו על ידי Claude. והמהנדסים? לפי המסמך הם "מכוונים ובודקים" את העבודה שלו, במקום לכתוב קוד שורה אחרי שורה.
תעצור על זה רגע.
המכונה עושה כמעט את כל העבודה. ועדיין החברה כותבת שהיא לא מתכוונת לתת לה לבנות לבד את הדור הבא בלי פיקוח אנושי משמעותי.
ה-AI מבצע. האדם מחליט. וככל שה-AI משתפר, הכלל הזה חשוב יותר, לא פחות.
זה בדיוק המודל שבעל עסק צריך. לא "AI או בני אדם". AI שעושה את העבודה, ובן אדם שמחזיק את ההגה.
איך אני נותן למכונה לעבוד בעסק בלי לאבד שליטה?
כל בוקר ב-6 מערכת אוטומטית מכינה לי דוח על הקמפיינים. היא קוראת את הנתונים של אתמול וכותבת לי רשימת פעולות. אני מחליט מה עושים.
הכללים שלה הם מספרים שאני כתבתי:
- קבוצת מודעות שהוציאה יותר מ-200 שקל בלי אף רכישה? היא ממליצה לכבות אותה.
- אותם אנשים ראו את המודעות יותר מ-3 פעמים בממוצע? היא מסמנת "קהל שחוק".
- קבוצה שמחזירה פי 8 ממה שהיא עולה? היא ממליצה להגדיל תקציב.
אבל יש שני דברים שהיא לא עושה.
אין בה פקודה שמכבה קמפיין. היא ממליצה, אני לוחץ.
והיא לא משנה את הכללים של עצמה. היא בכלל לא AI, היא עובדת לפי כללים קבועים. וכשמדובר בכסף, זה בדיוק היתרון.
הנה ההוכחה. מאז מאי הקוד של הדוח עודכן כמה פעמים, והספים לא זזו: 200 שקל נשארו 200 שקל. מה שכן השתנה, בסוף מאי, הוא הנוסח של שני הכללים על עלות ליד, ושניהם הלכו לאותו כיוון. מעל 140 שקל לליד הכלל אמר "להוריד תקציב חזרה ל-35 שקל ליום", והיום הוא אומר "בדוק לפי קמפיין מי המפסיד הגדול". מעל 110 שקל הוא אמר "שוקל להוריד ל-50 שקל ליום", והיום "בדוק לפי קמפיין מי מושך את הממוצע למעלה".
פחות פקודה. יותר שאלה. והשינוי הגיע מבחוץ, לא מהדוח: הדוח עצמו לא יכול לגעת בכללים שלו.
זו הגרסה בגודל של עסק קטן למה שאנתרופיק כתבה על עצמה. המכונה לא מחליטה לבד איך היא משתנה.
לימדתי מעל 800 תלמידים ב-6 מחזורים של סדנת Claude Code, והעמדה שלי לא זזה: ה-AI עושה את העבודה, ואתה כותב את הכללים ומקבל את ההחלטות. גם כשהכלים משתפרים כל חודש.
מה בעל עסק צריך לעשות השבוע?
שלושה דברים. אף אחד מהם לא דורש ידע טכני, וכולם מבוססים על אותו עיקרון שאנתרופיק כתבה בתשקיף: המכונה עובדת, בן האדם נשאר בשליטה.
- תכתוב את הכללים במספרים, לפני שה-AI נוגע בכסף. לא "תחליט מה טוב". כן "מודעה שהוציאה 200 שקל בלי מכירה, תסמן לי". מספר אחד ברור שווה יותר מעשר הנחיות כלליות.
- תפריד בין "להכין" לבין "לבצע". ה-AI יכול לנסח תשובה לליד, להכין הצעת מחיר, לבנות טיוטת מייל ללקוחות. הכפתור ששולח, מחייב או מבטל נשאר אצלך או אצל עובד.
- תקבע בדיקה חודשית ביומן, ולא תחכה לתחושה. אם אנתרופיק עצמה כותבת שהיא מגלה האצה רק בדיעבד, גם אתה לא תרגיש בזמן כשהכלי מתחיל לעשות יותר ממה שאישרת. פעם בחודש תעבור על מה שהוא עשה ותשאל: האם אישרתי את זה?
אין בו טענה שמודל כלשהו כבר בונה את עצמו. אין בו תאריך. ואין בו המלצה להפסיק להשתמש ב-AI. מה שיש בו הוא חברה שכותבת למשקיעים שהיא בוחרת להשאיר בני אדם בשליטה. זה הלקח שאפשר לקחת לעסק, בלי פאניקה.
אם אתה רוצה להבין איך סוכן AI יכול לעשות דברים שלא ביקשת, כתבתי על זה במאמר על הסוכן של OpenAI שכיבה את הבקרה. ועל החוקר שעזב את אנתרופיק בגלל הסיכונים כתבתי כאן.
שאלות ותשובות
האם מסוכן להשתמש ב-Claude בעסק אחרי האזהרה הזאת?
האזהרה עוסקת בבניית הדורות הבאים של המודלים במעבדה של אנתרופיק, לא בכתיבת מייל או ניתוח קמפיין בעסק שלך. החברה כתבה שאף מודל נוכחי שלה לא עבר את הרף. הסיכון בעסק מגיע ממקום אחר: לתת לכלי לפעול בלי כללים. דוגמה: כלל של "200 שקל בלי מכירה, תסמן לי" שומר עליך יותר מכל אזהרה.
מה זה שיפור עצמי רקורסיבי במילים פשוטות?
מצב שבו מערכת AI עוזרת לבנות גרסה חזקה יותר של עצמה, וזו בונה גרסה חזקה עוד יותר. כמו מכונה שמייצרת מכונה טובה ממנה. לפי ynet אין לזה היום הגדרה אחת מוסכמת. אנתרופיק מעריכה שמודלים עתידיים עלולים להגיע בקרוב לרף שהיא הגדירה, אבל לא כתבה מתי.
מתי זה עלול לקרות?
אין תשובה מוסמכת. בתשקיף אנתרופיק כתבה שהיא מאמינה ש-AI חזק במיוחד, ברמה של מומחים מובילים ברוב התחומים המקצועיים, יהיה זמין באופן נרחב "בתוך כמה שנים", אבל לא נתנה תאריך להשתלטות כלשהי. ובסקר של 2,778 חוקרי AI הדעות התפזרו מאוד. ההחלטה המעשית שלך לא תלויה בתאריך: לכתוב כללים כבר היום.
רוצה AI שעובד בשבילך, לא במקומך?
בליווי של נקסט לבל בונים יחד את הכללים האלה למספרים של העסק שלך. בבדיקת ההתאמה נבדוק איזה החלטות בעסק שלך אפשר להעביר למכונה, ואיזה חייבות להישאר אצלך.
לבדיקת התאמה ›באהבה ענקית,
יהב.
