"אל תלמד תואר במדעי המחשב,בינה מלאכותית תחליף אותך בקרוב"

[האזרח הקטן]

זה שאנשים פה כותבים בבטחון מלא שעוד שנתיים llm יוכל לכתוב פרוייקטים גדולים לבד ושבעוד 4 שנים הוא יהיה המתכנת הטוב בעולם מעיד בעיני יותר על רמת הבטחון העצמי של הכותב ולא על המציאות.

כנ"ל לגבי אלו שכותבים בביטחון מלא שלא תהיה שום השפעה או משפטים כמו "הביקוש למפתחים לא ייפגע, מפתחים שמשתמשים ב AI יחליפו את אלו שלא משתמשים".

 

[bigbang]

כנ"ל לגבי אלו שכותבים בביטחון מלא שלא תהיה שום השפעה או משפטים כמו "הביקוש למפתחים לא ייפגע, מפתחים שמשתמשים ב AI יחליפו את אלו שלא משתמשים".

אני לא אכתוב בביטחון מלא, אבל בראי ההיסטוריה, כך את המהפיכה התעשייתית כמשל - היא הובילה אמנם לאובדן זמני של משרות רבות, אבל גרמה ליצירה של משרות חדשות ומתגמלות הרבה יותר. רמת החיים של החברה האנושית עלתה בסדרי גודל, על אף שניתן היה לטעון את מלוא הטענות שהועלו פה גם אז.

למה לדעתך במקרה של ה-AI המצב שונה?

 

[Dončić]

אני לא אכתוב בביטחון מלא, אבל בראי ההיסטוריה, כך את המהפיכה התעשייתית כמשל - היא הובילה אמנם לאובדן זמני של משרות רבות, אבל גרמה ליצירה של משרות חדשות ומתגמלות הרבה יותר. רמת החיים של החברה האנושית עלתה בסדרי גודל, על אף שניתן היה לטעון את מלוא הטענות שהועלו פה גם אז.

למה לדעתך במקרה של ה-AI המצב שונה?

במהפכות טכנולוגיות קודמות הייתה גם צמיחה אדירה באוכלוסייה/בשווקים/באפשרויות, כלומר היו הרבה מקומות "לשפוך לתוכם" את הפרודקטיביות שגדלה. אם היום (או בעוד 5 שנים נגיד) נניח שAI משפר את הפרודקטיביות של כל עובד, השאלה היא לא רק מי יוחלף, אלא האם יש עדיין מספיק מקומות שבהם פרודקטיביות עודפת מייצרת ערך כלכלי אמיתי. או שבעצם אנחנו מתקרבים לרוויה כלכלית שבה פשוט לא צריך כל כך הרבה עובדים.

 

[האזרח הקטן]

אני לא אכתוב בביטחון מלא, אבל בראי ההיסטוריה, כך את המהפיכה התעשייתית כמשל - היא הובילה אמנם לאובדן זמני של משרות רבות, אבל גרמה ליצירה של משרות חדשות ומתגמלות הרבה יותר. רמת החיים של החברה האנושית עלתה בסדרי גודל, על אף שניתן היה לטעון את מלוא הטענות שהועלו פה גם אז.

למה לדעתך במקרה של ה-AI המצב שונה?

ההבדל הגדול הוא קצב השינויים והחדירה שלהם לכל העולם.
אם המהפכה התעשייתית לקחה קרוב למאה שנה ועוד עשורים ארוכים עד שהופצה בכלל העולם, אנחנו מצויים כיום בשינויים במהירות שיא וגם זמן ההפצה שלהם הוא 0.

אגב, אני לא אומר בביטחון שעובדי ההייטק ייפגעו, אלא רק אומר שלא נכון לקבוע בביטחון שעובדי ההייטק חסינים מפגיעה - אין שום דבר מיוחד במקצוע שנקרא פיתוח תוכנה שהופך את המחזיק בו לחסין לעומת מקצועות אחרים. היתרון של עובד כזה הוא שיחסית קל להסב ממנו למגוון רחב של מקצועות, בניגוד לכיוון ההפוך.

 

[bigbang]

במהפכות טכנולוגיות קודמות הייתה גם צמיחה אדירה באוכלוסייה/בשווקים/באפשרויות, כלומר היו הרבה מקומות "לשפוך לתוכם" את הפרודקטיביות שגדלה. אם היום (או בעוד 5 שנים נגיד) נניח שAI משפר את הפרודקטיביות של כל עובד, השאלה היא לא רק מי יוחלף, אלא האם יש עדיין מספיק מקומות שבהם פרודקטיביות עודפת מייצרת ערך כלכלי אמיתי. או שבעצם אנחנו מתקרבים לרוויה כלכלית שבה פשוט לא צריך כל כך הרבה עובדים.

בוא נניח ש-AI ורובוטים יוכלו לספק 100% מצרכי האנושות ויספיק 1% מהאוכלוסייה שיעבדו בלתחזק אותם (כיוון הפוך מזה שהצעתי קודם, אני זורם איתך). האם זה אומר ש-99% הנותרים ירעבו, או שבדיוק להיפך - רמת החיים שלהם תעלה בהשוואה להיום (וה-1% העובד יהיה עשיר בטירוף)?

ההבדל הגדול הוא קצב השינויים והחדירה שלהם לכל העולם.
אם המהפכה התעשייתית לקחה קרוב למאה שנה ועוד עשורים ארוכים עד שהופצה בכלל העולם, אנחנו מצויים כיום בשינויים במהירות שיא וגם זמן ההפצה שלהם הוא 0.

גם יכולת של עובדים רבים לעשות אדפטציות משמעותית גבוהה יותר.

אגב, אני לא אומר בביטחון שעובדי ההייטק ייפגעו, אלא רק אומר שלא נכון לקבוע בביטחון שעובדי ההייטק חסינים מפגיעה - אין שום דבר מיוחד במקצוע שנקרא פיתוח תוכנה שהופך את המחזיק בו לחסין לעומת מקצועות אחרים. היתרון של עובד כזה הוא שיחסית קל להסב ממנו למגוון רחב של מקצועות, בניגוד לכיוון ההפוך.

ביטחון אכן יש רק בשני דברים בעולם, וחסינות מפתחי התוכנה היא לא בינהם.

 

[האזרח הקטן]

בוא נניח ש-AI ורובוטים יוכלו לספק 100% מצרכי האנושות ויספיק 1% מהאוכלוסייה שיעבדו בלתחזק אותם (כיוון הפוך מזה שהצעתי קודם, אני זורם איתך). האם זה אומר ש-99% הנותרים ירעבו, או שבדיוק להיפך - רמת החיים שלהם תעלה בהשוואה להיום (וה-1% העובד יהיה עשיר בטירוף)?

אלו שתי האפשרויות היחידות? יש אפשרות גם שה 99% לא ירעבו אבל כן הכנסתם תרד. אפשר לצפות שגם ההוצאות יירדו אם החברות יגלגלו חלק מהחיסכון בעלויות לצרכן או שהתחרות תגדל. מכאן זו כבר שאלה האם ההכנסה תרד באופן חד יותר מההוצאה או לא, כדי לדעת האם רמת החיים תעלה. ואולי בכלל ההתפלגות תהיה שונה, אולי 30% יעלו ברמת החיים ו70% ירדו. יש יותר מדי משתנים כדי לדעת.

גם יכולת של עובדים רבים לעשות אדפטציות משמעותית גבוהה יותר.

אולי. יש גם הרבה עובדים שדווקא נותרים מאחור ולא יודעים לסגור את הפער שהולך ונפתח.

ביטחון אכן יש רק בשני דברים בעולם, וחסינות מפתחי התוכנה היא לא בינהם.

אמת.

 

[oferM]

אני לא אכתוב בביטחון מלא, אבל בראי ההיסטוריה, כך את המהפיכה התעשייתית כמשל - היא הובילה אמנם לאובדן זמני של משרות רבות, אבל גרמה ליצירה של משרות חדשות ומתגמלות הרבה יותר. רמת החיים של החברה האנושית עלתה בסדרי גודל, על אף שניתן היה לטעון את מלוא הטענות שהועלו פה גם אז.

למה לדעתך במקרה של ה-AI המצב שונה?

הנושא הזה של חשש לעתיד המשרות ידוע להרבה אנשים בעולם במשך מספר שנים. אנשים בטבעם אוהבים לדמיין את העתיד. הדמיון הזה גם שווה הרבה כסף כי הוא מה שיוצר את העתיד באקט היזמי.

ואנשים אחרים פשוט אוהבים לדעת את העתיד.

זה שאין חזונות מפורטים לעניין הזה, זה סימן שאלה די גדול.

 

[bigbang]

אלו שתי האפשרויות היחידות? יש אפשרות גם שה 99% לא ירעבו אבל כן הכנסתם תרד. אפשר לצפות שגם ההוצאות יירדו אם החברות יגלגלו חלק מהחיסכון בעלויות לצרכן או שהתחרות תגדל. מכאן זו כבר שאלה האם ההכנסה תרד באופן חד יותר מההוצאה או לא, כדי לדעת האם רמת החיים תעלה. ואולי בכלל ההתפלגות תהיה שונה, אולי 30% יעלו ברמת החיים ו70% ירדו. יש יותר מדי משתנים כדי לדעת.

מה בדיוק יקרה אכן קשה לדעת, אבל אפשר לנסות להעריך מה יהיה הכיוון. אוטומציה תאפשר להגדיל את התוצר הכולל, כך שתוצר גדול יותר שמתחלק על אותה אוכלוסייה, אומר רמת חיים גבוהה יותר בממוצע (או לחלופין אותו תוצר כולל אך בזול יותר שמוביל לאותה תוצאה).

האם יתכן שכל התוצר יופנה לקבוצה מאוד קטנה מהאוכלוסייה? קשה מאוד להאמין, לפחות כשמדובר במוצרי הייטק. העלות הגבוהה היא בפיתוח ולא ייצור של יחידות נוספות...

אולי. יש גם הרבה עובדים שדווקא נותרים מאחור ולא יודעים לסגור את הפער שהולך ונפתח.

זה תמיד נכון.

 

[InvestingNoob]

מה שה ai עושה נכון לעכשיו ועד כמה שאני מבין, זה לקחת את כל הידע באינטרנט ולבצע ניתוח סטטיסטי עליו ולהביא את התוצאות הכי טובות.

שזה גם מה שהמנוע חיפוש של גוגל עושה.

ההבדל הוא בדרך הצגת המידע: מנוע החיפוש עושה את זה ברמת הדפים, הai עושה את זה ברמת המילים (עד כמה שאני מבין)

מכאן, שאולי ניתן למצוא תשובה יותר טובה, אבל זה ממש לא 100%.
וממילא פעם היה סקר שמצא שמתכנתים כותבים קוד רק ב 30% מהזמן שלהם, אז זה לא כזה מהותי.

נראה לי.

 

[Dončić]

בוא נניח ש-AI ורובוטים יוכלו לספק 100% מצרכי האנושות ויספיק 1% מהאוכלוסייה שיעבדו בלתחזק אותם (כיוון הפוך מזה שהצעתי קודם, אני זורם איתך). האם זה אומר ש-99% הנותרים ירעבו, או שבדיוק להיפך - רמת החיים שלהם תעלה בהשוואה להיום (וה-1% העובד יהיה עשיר בטירוף)?

מסכים עם מה שהאזרח ענה, אני מאמין שאם מצב כזה יקרה אז איפשהו באמצע - לרוב האנשים תרד רמת החיים אבל הם לא ירעבו ללחם
רק אגיד שאני לא בהכרח חושב שאנחנו הולכים לשם ואני לא טוען שמהפכת הai היא בהכרח ״הפעם זה אחרת״, אלא שאני כן טוען שמתישהו נגיע לרוויה כלכלית, לאו דווקא בגלל הai. הai בסה״כ יכול לשמש זרז להגעה לשם אבל מצד שני יכול להיות שאנחנו רחוקים שנות אור משם, ויכול אפילו להיות שמהפכת הai רק תגרום לנו להבין כמה אנחנו רחוקים משם וכמה עוד תפוקה אפשר לייצר

 

[Odysseus]

זו הנקודה המרכזית לדעתי, להבנתי פשוט לא יודעים כרגע לאן זה הולך ובאיזה קצב ולכן בעיקר נותר לחכות ולראות.

זה שאנשים פה כותבים בבטחון מלא שעוד שנתיים llm יוכל לכתוב פרוייקטים גדולים לבד ושבעוד 4 שנים הוא יהיה המתכנת הטוב בעולם מעיד בעיני יותר על רמת הבטחון העצמי של הכותב ולא על המציאות.

כנ"ל לגבי אלו שכותבים בביטחון מלא שלא תהיה שום השפעה או משפטים כמו "הביקוש למפתחים לא ייפגע, מפתחים שמשתמשים ב AI יחליפו את אלו שלא משתמשים".

יש דבר אחד שכן אפשר לעשות, וזה לנסות לשערך באיזושהי רמת דיוק את ההסתברות לכל מאורע. אנשים לא מרגישים בנוח לנבא דברים ברמות ביטחון נמוכות מ-100%\90%. עוד מכשול זה שלבן אדם הממוצע אין ידע אינטימי עם התחום וניסיון לגבי הבעיות בו.

מההיכרות שלי, אני משנה את דעתי roughly כל כמה חודשים לגבי רמת ביטחון של 55%-60% שתוך עשור יהיה לנו AI (לא בהכרח LLM) מתכנת-על. זו הערכה גסה שמתבססת על סיגנלים חיובים (scaling של פרמטרים ודאטה בינתיים המשיכו לשבור שיאים שהיו נראים לא סבירים, אפיקים כמו test-time compute שעדיין באופן יחסי בתחילת דרכם שמראים פוטנציאל התקדמות, ניצול של דאטה מולטי מודאלי ועוד ועוד...) וסיגנלים שליליים (תפוקה שולית פוחתת מ-pretraining קלאסי של LLMים, סיכוי אמיתי שנגיע לתקרה ביכולות שניתן להשיג בפרדיגמה הנוכחית שלא ציפינו לפגוש, קשיים בדאטה \ הפקת תועלת מדאטה סינטתי, ירידה בהשקעות הדרושות בשביל לעבור את כל פריצות הדרך הנחוצות בשנים הקרובות בגלל משברים כלכליים וכו'....)

בשורה התחתונה:
א) זה אומר שיש סיכויי שמתכנת-על לא יגיע גם, צריכים פשוט לקבל את חוסר הידע. אבל הסיכויים שיגיע לא קטנים.
ב) דעה אישית: גם אם היכולות של LLMים יתקעו בדיוק בנקודה הנוכחית ולא ישתפרו יותר, עדיין ניתן לפתח אותם להיות הרבה יותר מועילים ממה שהם היום עם טכנולוגיה קיימת (חשבו על ההבדל בין cursor לבין סתם claude \ GPT). רעידת האדמה בתחום סבירה מאוד גם אם לא נחליף את כל המתכנתים, וגם אם זה רק ישנה את אופי העבודה שלהם.

 

[nolim]

השני סנט שלי לדיון:
כלכלה מונעת גם מצריכה. אם כל העולם עני, מובטל כמו אפריקה, גם הגדולים והחזקים יהיו גדולים פחות. זה כדור שלג, שאחד משפיע על השני. יש הטוענים שזה חלק מהתפיסה האמריקאית של לצרוך כדי להניע גם את הכלכלה...

לא יודע לאן הAI יגיע, יכול להיות שכבר היום הוא יכול להחליף הרבה אנשים ועדיין לא מחליף. הסיבה שזה לא קורה מהר, היא כי יש אילוצים ויחסי גומלין אחרים בכלכלה. אני יותר אופטימי, או לפחות חושב שלא נגיע למצב ש99% מבוצע על ידי מכונות. אולי 99% מהעבודה היום תבוצע עי מכונות אבל האנשים ימצאו תפקידים חדשים, אחרת הכלכלה לא תנוע וזה יעצור את ההתקדמות...
לכל אחד, יש חברים, משפחה, ילדים ויש תלויות וקשר בין האנשים בעולם שיגרמו גם לסינוגולריות טכנולוגית להאט ולתת לאוכולוסיה להסתגל.
יהיו פיטורים, יהיו שינויים, אבל זה לא יהיה מ0 ל99% בזמן קצר. ותהיה הסתגלות והמצב ישתפר חזרה...

 

[האזרח הקטן]

אבל זה לא יהיה מ0 ל99% בזמן קצר.

לא חושב שמישהו מעריך שנגיע מ0 ל99% בזמן קצר.

 

[ת.אוקהם]

אין ידע אינטימי עם התחום וניסיון לגבי הבעיות בו.

בוודאי שלמי שעוסק בתחום יש יכולת חיזוי טובה מלהדיוט אבל גם יכולת החיזוי הזו לא מאוד טובה לעניות דעתי.
אם היית שואל חוקר nlp בשנת 2017, אחרי שיצא המאמר הראשון שהציג את הטרנספורמר, מה הסיכוי ש transformer decoder יגיע להישגים של צאט ג'יפיטי בעוד 5 שנים לדעתך הוא היה עונה תשובה מוצלחת?
מה לגבי שנה קודם לכן, כשלא היו בכלל טרנספורמרים?

אני אגדיל ואומר שלהבנתי התחום של deep learning בכללותו הוא תחום שאף שיש לו בסיס תיאורטי מוצק, יש בו רכיב מאוד חזק של התקדמות באמצעות מחקר אמפירי כשהתיאוריה שמסבירה "למה בעצם זה עובד ככ טוב" ומהצד השני: "מה המגבלות של זה" לרוב מפגרת מאחור.

אל תבין אותי לא נכון כמובן, מאוד מעניין אותי לקרוא את המחשבות שלך כמישהו שחוקר בתחום אבל אני עדיין סבור שחיזוי העתיד הוא משימה קשה.

 

[Odysseus]

בוודאי שלמי שעוסק בתחום יש יכולת חיזוי טובה מלהדיוט אבל גם יכולת החיזוי הזו לא מאוד טובה לעניות דעתי.
...
אל תבין אותי לא נכון כמובן, מאוד מעניין אותי לקרוא את המחשבות שלך כמישהו שחוקר בתחום אבל אני עדיין סבור שחיזוי העתיד הוא משימה קשה.

אני מסכים שזו משימה קשה. אני אפילו חושב שהפרדיקציה של הרבה מהחוקרים בתחום היא שגויה, ואני יכול להביא הרבה יכולות מלבד LLM קלאסי ויכולות תכנות שהפתיעו אותי הרבה יותר מהביצועים של LLM וסתרו מאוד את התחזיות האישיות שלי. אבל:
1) רוב החוקרים, מהניסיון שלי, נוטים פחות להביא תחזיות בביטחון קרוב ל-100%, בניגוד להרבה מגיבים בדיון הזה. אני חושב שחוקרים מרגישים הרבה יותר בנוח לקבל את זה שהחיזוי שלהם לא ודאי, במיוחד כשהם עוסקים בתחום שמהותו הוא חיזוי סטטיסטי.
2) רוב החוקרים כיום חוו חוויה דומה לשלי: תחזיות שהתנפצו, בעיקר בכיוון של התפתחות מהירה בהרבה מהצפוי. הרבה חוקרים כיילו את עצמם במידה מסוימת.
3) חוקרים אולי כן יכולים, באמינות גבוהה יותר, להגיד אמירות כמו הדעה האישית ששיתפתי בהודעה האחרונה (גם אם ההתקדמות תיעצר). הם גם יודעים להגיד אילו אמירות הן לא כלכך מובנות מאליהן כמו שאנשים חושבים (לדוג', יש אנשים שמשוכנעים שמודלים יכולים לשפר את עצמם. אבל זה עלול להיות בעייתי מסיבות של דאטה של אימון עצמי שחסר, חוסר בעדויות של מודלים שמתעלים על היכולות המגולמות בדאטה שהתאמנו עליו, ועוד...אני לא טוען שזה בלתי אפשרי, רק שזה לא בטוח ב-100% שזה אפשרי כמו שרבים חושבים).

לגבי אמינות התחזיות של מומחים, מתרחשים מדי פעם סקרי מומחים בהם שואלים אנשים שעוסקים בתחום לחזות דברים כאלו ואחרים. הרבה פעמים מתעסקים בשאלה של AGI (בשמותיו השונים).
הנה גרף אחד מעניין ומפורסם שדווקא מראה את חוסר עקביות הניבוי של מומחים:

https://aitoday.com/wp-content/uploads/2025/02/677rq42b49bc1.jpeg

 

[ת.אוקהם]

אני חושב שהמאמר החדש של אפל מעניין בהקשר של כמה מודלי הריזונינג החדשים באמת קרובים ל agi.
למי שמתעניין:
The illusion of thinking

 

[סברס]

אני חושב שהמאמר החדש של אפל מעניין בהקשר של כמה מודלי הריזונינג החדשים באמת קרובים ל agi.
למי שמתעניין:
The illusion of thinking

מתכוון כמה רחוק. נכון?
כל הפואנטה של המאמר זה להראות שיכולת ההסק של המודלים האלו מתרסקת ברגע שהמשימה קצת יותר "מורכבת".
אני כותבת "מורכבת" כי אדם שמבין את הפואנטה של הפאזלים האלו יכול לפתור אותם לא משנה כמה גדולים הם יהיו, כי בסוף זה חוזר על עצמו. אבל למודלי ההסקה אין את יכולת ההכללה הזו. הם לא מצליחים ליישם את אותו הפתרון של פאזל 3 חלקים על פאזל 15 חלקים

 

[ת.אוקהם]

מתכוון כמה רחוק. נכון?

כן, קראתי את המאמר, המאמר גם נקרא "אשליית החשיבה" (זה התרגום של השם באנגלית)

אבל למודלי ההסקה אין את יכולת ההכללה הזו. הם לא מצליחים ליישם את אותו הפתרון של פאזל 3 חלקים על פאזל 15 חלקים

ראוי לציין שגם כשסיפקו להם את האלגוריתם לפתרון בצורה מפורשת הם לא הצליחו.

 

[Odysseus]

אני חושב שהמאמר החדש של אפל מעניין בהקשר של כמה מודלי הריזונינג החדשים באמת קרובים ל agi.
למי שמתעניין:
The illusion of thinking

מוזמן גם להציץ בביקורות למאמר

Comment on The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity

Shojaee et al. (2025) report that Large Reasoning Models (LRMs) exhibit "accuracy collapse" on planning puzzles beyond certain complexity thresholds. We demonstrate that their findings primarily reflect experimental design limitations rather than fundamental reasoning failures. Our analysis...

arxiv.org

 

[ת.אוקהם]

מוזמן גם להציץ בביקורות למאמר

Comment on The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity

Shojaee et al. (2025) report that Large Reasoning Models (LRMs) exhibit "accuracy collapse" on planning puzzles beyond certain complexity thresholds. We demonstrate that their findings primarily reflect experimental design limitations rather than fundamental reasoning failures. Our analysis...

arxiv.org

מעניין.
נשמע שבאמת הבדיקות של מגדלי האנוי וחציית הנהר הן פגומות בצורה מהותית והמאמר בעייתי.