"אל תלמד תואר במדעי המחשב,בינה מלאכותית תחליף אותך בקרוב"

[Wave]

א) מנכ"ל אנטרופיק הוא שקרן (גרוע)
ב) מאיפה הבטחון ש"הוא יהיה מסוגל לכתוב פרויקטים ארוכים ומורכבים "? אתה מבסס את זה על ידע טכני והכרה של איך המודלים מאומנים ועובדים, או על משאלת לב?

כי אני לא רואה סיבה שרשת נוירונים מורכבת מספיק ועם כוח עיבוד גדול מספיק לא תצליח לבצע פרויקטים מורכבים או לפחות בעתיד הנראה לעין לקחת חלק גדול בהם, למען האמת אני חושב שהיכולת להבין אינטנט וקונטקסט ברמה שיש כבר היום היא אתגר שהייתי הרבה פחות אופטימי לגביו(או פסימי, תלוי מה התוצאה שרוצים לראות).
אני באמת אשמח שתסביר לי לדעתך למה זה לא אפשרי, בסוף הכל זה חיקוי של התנהגות אנושית דפוסים שאנחנו פועלים איתם כמו מתכון.

להגדרה הזו יש הנחה סמויה (שגויה) שכמות העבודה בעולם זה משאב מוגבל. ברגע שאתה עושה אוטומוזיציה לחלק מהמשימות שלך, אז מתפנה לך זמן למשימות אחרות. ככה העולם מתפתח.

כשהמציאו את המדיח, מכונת הכביסה וכו' אז חשבו שלנשים לא יהיה מה לעשות והן כל היום ישבו לשתות קוקטיילים עם חברות. בפועל זה לא קרה...

כל ההקבלות האלה לעבר הן לא נכונות ולא רלוונטיות, כי אתה לא מייעל כאן תהליך עבודה(שזה מה שקרה לאורך ההיסטוריה בגרסאות כאלה או אחרות)
אתה פשוט מחליף את מי שעושה את העבודה, יפתחו משרות חדשות? למה שAI לא יבצע גם אותן? לך יש הנחה סמויה(שיכול להיות שנכונה אך אני חולק עלייך)
שלבינה מלאכותית יש גבול מסויים והוא יהיה נמוך מהרף האנושי.

 

[YPV]

פיתוח תוכנה היא לא מטרה כשלעצמה. בתור לקוח עסקי אני רוצה מוצר/תוצר טכנולוגי, בכמה שפחות זמן ועלויות. עולם כלי/מוצרי LOW/NO CODE כבר נותן לי טעימה מגן העדן של כל לקוח עסקי - פיתוח אפליקציות ללא צורך במפתחים, מנתחים, ארכיטקטים, אנשי QA וכו'. כלי AI רק הולכים להרחיב ולשדרג את היכולת הזאת.

נכון, עדיין יהיו פרויקטים מורכבים שכלי AI לא ייתנו להם מענה (בעתיד הקרוב) אבל רוב רובם של הפרויקטים הם לא כאלה. ורוב רובם של המפתחים הם לא ראשי צוותים בגאמפא. בכל מקום שניתן אני מעדיף להכשיר לקוחות עסקיים בשימוש בכלי LOW/NO CODE מאשר לפנות למסלול פיתוח תוכנה קלאסי.

 

[סברס]

ההקבלות האלה לעבר הן לא נכונות ולא רלוונטיות, כי אתה לא מייעל כאן תהליך עבודה(שזה מה שקרה לאורך ההיסטוריה בגרסאות כאלה או אחרות)
אתה פשוט מחליף את מי שעושה את העבודה, יפתחו משרות חדשות? למה שAI לא יבצע גם אותן? לך יש הנחה סמויה(שיכול להיות שנכונה אך אני חולק עלייך)
שלבינה מלאכותית יש גבול מסויים והוא יהיה נמוך מהרף האנושי.

אז מה הטענה שלך? שבינה מלאכותית תחליף את כל העבודות בעולם (בחמש השנים הקרובות) ואנחנו נשב בחוף הים עם פלח אבטיח ונהנה מהחיים?

אני לא טוענת שלבינה מלאכותית יש גבול מוחלט, אינני יודעת. אבל יש הבדל בין גבול תיאורטי שאולי נגיע אליו (או שלא) אי שם בעתיד. לבין התצורה הנוכחית של מודלי שפה גדולים. התצורה הנוכחית מוגבלת מאוד. התצורה הנוכחית יכולה לשמש ככלי עזר לבני אדם

 

[Wave]

אז מה הטענה שלך? שבינה מלאכותית תחליף את כל העבודות בעולם (בחמש השנים הקרובות) ואנחנו נשב בחוף הים עם פלח אבטיח ונהנה מהחיים?

אני לא טוענת שלבינה מלאכותית יש גבול מוחלט, אינני יודעת. אבל יש הבדל בין גבול תיאורטי שאולי נגיע אליו (או שלא) אי שם בעתיד. לבין התצורה הנוכחית של מודלי שפה גדולים. התצורה הנוכחית מוגבלת מאוד. התצורה הנוכחית יכולה לשמש ככלי עזר לבני אדם

כן זה פחות או יותר הטענה שלי למעט טווח הזמן שהייתי אומר שהוא גדול יותר מ5 שנים.
אבל מכוון שאני מודע לכך שזה טענה מאוד ספקולטיבית ואין לי עניין אמיתי לשכנע בה, וכמובן שאני לא בטוח בה ב100 אחוז אבל מהידע שאני צברתי לשם אני חושב שזה הולך.

התצורה הנוכחית של מודלי שפה גדולים בעיניי היא עדיין לא בינה מלאכותית אלא פשוט יישום מעולה של למידה עמוקה, ואני לא חושב שהיא רק יכולה לשמש ככלי עזר כי קצב ההתפתחות כרגע הוא שניתן להחליף עם זה הרבה יותר אנשים ממה שזה יוצר משרות מה שבעיניי ייצר אבטלה ולא ביקוש.

 

[סברס]

כן זה פחות או יותר הטענה שלי למעט טווח הזמן שהייתי אומר שהוא גדול יותר מ5 שנים.
אבל מכוון שאני מודע לכך שזה טענה מאוד ספקולטיבית ואין לי עניין אמיתי לשכנע בה, וכמובן שאני לא בטוח בה ב100 אחוז אבל מהידע שאני צברתי לשם אני חושב שזה הולך.

התצורה הנוכחית של מודלי שפה גדולים בעיניי היא עדיין לא בינה מלאכותית אלא פשוט יישום מעולה של למידה עמוקה ולמידת מכונה, ואני לא חושב שהיא רק יכולה לשמש ככלי עזר כי קצב ההתפתחות כרגע הוא שניתן להחליף עם זה הרבה יותר אנשים ממה שזה יוצר משרות מה שבעיניי ייצר אבטלה ביקוש.

אז אנחנו מדברים על דברים שונים.

אני פירשתי בינה מלאכותית בהקשר של הדיון הנוכחי כמודלי שפה גדולים (זו הפרשנות הנפוצה כיום), ועל ההשפעה בשנים הקרובות (אני בחרתי 5 שנים).
זה נשמע שאתה מדבר על בינה מלאכותית בצורה הרחבה ביותר של המילה, בטווח זמנים לא ידוע.

 

[Wave]

אז אנחנו מדברים על דברים שונים.

אני פירשתי בינה מלאכותית בהקשר של הדיון הנוכחי כמודלי שפה גדולים (זו הפרשנות הנפוצה כיום), ועל ההשפעה בשנים הקרובות (אני בחרתי 5 שנים).
זה נשמע שאתה מדבר על בינה מלאכותית בצורה הרחבה ביותר של המילה, בטווח זמנים לא ידוע.

לכן אמרתי שמודלי שפה ווידאו למיניהם בטווח של 5 שנים ייתרו יותר משרות מאשר שהם יפתחו משרות.

 

[minimizer]

כי אני לא רואה סיבה שרשת נוירונים מורכבת מספיק ועם כוח עיבוד גדול מספיק לא תצליח לבצע פרויקטים מורכבים או לפחות בעתיד הנראה לעין לקחת חלק גדול בהם, למען האמת אני חושב שהיכולת להבין אינטנט וקונטקסט ברמה שיש כבר היום היא אתגר שהייתי הרבה פחות אופטימי לגביו(או פסימי, תלוי מה התוצאה שרוצים לראות).
אני באמת אשמח שתסביר לי לדעתך למה זה לא אפשרי, בסוף הכל זה חיקוי של התנהגות אנושית דפוסים שאנחנו פועלים איתם כמו מתכון.

הרבה סיבות.

א) מישהו צריך לתת למודל קונטקסט מדויק ומזוקק של הבעיה הנקודתית שצריך לפתור. הקונטקסט שהמודל מקבל הוא שבריר של שבריר של הקונטקסט המלא שבני אדם מחזיקים בראש שנצבר לאורך שנים של נסיון הן בעולם הטכני והן בעולם העסקי. אין למודל שפה שום יכולת להחזיק קונטקסט כל כך גדול ולהבין אותו.

ב) כמהנדס תוכנה בדרגה בכירה בחברה שאני עובד בה, אני כמעט לא כותב היום קוד. רוב הזמן אני מחפש פתרונות לבעיות, עושה דיזיין, וכו׳. זה כיף שאני יכול לכתוב קוד מהר עם LLM אבל זו לא עיקר העבודה שלי, ו-LLM לא יכול להחליף אותי בעבודה שעליה משלמים לי.

ג) אחרי שכתבנו את הקוד מישהו צריך לדאוג שהוא ירוץ ולתחזק אותו לאורך שנים. זה שהטסטים עוברים פעם אחת לפני שזה נכנס למאסטר זה לא מספיק כדי להחליף מפתחים.

 

[fongeme]

הטענה שבינה מלאכותית תייתר לגמרי את העבודה של בני האנוש היא לא רלוונטית לדיון, ששואל במה בן אנוש אמור לעסוק ב2025.
זה דיון פילוסופי יותר מאשר הוא טכני או פרקטי באיזשהי רמה

 

[האזרח הקטן]

להגדרה הזו יש הנחה סמויה (שגויה) שכמות העבודה בעולם זה משאב מוגבל. ברגע שאתה עושה אוטומוזיציה לחלק מהמשימות שלך, אז מתפנה לך זמן למשימות אחרות. ככה העולם מתפתח.

כשהמציאו את המדיח, מכונת הכביסה וכו' אז חשבו שלנשים לא יהיה מה לעשות והן כל היום ישבו לשתות קוקטיילים עם חברות. בפועל זה לא קרה...

זה שיש דוגמאות מן העבר בהן אוטומציה לא צמצמה את מספר המועסקים הכולל, ואולי אף העלתה את מספר המועסקים הכולל זה נחמד. אבל זה לא אומר שאין תרחישים בהם מספר המועסקים הכולל יירד באופן משמעותי. אני סבור שכיום אנחנו נמצאים בשינוי שלא הכרנו עד היום מבחינת היקף התחומים בהם הוא נוגע, כמו גם מהירות החדירה שלו וגם קצב השינויים/שיפורים שבו - כל אלו בהחלט עשויים לגרום לכך שקצב ההתייעלות עשוי לגבור על קצב יצירת משרות חדשות.

 

[c881]

לפחות כיום, כמו שאני רואה את זה יש מי שמשחק במודלים והרווחים של החברות בנוי על כך שמישהו יפעיל את השירות וישתמש בו.
אם יהיו פחות משרות, כלומר פחות אנשים ישתמשים במודלים ויהיו מוכנים לשלם עליו...

 

[האזרח הקטן]

לפחות כיום, כמו שאני רואה את זה יש מי שמשחק במודלים והרווחים של החברות בנוי על כך שמישהו יפעיל את השירות וישתמש בו.
אם יהיו פחות משרות, כלומר פחות אנשים ישתמשים במודלים ויהיו מוכנים לשלם עליו...

אתה מדבר על הרווחיות של החברות המספקות שירותי Gen AI?
אם כן, מספר המשרות בעולם לא רלוונטי, כאשר הרוב הגדול של ההכנסות מגיע מתהליכים אוטומטיים שפונים לשירות, ולא מבן אדם שהקליד פרומפט חד פעמי.

 

[סברס]

זה שיש דוגמאות מן העבר בהן אוטומציה לא צמצמה את מספר המועסקים הכולל, ואולי אף העלתה את מספר המועסקים הכולל זה נחמד. אבל זה לא אומר שאין תרחישים בהם מספר המועסקים הכולל יירד באופן משמעותי. אני סבור שכיום אנחנו נמצאים בשינוי שלא הכרנו עד היום מבחינת היקף התחומים בהם הוא נוגע, כמו גם מהירות החדירה שלו וגם קצב השינויים/שיפורים שבו - כל אלו בהחלט עשויים לגרום לכך שקצב ההתייעלות עשוי לגבור על קצב יצירת משרות חדשות.

אוקי, אז אנחנו מסכימים על כך שבינה מלאכותית לא תבטל את העבודה האנושית, העבודה האנושית פשוט תשתנה ותתפתח. השאלה היא רק כמה זמן זה יקח.

למה אתה חושב שקצב סגירת המשרות יהיה מהיר יותר מקצב יצירת המשרות החדשות?

 

[האזרח הקטן]

אוקי, אז אנחנו מסכימים על כך שבינה מלאכותית לא תבטל את העבודה האנושית, העבודה האנושית פשוט תשתנה ותתפתח.

אני לא טענתי מעולם שהעבודה תתבטל. אני טוען רק שמספר המשרות בהייטק (ובעוד ענפים, אבל נתמקד בדיון בהייטק) צפוי לדעתי לרדת. האם זו תהיה ירידה של חמישה אחוז או שלושים אחוז, קטונתי מלהשיב.

השאלה היא רק כמה זמן זה יקח.

אני מדבר על העשור הקרוב.

למה אתה חושב שקצב סגירת המשרות יהיה מהיר יותר מקצב יצירת המשרות החדשות?

כי זו בדיוק טיבה של אוטומציה. לוקחים מצב קיים, ומחליפים את העבודה הידנית בתהליכים אוטומטיים = פחות עובדים.
יצירת משרות חדשות זו פעולה נפרדת ולוקחת את הקצב שלה, ולא בהכרח מגיעה לאותו היקף של מה שבוטל.
אני בהחלט רואה תרחיש שבו הקצב שמשרות ייסגרו יהיה מהיר מהקצב של יצירת משרות חדשות, כי גם כשיווצר צורך חדש ינסו לפתור אותו עם כמה שפחות מועסקים, בזכות הבינה המלאכותית.
דווקא חברה חדשה שקמה היום מאפס יכולה להיות יעילה בהרבה מבחינת יחס תפוקה לעובד לעומת חברות קיימות.

 

[Dončić]

אני לא טענתי מעולם שהעבודה תתבטל. אני טוען רק שמספר המשרות בהייטק (ובעוד ענפים, אבל נתמקד בדיון בהייטק) צפוי לדעתי לרדת. האם זו תהיה ירידה של חמישה אחוז או שלושים אחוז, קטונתי מלהשיב.

וגם אם תהיה ירידה של רק 5%, זה עדיין יכול ליצור מיני-משבר תעסוקה (בישראל) כשמסתכלים על קצב הגידול של סטודנטים מדי שנה למקצועות שמוכוונים להייטק

 

[האזרח הקטן]

וגם אם תהיה ירידה של רק 5%, זה עדיין יכול ליצור מיני-משבר תעסוקה (בישראל) כשמסתכלים על קצב הגידול של סטודנטים מדי שנה למקצועות שמוכוונים להייטק

בהחלט, אפילו קיפאון במספר המועסקים יכול לייצר משבר כזה או אחר.
זה גם יכול להשליך על שכר של אלו שכן מועסקים, כשיש לצידם מישהו אחר שמוכן לעבוד בתנאים פחות טובים.

 

[AsherV]

רק מניח כאן

GitHub - cloudflare/workers-oauth-provider: OAuth provider library for Cloudflare Workers

OAuth provider library for Cloudflare Workers. Contribute to cloudflare/workers-oauth-provider development by creating an account on GitHub.

github.com

ספריה שלמה של חברה רצינית שנכתבה עם GenAI (וביקורת אנושית)

 

[סברס]

כי זו בדיוק טיבה של אוטומציה. לוקחים מצב קיים, ומחליפים את העבודה הידנית בתהליכים אוטומטיים = פחות עובדים.
יצירת משרות חדשות זו פעולה נפרדת ולוקחת את הקצב שלה, ולא בהכרח מגיעה לאותו היקף של מה שבוטל.
אני בהחלט רואה תרחיש שבו הקצב שמשרות ייסגרו יהיה מהיר מהקצב של יצירת משרות חדשות, כי גם כשיווצר צורך חדש ינסו לפתור אותו עם כמה שפחות מועסקים, בזכות הבינה המלאכותית.
דווקא חברה חדשה שקמה היום מאפס יכולה להיות יעילה בהרבה מבחינת יחס תפוקה לעובד לעומת חברות קיימות.

אז אולי פה אנחנו חלוקים. טיבה של אוטומציה או במילים אחרות ייעול תהליכים, וזה גורר הורדת מחירים וחסמי כניסה. לפי התיאוריות הכלכליות המודרניות כשאתה מוריד מחירים אתה משנה את שיווי המשקל למצב שבו נייצר יותר.

זאת אומרת אם אני ממשיכה את הדוגמא שלך של חברות חדשות שנעזרות בבינה מלאכותית, בעולם ללא בינה מלאכותית הן לא היו קיימות. כי זה לא היה כלכלי או משתלם להקים אותן מלכתחילה. זאת אומרת שבעקבות הבינה המלאכותית נוצרו חברות חדשות, ומשרות חדשות.

 

[האזרח הקטן]

אז אולי פה אנחנו חלוקים. טיבה של אוטומציה או במילים אחרות ייעול תהליכים, וזה גורר הורדת מחירים וחסמי כניסה. לפי התיאוריות הכלכליות המודרניות כשאתה מוריד מחירים אתה משנה את שיווי המשקל למצב שבו נייצר יותר.

זאת אומרת אם אני ממשיכה את הדוגמא שלך של חברות חדשות שנעזרות בבינה מלאכותית, בעולם ללא בינה מלאכותית הן לא היו קיימות. כי זה לא היה כלכלי או משתלם להקים אותן מלכתחילה. זאת אומרת שבעקבות הבינה המלאכותית נוצרו חברות חדשות, ומשרות חדשות.

יותר חברות לא אומר יותר עובדים.
אם למשל חברה של 10,000 עובדים נחתכה בחצי וחברות חדשות שקמו גייסו חצי מהמפוטרים, יש עדיין 2500 עובדים שיחפשו עבודה.

עכשיו השאלה היא רק האם קצב ייצור המשרות יעלה על קצב סגירת המשרות, ואת זה נגלה בשנים הקרובות.

 

[klayhamn]

אז מה הטענה שלך? שבינה מלאכותית תחליף את כל העבודות בעולם (בחמש השנים הקרובות) ואנחנו נשב בחוף הים עם פלח אבטיח ונהנה מהחיים?

בסופו של דבר - כן.
הדרך לשם אולי תהיה נעימה ואולי לא תהיה נעימה, תלוי כמה ארוך יהיה "מצב הביניים" שבו רוב העמל האנושי הופך למיותר, אבל לא כולו - כך שעדיין יש צורך בכלכלה.

ברגע שבו כל עמל אנושי ניתן להטיל על רובוט - אין יותר צורך בעמל אנושי ולכן אין צורך בכלכלה (שתפקידה לתמרץ אנשים לעשות דברים), וכפועל יוצא גם לא תהיה תוחלת לקניין אישי (מה זה משנה מה "יש לך" אם ניתן לייצר עוד ממנו ללא צורך בעמל אנושי?) . הבעיה שלנו בעידן כזה תהיה פשוט כמות המשאבים המוגבלים על הפלנטה, לא הצורך לחלק אותם ביעילות. אם נוכל להגביל את גודל האוכלוסיה נניח - אז נוכל להתקיים מספיק זמן בצורה הזו עד שנבנה את הכלים הדרושים כדי להתפשט למאדים והלאה משם (ואז גם בעיית המשאבים תיעלם).


כמובן שזו נקודת קצה - STAR TREK -
בדרך למשל יכולות להיות מהומות, מלחמות אזרחים, עוני מקצין, מלחמות בין מדינות על משאבי אנרגיה וכו'.

עכשיו השאלה היא רק האם קצב ייצור המשרות יעלה על קצב סגירת המשרות, ואת זה נגלה בשנים הקרובות.

בדיוק - ככל שנוכל "לשמור" על איזון כך הדרך לסינגולריות תהיה נעימה יותר
ככל שיהיה פער גדול יותר, כך יהיה סבל גדול יותר ונאלץ לעשות שינויים מהותיים במערכות שלנו כדי להתמודד עם זה.
למשל, אולי נצטרך לחיות תקופה מסויימת במצב שבו רק 20% מהאוכלוסיה האינטילגנטי ביותר "עובד" - אבל הוא לא זוכה ל-100% מהתגמול אלא מתחלק בו עם ה-80% שאין בהם צורך. יותר משזה קשה לוגיסטית (או יוצר בעיות אחרות כמו נניח אנשים שיולידו יותר ילדים כדי "לדפוק" את המערכת [ע"ע חרדים]) - יש פה בעיקר קושי תפיסתי וקושי בשינוי פרדיגמטי של מה זו "הוגנות" ומה זו "כלכלה הוגנת" ומה זה אומר על כל התורות הכלכליות הקלאסיות וכו'.

 

[fongeme]

בהחלט, אפילו קיפאון במספר המועסקים יכול לייצר משבר כזה או אחר.

זה לא רחוק מהמצב היום