Odysseus
משתמש רגיל
- הצטרף ב
- 21/4/15
- הודעות
- 222
- דירוג
- 419
הרבה זמן לא כתבתי פה, אבל אני חושב שפה אני עשויי לקבל תשובות להן אני מצפה בנושא (:
אתחיל ישר מהעניין ומהשאלה, ואוסיף הסברים אחרי זה.
Artificial General Intelligence (AGI) זה שם קצת עמום וכללי לבינה מלאכותית שיכולה לבצע משימות מטווח רחב של דומיינים טוב לפחות כמו בני אדם.
אני מאמין שהסבירות ל-AGI בעשור הקרוב (אפילו כזה שלא כלכלי להפעיל אותו) היא באזור ה-60%, וחושב שהסבירות ל-AGI בשלוש שנים הקרובות היא לפחות 1%.
בדיון הזה אני מבקש שלא נתווכח על הסבירות שזה יקרה, ואם אתם רוצים לעשות את זה יש דיון נחמד כאן:
www.hasolidit.com
השאלה שלי שאשמח שתענו עליה בדיון היא: בהינתן שהסבירות הזו היא עובדה, מהם הצעדים שאתם תעשו כאינדיבידואלים היום בשביל לשמור ולמקסם הצלחה עבור עצמכם והמשפחות שלכם.
את הפוסט שלי אחלק ל-3 חלקים:
1. אתחיל בלהגיד מהם הצעדים שאני חשבתי שכדאי לעשות בהינתן העובדה הזו.
2. אגיד מהן התחזיות המאוד כלליות שלי לגבי איך אני חושב שהתפתחות של AGI תשפיע על העולם והכלכלה, ותחזיות אלו הן הבסיס להחלטות שהצגתי.
3. אתן עוד טיפונת רקע לגבי מה זה AGI ולמה אני מאמין שיש סבירות כזו.
צעדים שלי לקראת AGI:
1. להוציא אזרחויות זרות, אם אפשר:
אני לא חושב שישראל היא בהכרח מקום רע להיות בו כשיהיה AGI, אני פשוט באמת לא יודע. תרחיש אחד שאני חושש ממנו היא היעלמות של מקומות עבודה ובריחת חברות ממדינות שימסו אותן במס אוטומציה. הייתי רוצה אזרחות של מדינה שבסבירות גבוהה תצליח לדאוג לתושביה ואולי אפילו תעניק לי הכנסה אוניברסלית (UBI), במידה ואזדקק לה.
2. להשקיע בקרקעות, ואם אפשר מכמה מדינות שונות:
צפוי כי לאורך זמן, AGI יעזור להוריד את עלויות הייצור של מוצרים רבים. עם זאת, יהיה מספר מוגבל של "נכסים סופיים", שגם אם יהיה אפשר לאפטם את השימוש בהם, עדיין יהיו סופיים, כמו קרקעות. בנוסף, גם במקרה הקיצוני והגרוע ביותר שבו אין לי דרך להתפרנס, יש לי קרקע שאני יכול לחיות ממנה. גם קרקעות פחות רווחיות עשויות להיות שוות ערך רב (פשוט בגלל היצע מוגבל), וזה עשוי להפוך להיות נכס ששקול לזהב, רק עם ערך אינטרינזי. כדאי לבזר קרקעות בין מדינות, כי אי אפשר לדעת אם בתרחישי קיצון מדינות מסוימות יחליטו להלאים את הקרקעות של אנשים פרטיים בהן. בנוסף, כדאי להשקיע בצורה כזו שגם אם AGI לא יושג בעשור הקרוב לא יהיה הפסד של ממש בהשקעה.
3. לצבור הון:
זהו יעד סביר תמיד, אבל בתרחיש שבו אני לא יכול להבטיח שעוד שני עשורים תהיה לי או לבת זוגתי עבודה, ובטח שלא לילדיי ונכדיי, להון עשויה להיות משמעות גדולה יותר. מי שלא יהיה לו הון להסתמך עליו, במקרה הטוב, יצטרך להסתמך על ההכנסה שיקבל מהמדינה (אולי UBI), ולא יודע מה יעשה במקרה הרע. למי שיהיה הון יוכל, אולי, לחיות מהדיבידנדים של השקעתיו ולפרנס כך את משפחתו.
4. השקעה בחברות שמייצרות מאיצים חישוביים:
הנקודה הזו תקפה רק למקרה שבו AGI יושג מהר בטווח של שנים בודדות מעכשיו. במקרה כזה, הביקוש למאיצים חישוביים (GPU, TPU ועוד) יגדל למימדים עצומים, וחברות שנראות לנו מעט בועתיות אפילו כעת (nvidia,amd...) יהיו היחידות שיוכלו בטווח קצר לספק את הסחורה. שימו לב שאם AGI לא יושג בטווח קצר, אי אפשר לדעת מי יהיו השחקנים המובילים בטווח הארוך לדעתי.
5. לשקול שנית השקעה במדדים:
אני משקיע במדדים כמה שיותר נרחבים, וחושב שזו החלטה נבונה כיום. עם זאת, אם יושג AGI בשנים הקרובות, סיכוי לא רע שזה יועיל לקומץ חברות על חשבון כמות רחבה של חברות (חשבו כמה חברות קטנות של עיצוב גרפי, כתיבת תוכן ועריכה לשונית נפגעו בעקבות GPT ו-DALL-E). במקרה כזה, יכול לקרות מצב בו רוב החברות במדד יפסיקו להיות רווחיות. האם גם בעולם כזה בטוח להשקיע במדדים לטווח ארוך? (אין לי תשובה)
השאלה שלי היא: מהם הצעדים שלכם כהכנה ל-AGI, בהינתן שמסכימים על הסבירות הגבוהה ל-AGI כעובדה?
אם אין לכם רצון לקרוא עוד, אשמח שתענו על זה (:
התחזית שלי:
אני חושב שהכל הסתברותי בחיים ושהשערוכים שלי שגויים בחלקם. אני גם חושב שבהינתן שהאנושות לא תשמיד את עצמה לפני, הכל כאן שאלה של זמן.
הרבה מכם אולי יסכימו איתי שהאנושות תשיג AGI ב-200 השנים הקרובות, ועכשיו נותר להתמקח רק על טווח הזמנים.
בהמשך לזה, אני מאמין שאפשר גם להסכים על סדר הדברים: כנראה שיהיה לנו AGI על מחשבים ושרתים לפני שיהיו לנו רובוטים שנראים אנושיים לחלוטין וגם חמושים בעצמם עם AGI בתור המוח שלהם.
לכן אפשר להסיק, למשל, שעבודות שדורשות קוגניציה גבוהה יעלמו לפני עבודות בהן יש ערך לאינטראקציה אנושית בעולם הפיזי (מורים, מטפלים, וכד').
בנוסף, אפשר גם להסכים שיש הבדל בין העלמות מוחלטת של עבודות לבין צמצום בכח האדם הנחוץ לביצוע עבודה.
למשל, יתכן שבטווח הקצר לא נחליף את כל המתכנתים ב-GPT שיתכנת במקומם, אבל אם יהיו לנו כלים אוטונומיים וטובים מאוד בתכנות (חפשו AutoGPT, או לאחרונה, Devin ותדמיינו את זה בהרבה יותר טוב), יספיקו לנו 20% מהמתכנתים כיום שיפקחו על כלי AI שיבצעו את עיקר העבודה.
באופן דומה, יתכן שיהיה זול הרבה יותר לשכור את שירותיו של פסיכולוג AI שידבר איתנו דרך מסך (עם הבעות פנים, קול וטקסט משכנע), אבל שהרבה אנשים עמידים ימשיכו להעדיף להרגיש אינטראקציה אנושית ולרצות לדבר גם עם פסיכולוג אנושי.
-תוך כדי ההסבר, העברתי גם את דעתי לגבי סדר הדברים: עבודות בהן יש חתימה דיגיטלית גדולה הן בסכנה גדולה יותר לאוטומציה: (1) בגלל שהן משאירות חותם דיגיטלי רב יותר ומספקות דאטה לאימון, וגם (2) בגלל שקל יותר להחליף בין עובדים אנושיים לבין כלי AI בלי שלמישהו יהיה אכפת. כשאני רואה קוד תוכנה, לא אכפת לי כלכך אם כתבו אותו דרך מקלדת פיזית או לא.
פקידות, תמיכה טכנית, מענה טלפוני...וגם עבודות שנחשבות כאלו שדורשות יותר מאמץ קוגניטיבי כמו תכנות, עיצוב גרפי וכתיבה הן לכן הראשונות להעלם \ להצטצמם בכח האדם הדרוש להן.
-טענה שעולה הרבה לגבי צמצום כח העבודה היא שגם במהפכה התעשייתית חשבו שלבני אדם תהיה פחות עבודה, וכנראה שגם הפעם יצוצו סוגי עבודות חדשות.
על אף שאני מאמין שזה נכון בטווח הקצר כי יווצרו יותר משרות שדורשות אינטראקציה בינאישית, בטווח הארוך (עשורים) אני לא חושב שזה המצב היום.
במהפכה התעשייתית האנושות יכלה לסגת למשרות שדורשות קוגניציה גבוהה או מוטוריקה עדינה, והפעם אין כיוון ברור שהאנושות יכולה לברוח אליו.
*אני חושב שהדיונים על "הנדסת פרומפטים" כעבודה הם שגויים, במיוחד בתרחיש של AGI.
-מכל הדיון הנ"ל, אני מאמין שלמי שיש ילדים כדאי שלא להזניח בלפתח את היכולת שלהם לאינטראקציה פיזית בינאישית (שהולכת ומתנוונת).
-אני מאמין שמדינות רבות יחוו חוסר יציבות רב. אני אפילו לא מנסה לשקלל מלחמות לתוך הניתוח כי אין לי מושג מאיפה להתחיל.
מבחינה כלכלית, חברות שרוצות למקסם רווח ישתמשו ב-AGI וישכרו פחות אנשים. מדינות ירצו לדאוג לאזרחיהן וכנראה ינסו להחיל מס אוטומציה על חברות בשביל לכלכל את האזרחים שלהן (UBI). יתכן שבתרחיש כזה, החברות הכי חזקות בעולם יעברו למדינות שיגבו מהן את המס הכי נמוך, ובכל מקרה סביר שיתרכזו במדינות מסוימות. אם לא יהיו מלחמות סחר והגבלות על ייצוא וייבוא, רווחים גלובאליים יתרכזו במקומות האלו.
אני לא בטוח מה יקרה במדינות מהן החברות יברחו. יתכן ומדינות ינסו לא למסות חברות בשביל לא להבריח אותן (או בגלל הכח הרב בו יחזיקו החברות האלו) ובמקום זה, ימסו את העובדים האנושיים הבודדים שישארו באותה נקודת זמן במס גבוה במיוחד.
חשבו איך הייתם מרגישים לו הייתם שייכים לקומץ היצרני אם הייתם נדרשים לשלם 95% מהרווחים שלכם בשביל לממן את שאר המדינה. עם האהבה שלכם למדינה, לא הייתם שוקלים לעזוב למדינה שתמסה אתכם הרבה פחות? או שהייתם נשארים לעבוד בשביל שרוב הכנסותיכם יממנו אנשים שאתם לא מכירים?
במקרה כזה, יתכן והאוכלוסיה היצרנית המועטה תהיה זו שתנסה לברוח למקומות בהם המיסוי עליהם יהיה נמוך יותר.
רקע - מה זה AGI? למה אני חושב שיש סבירות שהאנושות תשיג AGI בזמן הקרוב?
האינטרנט עמוס בשיח ומידע לגבי מה זה AGI, לכן במקום להוסיף לטקסט הקיים, אפנה למאמר שלדעתי מקטלג ומגדיר בצורה מעניינת מה זה AGI ובכמה רמות שונות:
אציין גם שיש הטוענים ש-GPT הוא כבר בעצמו סוג מוקדם מאוד של AGI שמנוון למעט דומיינים, גם לפי המאמר שהבאתי וגם לפי מאמר מוכר שיצא לגבי GPT4:
בנוסף, יש כאלו שטוענים שאם פשוט נרכיב כלים שקיימים לנו כיום מדומיינים שונים אנחנו עשויים כבר להגיע ל-AGI היום, או מאוד בקרוב.
למה אני חושב שנראה AGI בקרוב?
אני חוקר בתחום כבר כמה שנים למחייתי. אני מדבר עם חוקרים ואנשים מהתחום ביום יום שלי.
כלומר, אני לא ניזון משמועות וקונספירציות בטוויטר בהערכות שלי.
בנוסף, עד לאחרונה לא חשבתי שסבירות גבוהה כלכך שזה יהיה על הפרק בעשור הקרוב. אז למה כן? זה דיון ארוך וטכני, אבל הנה הסיבות לכך, לדעתי, יחסית בקצרה:
1. מסתמן שככל שזורקים יותר פרמטרים (משאבי חישוב) ודאטה על מודלים (מודל=רשת נוירונים=מערכות AI), כך הם ממצליחים יותר. משאבי החישוב ממשיכים לגדול ולהשתפר, וגם אם יגמר הדאטה בעולם, נראה שדאטה סינטתי יכול לעזור להחליף את הדאטה הקיים. GPT3 (מה שקדם ל-chatGPT) היה מפתיע מאוד עבור חוקרים בגלל שהוא הראה שעם מספיק פרמטרים אפשר לקבל מודל הרבה יותר חזק שיכול לעשות הרבה יותר דברים מקודמיו. הגרסאות החדשות יותר של GPT ממשיכות להמחיש את זה. לאחרונה, הדו"ח הטכני של Sora הפתיע אותי מאוד ברמה האישית והגיע לביצועים, שאפילו אם עשו בהם cherry picking אגרסיבי, לא ציפיתי לראות ב-5 שנים הקרובות. בלי לחפור יותר מדי, המודל פיתח ידע עולם פיזיקלי מרשים מאוד ופתר בעיות בעקביות הפריימים, בין השאר, על ידי הקצאת עוד פרמטרים ודאטה למודל מאשר מה שהיה קיים עד היום (מבלי להמעיט בשאר ה-contributions הטכניים שנדרשו בשביל ליצור אותו).
2. נראה שקצב ההתקדמות בתחום סותר את תחזיות המומחים ומתקדם מהר יותר משהם מצפים. מודלי LLM (כמו GPT) מפתיעים מאוד בביצועיהם. אם תתעניינו בדבריו של Yan LeCun הוא ישמח להסביר לכם עם נוסחה חשבונית פשוטה שבמודלים כאלו, שחוזים כל פעם רק את המילה האחת הבאה, ההסתברות לקבל טקסט "נכון" היא מאוד מאוד קטנה ומודלים כאלו לא אמורים לעבוד טוב בכלל. ובכל זאת, אנחנו רואים שבניגוד לציפיות אפילו פתרון כלכך "לא טוב" שכזה עובד לא רע בכלל ביצירת שפה. מודלים כמו DALL-E שיוצרים תמונות כלכך טובות ואמינות לטקסט היו נראים קסומים לחלוטין (גם למי שהכיר את ה-GANים שקדמו להם).
3. יותר ויותר שחקנים מנסים להשיג AGI. בקרב האוכלוסיה הכללית (לא העוקבים הנלהבים של התחום) קצת פחות מדובר על זה ש-OpenAI קמו בשביל המטרה הזו, ושכל פועלם אמור להביא את האנושות להשיג AGI. עם ההצלחה וריח הכסף, יותר השקעות מנותבות לכיוונים כאלו, גם מצד חברות הענק (מטא, גוגל,...) וגם מצד אינספור סטרטאפים שצצים בעולם ומצליחים לקדם את התחום (mistral ai, stability ai,...).
ועוד...
למה יתכן שלא נראה AGI בקרוב?
לזה יש אינספור סיבות. הרבה חשבו שכבר נגיע למכוניות אוטונומיות ממזמן, אבל מסתבר שזו משימה הרבה יותר קשה משחשבנו בהתחלה.
*לדעתי, נהיגה אוטונומית היא אפילו אולי יותר קשה מהשגת AGI מנוון, בגלל שהיא דורשת גם לפעול ולהגיב בזמן אמת (הגבלה שאנחנו לא מטילים על AGI).
יתכן ש-AGI הוא הרבה יותר קשה להשגה משאפשר לצפות.
בנוסף, יתכן שעוד מעט נגלה שאי אפשר יותר לזרוק על מודלים יותר דאטה ומשאבי חישוב בשביל לשפר אותם והגענו לרוויה.
יתכן גם ויגמר הדאטה האיכותי בעולם, ודאטה סינטתי יעזור רק עד מידה מסוימת שלא הגענו אליה היום, אבל אולי נגיע אליה עוד שנה.
אתחיל ישר מהעניין ומהשאלה, ואוסיף הסברים אחרי זה.
Artificial General Intelligence (AGI) זה שם קצת עמום וכללי לבינה מלאכותית שיכולה לבצע משימות מטווח רחב של דומיינים טוב לפחות כמו בני אדם.
אני מאמין שהסבירות ל-AGI בעשור הקרוב (אפילו כזה שלא כלכלי להפעיל אותו) היא באזור ה-60%, וחושב שהסבירות ל-AGI בשלוש שנים הקרובות היא לפחות 1%.
בדיון הזה אני מבקש שלא נתווכח על הסבירות שזה יקרה, ואם אתם רוצים לעשות את זה יש דיון נחמד כאן:
על סף סינגולריות
אנחנו עדים עכשיו להתפתחות הכי דרמטית בהיסטוריה האנושית. אנחנו, בני האדם, בסה"כ קופים עם מוח גדול, מוח שהתפתח לשרוד בטבע, לצוד בעלי חיים ולהסתדר בקבוצה. המוח האנושי הוא איבר מדהים, אבל יש לו מגבלות רבות. למחשב אוניברסלי אין את המגבלות האלה כלל. מה שהגביל עד עכשיו את יכולות המחשבים היו היעדר כוח...
www.hasolidit.com
השאלה שלי שאשמח שתענו עליה בדיון היא: בהינתן שהסבירות הזו היא עובדה, מהם הצעדים שאתם תעשו כאינדיבידואלים היום בשביל לשמור ולמקסם הצלחה עבור עצמכם והמשפחות שלכם.
את הפוסט שלי אחלק ל-3 חלקים:
1. אתחיל בלהגיד מהם הצעדים שאני חשבתי שכדאי לעשות בהינתן העובדה הזו.
2. אגיד מהן התחזיות המאוד כלליות שלי לגבי איך אני חושב שהתפתחות של AGI תשפיע על העולם והכלכלה, ותחזיות אלו הן הבסיס להחלטות שהצגתי.
3. אתן עוד טיפונת רקע לגבי מה זה AGI ולמה אני מאמין שיש סבירות כזו.
צעדים שלי לקראת AGI:
1. להוציא אזרחויות זרות, אם אפשר:
אני לא חושב שישראל היא בהכרח מקום רע להיות בו כשיהיה AGI, אני פשוט באמת לא יודע. תרחיש אחד שאני חושש ממנו היא היעלמות של מקומות עבודה ובריחת חברות ממדינות שימסו אותן במס אוטומציה. הייתי רוצה אזרחות של מדינה שבסבירות גבוהה תצליח לדאוג לתושביה ואולי אפילו תעניק לי הכנסה אוניברסלית (UBI), במידה ואזדקק לה.
2. להשקיע בקרקעות, ואם אפשר מכמה מדינות שונות:
צפוי כי לאורך זמן, AGI יעזור להוריד את עלויות הייצור של מוצרים רבים. עם זאת, יהיה מספר מוגבל של "נכסים סופיים", שגם אם יהיה אפשר לאפטם את השימוש בהם, עדיין יהיו סופיים, כמו קרקעות. בנוסף, גם במקרה הקיצוני והגרוע ביותר שבו אין לי דרך להתפרנס, יש לי קרקע שאני יכול לחיות ממנה. גם קרקעות פחות רווחיות עשויות להיות שוות ערך רב (פשוט בגלל היצע מוגבל), וזה עשוי להפוך להיות נכס ששקול לזהב, רק עם ערך אינטרינזי. כדאי לבזר קרקעות בין מדינות, כי אי אפשר לדעת אם בתרחישי קיצון מדינות מסוימות יחליטו להלאים את הקרקעות של אנשים פרטיים בהן. בנוסף, כדאי להשקיע בצורה כזו שגם אם AGI לא יושג בעשור הקרוב לא יהיה הפסד של ממש בהשקעה.
3. לצבור הון:
זהו יעד סביר תמיד, אבל בתרחיש שבו אני לא יכול להבטיח שעוד שני עשורים תהיה לי או לבת זוגתי עבודה, ובטח שלא לילדיי ונכדיי, להון עשויה להיות משמעות גדולה יותר. מי שלא יהיה לו הון להסתמך עליו, במקרה הטוב, יצטרך להסתמך על ההכנסה שיקבל מהמדינה (אולי UBI), ולא יודע מה יעשה במקרה הרע. למי שיהיה הון יוכל, אולי, לחיות מהדיבידנדים של השקעתיו ולפרנס כך את משפחתו.
4. השקעה בחברות שמייצרות מאיצים חישוביים:
הנקודה הזו תקפה רק למקרה שבו AGI יושג מהר בטווח של שנים בודדות מעכשיו. במקרה כזה, הביקוש למאיצים חישוביים (GPU, TPU ועוד) יגדל למימדים עצומים, וחברות שנראות לנו מעט בועתיות אפילו כעת (nvidia,amd...) יהיו היחידות שיוכלו בטווח קצר לספק את הסחורה. שימו לב שאם AGI לא יושג בטווח קצר, אי אפשר לדעת מי יהיו השחקנים המובילים בטווח הארוך לדעתי.
5. לשקול שנית השקעה במדדים:
אני משקיע במדדים כמה שיותר נרחבים, וחושב שזו החלטה נבונה כיום. עם זאת, אם יושג AGI בשנים הקרובות, סיכוי לא רע שזה יועיל לקומץ חברות על חשבון כמות רחבה של חברות (חשבו כמה חברות קטנות של עיצוב גרפי, כתיבת תוכן ועריכה לשונית נפגעו בעקבות GPT ו-DALL-E). במקרה כזה, יכול לקרות מצב בו רוב החברות במדד יפסיקו להיות רווחיות. האם גם בעולם כזה בטוח להשקיע במדדים לטווח ארוך? (אין לי תשובה)
השאלה שלי היא: מהם הצעדים שלכם כהכנה ל-AGI, בהינתן שמסכימים על הסבירות הגבוהה ל-AGI כעובדה?
אם אין לכם רצון לקרוא עוד, אשמח שתענו על זה (:
התחזית שלי:
אני חושב שהכל הסתברותי בחיים ושהשערוכים שלי שגויים בחלקם. אני גם חושב שבהינתן שהאנושות לא תשמיד את עצמה לפני, הכל כאן שאלה של זמן.
הרבה מכם אולי יסכימו איתי שהאנושות תשיג AGI ב-200 השנים הקרובות, ועכשיו נותר להתמקח רק על טווח הזמנים.
בהמשך לזה, אני מאמין שאפשר גם להסכים על סדר הדברים: כנראה שיהיה לנו AGI על מחשבים ושרתים לפני שיהיו לנו רובוטים שנראים אנושיים לחלוטין וגם חמושים בעצמם עם AGI בתור המוח שלהם.
לכן אפשר להסיק, למשל, שעבודות שדורשות קוגניציה גבוהה יעלמו לפני עבודות בהן יש ערך לאינטראקציה אנושית בעולם הפיזי (מורים, מטפלים, וכד').
בנוסף, אפשר גם להסכים שיש הבדל בין העלמות מוחלטת של עבודות לבין צמצום בכח האדם הנחוץ לביצוע עבודה.
למשל, יתכן שבטווח הקצר לא נחליף את כל המתכנתים ב-GPT שיתכנת במקומם, אבל אם יהיו לנו כלים אוטונומיים וטובים מאוד בתכנות (חפשו AutoGPT, או לאחרונה, Devin ותדמיינו את זה בהרבה יותר טוב), יספיקו לנו 20% מהמתכנתים כיום שיפקחו על כלי AI שיבצעו את עיקר העבודה.
באופן דומה, יתכן שיהיה זול הרבה יותר לשכור את שירותיו של פסיכולוג AI שידבר איתנו דרך מסך (עם הבעות פנים, קול וטקסט משכנע), אבל שהרבה אנשים עמידים ימשיכו להעדיף להרגיש אינטראקציה אנושית ולרצות לדבר גם עם פסיכולוג אנושי.
-תוך כדי ההסבר, העברתי גם את דעתי לגבי סדר הדברים: עבודות בהן יש חתימה דיגיטלית גדולה הן בסכנה גדולה יותר לאוטומציה: (1) בגלל שהן משאירות חותם דיגיטלי רב יותר ומספקות דאטה לאימון, וגם (2) בגלל שקל יותר להחליף בין עובדים אנושיים לבין כלי AI בלי שלמישהו יהיה אכפת. כשאני רואה קוד תוכנה, לא אכפת לי כלכך אם כתבו אותו דרך מקלדת פיזית או לא.
פקידות, תמיכה טכנית, מענה טלפוני...וגם עבודות שנחשבות כאלו שדורשות יותר מאמץ קוגניטיבי כמו תכנות, עיצוב גרפי וכתיבה הן לכן הראשונות להעלם \ להצטצמם בכח האדם הדרוש להן.
-טענה שעולה הרבה לגבי צמצום כח העבודה היא שגם במהפכה התעשייתית חשבו שלבני אדם תהיה פחות עבודה, וכנראה שגם הפעם יצוצו סוגי עבודות חדשות.
על אף שאני מאמין שזה נכון בטווח הקצר כי יווצרו יותר משרות שדורשות אינטראקציה בינאישית, בטווח הארוך (עשורים) אני לא חושב שזה המצב היום.
במהפכה התעשייתית האנושות יכלה לסגת למשרות שדורשות קוגניציה גבוהה או מוטוריקה עדינה, והפעם אין כיוון ברור שהאנושות יכולה לברוח אליו.
*אני חושב שהדיונים על "הנדסת פרומפטים" כעבודה הם שגויים, במיוחד בתרחיש של AGI.
-מכל הדיון הנ"ל, אני מאמין שלמי שיש ילדים כדאי שלא להזניח בלפתח את היכולת שלהם לאינטראקציה פיזית בינאישית (שהולכת ומתנוונת).
-אני מאמין שמדינות רבות יחוו חוסר יציבות רב. אני אפילו לא מנסה לשקלל מלחמות לתוך הניתוח כי אין לי מושג מאיפה להתחיל.
מבחינה כלכלית, חברות שרוצות למקסם רווח ישתמשו ב-AGI וישכרו פחות אנשים. מדינות ירצו לדאוג לאזרחיהן וכנראה ינסו להחיל מס אוטומציה על חברות בשביל לכלכל את האזרחים שלהן (UBI). יתכן שבתרחיש כזה, החברות הכי חזקות בעולם יעברו למדינות שיגבו מהן את המס הכי נמוך, ובכל מקרה סביר שיתרכזו במדינות מסוימות. אם לא יהיו מלחמות סחר והגבלות על ייצוא וייבוא, רווחים גלובאליים יתרכזו במקומות האלו.
אני לא בטוח מה יקרה במדינות מהן החברות יברחו. יתכן ומדינות ינסו לא למסות חברות בשביל לא להבריח אותן (או בגלל הכח הרב בו יחזיקו החברות האלו) ובמקום זה, ימסו את העובדים האנושיים הבודדים שישארו באותה נקודת זמן במס גבוה במיוחד.
חשבו איך הייתם מרגישים לו הייתם שייכים לקומץ היצרני אם הייתם נדרשים לשלם 95% מהרווחים שלכם בשביל לממן את שאר המדינה. עם האהבה שלכם למדינה, לא הייתם שוקלים לעזוב למדינה שתמסה אתכם הרבה פחות? או שהייתם נשארים לעבוד בשביל שרוב הכנסותיכם יממנו אנשים שאתם לא מכירים?
במקרה כזה, יתכן והאוכלוסיה היצרנית המועטה תהיה זו שתנסה לברוח למקומות בהם המיסוי עליהם יהיה נמוך יותר.
רקע - מה זה AGI? למה אני חושב שיש סבירות שהאנושות תשיג AGI בזמן הקרוב?
האינטרנט עמוס בשיח ומידע לגבי מה זה AGI, לכן במקום להוסיף לטקסט הקיים, אפנה למאמר שלדעתי מקטלג ומגדיר בצורה מעניינת מה זה AGI ובכמה רמות שונות:
אציין גם שיש הטוענים ש-GPT הוא כבר בעצמו סוג מוקדם מאוד של AGI שמנוון למעט דומיינים, גם לפי המאמר שהבאתי וגם לפי מאמר מוכר שיצא לגבי GPT4:
בנוסף, יש כאלו שטוענים שאם פשוט נרכיב כלים שקיימים לנו כיום מדומיינים שונים אנחנו עשויים כבר להגיע ל-AGI היום, או מאוד בקרוב.
למה אני חושב שנראה AGI בקרוב?
אני חוקר בתחום כבר כמה שנים למחייתי. אני מדבר עם חוקרים ואנשים מהתחום ביום יום שלי.
כלומר, אני לא ניזון משמועות וקונספירציות בטוויטר בהערכות שלי.
בנוסף, עד לאחרונה לא חשבתי שסבירות גבוהה כלכך שזה יהיה על הפרק בעשור הקרוב. אז למה כן? זה דיון ארוך וטכני, אבל הנה הסיבות לכך, לדעתי, יחסית בקצרה:
1. מסתמן שככל שזורקים יותר פרמטרים (משאבי חישוב) ודאטה על מודלים (מודל=רשת נוירונים=מערכות AI), כך הם ממצליחים יותר. משאבי החישוב ממשיכים לגדול ולהשתפר, וגם אם יגמר הדאטה בעולם, נראה שדאטה סינטתי יכול לעזור להחליף את הדאטה הקיים. GPT3 (מה שקדם ל-chatGPT) היה מפתיע מאוד עבור חוקרים בגלל שהוא הראה שעם מספיק פרמטרים אפשר לקבל מודל הרבה יותר חזק שיכול לעשות הרבה יותר דברים מקודמיו. הגרסאות החדשות יותר של GPT ממשיכות להמחיש את זה. לאחרונה, הדו"ח הטכני של Sora הפתיע אותי מאוד ברמה האישית והגיע לביצועים, שאפילו אם עשו בהם cherry picking אגרסיבי, לא ציפיתי לראות ב-5 שנים הקרובות. בלי לחפור יותר מדי, המודל פיתח ידע עולם פיזיקלי מרשים מאוד ופתר בעיות בעקביות הפריימים, בין השאר, על ידי הקצאת עוד פרמטרים ודאטה למודל מאשר מה שהיה קיים עד היום (מבלי להמעיט בשאר ה-contributions הטכניים שנדרשו בשביל ליצור אותו).
2. נראה שקצב ההתקדמות בתחום סותר את תחזיות המומחים ומתקדם מהר יותר משהם מצפים. מודלי LLM (כמו GPT) מפתיעים מאוד בביצועיהם. אם תתעניינו בדבריו של Yan LeCun הוא ישמח להסביר לכם עם נוסחה חשבונית פשוטה שבמודלים כאלו, שחוזים כל פעם רק את המילה האחת הבאה, ההסתברות לקבל טקסט "נכון" היא מאוד מאוד קטנה ומודלים כאלו לא אמורים לעבוד טוב בכלל. ובכל זאת, אנחנו רואים שבניגוד לציפיות אפילו פתרון כלכך "לא טוב" שכזה עובד לא רע בכלל ביצירת שפה. מודלים כמו DALL-E שיוצרים תמונות כלכך טובות ואמינות לטקסט היו נראים קסומים לחלוטין (גם למי שהכיר את ה-GANים שקדמו להם).
3. יותר ויותר שחקנים מנסים להשיג AGI. בקרב האוכלוסיה הכללית (לא העוקבים הנלהבים של התחום) קצת פחות מדובר על זה ש-OpenAI קמו בשביל המטרה הזו, ושכל פועלם אמור להביא את האנושות להשיג AGI. עם ההצלחה וריח הכסף, יותר השקעות מנותבות לכיוונים כאלו, גם מצד חברות הענק (מטא, גוגל,...) וגם מצד אינספור סטרטאפים שצצים בעולם ומצליחים לקדם את התחום (mistral ai, stability ai,...).
ועוד...
למה יתכן שלא נראה AGI בקרוב?
לזה יש אינספור סיבות. הרבה חשבו שכבר נגיע למכוניות אוטונומיות ממזמן, אבל מסתבר שזו משימה הרבה יותר קשה משחשבנו בהתחלה.
*לדעתי, נהיגה אוטונומית היא אפילו אולי יותר קשה מהשגת AGI מנוון, בגלל שהיא דורשת גם לפעול ולהגיב בזמן אמת (הגבלה שאנחנו לא מטילים על AGI).
יתכן ש-AGI הוא הרבה יותר קשה להשגה משאפשר לצפות.
בנוסף, יתכן שעוד מעט נגלה שאי אפשר יותר לזרוק על מודלים יותר דאטה ומשאבי חישוב בשביל לשפר אותם והגענו לרוויה.
יתכן גם ויגמר הדאטה האיכותי בעולם, ודאטה סינטתי יעזור רק עד מידה מסוימת שלא הגענו אליה היום, אבל אולי נגיע אליה עוד שנה.
