על סף סינגולריות

[mudale222]

מה הסיכוי הסביר שזה יוביל לAGI? אף אחד לא יודע אלו סתם טענות באוויר. גשם הגמיקים מהשנתיים האחרונות רק גורם לחשוב שבאמת הכיוון הזה הוא dead end ולא נראה אפילו מודל שמסוגל להחליף לחלוטין אדם במשימות קצת מורכבות. שלא לדבר על האם זה כלכלי בכלל.

כלכלי זה יהיה בטירוף. צריך רק להתחיל לתמחר או לדחוף פרסומות.
יש הרבה מאוד אנשים שבעבודה שלהם יושבים כול היום מול הג'יפטות.

 

[oferM]

מה הסיכוי הסביר שזה יוביל לAGI? אף אחד לא יודע אלו סתם טענות באוויר. גשם הגמיקים מהשנתיים האחרונות רק גורם לחשוב שבאמת הכיוון הזה הוא dead end ולא נראה אפילו מודל שמסוגל להחליף לחלוטין אדם במשימות קצת מורכבות. שלא לדבר על האם זה כלכלי בכלל

אני לא יודע אם llm יובילו ספציפית לagi או שיהיה זה משהו אחר

יש מדי פעם סקרים של חוקרים מתחום הבינה המלאכותית לגבי מתי נגיע לagi והסיכוי לכך.

מעניין לקרוא תחזית כזאת אחרי תקופה שבה openai o1 יהיה זמין.

 

[who_knows]

כלכלי זה יהיה בטירוף. צריך רק להתחיל לתמחר או לדחוף פרסומות.
יש הרבה מאוד אנשים שבעבודה שלהם יושבים כול היום מול הג'יפטות.

פרסומות ומנויים יכניסו כסף, אבל אם המודלים האלו ידרשו טריליוני דולרים כמו שסם אלטמן ואחרים טוענים לא בטוח שזה יהיה אפשרי בכלל. כבר הושקע מעל לטריליון דולר בתעשייה הזו מאז החל ההייפ. יתכן ואנחנו לפני התפוצצות של בועה סטייל הדוט קום, כלומר בטווח הארוך האינטרנט הוכיח את עצמו, אבל ההייפ היה מוקדם מדי.

 

[who_knows]

100%

אוקיי נחמד, נשמע שאתה די בטוח. האם שינית משהו בחיים האישיים שלך עקב הביטחון הנחרץ הזה? משהו מתמהיל השקעה, סט כישורים אישי, קריירה? או שזה רק נחמד להיות צודק?

 

[מלפפון במלח]

כבר הושקע מעל לטריליון דולר בתעשייה הזו מאז החל ההייפ. יתכן ואנחנו לפני התפוצצות של בועה סטייל הדוט קום

אני חושב שיש בועה של בועות ומחכה שהיא תתפוצץ. מתי יפסיקו לקרוא לכל דבר בועה? בועת ההייטק ובועת הנדלן ובועת ai ובועת...

 

[oferM]

פרסומות ומנויים יכניסו כסף, אבל אם המודלים האלו ידרשו טריליוני דולרים כמו שסם אלטמן ואחרים טוענים לא בטוח שזה יהיה אפשרי בכלל. כבר הושקע מעל לטריליון דולר בתעשייה הזו מאז החל ההייפ. יתכן ואנחנו לפני התפוצצות של בועה סטייל הדוט קום, כלומר בטווח הארוך האינטרנט הוכיח את עצמו, אבל ההייפ היה מוקדם מדי.

כן זה באמת יכול לקרות ולעכב את התחום בהרבה שנים. נראה מה יהיה...

 

[who_knows]

אני חושב שיש בועה של בועות ומחכה שהיא תתפוצץ. מתי יפסיקו לקרוא לכל דבר בועה? בועת ההייטק ובועת הנדלן ובועת ai ובועת...

זה לא כזה דרמטי. פשוט שפכו לתחום הזה ערימות של כסף ולא ברור אם נראה צמיחה משמעותית ביכולות בשנים הקרובות וROI. זה יגרום לכמה חברות קטנות לקרוס ולכמה חברות אחרות לרדת בערך. לא משהו שלא ראינו בעבר.
הדבר היותר משמעותי לדעתי זה אם הגענו לdead end עם הטכנולוגיה הנוכחית, שממנה פשוט לא יכול לצמוח AGI כי זה בכלל לא הכיוון. ההתמקדות בגימיקים בשנים האחרונות על פני חידושים מובהקים כמו chatgpt 3.5 עשויה לרמוז על כך. גם הצהרות בומבסטיות על טריליוני דולרים שידרשו כדי לקדם את הטכנולוגיה מאיפשהי היום, לצד בקשות להגברת הרגלוציה מצד אלו שנמצאים בחזית הפיתוח בעצמם, רומזים על הייפ שעשוי לא לספק את הסחורה בסופו של יום.

אלו עדיין כלים מדהימים ואני אישית נהנה מהם מאוד. יש גם המון מוצרים נלווים ופוטנציאל לסטארטפים שרק עכשיו מתחילים לגרד את האפשרויות להם, אפילו עם הAPIים הקיימים של openAI ודומיו. כל כך הרבה דברים שאפשר לעשות עם מודל כזה שמקבל טקסט/קוד/מידע ומוציא ערך בצד השני, שמעתי על כמה רעיונות מאוד מעניינים מסטארטפים חדשים מאוד שהולכים לנצל את זה, ואני בטוח שאנחנו רק מגרדים את מרחב האפשרויות. אבל מפה לAGI יש דרך ארוכה מאוד.

 

[מלפפון במלח]

זה לא כזה דרמטי. פשוט שפכו לתחום הזה ערימות של כסף ולא ברור אם נראה צמיחה משמעותית ביכולות בשנים הקרובות

העתיד תמיד לוט בערפל.

אבל גם מה הקשר בין agi לבין בועה? לא יכול להיות שהחברות האלו ימצאו דרך למוניטיזציה עבור כל הכלים האלו? מה שיצדיק את השווי ואילו מעבר לשווי הנוכחי?

מעבר לזה chatgpt יצא לפני פחות משנתיים, אתה באמת לא חושב שהוא חולל שינוי משמעותי? אתה קורה לזה גימיק?

 

[Leo1]

אוקיי נחמד, נשמע שאתה די בטוח. האם שינית משהו בחיים האישיים שלך עקב הביטחון הנחרץ הזה? משהו מתמהיל השקעה, סט כישורים אישי, קריירה? או שזה רק נחמד להיות צודק?

הבעיה היא שאין לי מושג איך לחזות את ההשפעה על האנושות. ברור לי שהכל הולך להשתנות דרמטית, אבל אני לא יודע מה תהיה התוצאה הסופית. זה בהחלט יכול להוביל להשמדת האנושות כבר בעשור הקרוב. זה יכול גם להוביל לצרות גדולות מאוד, כאלה שיגמדו את השואה, אבל לא יגיעו לכדי השמדה מוחלטת. וזה יכול גם להיפך לפתור את כל הבעיות של האנשות ולעשות הכל מושלם. ויכולים לקרות עוד כל מני דברים, שאנחנו לא יכולים אפילו לדמיין.
אני רואה שהרבה אנשים לא חושבים שזה יקרה, וחושבים שזה גימיק או בועה או שזה לכל היותר יביא להחלפת משרות. לי ברור שזה ילך הרבה הרבה הרבה מעבר לזה. מה שלא ברור לי זה מה יקרה אז והאם התוצאה תהיה טובה או רעה, או איך מכוונים את זה לתוצאה טובה.

 

[kongi]

מעבר לזה chatgpt יצא לפני פחות משנתיים, אתה באמת לא חושב שהוא חולל שינוי משמעותי? אתה קורה לזה גימיק?

דעתי לגבי chatgpt - כרגע מכונה לשריפת כסף.

 

[מלפפון במלח]

דעתי לגבי chatgpt - כרגע מכונה לשריפת כסף.

כל הפיתוחים הטכנולוגיים האלו תמיד מתחילים בתור משהו שיקר ולוקח המון זמן לאמן. ואז אחרי כמה מאמרים מצליחים לשמור על אותה performance עם פחות עלות. אז אנחנו במרחק מאמר או שניים מעלות נמוכה יותר.

מעבר לזה השאלה הייתה יותר על הטכנולוגיה והשימושיים שלה. נראה לי קשה להכחיש את השינוי המשמעותי שעשתה בעולם.

 

[who_knows]

העתיד תמיד לוט בערפל.

אבל גם מה הקשר בין agi לבין בועה? לא יכול להיות שהחברות האלו ימצאו דרך למוניטיזציה עבור כל הכלים האלו? מה שיצדיק את השווי ואילו מעבר לשווי הנוכחי?

מעבר לזה chatgpt יצא לפני פחות משנתיים, אתה באמת לא חושב שהוא חולל שינוי משמעותי? אתה קורה לזה גימיק?

chatgpt הוא בדיוק דוגמא לפיתוח משמעותי שכבר שנתיים לא היה. הוא ההפך מהגימיק. מאז זה הכל גימיקים.

 

[who_knows]

כל הפיתוחים הטכנולוגיים האלו תמיד מתחילים בתור משהו שיקר ולוקח המון זמן לאמן. ואז אחרי כמה מאמרים מצליחים לשמור על אותה performance עם פחות עלות. אז אנחנו במרחק מאמר או שניים מעלות נמוכה יותר.

מעבר לזה השאלה הייתה יותר על הטכנולוגיה והשימושיים שלה. נראה לי קשה להכחיש את השינוי המשמעותי שעשתה בעולם.

איך אתה יודע את זה? מרחק מאמר או שניים? זה יכול להיות מרחק של עידן טכנולוגי. זה ממש לא נכון שכל פיתוח טכנולוגי הפך בקלות בעתיד הנראה לעין לסקלבילי או משתלם כלכלית. יש חסמים פיזיים ותאורטיים שגם אחרי 100 שנה לא הצליחו לפתור ויתכן ובלתי אפשרי לפתור. אני לא מומחה לדרך בה מאמנים AI אבל ממה שמדברים עליו לפחות נשמע שצריך המון כסף והמון אנרגיה, וזה בכלל לא בטוח שאלו בעיות שניתן יהיה לפתור בקלות. מה גם שנגמר הדטא, השתמשו בכל הדטא הקיים, אז צריך איכשהו לייצר מודלים איכותיים יותר בלי דטא חדש.

זו טכנולוגיה מדהימה והיא באמת יצרה משהו חדש שלא היה קיים עד עכשיו. אורקל שעונה על שאלות, ומסוגל להשיב על follow-up questions ולייצר תוכן איכותי. עדיין יש לו הרבה לימיטציות שלא בטוח בכלל שיהיה אפשר לפתור.

 

[paskar]

דברים שמשיקים לזה ושברור שיש ותהיה להם השפעה:
זיוף קול, זיוף צילומים (בקלות, בלי עבודה ידנית), זיוף וידאו (כולל אנשים מדברים).

 

[מלפפון במלח]

chatgpt הוא בדיוק דוגמא לפיתוח משמעותי שכבר שנתיים לא היה. הוא ההפך מהגימיק. מאז זה הכל גימיקים.

בסדר, סבלנות. פיתוחים טכנולוגיים משמעותיים לא קורים כל שנה וגם לא כל עשור.


לגבי, איך אני יודע שאנחנו מרחק מאמר או שניים - קודם כל כי כל עולם המשין לרנינג עבד ככה עד כה. יש פריצת דרך טכנולוגית משמעותית אבל לא סקיילבילית ואז כל מיני ממשיכי דרך מצליחים להפוך את זה לסקייבליטי.

לגבי הדאטא שנגמר - זה לא נכון, יש עוד דאטא. יש המון דאטא שלא משתמשים בו (עדיין) ותמיד אפשר ליצור עוד.

לדעתי השאלה המרכזית שתכתיב את עתיד התחום היא האם יצליחו ליצור מזה כסף או לא. שהיא קשורה בעקיפין למחיר האימון של המודלים

נ.ב
אני חלק מתהליך האימון/פיתוח של המודלים האלו באחת מהחברות המובילות הבינלאומיות. אבל לא חושב שזה משנה כל כך

 

[who_knows]

בסדר, סבלנות. פיתוחים טכנולוגיים משמעותיים לא קורים כל שנה וגם לא כל עשור.


לגבי, איך אני יודע שאנחנו מרחק מאמר או שניים - קודם כל כי כל עולם המשין לרנינג עבד ככה עד כה. יש פריצת דרך טכנולוגית משמעותית אבל לא סקיילבילית ואז כל מיני ממשיכי דרך מצליחים להפוך את זה לסקייבליטי.

לגבי הדאטא שנגמר - זה לא נכון, יש עוד דאטא. יש המון דאטא שלא משתמשים בו (עדיין) ותמיד אפשר ליצור עוד.

לדעתי השאלה המרכזית שתכתיב את עתיד התחום היא האם יצליחו ליצור מזה כסף או לא. שהיא קשורה בעקיפין למחיר האימון של המודלים

נ.ב
אני חלק מתהליך האימון/פיתוח של המודלים האלו באחת מהחברות המובילות הבינלאומיות. אבל לא חושב שזה משנה כל כך

טוב אני מניח שנחכה ונראה. כשזה יקרה (משהו בסדר גודל של chatgpt 3.5) לא יהיה ספק בעניין.

 

[oferM]

chatgpt הוא בדיוק דוגמא לפיתוח משמעותי שכבר שנתיים לא היה. הוא ההפך מהגימיק. מאז זה הכל גימיקים.

שיווק עובד על גימיקים. אז מייצרים אותם.
ולגבי השנתיים, כדי להעריך עד כמה התקדמנו, יתכן שצריך להכיר את הפרטים הטכניים - התקדמות במבחנים השונים, בכמה ירדה העלות לכל מיני תהליכים , בכמה ירדו ההזיות, וכו'.
וחלק מהתוצאות המענינות אולי לא ימצאו אצל חברת openai, אלא במקומות אחרים.

 

[Leo1]

חשבתי הרבה על מה הולך לקרות.
התרחיש שהרוב המוחלט של האנשים מאמינים בו - הכל ימשיך כרגיל, רק עם החלפת משרות, הוא לדעתי בעל סבירות 0. 0 עגול. חבל על הזמן להתווכח על זה אפילו.
אני חושב שהתרחיש שהאנושות תיכחד ב-20 השנים הקרובות הוא ריאלי. ריאלי מאוד. אני לא יודע אבל לתת הסתברות.
יכול להיות שזה לא יגיע לכדי הכחדה, אבל נעבור אסונות גדולים, ברמה שתגמד את השואה.
יכול להיות גם שאיכשהו זה יסתדר, אבל איך? אני באמת מתקשה לחשוב איך.
מצד שני, גם התרחיש הפשטני של הכחדת האנושות שאליעזר יודקובסקי חוזה, לא מסתדר לי. אני חושב שהולך לקרות משהו יותר מפתיע. אבל מה? אני באמת מתקשה לפענח מה הולך לקרות חוץ מזה שזה יהיה מאוד מאוד דרמטי וכנראה יפתיע את כולם.
רעיונות טובים?
האמת אני יכול לחשוב על מגוון תרחישים מטורפים לחלוטין. יכולים להיות סיפורים טובים של מדע בדיוני. אני לא יודע אבל לחשוב על משהו שנראה לי באמת כתרחיש הסביר.

 

[mudale222]

חשבתי הרבה על מה הולך לקרות.
התרחיש שהרוב המוחלט של האנשים מאמינים בו - הכל ימשיך כרגיל, רק עם החלפת משרות, הוא לדעתי בעל סבירות 0. 0 עגול. חבל על הזמן להתווכח על זה אפילו.
אני חושב שהתרחיש שהאנושות תיכחד ב-20 השנים הקרובות הוא ריאלי. ריאלי מאוד. אני לא יודע אבל לתת הסתברות.
יכול להיות שזה לא יגיע לכדי הכחדה, אבל נעבור אסונות גדולים, ברמה שתגמד את השואה.
יכול להיות גם שאיכשהו זה יסתדר, אבל איך? אני באמת מתקשה לחשוב איך.
מצד שני, גם התרחיש הפשטני של הכחדת האנושות שאליעזר יודקובסקי חוזה, לא מסתדר לי. אני חושב שהולך לקרות משהו יותר מפתיע. אבל מה? אני באמת מתקשה לפענח מה הולך לקרות חוץ מזה שזה יהיה מאוד מאוד דרמטי וכנראה יפתיע את כולם.
רעיונות טובים?
האמת אני יכול לחשוב על מגוון תרחישים מטורפים לחלוטין. יכולים להיות סיפורים טובים של מדע בדיוני. אני לא יודע אבל לחשוב על משהו שנראה לי באמת כתרחיש הסביר.

שמע, אם כל העננים שלך מסביב לזה הוא לשעשוע אינטלקטואלי וכו' אז סבבה להחזיק בדעות קיצוניות.
אבל זה אשכר מטריד אותך ואתה משנה התנהגויות ותכנונים בגלל זה...
אז אני ממליץ לנשום עמוק ולהתעסק בדברים פחות אפוקליפטיים.

 

[Leo1]

שמע, אם כל העננים שלך מסביב לזה הוא לשעשוע אינטלקטואלי וכו' אז סבבה להחזיק בדעות קיצוניות.
אבל זה אשכר מטריד אותך ואתה משנה התנהגויות ותכנונים בגלל זה...
אז אני ממליץ לנשום עמוק ולהתעסק בדברים פחות אפוקליפטיים.

זה הולך לקרות בין אם תרצה או לא, ובין אם אתה חושב שזה הולך לקרות או לא.
זה כן שעשוע אינטלקטואלי לנסות להבין איך בדיוק זה הולך להתפתח. מעבר לזה שזה הולך לקרות, אני לא יודע כרגע לחזות הרבה על התהליך והתוצאה הסופית. אני מבין חלקים מהתמונה, אבל לא מספיק כדי לראות את התמונה הכוללת. אני גם לא יודע להגיד מה אפשר לעשות כדי לשפר את הסיכויים של האנושות.
מבחינת להיות מוטרד, אין מה להיות מוטרד מדברים שהולכים לקרות בכל מקרה. רק עצוב לראות במה האנושות מתעסקת במקום מה שהיא הייתה צריכה להתעסק בו. בעולם אידיאלי אפשר היה לעשות זאת בדרך שתמזער סיכונים, אבל אנחנו כ”כ רחוקים משם, שזה נראה חסר סיכוי לחלוטין. יקרה מה שיקרה. אולי יהיה לנו מזל ואולי לא. נקווה שתהיה לנו הזדמנות להנות מההצגה וללמוד דברים חדשים על העולם לפני שזה משתבש לחלוטין, ובתקווה כמובן שזה לא ישתבש.