יש מישהו שמבין בתחום השבבים?

[נמר ישראלי]

יש כאן מישהו שיכול להסביר קצת את מה שקורה עכשיו בתחרות השבבים של ארה”ב מול סין?
מה ההבדלים והאם ניתן להסיק שתם עידן אנבידיה?

 

[צדיק]

מה ההבדלים והאם ניתן להסיק שתם עידן אנבידיה?

רצת מהר מידי.
אני לא יפול מהכסא כשיתברר שזה בלוף חזק של הסינים, 'מתנה' לטראמפ.

 

[שלומו]

חברה סינית טוענת שפתחה ai ברמה גבוהה בשימוש במעט חומרה אנרגיה ותשתיות. חברות השבבים נופלות כי זה אולי אומר שיהיה פחות צורך בכמות אדירה של שבבים.

כן אפשר לשאול אם החברה הסינית הייתה משתמשת בכמות אדירה של שבבים ואנרגיה האם היא לא הייתה יכולה להשיג תוצאה טובה משמעותית. אני אשמח לשמוע לגבי זה

 

[נמר ישראלי]

רצת מהר מידי.
אני לא יפול מהכסא כשיתברר שזה בלוף חזק של הסינים, 'מתנה' לטראמפ.

אולי זה לא סוף עידן החברות בארה”ב אבל יש פה פיתוח שנגיש לכל העולם זה לא פייק גמור

 

[FIYaacov]

מה ההבדלים והאם ניתן להסיק שתם עידן אנבידיה?

הכי טוב להסיק מסקנות מפרסומי חדשות ובאזז.

 

[צדיק]

יש פה פיתוח שנגיש לכל העולם זה לא פייק גמור

הנקודה היא לא האם יש כזה צאט, אלא בכמה משאבים הוא משתמש.
אם הוא משתמש באותם משאבים כמו GPT, אז אין פה 'בשורה'.
והסינים, בהחלט יכולים להסתיר מידע.

 

[נמר ישראלי]

הכי טוב להסיק מסקנות מפרסומי חדשות ובאזז.

בינתיים זה נראה כעניין רציני לחלוטין רחוק מלהיות באזז
אם יש פיתוח שגלוי לכל זה כבר לא איזה פנטזיה סינית

 

[Arik Aharon]

בפשטות,
חברה סינית (אשר מופעלת ע"י קרן הון סיכון אם הבנתי נכון) פיתחה מודל אשר מציג ביצועים אשר לא יורדים מהמודלים הטובים ביותר.
היא מנגישה אותו לציבור בחינם (בניגוד למקבילות המערביות) + היא הוציאה אותו כקוד פתוח (בניגוד למקבילות המערביות).
הם טוענים שהם מצאו שיטה לאמן את המודל עם כמות משאבים נמוכה משמעותית מהמקבילות המערביות ע"י חוזי של המידע.
לכן, הם בעצם לא דורשים מימון רב.

איפה הקאצ'ים?
א. זה אומר שהם יכולים לאמן מודלים חדשים מהר יותר ובעלות נמוכה יותר מהמערב, ובכך לייצר מודלים טובים יותר מהר יותר ('חומרי הגלם' זולים יותר)
ב. הם שוברים את המודל העסקי של המתחרות מהמערב, ע"י אלטרנטיבה חינמית.
ג. ע"י אימונים זולים יותר, אין צורך במעבדי GPU (אנבידיה וכו') בכמות שהאנליסטים חזו. ומכיוון שמדובר במכפילי ענק, כל תזוזה קטנה בביקוש מוכפלת במכפלות וכו'.

לגבי שאלה שמישהו שאל, הוספה של עוד משאבים לא תציג להם מודל טוב יותר. השיטה שהם המציאו בעצם מייתרת את הצורך להוספת משאבים יקרים.


יש להגיד שאני משתמש בהם כבר זמן מה לפני הבאזז. הם מייצרים אלטרנטיבה טובה למי שלא רוצה לשלם למקבילות / הצורך שלו לא דורש דברים 'אמיתיים'.
הם לא טובים באותה רמה כמו המודלים המערביים (לפחות בתחום העיסוק שלי, על בסיס ניסיון אישי שלי).

 

[FIYaacov]

בינתיים זה נראה כעניין רציני לחלוטין רחוק מלהיות באזז

אני מדבר מבחינת ערך למשקיע.

 

[JBUZZ]

הצורך שלו לא דורש דברים 'אמיתיים'.

למה הכוונה שלך ב ״דברים אמיתיים״?
כל תוצאה צריכה להיות אמינה ואמיתית.
אתה מתכוון תמונות/ציורים וכו׳

@Arik Aharon

 

[Delver]

בפשטות,
חברה סינית (אשר מופעלת ע"י קרן הון סיכון אם הבנתי נכון) פיתחה מודל אשר מציג ביצועים אשר לא יורדים מהמודלים הטובים ביותר.
היא מנגישה אותו לציבור בחינם (בניגוד למקבילות המערביות) + היא הוציאה אותו כקוד פתוח (בניגוד למקבילות המערביות).
הם טוענים שהם מצאו שיטה לאמן את המודל עם כמות משאבים נמוכה משמעותית מהמקבילות המערביות ע"י חוזי של המידע.
לכן, הם בעצם לא דורשים מימון רב.

איפה הקאצ'ים?
א. זה אומר שהם יכולים לאמן מודלים חדשים מהר יותר ובעלות נמוכה יותר מהמערב, ובכך לייצר מודלים טובים יותר מהר יותר ('חומרי הגלם' זולים יותר)
ב. הם שוברים את המודל העסקי של המתחרות מהמערב, ע"י אלטרנטיבה חינמית.
ג. ע"י אימונים זולים יותר, אין צורך במעבדי GPU (אנבידיה וכו') בכמות שהאנליסטים חזו. ומכיוון שמדובר במכפילי ענק, כל תזוזה קטנה בביקוש מוכפלת במכפלות וכו'.

לגבי שאלה שמישהו שאל, הוספה של עוד משאבים לא תציג להם מודל טוב יותר. השיטה שהם המציאו בעצם מייתרת את הצורך להוספת משאבים יקרים.


יש להגיד שאני משתמש בהם כבר זמן מה לפני הבאזז. הם מייצרים אלטרנטיבה טובה למי שלא רוצה לשלם למקבילות / הצורך שלו לא דורש דברים 'אמיתיים'.
הם לא טובים באותה רמה כמו המודלים המערביים (לפחות בתחום העיסוק שלי, על בסיס ניסיון אישי שלי).

כדאי לציין שרוב הכסף (ביום שבו קצב פיתוחי המודלים יקטן יגיע מה inference ולא מהאימון), כלומר - חברות השבבים לא הולכות לשום מקום.

 

[שלומו]

לגבי שאלה שמישהו שאל, הוספה של עוד משאבים לא תציג להם מודל טוב יותר. השיטה שהם המציאו בעצם מייתרת את הצורך להוספת משאבים יקרים.

אני לא מהתחום. האם באימון מודל מתכנס אסימפטוטית לאיזה אופטימום (כנראה מקומי) ואז השקעה של עוד זמן/משאבים באמת לא תעזור. או שאולי יש שיפור שעולה לפחות לוגריתמית כתלות בהשקעה.

בהינתן שעוד תוספת משאבים לא תועיל אז איך ai בכלל צפוי להתקדם? האם בונים על פריצת דרך מחקרית באלגוריתמיקה?
האם ai רק יהיה יותר ויותר זול או שהוא גם ישתפר?

 

[אופסשםמשתמש]

אני לא מהתחום. האם באימון מודל מתכנס אסימפטוטית לאיזה אופטימום (כנראה מקומי) ואז השקעה של עוד זמן/משאבים באמת לא תעזור. או שאולי יש שיפור שעולה לפחות לוגריתמית כתלות בהשקעה.

בהינתן שעוד תוספת משאבים לא תועיל אז איך ai בכלל צפוי להתקדם? האם בונים על פריצת דרך מחקרית באלגוריתמיקה?
האם ai רק יהיה יותר ויותר זול או שהוא גם ישתפר?

אפשר לומר שהאימון כן מתכנס למשהו אסימפטוטי והוספת עוד מחשוב לא תועיל
אבל מלכתחילה באימון אתה בוחר כמה פרמטרים אתה רוצה, ז"א בהנתן מחשוב X אתה תבחר כמות פרמטרים Y
ואם המיחשוב שלך 2X אולי תבחר 2Y

חלק ניכר מהפריצת דרך של הAI והDEEP והLLM זה העובדה ש"עכשיו אפשר" הידע והתאוריה קיימים עשורים.
כמובן שמרגע שהתחיל להיות אפשר, גם קצב ההתקדמות גדל בסדרי גודל, והתקציבים שמושקעים בזה בגאמפא עם כמה סדרי גודל יותר מהתקציבים שהיו לזה באקדמיה לפני 20 שנה.

זה לא פעם ראשונה שמישהו שהצליח לייצר אימון מהיר יותר וקצר יותר , ואני מניח שנזכה לראות עוד פריצות דרך כאלו בעתיד

 

[unsullied]

ניתן להסיק שתם עידן אנבידיה

בהחלט ניתן להסיק שתם עידן אנבידיה בשווי שוק של 3.4 טריליון. והחל עידן חדש של אנבידיה בשווי של 2.9 טריליון.
האם מחר היא תקרוס או תתרומם זה כבר תלוי בחדשות של מחר.

(אגב הפיתוח האחרון של הסינים הוא מודל יעיל ולא שבב, תחרות ל open ai. הקשר לשבבים הוא עקיף - בצורך הנמוך שלו במשאבי לימוד)

 

[שלומו]

אבל מלכתחילה באימון אתה בוחר כמה פרמטרים אתה רוצה, ז"א בהנתן מחשוב X אתה תבחר כמות פרמטרים Y
ואם המיחשוב שלך 2X אולי תבחר 2Y

האם ניתן לכמת את היתרון של הוספת פרמטרים. האם אי אפשר לקחת את השיטה של החברה הסינית וליישם אותה על המחשב הכי חזק ולא על מחשב זול יחסית ולהריץ בה הרבה יותר פרמטרים וככה לקבל ai מתקדם יותר מכולם?

 

[נמר ישראלי]

בהחלט ניתן להסיק שתם עידן אנבידיה בשווי שוק של 3.4 טריליון. והחל עידן חדש של אנבידיה בשווי של 2.9 טריליון.
האם מחר היא תקרוס או תתרומם זה כבר תלוי בחדשות של מחר.

(אגב הפיתוח האחרון של הסינים הוא מודל יעיל ולא שבב, תחרות ל open ai. הקשר לשבבים הוא עקיף - בצורך הנמוך שלו במשאבי לימוד)

מוקדם מידי למסקנא מרחיקת לכת שכזאת
יש לסינים עוד דרך ארוכה להוכיח את עצמם
לא מן הנמנע שבהמשך יתברר שהמרחק ביניהם הוא גדול מידי ובתרחיש כזה אינבדיה נכולה לנסוק לגבהים חדשים

 

[אוהב_ללמוד_ולהחכים]

@סולידי אני מאמין שתוכל לעזור. תם עידן אנבידיה / השוק מבין שאולי קצת הגזימו בתמחור שלה ?

 

[צדיק]

האם אי אפשר לקחת את השיטה של החברה הסינית וליישם אותה על המחשב הכי חזק ולא על מחשב זול יחסית ולהריץ בה הרבה יותר פרמטרים וככה לקבל ai מתקדם יותר מכולם?

חלק מהשיטה הסינית הייתה לצמצם דברים.
לדוג' היא עובדת בצורה של לבחור כל פעם את הפרמטרים הנצרכים לשאלה הספציפית.
זה אמנם מוריד כמה אחוזי דיוק, אבל חוסך המון משאבים.

שבב מתקדם לא יוסיף פה, כל הקטע של המודל שהוא בא לחסוך את הצורך בו...

 

[FIYaacov]

מוקדם מידי למסקנא מרחיקת לכת שכזאת

איזה מסקנה הוא הביא? הוא הביא פשוט את שווי השוק של נבידיה ל26.1 ואז ל27.1

 

[סולידי]

@סולידי אני מאמין שתוכל לעזור. תם עידן אנבידיה / השוק מבין שאולי קצת הגזימו בתמחור שלה ?

אין לי שום יתרון בהבנה של נושאים עסקיים.
בעוד 4 שבועות נהיה חכמים יותר.