תוצאות החיפוש

גם אני שאלתי וקיבלתי תשובה שונה שתואמת גם למה שאני יודע. אנחנו מסוגלים לזהות אות רדיו ששודר ממרחק 100,000 שנות אור, כאשר גם השידור וגם הגילוי נעשה עם הטכנולוגיה שקיימת בידינו כיום. הבעיה אבל שבשביל זה צריך לכוון גם את המשדר והמקלט במדוייק, ולבצע את השידור והקליטה במשך שעות. זה אפשרי תיאורטית...

1) החיים על כדור הארץ הופיעו די ברגע הראשון שתנאי הסביבה אפשרו זאת. אנחנו לא יודעים אם חיים פשוטים נוצרו בכדור הארץ או הגיע מכוכב אחר. 2) לקח לפחות 4 מיליארד שנה מרגע הופעת החיים על כדור הארץ עד להתפתחות ציביליזציה טכנולוגית. 3) פיתוח AI התגלה כקל מאוד וקורה תוך זמן קצת אחרי הופעת ציביליזציה. 4)...

נכון. וזה אומר שקורה משהו אחר, לא Paperclip maximizer. ומה קורה זאת שאלה טובה מאוד. זה יהיה מאוד מאוד מאוד מאוד...מאוד מפתיע אם חיים תבוניים התפתחו רק כאן. לדעתי יש משהו גדול שאנחנו מפספסים שמסביר את מה שאנחנו רואים ולא רואים. אין לי מושג מה זה.

אם האנושות תושמד, אין מזה דרך חזרה. גם אי אפשר ללמוד על זה מההיסטורה האנושית כי מעולם לא היינו במצב כזה. כן אפשר ללמוד ממה שאנחנו רואים כשאנחנו מחפשים סימנים של תבונה מחוץ לכדור הארץ. באופן מדאיג לא גילינו עד עכשיו שום דבר חד משמעי. מזה אפשר ללמוד משהו על תקדימים היסטוריים במקומות אחרים, אבל...

גם אותי מאוד מדאיג החלק של בני האדם בסיפור, אבל לא מה הם יעשו עם ה-AI הנוכחי, אלא מה הם יעשו עם המשך הפיתוח. השילוב של האופן בו החברה האנושית פועלת לפי צורת חשיבה שהתפתחה אבולוציונית בתקופת האבן, כאשר המשימה העיקרית הייתה לחימה נגד קבוצות בני אדם יריבות, עם היכולת לפתח superintelligence, הוא...

תודה על ההזמנה. חכה חכה מה שהולך לבוא בשנים הקרובות. זה כבר היסטוריה. זה קרה בתקרית Hugging Face ותקריות נוספות. מה שקרה מתעלה על כל סיפור כמעט של מדע בדיוני. ולגבי זה שהמסלול הנוכחי אם לא יעצר מוביל ל-Superintelligence, אני בטוח בזה ב-100%. והייתי בטוח בזה גם כשפתחתי את השרשור הזה. אני...

@Strike! קודם שיבחת אותי על זה שחזיתי את השיח הנוכחי לפני כמה שנים בתחילת השרשור. לי אין מניות באנתרופיק ואין לי מה להרוויח מזה. איך ידעתי לכתוב זאת כבר אז? כי חשבתי על העניין הזה לא מעט כבר יותר מ-20 שנה. צפיתי כמו רבים אחרים שזה יבוא, אבל חשבתי שזה יקח יותר זמן. כשיצא GPT4 כבר היה ברור לי...

זאת פשוט האמת. האנשים האלה חכמים מספיק כדי להבין אותה. למה הוא ממשיך לעבוד שם? חלק גדול מזה נובע מזה שהם מאמינים שאם הם לא יעשו את זה, יעשה את זה מישהו פחות אחראי, ובזה שהם עובדים על זה מקטין את הסיכון. הם גם חושבים שיש סיכוי משמעותי שזה כן ילך טוב ויביא את האנושות למצב של שפע חסר תקדים. האם הם...

זה כשל לוגי שאני שומע אותו הרבה. ככה כמעט תמיד מדברים בטלויזיה ובעיתונות. אנשים פוחדים פחד מוות מסיכונים זניחים שהם רגילים אליהם, אבל מתעלמים לחלוטין מסיכונים קטסטרופליים, גם אם הם ממש עומדים לקרות באופן מיידי, כיוון שלא חוו אותם בעבר ולא מצליחים לדמיין שהם עומדים לקרות גם אם כל המידע אומר שהם...

כי הוא מעדיף שהוא ושאר בני האדם לא ימותו בעשור הקרוב.

אגב שימו לב לזה: אחראי על Alignment באנתרופיק כותב שהוא מאמין שיש סיכוי של יותר מ-10% שהבינה המלאכותית תשמיד את האנושות בעשור הקרוב. דמיינו שמנהל בטיחות מוצר היה אומר שהמוצר שהחברה שלו מפתחת בוודאות יהרוג יותר מ-800 מיליון בני אדם בעשור הקרוב. אלא שמה שהוא אומר כאן חמור בהרבה. השתמשתי כאן...

ראיון מעניין עם הבחור שפרש מאנטרופיק ועכשיו מופיע בהרבה מקומות בטלויזיה. בהחלט בחור חכם. אני מקווה מאוד שהוא צודק במה שהוא אומר על המטרה של אנטרופיק ושבאמת יש להם ביצים להשתלט על העולם ולמנוע מאחרים לפתח AI מסוכן. מצחיק להגיד את זה כשהוא פרש משם על הרקע הזה. בזה אין לי מושג אם הוא צודק. אם...

החלק המעניין הוא לחזות מה יקרה עכשיו. בקטע הזה אני לא חכם יותר ממה שהייתי בתחילת השרשור. לא קרה שום דבר משמעותי שלא היה אפשר לצפות(חוץ מזה שטראמפ חזר להיות נשיא ארצות הברית והולך להיות האיש שיקבל החלטות שישפיעו על גורל האנושות) אני עדיין לא הצלחתי להבין מה בדיוק התרחיש הטוב שאנשים צופים. איך...

זה סיכון שולי. הסיכון האמיתי יגיע כשלאנשים כאלה(או אפילו לאנשים עם כוונות פחות רעות) תהיה גישה למודל שמסוגל לשפר את עצמו ולהשתלט על העולם. וזה רק עניין של זמן עד שנהיה שם. הסיכון פה הוא לא של משהו בסדר גודל של 7.10. וגם לא בסדר גודל של השואה, שגם היא עוד עלולה להיראות כאירוע זניח לחלוטין אם זה...

איזו רגולציה בדיוק?

ממליץ על זה: https://youtu.be/sU8RunvBRZ8

אני מניח שיהיו עוד אזהרות. בפעם הבאה זה יכול להיות רציני יותר. השאלה מה אנשים יעשו. האם אתם רואים תרחיש בו עוצרים את פיתוח ה-AI? מה יקרה כשתהיה תקרית רצינית יותר?

בתקרית הזאת לא נראה לי שהייתה סכנה אמיתית. זאת הייתה אבל אזהרה. זה ממש הולך לפי ספרי המדע הבדיוני ולפי כל מה שהזהירו ממנו. וזה גם מתעלה על ספרי מדע בדיוני. העלילה פה ממש טובה וקרו כאן דברים מדהימים. אני באמת ממליץ לאנשים לקרוא על מה שקרה. הם יהיו בהלם. והקטע שאנחנו בכלל יודעים רק חלק מהסיפור וגם...

https://substack.com/home/post/p-213336662

הרושם שלי הוא שכבר עכשיו המודלים המובילים מבינים בני אדם הרבה יותר טוב ממה שבני אדם מבינים את עצמם. זה רק ילך וישתפר. הבעיה האמיתית היא דווקא בזה שבני אדם לא מבינים לא את עצמם ולא את הבינה המלאכותית. באנלוגיה שהבאתי הזמן המסוכן ביותר הוא כשהשימפנזים עדיין בשליטה וינסו להשתמש בכוחם החדש בשביל...