פתחתי שרשור על הסינגולריות המתקרבת לפני כמה שנים. אנשים כל פעם מתחילים להתווכח איתי ולטעון שהמידע לאימון יגמר או שטות כלשהי אחרת. עכשיו זה החומרה. אני לא יודע מה מביא אנשים כל פעם להביא טיעון מוטעה אחר למה ההתקדמות תיעצר. הסברתי בשרשור ההוא מספר פעמים למה ההתקדמות לא תיעצר ואין לי כבר כוח לחזור על זה. עד עכשיו צדקתי בתחזית שההתקדמות לא תיעצר ורק תאיץ וברור לי שזה ימשיך כך ויאיץ עוד. החלק הזה לא מעניין כי הוא פתור. מה שמעניין ומה שאני לא יודע לחזות זה איך בדיוק זה ילך ומה יהיה גורלינו. אני יכול להביא טיעונים למה יש סיכוי גבוה שהאנשות תושמד, אבל כאן אני לא יודע. אני לא יודע מה אפשר לעשות במצב הנוכחי כדי לשפר את הסיכויים שלנו ואני לא יודע לחזות בדיוק איך זה ילך, אם כי אני יכול לחשוב על תרחישים מסויימים. אני יכול לחשוב על פתרונות שישפרו את הסיכויים שלנו בעולם אידיאלי עם שלום עולמי ובני אדם שמתנהלים הצורה מושכלת יותר, אבל אנחנו כל כך רחוקים מעולם כזה, שזה נראה חסר סיכוי לחלוטין לקדם פתרונות מהסוג הזה.אם לא יהיה פיתוח טכנולוגי משמעותי בחומרה של המחשבים אז לא בטוח שהai ימשיך להתפתח בקצב גבוה. הצמיחה בדרישות הפיזיות כמו אנרגיה ושטח ומים גודלת אקספוננציאלית וכבר מגיעים לזה שהיא לא ברת קיימא ולכן ייתכן שבקרוב היא תצמח לוגריתמית. דרך אגב ביצועים של מוח ביולוגי גדלים לוגריתמית בכמות האנרגיה המושקעת בחישוב. יש גם בעיות חישוביות עם קושי לוגריתמי. לא לכל בעיה יש פתרון קל שאפשר להגיע אליו עם קצת יותר כח חישוב ואיטרציות.
נערך לאחרונה ב: