על סף סינגולריות

[OnTheVerge]

אני לא מתחום המחשבים אבל אני לא משוכנע של-AI יש כרגע יצירתיות בפתרון בעיות. מהשימוש שלי ב-CHAT GPT זה לא נראה ככה כרגע.

רבים מהסביבה הקרובה שלי שלא כל כך עוקבים אחרי AI, משתמשים ב-ChatGPT החינמי וחושבים בטעות שהוא הגרסה המתקדמת ביותר של AI כיום.

הוא לא, ChatGPT משתמש ב-GPT-3.5 הישן והדי טיפש.
יש היום מודלים זמינים חכמים בהרבה - GPT-4 Turbo, GPT-4 ו-Gemini 1.5 Pro.

להלן השוואה של התוצאות של המודלים במבחנים סטנדרטיים (SAT ואחרים).
ניתן לראות ש-GPT-4 משיג לרוב תוצאות באחוזונים העליונים באוכלוסיה, כמו תלמיד מצטיין.



כדי להשיג גישה חינמית למודלים הללו:
1. להשתמש ב-Copilot החינמי, במצב "יצירתי יותר" - גישה ל-GPT 4 and GPT-4 Turbo.
2. להירשם ל-Trial של חודשיים ל-Google One - גישה ל-Gemini 1.5 Pro. ממליץ להמתין ליציאת Gemini 1.5 Ultra ואז לעשות את זה.

אני לא טוען לרגע שהמודלים הללו מושלמים, אבל גם בני אדם לא מושלמים.
Copilot מפגין עומק מחשבה וניואנסים שאנשים רבים לא ניחנים בהם.

ואגב, המודל המתקדם ביותר ליצירת תמונות/וידאו הוא לא Dall-E 3 או מידג'רני אלא Sora של OpenAI שעתיד לצאת בקרוב.
מאוד קשה להבחין בדרך כלל שמדובר ב-AI (גם בהתחשב בעובדה שאלו סצנות שנבחרו בקפידה).

 

[SolidusMaximus]

אם באמת הייתה קיימת יישות בעלות יכולות על-אנושיות, נראה לך שהיא הייתה צריכה שבני האדם ישתחוו אליה או שהיה אכפת לה אם אנשים אוכלים בשר וחלב יחד?

אתה חושב שנמלים מבינות למה אנחנו חשים צורך לדמיין דברים שלא קיימים בעולם, ולדון עליהם אחד עם השני? זה לא מייצר לנו אוכל.

 

[SolidusMaximus]

אנחנו כן עברנו סף מסויים שאפשר את פיתוח הציביליזציה, אבל כשעברנו את הסף, לא קרה משהו מיוחד. לאורך עשרות אלפי שנים השתמשנו באינטליגנציה הגבוהה שלנו בעיקר כדי לצוד חיות ולהביא להכחדתם של רוב מיני החיות הגדולות על כדור הארץ וכדי להרוג אחד את השני. עם הזמן וככל שנשארו פחות ופחות חיות לצוד, נאלצנו לעבור לחקלאות ומשם התפתחה הציביליזציה.

תיאור פסימי במיוחד ושגוי. עד המהפכה החקלאית, שהתאפשרה בגלל הסינגולריות הקוגניטיבית (יש שיגידו מגילוי הבשר המבושל), היינו מעטים, וחסרי יכולת להכחיד חיות במאסה.
התפתחות קוגניטיבית>גילוי החקלאות>התפתחות ציוויליזיציה>גדילה אקספוננציאלית שרק היא מאפשרת הכחדה מסיבית.

 

[Leo1]

תיאור פסימי במיוחד ושגוי. עד המהפכה החקלאית, שהתאפשרה בגלל הסינגולריות הקוגניטיבית (יש שיגידו מגילוי הבשר המבושל), היינו מעטים, וחסרי יכולת להכחיד חיות במאסה.
התפתחות קוגניטיבית>גילוי החקלאות>התפתחות ציוויליזיציה>גדילה אקספוננציאלית שרק היא מאפשרת הכחדה מסיבית.

ספר את זה לממותות. אתה רחוק מאוד ממה שקרה. אבל זה גם מתרחק מהנושא.

 

[SolidusMaximus]

תחשוב מחוץ לקופסה, כאילו אתה אינטיליגנציית על
לדוגמה - כל מה שצריך זה לסנתז וירוס (ביולוגי) באיזשהי מעבדה ביולוגית איפשהו, שיהיה מספיק שקט ככה שהוא ידביק את הרוב המוחץ של האנושות, ומספיק קטלני אחרי זמן מסויים (שנה?) ככה שהסיכוי להתאושש ממנו הוא אפסי.
אפילו יותר טוב, תגרום לו להתעורר כתוצאה מסיגנל רדיו \ שמע מסויים, שתוכל לשדר ברחבי העולם (דרך לווינים \ אינטרנט \ רמקולים \ ...)
כל מה שצריך זה לשחרר אותו לעולם, בטעות, ואחרי שנה - סלמאת.
וזה האינטיליגנציה שלי, המאוד מאוד לא על-אנושית.

באופן כללי יש איזונים ובלמים מובנים בטבע.
וירוס קטלני תמיד יהיה מדביק פחות, כי הוא הורג לפני שהאדם מספיק להדביק.
וירוס מדביק מאוד, יהיה פחות קטלני, כי אחרת לא היה זמן להדביק.

והתפתחות אבולוציונית רגילה היא לא איזה קפסולת זמן, שבהתחלה הוירוס הוא צינון קל ומאוד מדביק, ואחרי 87 ימים בדיוק הוא גורם לשבץ מוחי באחת.
כן אפשר תיאורטית ליצור דבר כזה בתכנון תבוני, ז"א במעבדה, אבל זה מאוד לא טריוויאלי והולך נגד הטבע הפשוט של מתבגר מהר-מת מהר, מתבגר לאט-מת לאט.

 

[SolidusMaximus]

ספר את זה לממותות. אתה רחוק מאוד ממה שקרה. אבל זה גם מתרחק מהנושא.

הממותה נכחדה לפני כעשרת אלפים שנה בלבד, כנראה בעקבות שילוב של שינוי האקלים העולמי, עם ציד נרחב בידי האדם. באי וראנגל באוקיינוס הארקטי שרדה אוכלוסייה קטנה של ממותות עד לפני כ-4,000 שנה.

המהפכה הנאוליתית (המוכרת גם בשם "המהפכה החקלאית") היא תהליך שאפיין את התקופה הנאוליתית (תקופת האבן החדשה): המעבר ההדרגתי של בני אדם מחברות נוודיות של ציידים-לקטים לחברות חקלאיות נייחות, החל כ־12,000 שנים לפני זמננו.

הכחדה של מין אחד != "הכחדתם של רוב מיני החיות הגדולות". אין לזה תיעוד, וזה לא מסתדר עם גודל אוכלוסיית בני האדם, שהייתה מזערית עד התפתחות הציוויליזציה.
רק העודף שהגיע ממקור מזון אמין יחסית, והתפתחות הערים והתרבות מסביב לאותו מקור מזון (הסהר הפורה והנילוס), יכל לייצר גידול אקספוננציאלי באוכלוסייה.
כמה מיליונים של קופי אדם, מתוחכמים ככל שיהיו, לא מכחידים "את רוב מיני החיות הגדולות".

 

[Leo1]

הכחדה של מין אחד != "הכחדתם של רוב מיני החיות הגדולות". אין לזה תיעוד, וזה לא מסתדר עם גודל אוכלוסיית בני האדם, שהייתה מזערית עד התפתחות הציוויליזציה.
רק העודף שהגיע ממקור מזון אמין יחסית, והתפתחות הערים והתרבות מסביב לאותו מקור מזון (הסהר הפורה והנילוס), יכל לייצר גידול אקספוננציאלי באוכלוסייה.
כמה מיליונים של קופי אדם, מתוחכמים ככל שיהיו, לא מכחידים "את רוב מיני החיות הגדולות".

לא מין אחד. רוב החיות הגדולות נכחדו. הן כולן שרדו אינספור שינויי אקלים בעבר, ואז בבת אחת נעלמו בדיוק כשהופיע האדם המודרני. גם המקומות היחידים, שבהם הן שרדו הם בדיוק המקומות שהיית מצפה שהן ישרדו אם סיבת ההכחדה היא ציד. זה 100% ציד ע"י בני אדם. לא שינויי אקלים ולא שום דבר אחר. אבל אנחנו מתרחקים מהנושא.
ולא רק זאת, אלא סיכוי טוב שמה שאילץ את בני האדם להתיישב ולעבור לחקלאות הוא שלא נשארו להם מספיק חיות לצוד. הרוב נכחד או היה על סף הכחדה.

 

[SolidusMaximus]

לא מין אחד. רוב החיות הגדולות נכחדו. הן כולן שרדו אינספור שינויי אקלים בעבר, ואז בבת אחת נעלמו בדיוק כשהופיע האדם המודרני. גם המקומות היחידים, שבהם הן שרדו הם בדיוק המקומות שהיית מצפה שהן ישרדו אם סיבת ההכחדה היא ציד. זה 100% ציד ע"י בני אדם. לא שינויי אקלים ולא שום דבר אחר. אבל אנחנו מתרחקים מהנושא.
ולא רק זאת, אלא סיכוי טוב שמה שאילץ את בני האדם להתיישב ולעבור לחקלאות הוא שלא נשארו להם מספיק חיות לצוד. הרוב נכחד או היה על סף הכחדה.

או שהיה שינוי מספיק גדול, כנראה אקלימי, שהכחיד אותם וגרם לאדם להתאים את עצמו במהפכה החקלאית. אין ממש הסבר לgreat leap forward (לא הסוג הסיני).

 

[Leo1]

או שהיה שינוי מספיק גדול, כנראה אקלימי, שהכחיד אותם וגרם לאדם להתאים את עצמו במהפכה החקלאית. אין ממש הסבר לgreat leap forward (לא הסוג הסיני).

זה פשוט לא נכון. שינויי אקלים היו גם קודם. מדובר כאן באירוע מאוד מובהק, ומאוד ברור בדיוק מה קרה.
ומה שכתבתי דווקא מסביר מצויין את מה שקרה.

 

[paskar]

גם כאן, ראיתי את התוצאות ואולי אני לא יודע להקליד prompt מספיק טוב- אבל לא התרשמתי. להיפך- נורא ברור שזה לא אנושי.

כמה דוגמאות, לא בהכרח חדשות (חלק מזה עתיק, מלפני שנה ויותר):

ארטיסטי, מסוגנן : [1], [2], [3]
מינימליסטי, רטרו-מודרני: [4], [5], [6]
רובוט / חלל (לא הכי איכותי), 3D-ריאליסטי, מינימליסטי יפני קלאסי (עם תבנית כדי ליצור QR, חלק מהתוכנות מתקשות לקרוא)
דוגמאות מיוצרי התוכנות אז קשה לדעת מה מאחורי הקלעים: מסוגנן, רטרו, קומיקסי מינימליסטי, 3D/2D, ארטיסטי 3D, ציור קלאסי (חצי)

 

[קפיטליסט מרושע]

באופן כללי יש איזונים ובלמים מובנים בטבע.
וירוס קטלני תמיד יהיה מדביק פחות, כי הוא הורג לפני שהאדם מספיק להדביק.
וירוס מדביק מאוד, יהיה פחות קטלני, כי אחרת לא היה זמן להדביק.

והתפתחות אבולוציונית רגילה היא לא איזה קפסולת זמן, שבהתחלה הוירוס הוא צינון קל ומאוד מדביק, ואחרי 87 ימים בדיוק הוא גורם לשבץ מוחי באחת.
כן אפשר תיאורטית ליצור דבר כזה בתכנון תבוני, ז"א במעבדה, אבל זה מאוד לא טריוויאלי והולך נגד הטבע הפשוט של מתבגר מהר-מת מהר, מתבגר לאט-מת לאט.

כמובן שהכוונה שלי הייתה שאינטיליגנציית על תתכנן את הוירוס הזה, שהוא לא קיים בטבע..
מזה החשש, ועל זה מדובר כאן

 

[unsullied]

אני לא נותן קרדיט גבוה למים האנושי. בינת על לא חייבת לייצר אירוע פומפוזי וגלוי. מספיק לה להיות קצת יצירתית עם fake news, להשפיע אט אט על המפות הפוליטיות ודעות של אנשים ברחבי העולם, ואנחנו כבר נעשה את עבודת ההכחדה בעצמנו. אולי זה כבר בתהליך בעשורים האחרונים ואנחנו רק חושבים על זה עכשיו...
תכנון מדוייק עוד ידאג לכך שהשורדים המעטים יסגדו לבינה המלאכותית ובכך למנוע מחתרות דמויי-סיפור-מטריקס (נניח כמו ששורדי המבול סוגדים לאל שהכחיד את שאר המין שלהם ועל הדרך מינים אחרים - הכל שאלה של המסרים שמלווים את הסיפור - נבחרתם להיות השורדים והמכחיד הוא המציל).

[למען האמת אני אופטימי לגבי כל הסיפור שלנו, אבל אם כבר היפותזות מדב אז גם זו אפשרית]

לגבי יצירתיות וכתיבת סיפורים לא שוכנעתי שלמין האנושי יש יתרון כשמסתכלים קדימה, היתרון הולך ונעלם בקצב מהיר - אשמח אם יש למישהו רעיון על יתרון שכזה למין האנושי ונעמיד את הרעיונות למבחן

 

[Leo1]

מסכימה שהמוח הוא סוג של מחשב.
מה הכוונה מחשב אוניברסלי?

זה מושג במדעי המחשב - מחשב שיכול לחשב כל דבר שניתן לחשב. כל מחשב מודרני הוא כזה(בהינתן מספיק זיכרון).

מה מחשב יכול לעשות שמוח אנושי בפוטנציאל שלו לא יכול?

הרבה דברים. גם מחשב של לפני 80 שנה יכול היה לפתור בעיות שהאדם לא יכול לפתור, כמו פיענוח צפנים - בשביל זה בנו אותו. עם הזמן המחשבים מתקדמים ויכולים לפתור יותר ויותר בעיות. כיוון שמדובר במחשב אוניברסלי, הוא יכול עקרונית לפתור כל בעיה שיש לה פתרון. כמובן שצריך בשביל זה מספיק כוח חישוב, זיכרון ותוכנה מתאימה, אבל כל הדברים האלה מתקדמים מאוד מהר. אנחנו מתקרבים למצב שהמחשב יוכל לפתור כל בעיה שאדם יכול לפתור והרבה בעיות שאדם בחיים לא יוכל לפתור. תחשבי על כל בעיה מכל תחום(כמובן בהינתן שיש לה פתרון).

מה זה חישוב מקבילי או טורי? (לא חייב לטרוח לענות אם זה מסובך)

חישוב טורי זה לחשב דברים אחד אחרי השני. חישוב מקבילי זה לחשב דברים בו זמנית במקביל. כל חישוב מקבילי אפשר להפוך לחישוב טורי, אבל להיפך לא תמיד אפשר. מעשית אבל בהרבה מקרים אפשר. קצב חישוב טורי נתקל במגבלות פיזיקליות, ולכן הרבה פעמים הפתרון הוא חישוב מקבילי.

וגם אם המוח הוא מחשב למה אי אפשר לתכנת אותו? המחשבות שלנו זה קודים

אפשר אולי בקטנה. למידה היא סוג של תכנות, אבל ממש לא ברמה שניתן לתכנת מחשב. מחשב מריץ תוכנה, ששמורה בזיכרון. את התוכנה אפשר לשנות, ומחשב גם יכול לתכנת את עצמו. למוח אין תוכנה במובן הזה.

מחשב מדוייק, חישוב הוצ הכנס הייתי מעדיפה אקסל במקום לבזבז אנרגייה לעשות את זה עם הראש.
לכתוב שירה, להלחין, להיות חבר, להביע עמדה פוליטית, לא הייתי מצפה או סומכת על מחשב. גם אם הוא יכול להיות יצירתי, מאד יצירתי, אין לו נשמה וזהו.

בדברים שרשמת גם עכשיו המחשב מתעלה על רוב בני האדם והוא משתפר בקצב מטורף.
לגבי נשמה, אם הסכמת שהמוח הוא סוג של מחשב, אז אם לבן אדם יש נשמה, אז גם למחשב בהכרח יכולה להיות. או שפשוט אין דבר כזה נשמה.

מחשב עושה דברים נפלאים, תודה לאל שיש.

אבל להלל את כוח החישוב שלו, ולהגיד שהוא יותר אינטליגנטי
זה כמו להלל את הכוח הפיזי של פיל או קרנף ולהסיק מזה שהם ישלטו באדם

האדם שולט בכדור הארץ בזכות התבונה שלו. עכשיו אנחנו בונים משהו חכם בהרבה מאיתנו.

 

[Leo1]

אתם יודעים, אני חושב שאנחנו ממש על הסף. כתבתי פה לפני שנה סיפור דמיוני עם סינגוליות והשמדת האנושות ב-2029. לפי איך שהדברים מתקדמים, נראה לי שאנחנו עומדים בלוח הזמנים, ויש סיכוי משמעותי לסינגולריות תוך חמש שנים. לגבי מה יש בצד השני של הסינגולריות ואם זה יהיה טוב או רע לאנושות, אין לי מושג.

 

[קפיטליסט מרושע]

כתבתי פה לפני שנה סיפור דמיוני עם סינגוליות והשמדת האנושות ב-2029.

קישור או שזה לא קרה

 

[Roi]

קישור או שזה לא קרה

אתה ממש מרושע, קפיטליסט.

 

[Leo1]

קישור או שזה לא קרה

כתבתי את זה בפורום פוליטיקה בשרשור על עתידה של ישראל. כתבתי זאת גם כדי להעלות את הדבר הגדול ביותר שיקרה וגם כביקרת על התנהלות האנושות בכלל והחברה בישראל במיוחד. אגב אחרי זה ביקשתי מ-ChatGPT לכתוב סיפור על איך בינה מלאכותית משמידה את האנושות, והסיבה להשמדת האנושות בסיפור שלו הייתה דומה. זה גם סיפור מוכר במדע בדיוני, ולא במקרה.
חשבתי על קצב ההתקדמות ו-2029 נראתה לי הגיונית. עכשיו, כעבור שנה, התחושה שזה לוח הזמנים נראית לי הגיונית ומתאימה להתפתחויות.

אי שם במזרח אירופה - סיפור בדיוני בהמשכים

------------הסיפור בדיוני לחלוטין כל קשר בינו לבין האירועים עכשו ולמציאות בעתיד הוא פרשנות של הקורא בלבד----------- שוב בלגן בבית הקפה של סטפנו ומריה, "זה אתם התחלתם כשבטלתם את העצמאות השיפוטית!" @@@ "זה אתם שהוצאתם את הכסף מהארץ, ותקפתם חברי כנסת" %%%%%%% "אבל אתם התחלתם ואנחנו רק ניסינו להציל...

www.hasolidit.com

 

[Leo1]

ככה זה מתחיל

תקלה עולמית ברשתות פייסבוק ואינסטגרם

www.ynet.co.il

טוב, זה היה בצחוק, אבל ברצינות אני חושב שזה יכול לקרות כל רגע. סביר שזה יקח כמה שנים, אולי גם עשור, אבל אנחנו כבר בתחום שקיים סיכוי שזה יקרה ממש עכשיו.

 

[Deleted member 13253]

אשר יגורתי בא לי.
מה, מה יקרה עוד עשור? האנושות כמעט תושמד ? הAI הראשי יקח לנו את המפתחות ?

קצת קשה להבין למה אתה מתכוון, כמו אסטרולוגיה אתה נשמע, תהיה בריא.

אני אומר ש RI כבר שולט, RANDOM INTELLIGENCE, סתם, עדיף כבר לקרוא לזה אבולוציה.

גם יוטיוב, אולי זה באמת מתחיל

 

[Leo1]

אגב הנה תחזית:
בעיית ההתחממות הגולבלית תפסיק להיות בעיה בוודאות.
או כי הבינה המלאכותית תמצא פתרון של אנרגיה נקיה, ואם צריך גם של קירור האטמוספירה.
או כי הבינה המאכותית תשמיד אותנו. גם זה יפתור את בעיית ההתחממות הגלובלית.