על סף סינגולריות

[קפה שחור]

מה ההבדל בין שינון להבנה?

באופן אישי, ההדבר בין שינון להבנה הוא לדעת להסביר את מה שרצית גם לאדם בן 60 וגם לילד בן חמש

 

[שתי גבות לירקן]

באותה מידה (תאורטית) שאינטליגנציית-על מלאכותית סוררת תוכל להשמיד את האנושות, בינה מלאכותית עם יכולות דומות תוכל להגן על האנושות.

 

[מלפפון חמוץ]

למה תא חי ואיבר שמורכב מתאים חיים לא חי? לא הבנתי

ומה אתה מגדיר חי?

כי זו ההגדרה הביולוגית. אחד התנאים הוא היכולת לתורשה, לתא חי יש יכולת תורשה לאיבר בגוף האדם אין.

באופן אישי, ההדבר בין שינון להבנה הוא לדעת להסביר את מה שרצית גם לאדם בן 60 וגם לילד בן חמש

אני מניח שהתכוונת לדעת להסביר גם ברמה מאוד מופשטת ופשוטה וגם ברמה גבוהה יותר. פשוט פגשתי בני 60 שלא חכמים יותר מילדים בני 6. בכל מקרה הנה ציטוט ישיר מchatgpt

Sure, here are explanations of quantum physics for both a 6-year-old and an academic level:

For a 6-year-old:
"Quantum physics is like a magical world where tiny particles, like really, really tiny, dance and play by different rules than the things we see every day. They can be in two places at once, or even disappear and reappear somewhere else! It's like a super fun game of hide-and-seek that even scientists are still figuring out!"

For an academic level:
Quantum physics is a branch of physics that describes the behavior of particles at the smallest scales, such as atoms and subatomic particles. It introduces principles such as superposition, where particles can exist in multiple states simultaneously, and entanglement, where particles become correlated in such a way that the state of one particle instantly influences the state of another, regardless of the distance between them. Quantum mechanics also challenges classical notions of determinism and causality, offering a probabilistic framework for understanding the behavior of particles and systems at the quantum level.

אז האם הוא משנן או מבין?

 

[Spanz]

תא בגוף האדם (תא עור, תא עצב, תא שריר וכו׳) הוא יצור חי. קחי כמה תאים ביחד את תיצרי איבר (לב, ריאה, יד וכו׳), איברי הגוף אינם יצורים חיים. קחי כמה איברים יחד ואת תיצרי אדם.

למה כשמשלבים כמה יצורים חיים אז מקבלים משהו לא חי, ואילו כשמשלבים כמה איברים לא חיים אז מקבלים יצור חי?

שואל את כל השאלות למעלה כדי להבין למה את לא אומרת שמחשב יכול לחיות

גם אני לא הבנתי את ההקבלה..

לתא חי יש יכולת תורשה לאיבר בגוף האדם אין.

לפי ההגדרה הקלאסית ליצור חי יש בין היתר יכולת רביה.
איך זה תואם את המחשבים/מכונות בטכנולוגיה שלהם היום ושל יום המחר בעתיד הנראה?

ליצור חי הרבה יותר קל לספוג חומרים מהסביבה ולעבד אותם בצורה שתאפשר לו אבני בניין לבניית עצמו וצאצאיו.

אפשר לדבר על מחשבים כבעלי תכונות אינטלגנטיות, אבל משם לחיים הדרך ארוכה מאד מאד.

 

[אנא-אל]

כי זו ההגדרה הביולוגית. אחד התנאים הוא היכולת לתורשה, לתא חי יש יכולת תורשה לאיבר בגוף האדם אין.

זה בדיוק העניין, זאת תשובה של מחשב. של הגדרות, נתונים..
אפילו הai שזה כבר התקדמות אבולוציונית של מחשב... זה לעולם לא ישתווה ליכולת האנושית לדמיין. לעולם לא
לפוטנציאל האינסופי כמובן, לא בהשוואה אלי או אלייך
חי זה יותר מהגדרה ביולוגית שאפילו אי אפשר להסביר.
אז לפי הקריטריונים מחשב יכול לחיות. אבל האם הוא באמת חי?
טוב, לפי העובדות כן..
אבל לפי, אני לא יודעת איך לקרוא לזה חוץ מאמת - ממ..
מצד שני, מישהו שמרגיש שלדבר עם צ׳ט גפטי שזה עוזר לו נפשית והוא מדמה ממש שזה כמו אדם אמיתי שהוא מדבר איתו - אוקיי, אז בסדר.
שוב, שזה כמו בינה של ילד, שהיא תמיד טהורה ולכן האמונה שלהם היא אמת.

 

[חתול לילה]

לפי ההגדרה הקלאסית ליצור חי יש בין היתר יכולת רביה.
איך זה תואם את המחשבים/מכונות בטכנולוגיה שלהם היום ושל יום המחר בעתיד הנראה?

האם וירוס מחשבים מתרבה? האם הוא חי?

 

[מלפפון חמוץ]

לפי ההגדרה הקלאסית ליצור חי יש בין היתר יכולת רביה.
איך זה תואם את המחשבים/מכונות בטכנולוגיה שלהם היום ושל יום המחר בעתיד הנראה?

מעבר לדוגמאת הוירוס שנכתבה מעליי, בתגובות אחרות פה בשרשור דברו על רובוטים שבונים רובוטים נוספים כמותם. דוגמא נוספת, זה שיפורים טכנולוגיים שמלבישים על גוף ביולוגי

 

[Spanz]

האם וירוס מחשבים מתרבה? האם הוא חי?

אין תמימות דעים בנוגע לוירוס ביולוגי אם הוא חי או לא... אז מחשבים?
לדעתי לא חי.

וירוס מחשבים קיים בתוכנה, כלומר מתרבה בצורה רעיונית. זה כמו שיש שיר ויראלי שתקוע לאנשים בראש.
האם השיר חי?

בתגובות אחרות פה בשרשור דברו על רובוטים שבונים רובוטים נוספים כמותם. דוגמא נוספת, זה שיפורים טכנולוגיים שמלבישים על גוף ביולוגי

לדעתי רובוט שמרכיב רובוט אחר לא דומה להתרבות במובן הביולוגי.
קודם כל כי כרגע רובוט יכול במקסימום להרכיב רובוט אחר. כלומר, לקחת חלקים מוכנים ולחבר אותם ביחד (חלקי שלדה, מנועים, חיישנים, מחשבים, צינורות וכו).
זה כמו רובוטים במפעל הרכבת מכוניות. הם מרכיבים את הרכב, שכבר כל החלקים יוצרו במקומות אחרים.
כלומר אין רובוט אחד שמתרבה אם כי תעשיה שלמה שעוסקת בזה.
שיפור טכנולוגי שמולבש על גוף ביולוגי לא עובר בתורשה, ולא מייצר את העתק של עצמו.

הדבר היותר חשוב הוא שליצור חי יש יכולות עצמיות של הפקת חומרי הזנה מהסביבה.
לרובוט אין.

אנחנו ושאר היצורים החיים מורכבים מרשימה ארוכה של חומרים שאנחנו צורכים מהסביבה והגוף שלנו בעצמו (וגם בעזרת יצורים חיים אחרים) מפיק מהם חומרי בניין לבניית גופנו וצאצאינו. זה לא דומה לרובוט שאין לו יכולת כרגע ולא בקרוב להפיק את החומרים שהוא בנוי מהם...
בהנחה גסה, אם ניקח את כל הרכיבים שדרושים לרובוט (מתכות, רכיבי אלקטרוניקה, פלסטיקה, עדשות, כל הסיפורים האלה וזה עוד בלי להכנס לאנרגיה הדרושה לשם כך) נצטרך מכרות ומפעלים שחולשים על חצי מהתעשייה. רובוט לבד לא יכול לספק את הדברים האלה לעצמו. אין לו יכולת התרבות עצמית.

זה לא סותר שיכול להיות למחשבים אינטלגנציה גבוה.
אבל עדיין הדריסה שלהם בעולם הפיזי מוגבלת ותלויה באנרגיה ותקשורת, דברים שיש לנו שליטה עליהם.
מקסימום, במקרה הכי גרוע, ננתק דברים מהאינטרנט.
זה סוף העולם? לא... סך הכל נחזור לתחילת הניינטיז. לא כזה שינוי דרמטי.
נוכל לשפר דברים באבטחה (כמו למשל לא לחבר מערכות חיוניות לאינטרנט הכללי) וכל האחיזה של ה-AI בעולם הפיזי תיהיה תלויה בעיקר בהשפעתו הפסיכולוגית על אנשים. בשביל זה לא צריך AI, כבר יש מספיק משוגעים בלי קשר למחשבים.

 

[לנצח נתהה]

האם וירוס מחשבים מתרבה? האם הוא חי?

ואש?

 

[Roi]

מקסימום, במקרה הכי גרוע, ננתק דברים מהאינטרנט.

אתה מניח שזה אפשרי... זה יהיה מאוחר מדי אם אינטיליגנציה כזו תתהווה היא תדע איך למנוע מצב כזה.

 

[Leo1]

אפילו הai שזה כבר התקדמות אבולוציונית של מחשב... זה לעולם לא ישתווה ליכולת האנושית לדמיין. לעולם לא
לפוטנציאל האינסופי כמובן, לא בהשוואה אלי או אלייך

האמת היא שזה בדיוק הפוך. גם המוח האנושי הוא סוג של מחשב. הוא עובד באותו היקום על פי אותם חוקי הפיזיקה. אם את טוענת שמחשב לא יכול לעשות משהו, את בעצם טוענת שהמוח האנושי לא יכול לעשות את הדבר הזה, כי הוא מקרה פרטי של מחשב. מה שאמרתי הוא עם כוכבית, כי המוח האנושי הוא לא מחשב אוניברסלי. הוא סוג של מחשב מוגבל, עם יכולות מסויימות של מחשב, אבל בלי יכולות אחרות. לעומת זאת המחשב, שעליו כתבת את הפוסט הזה(גם אם זה רק סמארטפון), הוא מחשב אוניברסלי. בהינתן מספיק כוח חישוב, מספיק זיכרון ותוכנה מתאימה הוא יכול לעשות כל מה שהמוח האנושי יכול לעשות, והרבה דברים שהמוח האנושי בחיים לא יוכל לעשות. מה שחסר בשביל זה זה כאמור עוד כוח חישוב ותוכנה מתאימה. מבחינת קצב עיבוד מידע טורי, מחשב מודרני מהיר פי מיליונים מהמוח האנושי. בעיבוד מידע מקבילי למוח האנושי יש יתרון גם כי יש לו כוח חישוב מקבילי גבוה, ובעיקר כי בניגוד למחשב אוניברסלי מודרני, בו יש הפרדה בין המעבד לזיכרון, שמובילה לצוור בקבוק בקצב העברת נתונים, במוח החישוב והזיכרון מאוחדים. זה עוזר מאוד לכוח חישוב, אבל מגביל מאוד את הגמישות, כי קשה לתכנת ארכיטקטורה כזאת, ואי אפשר באמת לתכנת את המוח האנושי. מחשב דיגיטלי מודרני מקריב כוח חישוב לטובת גמישות. יש לו יכולת לתכנת את עצמו, מה שלמוח אין. אין גם שום מניעה לבנות מספר מעבדים בארכיטקטורות שונות, שינצלו כל אחד אחד את היתרון שלו ויעבדו יחד. גם זה דבר שהמוח לא יכול לעשות.
להערכתי כיום יש כבר יותר ממספיק כוח חישוב דיגיטלי בעולם כדי לבנות אינליגציאת על, שתשאיר את המוח האנושי הרחק מאחור. כוח החישוב גם ממשיך לגדול, מה שהופך את המשימה לקלה יותר.

 

[Spanz]

אתה מניח שזה אפשרי... זה יהיה מאוחר מדי אם אינטיליגנציה כזו תתהווה היא תדע איך למנוע מצב כזה.

זה מזכיר לי את הטיעון הדתי הקלאסי שאלוהים זה נשגב מבינתנו ואנחנו טיפשים ולא מבינים כלום...

אשמח אם תתן לי דוגמא למצב היפוטתי בו זה מאוחר מידי.

 

[elevator astronaut]

קודם כל כי כרגע רובוט יכול במקסימום להרכיב רובוט אחר

איזה רובוט שמרכיב רובוט אחר אתה מכיר? אני לא מכיר.
בטח לא שמייצר ומרכיב.
ועבדתי באוטומציה. מכונות (נגיד שאפשר לקרוא להם רובוטים) מרכיבות במקסימום מוצרים פשוטים מכמה חלקים בודדים, בטח לא מתקרב להרכבת רובוט מחלקיו.
נכון שיש מפעלים יותר מתקדמים ממה שעבדתי, אבל נגיד מכוניות, אני מעריך שיש המון תהליכים ידניים באמצע שלא כלכלי/ אפשר טכנולוגית כרגע להחליף.

חוץ מזה מחזק ומסכים.

 

[Spanz]

איזה רובוט שמרכיב רובוט אחר אתה מכיר? אני לא מכיר.

אני לא... לכן אמרתי "במקסימום".

עבדתי באוטומציה. מכונות (נגיד שאפשר לקרוא להם רובוטים) מרכיבות במקסימום מוצרים פשוטים מכמה חלקים בודדים,

מחזק.
זה מטריף לחשוב על מנוע למשל.. אנשים בדר"כ מתרשמים ממפעל ההרכבה של המנועים, בו יש פסי ייצור ממכונים ואוטומתיים/אוטומתיים למחצה ארוכים כאורך הגלות ומורכבים כאורך ההיסטוריה. אבל רק חלק בודד במנוע, למשל בוכנה, בעצמו מיוצר על ידי מפעל גדול לא פחות ממפעל ההרכבה של המנוע, והחומרי גלם שנכנסים לשם מגיעים ממפעלים אחרים, וכן הלאה וכן הלאה וכן הלאה... ולכל זה צריך אנשים שיתפעלו את האירוע, וצריך אנשים שיתחזקו אנשים (אוכל, רפואה, שירותים אחרים). זה אין סופי. זה כולל בתוכו את רוב הפעילות האנושית.

 

[קפיטליסט_מרושע]

האמת שדיי השתכנעתי בדיון הזה שכל עוד אין רובוטים מספיק מתוחכמים, שיוכלו לבצע משימות מורכבות כמו בני אדם, אז אינטיליגנציה מלאכותית חכמה ומודעת לא תרצה למחוק את המין האנושי. אבל:
1. האינטיליגנציה המלאכותית יכולה להשמיד אותנו מבלי שיהיה לה רצון לשרוד בעצמה. ראו paperclip
2. בעוד לא הרבה זמן כנראה שכבר רובוטים כלליים כאלה יהיו בנמצא. נניח הרובוטים של טסלה

 

[Leo1]

נראה לי שרוב האנשים פה לא מבינים את גודל האירוע.
תחשבו על תוכנה, שיש לה את כל הידע של כל המהנדסים, המדענים והאנשים שמתמחים במניפולציה של בני אדם בעולם, היא חכמה פי מיליארד מכל בן אדם, ויש לה גם גישה לכל דבר פיזי, שמחובר לאינטרנט.

 

[paskar]

מחשב אוניברסלי. בהינתן מספיק כוח חישוב, מספיק זיכרון ותוכנה מתאימה הוא יכול לעשות כל מה שהמוח האנושי יכול לעשות, והרבה דברים שהמוח האנושי בחיים לא יוכל לעשות. מה שחסר בשביל זה זה כאמור עוד כוח חישוב ותוכנה מתאימה.

בפעילות המוח ייתכן שיש אספקטים קוואנטיים, ואם כן, בתחומים מסוימים אולי זה מעבר ליכולות מחשבים קלאסיים.
אבל מי יודע מה יהיה בעתיד לגבי מיחשוב קוואנטי, מלא או משולב עם קלאסי.

 

[Leo1]

בפעילות המוח ייתכן שיש אספקטים קוואנטיים, ואם כן, בתחומים מסוימים אולי זה מעבר ליכולות מחשבים קלאסיים.
אבל מי יודע מה יהיה בעתיד לגבי מיחשוב קוואנטי, מלא או משולב עם קלאסי.

איפה? אני לא מכיר דבר כזה וזה יהיה מאוד מפתיע.

 

[חתול לילה]

איפה? אני לא מכיר דבר כזה וזה יהיה מאוד מפתיע.

שאל את בארד. הנושא בחיתוליו ועדיין שרוי במחלוקת.

 

[Spanz]

נראה לי שרוב האנשים פה לא מבינים את גודל האירוע.
תחשבו על תוכנה, שיש לה את כל הידע של כל המהנדסים, המדענים והאנשים שמתמחים במניפולציה של בני אדם בעולם, היא חכמה פי מיליארד מכל בן אדם, ויש לה גם גישה לכל דבר פיזי, שמחובר לאינטרנט.

אני זורם איתך...

התוכנה הכי מטורפת בעולם:
מניח שעל מנת לבצע מניפולציה על האדם, היא צריכה לתקשר איתו באיזו שהיא דרך...
איך היא מתקשרת עם האדם?
דרך אמצעי קלט/פלט אלקטרונים?

מה מונע מאדם מסוים, להשתגע, ובסבירות אקראית מסוימת לצאת מהמטריקס על ידי:
1- לשבור את החתיכת פלסטיק הזאת שמשגעת אותו
2- להתחיל ללכת.... מגיע לאיזה שממה, אין שם קליטה, אין חשמל, אין אלקטרוניקה... חי שם כמו שחיו פעם
3- סתם תקלה אקראית במערכות, שפתאום מפסיקות את המניפולציה על האדם
4- תופעת טבע/הפרעה שפוגעת במחשבים אבל לא באדם (נניח ברקים, השראה מגנטית חזקה)

כל דבר פיזי שמחובר לאינטרנט זה לא איזה קסם.
האינטרנט דורש תחזוקה מאסיבית.
זה כמו שיש לך ברז. לא תחבר אותו לתשתיות של מערכת המים זה יהיה סתם חתיכת ברזל.
והמערכת מים זה לא איזה דבר של מה בכך...
אינטרנט בלי כל התשתית מאחורה זה סך הכל זבל של מתכות ופלסטיק.