על סף סינגולריות

[מלפפון חמוץ]

לגבי חלב ובשר לי באופן אישי זה נראה סביר לא לבשל גדי בחלב אימו.

מוכרח להודות שזה באמת אכזרי לבשל גדי בחלב אימו. אבל אז גם שניצל זה על אותו משקל, לא? הרי זה בשר תרנגולת שמצפים בביצה.

וגם יש הפרדה בין בקר לחלב לבין בקר לבשר לכן הסיכוי לאכול גדי בחלב אימו הוא אפסי.

מעבר לכך, למה לא לאכול עוף עם חמאה?


ואני לא רוצה לשאול מאיפה את יודעת איך נראה בשר אדם…. מקווה שאת רופאה מנתחת או משהו כזה…

 

[אנא-אל]

@מלפפון חמוץ
אני לא דוברת של המצוות, אז לא יכולה לענות לך.. (רק נקודונת, שאפשר להכין שניצל בלי ביצה וזה לא פחות טעים אבל הרבה יותר קל..)

מי שמאמין באלוהים כנראה מאמין בספר תורה, ושכנראה יש שם הגיון.

אני יכולה לחלוק שגם לי לא הסתדר שם משהו עם השפן או הארנב עם המעליי גרה, אני לא זוכרת, אבל שגם לי יש כמה תהיות ותמיהות

בכל מקרה האמונה שלי נובעת מהסתכלות בטבע ובהגיון שבו, שזה לא יכול להיות באקראי.

 

[oferM]

זה לא בהכרח שווה משהו…
אז יהיה קצת בלאגן רגעי, לא משהו שההיסטוריה לא התמודדה איתו קודם.



ועדיין אנחנו רחוקים מאד מהיום בו רובוטים יוכלו לבנות רובוטים בעצמם ללא מגע יד אדם כלל… וגם הרובוטים הכי מתקדמים היום לא חפים כלל מבעיות ודורשים תחזוקה שוטפת.

קראתי פעם שיש לאחד מחברות הרובוטים מפעל שעובד ללא מגע יד אדם.

אני מניח שהם קונים חלקים מאיפה שהוא ויש אנשים במערכת, אבל עדיין...

 

[oferM]

אני חושב שאתה אופטימי.

מה שיש כיום ל- AI זה "הבנה" של המציאות (לפי ניסוי החדר הסיני).

עוד לא ראינו הדגמה של יצירתיות / גמישות מחשבתית / תכנון רב שלבי / דמיון / הסתגלות למשימות חדשות / מודעות

בקיצור, מה שיש רחוק מאוד מאינטיליגנציה ובטח כזו שתאיים על המין האנושי.

לגבי מודעות יש קצת מחקר בנושא:
בקצרה: https://www.engineering.columbia.edu/news/lipson-self-aware-machines

כתבה בnytimes שמרחיבה על הנושא:

‘Consciousness’ in Robots Was Once Taboo. Now It’s the Last Word. (Published 2023)

The pursuit of artificial awareness may be humankind’s next moonshot. But it comes with a host of difficult questions.

www.nytimes.com

 

[בת העמק]

בכל מקרה האמונה שלי נובעת מהסתכלות בטבע ובהגיון שבו, שזה לא יכול להיות באקראי.

את הולכת בדרכי גדולים... זאת חלק מהפילוסופיה של שפינוזה וגם של הבודהיזם ואחרים.
פנתאיזם
אקוסמיזם

 

[Spanz]

קראתי פעם שיש לאחד מחברות הרובוטים מפעל שעובד ללא מגע יד אדם.

אני מניח שהם קונים חלקים מאיפה שהוא ויש אנשים במערכת, אבל עדיין...

עבדתי בעבר במפעל מתקדם של VW...
זה נכון שפס הייצור עצמו היה ללא מגע יד אדם (למעט מלגזנים שטענו חומר גלם מצד אחד ואספו מוצר מוגמר מצד שני).
הכל נעשה ע"י רובוטים ומכונות CNC. הבעיה היא מה קורה שיש תקלה (ותקלות קורות כל הזמן).
עוד לא ראיתי רובוט שיכול לבצע דיאגנוזה לבעיה מכאנית/חשמלית של רובוט אחר, בטח שלא לבצע תיקון.
זה נכון שבעיות תוכנה הן יותר פתירות.. אבל לא כל העולם סובב רק סביב תוכנה ולתוכנה בלבד אין אמצעים כרגע להשפיע על העולם שבחוץ.

כל הסיפור הזה של ה-AI הוא בסה"כ קיים בתוך עולם שבבי של אלקטרוניקה וצריך חשמל.
תנתק אותו וסיימת את הסיפור.

 

[paskar]

הבעיה היא מה קורה שיש תקלה (ותקלות קורות כל הזמן).

יכולות התנועה והאינטראקציה עם העולם הפיזי משתפרות. בסופו של דבר גם כשיש בעיה פיזית תיקון יוכל לעבור אוטומציה הולכת וגוברת.

כל הסיפור הזה של ה-AI הוא בסה"כ קיים בתוך עולם שבבי של אלקטרוניקה וצריך חשמל. תנתק אותו וסיימת את הסיפור.

כל הסיפור הזה של ביולוגיה גם צורך משאבים. תפסיק מים ואוכל וזה נגמר.

 

[oferM]

עבדתי בעבר במפעל מתקדם של VW...
זה נכון שפס הייצור עצמו היה ללא מגע יד אדם (למעט מלגזנים שטענו חומר גלם מצד אחד ואספו מוצר מוגמר מצד שני).
הכל נעשה ע"י רובוטים ומכונות CNC. הבעיה היא מה קורה שיש תקלה (ותקלות קורות כל הזמן).
עוד לא ראיתי רובוט שיכול לבצע דיאגנוזה לבעיה מכאנית/חשמלית של רובוט אחר, בטח שלא לבצע תיקון.
זה נכון שבעיות תוכנה הן יותר פתירות.. אבל לא כל העולם סובב רק סביב תוכנה ולתוכנה בלבד אין אמצעים כרגע להשפיע על העולם שבחוץ.

כל הסיפור הזה של ה-AI הוא בסה"כ קיים בתוך עולם שבבי של אלקטרוניקה וצריך חשמל.
תנתק אותו וסיימת את הסיפור.

מסכים איתך, עדיין יש אנשים במערכת.

מעניין מה בערך היחס, על כל 1000 שעבדו במפעל לפני הרובוטים כמה צריך לאחר הרובוטים. וכמה אנשים צריך בחברה המייצרת את הרובוטים.

 

[unsullied]

שידורים מכדור הארץ מלפני 100 שנה הגיעו מקסימום למרחק 100 שנות אור

מוסיף לאלמנט מרחק הקליטה את מימד הזמן. בני אדם חיים כבר מיליוני שנה על הפלנטה, ולמרות זאת משדרים רק 100.
תחת ההנחה ההיפותטית שציבילזציות הורסות את עצמן -
כמה זמן עד ל-implosion משחר טכנולוגיה שמשדרת? עשרת אלפים שנה? אז כדי שציביליזציה תבונית אחת תגלה סימנים לאחרת צריך להיות חפיפה בין תקופות הזמן הטכנולוגיות שלהן (פלוס offset לפי המרחק).

 

[Spanz]

מעניין מה בערך היחס, על כל 1000 שעבדו במפעל לפני הרובוטים כמה צריך לאחר הרובוטים. וכמה אנשים צריך בחברה המייצרת את הרובוטים.

כמובן שיש שיפור דרמטי. על זה אין עוררין.
לא זוכר את המספרים המדוייקים ב-VW אבל הגרף של כמות מכוניות שמיוצרות לעומת מספר עובדים מראה מגמה ברורה של "יעילות".
לגבי כמה אנשים צריך בחברה המייצרת רובוטים, זה מאד קשה למדוד.
קודם כל מה זה רובוט?
אחד כזה עם זרועות או גם כל מכונה אוטומתית שמבצעת עבודה (CNC)?
מה עם סתם מסוע וליפט שמזיז דברים ממקום למקום?
בקיצור כל דבר אוטומתי שמבצע עבודה יכול להחשב לרובוט...
דבר שני אין נתונים פתוחים לקהל לגבי כמה אנשים בחברה עובדים רק בייצור הרובוט, וגם יש המון רכיבים שמסופקים מבחוץ.
ב- 3 החברות הגדולות בתחום של רובוטים (האלו עם הזרועות) לתעשיה (Fanuc, ABB, Kuka) עובדים לפי ויקיפדיה כ-130 אלף עובדים.
וזה שוב מבלי להתייחס לאביזרי עזר משלימים (בדר"כ ציוד הקצה, הכלי עבודה שהרובוט עובד איתו הוא של חברה צד ג') ותחזוקה שוטפת (שמנים, ציוד מתבלה וכו').

יכולות התנועה והאינטראקציה עם העולם הפיזי משתפרות. בסופו של דבר גם כשיש בעיה פיזית תיקון יוכל לעבור אוטומציה הולכת וגוברת.

הצעצועים האלה של גוגל לא ממש מעניינים או מחדשים...
כבר היום במפעלים מתקדמים יש המון רובוטים עם יכולות תנועה ו-vision מתקדמות והם מבצעים עבודות בפועל לא רק בסרטוני הדגמה...
שוב, כל עוד הרובוט עובד אין בעיה... הבעיות מתחילות שיש תקלות.
אתן דוגמא קונקרטית:
ברובוט שהראתה יש למשל יכולת תנועה לזרוע.
זה אומר שהמנועים צריכים לשלוח מידע לסרבו ולקבל ממנו פקודה בחזרה.
הסטנדרט של מערכות החישה והבקרה מבוסס על 24V.
נניח ויש תקלה טבעית בשנאי ועכשיו הוא נותן 29V.
החיישנים רגישים לשינויים האלה, ועכשיו כל הנתונים שמתקבלים שגויים ומייצרים בעיה.
אפילו המערכת שעושה את הדיאגנוזה פועלת על אותו מתח, שעכשיו סורר, לכן במציאות אתה תקבל פשוט הודעת שגיאה והרובוט יעצור במקרה הטוב או "תאונה" מכאנית במקרה הרע.
אתה תמיד תוכל להגיד שאין בעיה, נייצר רובוט שידע להחליף שנאי לרובוט אחר.
אבל אז תיהיה לך תקלה לא צפויה אחרת. אין לזה סוף. וגם יש כמות מוגבלת של מערכות גיבוי שאפשר להתקין שהמערכת גם תיהיה משתלמת וגם קומפקטית.
בסוף הדורות אולי באמת יהיה רובוט שמתנהג ויכול לשרוד כמו בן אדם.
היום אנחנו מאד מאד רחוקים מזה... וכל טריק של בוסטון דיינמיק שרובוט מרים קרש ועושה סלטה לאחור לא פותר את הבעיות הרציניות של התחום.

 

[איניגו מונטויה]

בכל מקרה האמונה שלי נובעת מהסתכלות בטבע ובהגיון שבו, שזה לא יכול להיות באקראי.

את הולכת בדרכי גדולים... זאת חלק מהפילוסופיה של שפינוזה וגם של הבודהיזם ואחרים.
פנתאיזם
אקוסמיזם

בת העמק -
להבנתי, אנא-אל לא ניסתה לומר שהטבע עצמו הוא האלוהים (כמו בקישורים שהבאת),
אלא שלדעתה הטבע לא יכול להיות אקראי, כך שזה מחייב את קיומו של אלוהים.
זה נקרא הטיעון הטלאולוגי, וגם לו יש הפרכות (אפשר לראות בקישור).

אגב, גם אם טיעון כזה מוכיח את קיומו של כוח עליון שסידר את היקום,
הוא אינו מוכיח כלל שמצוות הכשרות שאנא-אל הזכירה הן ממקור אלוהי...

 

[בת העמק]

להבנתי, אנא-אל לא ניסתה לומר שהטבע עצמו הוא האלוהים (כמו בקישורים שהבאת),

אולי, אבל אם זה יגרום לה להתעמק בשפינוזה - דייני

 

[אנא-אל]

בת העמק -
להבנתי, אנא-אל לא ניסתה לומר שהטבע עצמו הוא האלוהים (כמו בקישורים שהבאת),
אלא שלדעתה הטבע לא יכול להיות אקראי, כך שזה מחייב את קיומו של אלוהים.
זה נקרא הטיעון הטלאולוגי, וגם לו יש הפרכות (אפשר לראות בקישור).

אגב, גם אם טיעון כזה מוכיח את קיומו של כוח עליון שסידר את היקום,
הוא אינו מוכיח כלל שמצוות הכשרות שאנא-אל הזכירה הן ממקור אלוהי...

רפרפתי בטיעון הטלאוגלי זה לא שכנע אותי הביקורת שם, אבל אם מעוניין שאתייחס למשהו ספציפי אז תכתוב כי לא התעמקתי

דווקא אני כן מתחברת לקישורים של @בת העמק, שאלוהים מצוי בכל, ושהמציאות היא אשלייה (גם, לא התעמקתי

ולא הבנתי את ההודעה האחרונה שלך כלומר אם זאת עקיצה, אז מה העקיצה?

בכל מקרה, יש לי תאורייה או פילוסופיה משלי, כך שאני יכולה להתחבר לדברים בפילו׳ של שפינוזה, אבל גם מאמינה שעומדת מאחוריי הטבע ישות, או מה שכתוב שם אל פרסונלי (שאני אפילו מדברת איתו חיימשלי


בגדול במחשבה שוב על נושא השרשור שהוא מחשבים, אז אם פותח השרשור מייחס למחשבים רגשות או שזאת ישות חייה אז כן, זה מדע בדיוני אבל כל אחד רשאי להאמין

 

[Leo1]

מוסיף לאלמנט מרחק הקליטה את מימד הזמן. בני אדם חיים כבר מיליוני שנה על הפלנטה, ולמרות זאת משדרים רק 100.
תחת ההנחה ההיפותטית שציבילזציות הורסות את עצמן -
כמה זמן עד ל-implosion משחר טכנולוגיה שמשדרת? עשרת אלפים שנה? אז כדי שציביליזציה תבונית אחת תגלה סימנים לאחרת צריך להיות חפיפה בין תקופות הזמן הטכנולוגיות שלהן (פלוס offset לפי המרחק).

אתה מניח ציביליזציה ביולוגית(במובן שהיא התפתחה מעצמה), אבל אנחנו מדברים על בינה מלאכותית בעלת תבונת-על, שהיא התוצאה הסבירה של ציביליזציה טכנולוגית. אין סיבה הגיונית שבינה מלאכותית כזאת תשמיד את עצמה. אני מנסה לראות מה אפשר להסיק ממה שאנחנו רואים(או לא רואים) על עתידה של בינה מלאכותית כזאת, שאנחנו נראים קרובים לפתח.

 

[oferM]

כמובן שיש שיפור דרמטי. על זה אין עוררין.
לא זוכר את המספרים המדוייקים ב-VW אבל הגרף של כמות מכוניות שמיוצרות לעומת מספר עובדים מראה מגמה ברורה של "יעילות".
לגבי כמה אנשים צריך בחברה המייצרת רובוטים, זה מאד קשה למדוד.
קודם כל מה זה רובוט?
אחד כזה עם זרועות או גם כל מכונה אוטומתית שמבצעת עבודה (CNC)?
מה עם סתם מסוע וליפט שמזיז דברים ממקום למקום?
בקיצור כל דבר אוטומתי שמבצע עבודה יכול להחשב לרובוט...
דבר שני אין נתונים פתוחים לקהל לגבי כמה אנשים בחברה עובדים רק בייצור הרובוט, וגם יש המון רכיבים שמסופקים מבחוץ.
ב- 3 החברות הגדולות בתחום של רובוטים (האלו עם הזרועות) לתעשיה (Fanuc, ABB, Kuka) עובדים לפי ויקיפדיה כ-130 אלף עובדים.
וזה שוב מבלי להתייחס לאביזרי עזר משלימים (בדר"כ ציוד הקצה, הכלי עבודה שהרובוט עובד איתו הוא של חברה צד ג') ותחזוקה שוטפת (שמנים, ציוד מתבלה וכו').


הצעצועים האלה של גוגל לא ממש מעניינים או מחדשים...
כבר היום במפעלים מתקדמים יש המון רובוטים עם יכולות תנועה ו-vision מתקדמות והם מבצעים עבודות בפועל לא רק בסרטוני הדגמה...
שוב, כל עוד הרובוט עובד אין בעיה... הבעיות מתחילות שיש תקלות.
אתן דוגמא קונקרטית:
ברובוט שהראתה יש למשל יכולת תנועה לזרוע.
זה אומר שהמנועים צריכים לשלוח מידע לסרבו ולקבל ממנו פקודה בחזרה.
הסטנדרט של מערכות החישה והבקרה מבוסס על 24V.
נניח ויש תקלה טבעית בשנאי ועכשיו הוא נותן 29V.
החיישנים רגישים לשינויים האלה, ועכשיו כל הנתונים שמתקבלים שגויים ומייצרים בעיה.
אפילו המערכת שעושה את הדיאגנוזה פועלת על אותו מתח, שעכשיו סורר, לכן במציאות אתה תקבל פשוט הודעת שגיאה והרובוט יעצור במקרה הטוב או "תאונה" מכאנית במקרה הרע.
אתה תמיד תוכל להגיד שאין בעיה, נייצר רובוט שידע להחליף שנאי לרובוט אחר.
אבל אז תיהיה לך תקלה לא צפויה אחרת. אין לזה סוף. וגם יש כמות מוגבלת של מערכות גיבוי שאפשר להתקין שהמערכת גם תיהיה משתלמת וגם קומפקטית.
בסוף הדורות אולי באמת יהיה רובוט שמתנהג ויכול לשרוד כמו בן אדם.
היום אנחנו מאד מאד רחוקים מזה... וכל טריק של בוסטון דיינמיק שרובוט מרים קרש ועושה סלטה לאחור לא פותר את הבעיות הרציניות של התחום.

לABB כ 400,000 רובוטים מותקנים וכן 100,000 עובדים.

אז רובוט יוצר נניח רבע משרה בחברת הרובוטיקה, נניח עוד רבע משרה במסביב(עזרים , שמן וכו' ) , נניח חצי משרה.

נניח שרובוט בממוצע נותן תפוקה של X אנשים. עובד שלוש משמרות, אז מחליף 3x אנשים. בוא נניח שרובוט נותן בממוצע תפוקה של אדם, לכל הפחות.

אז כל 6 אנשים שהוחלפו ע"י רובוט יוצרים במקסימום משרה חדשה מחוץ למפעל.

 

[בת העמק]

אבל אנחנו מדברים על בינה מלאכותית בעלת תבונת-על

כשהייתי נערה בתיכון, הסתובב מורה מחליף ותיק בבי"ס שאני כיניתי אותו "הגאון הדביל".
הוא יכל להחליף כל מורה נעדר בהיסטוריה, אזרחות, תנ"כ, ספרות, גיאוגרפיה וכו' - מהסיבה הפשוטה שהוא היה זוכר כל ספר שקרא אי פעם, על בוריו.
כשהיה נכנס לשיעור, היה מבקש לפתוח מחברת ופשוט מכתיב לנו את החומר הנדרש.
שום תובנות, שום ידע רחב שנובע ממידע רב. וגם בהתנהלות האישית שלו - טמבל גמור, אבל חביב.
לא יודעת למה נזכרתי בו פתאום...

 

[מלפפון חמוץ]

כשהייתי נערה בתיכון, הסתובב מורה מחליף ותיק בבי"ס שאני כיניתי אותו "הגאון הדביל".
הוא יכל להחליף כל מורה נעדר בהיסטוריה, אזרחות, תנ"כ, ספרות, גיאוגרפיה וכו' - מהסיבה הפשוטה שהוא היה זוכר כל ספר שקרא אי פעם, על בוריו.
כשהיה נכנס לשיעור, היה מבקש לפתוח מחברת ופשוט מכתיב לנו את החומר הנדרש.
שום תובנות, שום ידע רחב שנובע ממידע רב. וגם בהתנהלות האישית שלו - טמבל גמור, אבל חביב.
לא יודעת למה נזכרתי בו פתאום...

אני אסביר לך בדיוק למה נזכרת בו, כי זה בדיוק המקרה עם בינה מלאכותית. אם עכשיו אני שואל את chatgpt מה זה פיזיקה קוונטית (או כל מושג אחר) והוא מצטט לי את ויקיפדיה, האם זה אומר שהוא באמת יודע פיזיקה קוונטית? מה זה אומר לדעת? מה ההבדל בין שינון להבנה?

 

[מלפפון חמוץ]

אז אם פותח השרשור מייחס למחשבים רגשות או שזאת ישות חייה אז כן, זה מדע בדיוני אבל כל אחד רשאי להאמין

תא בגוף האדם (תא עור, תא עצב, תא שריר וכו׳) הוא יצור חי. קחי כמה תאים ביחד את תיצרי איבר (לב, ריאה, יד וכו׳), איברי הגוף אינם יצורים חיים. קחי כמה איברים יחד ואת תיצרי אדם.

למה כשמשלבים כמה יצורים חיים אז מקבלים משהו לא חי, ואילו כשמשלבים כמה איברים לא חיים אז מקבלים יצור חי?

שואל את כל השאלות למעלה כדי להבין למה את לא אומרת שמחשב יכול לחיות

 

[אנא-אל]

תא בגוף האדם (תא עור, תא עצב, תא שריר וכו׳) הוא יצור חי. קחי כמה תאים ביחד את תיצרי איבר (לב, ריאה, יד וכו׳), איברי הגוף אינם יצורים חיים. קחי כמה איברים יחד ואת תיצרי אדם.

למה כשמשלבים כמה יצורים חיים אז מקבלים משהו לא חי, ואילו כשמשלבים כמה איברים לא חיים אז מקבלים יצור חי?

שואל את כל השאלות למעלה כדי להבין למה את לא אומרת שמחשב יכול לחיות

למה תא חי ואיבר שמורכב מתאים חיים לא חי? לא הבנתי

ומה אתה מגדיר חי?
כאילו אם אתה באמת ובתמים מאמין שלמחשב יש רגשות ותחושות, אז בסדר זכותך

 

[Roi]

כאילו אם אתה באמת ובתמים מאמין שלמחשב יש רגשות ותחושות, אז בסדר זכותך

אולי כיום לא, אבל בהינתן מספיק כוח חישוב וקשרים, יכול להיות שהוא יפתח מודעות, האם אז את לא מגדירה אותו כחי, כמודע לעצמו ולקיום שלו?
השאלה איך אז את תגדירי אותו? כמו שאת מגדירה בן אנוש?

הוא התכוון שישנה משמעות למסה קריטית מסוימת שממנה מתפתחים מודעות. לתא חי אחד אין מודעות, אבל לצביר גדול מסויים יש.