• חשבון מסחר באקסלנס טרייד : סנט למניה במסחר בארה"ב (מינימום $5 לעסקה), פטור מדמי טיפול לשנתיים, קורס במתנה ובונוס 100 ש"ח למצטרפים חדשים. להצטרפות דיגיטלית לחצו כאן .

התחלתי לתת ל ChatGPT לעשות את העבודה שלי

בדיוק ההפך, הניוירונים של המוח הם יותר מהירים, תופסים פחות נפח ודורשים פחות אנרגיה.
פרקטית מחשב מסוגל לזהות כמה וכמה סדרי גודל של תמונות יותר מהר ממה שאתה מסוגל. לא משנה כמה מהירים הנוירונים שלך.
הוא יכול לחשב מאות אלפי מהלכים של שח בזמן שיקח לך אולי לחשוב 3 צעדים קדימה.
והוא יעשה את זה תוך ניצול של פחות אנרגיה ממך כנראה.

מצחיק שדווקא בדבר שבו ברור לכל בר דעת שלמחשבים יש יתרון מובהק על בני אדם כיום - הוא הנושא שבו בחרת לתבוע את העליונות האנושית....
 
  • אהבתי
Reactions: Roi
פרקטית מחשב מסוגל לזהות כמה וכמה סדרי גודל של תמונות יותר מהר ממה שאתה מסוגל. לא משנה כמה מהירים הנוירונים שלך.
הוא יכול לחשב מאות אלפי מהלכים של שח בזמן שיקח לך אולי לחשוב 3 צעדים קדימה.
והוא יעשה את זה תוך ניצול של פחות אנרגיה ממך כנראה.

מצחיק שדווקא בדבר שבו ברור לכל בר דעת שלמחשבים יש יתרון מובהק על בני אדם כיום - הוא הנושא שבו בחרת לתבוע את העליונות האנושית....
זה שלא יודעים להשתמש במוח בצורה יעילה לא אומר שהרכיבים שלו לא טובים יותר.
 
נכון גם לילד אנושי.
נסה להשאיר ילד אנושי באמצע הג'ונגל או סתם נעול בחדר. מה לדעתך יצא ממנו?

יש גם דברים שקשה ללמד בני אדם.

אני כמובן לא טוען ש-AI כבר "הגיע" לכל היכולות האנושיות, אני רק בא להראות שמדובר בפער שהולך ומצטמצם ככל שעובר הזמן, ובשנה האחרונה אנחנו חווים פשוט פריצת דרך - אין מילה אחרת לתאר את זה.


מחשבים הם יעילים יותר, אין ספק.

במשימות מסויימות כן, במשימות אחרות לא.
ובכל מקרה, אף AI שקיים כיום לא מנסה לחקות 1:1 את פעולת המוח הגנרית בכללותה, מתמקדים בפונקציות ספציפיות של המח (שיחה, יצירת אומנות, משחק שח, נהיגה בכביש וכו').
ככל שתהיינה עוד התקדמויות - אני בטוח שנראה התקרבות ביכולת עד לרמה כזו שיהיה קצת מגוחך לדבר על "הבדל" ביכולת העיבוד -
וההבדל היחיד שישאר אולי יהיה רק בעניין התודעה (וגם זה עשוי להיות פער שניתן לגישור).

לגבי תודעה, יש חוקרים שבנו רובוט עם סוג של תודעה:
We humans acquire our body-model as infants, and robots are following suit. A Columbia Engineering team announced today they have created a robot that—for the first time—is able to learn a model of its entire body from scratch, without any human assistance. In a new study published by Science Robotics, the researchers demonstrate how their robot created a kinematic model of itself, and then used its self-model to plan motion, reach goals, and avoid obstacles in a variety of situations. It even automatically recognized and then compensated for damage to its body.

עד כמה שאני מבין זה תחום שמושקע בו מעט כסף יחסית, ולא מן הנמנע שאם יהיה צורך אמיתי התחום יתקדם במהירות.
 
זה מדהים, אבל גם עצוב כי אנחנו מאבדים חלק גדול מהאנושיות שלו על מזבח ה-Ai. עד לא מזמן אדם שרצה ללמוד לצייר/לצלם היה צריך לרכוש ציוד ולהתחיל ללמוד, להתאמן, לקבל השארה מאומנים בהיסטוריה ולהשקיע שנים ואפילו עשרות שנים בשביל לפתח מיומנות. עכשיו כל מה שצריך זה להיכנס ל-MIDJOURNEY ולצאת עם תוצר תוך כמה דקות.

אז בשביל מה בכלל לקום בבוקר? מה נשאר לנו לעשות בחיים האלה אם Ai יעשה כמעט את הכל?
אני יכול למשל לתת דוגמא אישית, אני חוזר לצייר, לוקח קורסים אונליין להסיר את החלודה, למרות שכמו שאמרת מחשב יכול לצייר הרבה יותר טוב ממני, אני חווה הנאה מהתהליך עצמו ומהתוצרים, אני מצייר בשביל לצייר לא בשביל התוצאה.

לדעתי זה לא יעלם מחיי בני אנוש, אולי היצירה תיהיה פחות פונקציונלית, כי את הפונקצינאלי יעשה המחשב...?
 
רשתות נוירונים הן לא סתם "מטריצות" (ולא יודע מה הקשר למס' ממשי).
הן מידול וירטואלי של הפעולה של נוירונים.
לא בטוח בכלל שהמורכבות הביולוגית של נוירונים מקנה להם איזשהו יתרון מהותי, במיוחד בהתחשב בזה שבאמצעות רשתות מלאכותיות אנחנו מצליחים לייצר תוצאות מדהימות כמו CHATGPT ו-MIDJOURNEY

בכל מקרה, אתה מוזמן לתאר מה לדעתך ההבדל המהותי הגדול בין נוירון ביולוגי לנוירון ברשת נוירונים "מלאכותית". החכם את כולנו.
רשת נוירונים היא כן סתם מטריצה וזה שאתה לא מבין את זה מפרק כל בסיס לדיון מקצועי בנושא.

נוירון מלאכותי מורכב מפונקציה לינארית ומספר ממשי (bias), זה כל מה שזה.
תשים מליארדים כאלה ביחד ותקבל פונקציה מורכבת שאתה לא מצליח להבין.

נוירון ביולוגי אנחנו לא מבינים גם בלי לשים כמה כאלה ביחד, קצת היבריס מצדך להניח שאתה מבין את זה יותר טוב.
 
נערך לאחרונה ב:
רשת נוירונים היא כן סתם מטריצה וזה שאתה לא מבין את זה מפרק כל בסיס לדיון מקצועי בנושא.

נוירון מלאכותי מורכב מפונקציה לינארית ומספר ממשי (bias), זה כל מה שזה.
תשים מליארדים כאלה ביחד ותקבל פונקציה מורכבת שאתה לא מצליח להבין.

נוירון ביולוגי אנחנו לא מבינים גם בלי לשים כמה כאלה ביחד, קצת היבריס מצדך להניח שאתה מבין את זה יותר טוב.
כל זה משנה ? יש יסבה לחשוב שמורכבות הנוירון מועילה ו\או קריטית ?
האם יש איזה נטייה בתחום עם הזמן לעבור לנוירונים יותר מורכבים, יותר דומים לביולוגים ? או שלנוירונים יותר פשוטים ?

הדבר המרשים במוח לעומת המחשב ,היא רמת הקישוריות האדירה והחסכונית באנרגיה לעומת המחשבים. וזה משנה. אבל אנחנו מתקדמים בכיוון.
ובכל מקרה , מי אמר שהמוח זאת הדרך הכי חזקה לחשוב ?
 
נוירון ביולוגי אנחנו לא מבינים גם בלי לשים כמה כאלה ביחד
איזה חלק בנוירון בדיוק אתה חושב שאנחנו לא מבינים?
קצת היבריס מצדך להניח שאתה מבין את זה יותר טוב.
מבין מספיק טוב כדי לדעת שאין הבדל מהותי - בהתחשב בפלטים של רשתות נוירונים וביכולת שלהן לחקות פעולות אנושיות בצורה הולכת ומשתפרת.

המח מבצע עיבוד, רשתות נוירונים מבצעות עיבוד.
לקרוא לזה "פונקציה" זו רדוקציה טפשית - כאילו זה שכתבתי "לינקולן מבשל לילדה חמודה" וקיבלתי יצירת אומנות שיש בה בדיוק את זה זה סתם "פונקציה".
אם זו פונקציה, אז גם כל דבר שבני אדם עושים ניתן לרדוקציה תיאורית כ-"פונקציה". החלטת מה ללמוד באוניברסיטה? הפעלת פונקציה. החלטת שמה שמסתתר בשיח זה חזיר לא מזיק ולא נמר? הפעלת פונקציה. וכו'...

אין שום דבר עקרוני שבני אדם מסוגלים לעבד במוחם שלא ניתן ברמה העקרונית לחקות ע"י בינה מלאכותית,
משום שאין שום "קסם" במח האנושי, הוא בסוף מחשב בעצמו (גם אם כזה שהתעצב בטבע ללא מעצב תבוני).

לגבי תודעה, יש חוקרים שבנו רובוט עם סוג של תודעה:

כשאומרים תודעה בהקשר של בינה מלאכותית בד"כ מתכוונים לא רק ל-"מודעות עצמית" אלא גם לחוויה סובייקטיבית.
זה לא קשה לדמיין מכונה ש-"מודעת" לעצמה (אפילו CHATGPT מסוגל להתייחס לעצמו, גם אם זו לא באמת מודעות פר סה), זה דבר אחר לגמרי לייצר מכונה עם חוויה סובייקטיבית כמו של אורגניזם טבעי --- לטעמי זה יהיה הדבר האחרון שנצליח לפתח (אם נצליח, ובהנחה שבכלל נרצה...)

זה שלא יודעים להשתמש במוח בצורה יעילה לא אומר שהרכיבים שלו לא טובים יותר.
איבדת אותי לגמרי, לא הבנתי מה אתה מנסה להגיד בכלל.
אתה טוען שיש יכולת עקרונית למח לנצח מחשב בשח - שאנחנו פשוט "לא יודעים להשתמש בה"? אין לו אחת כזו.
ולא יודע מה זה אומר "רכיבים טובים יותר".
טובים יותר מאיזו בחינה? מה בכלל הויכוח פה ומה אתה מנסה לטעון? שפחמן עדיף על טרנזיסטורים מסיליקון? לפי איזה מבחן פרקטי?
 
נערך לאחרונה ב:
נכון גם לילד אנושי.
נסה להשאיר ילד אנושי באמצע הג'ונגל או סתם נעול בחדר. מה לדעתך יצא ממנו?
ראוי לציין שילד אנושי מסוגל ללמוד באמצעות הרבה הרבה פחות דוגמאות מאשר רשת נוירונים.
זה כמובן הבדל כמותי ולא איכותי.
וההבדל היחיד שישאר אולי יהיה רק בעניין התודעה (וגם זה עשוי להיות פער שניתן לגישור).
כשהייתי באוני' דיברו על "מבחן טיורינג" אבל אני מניח שמודלי השפה העדכניים עוברים את המבחן ואז נשאלת השאלה איך מגדירים תודעה בימינו, מעניין.
 
ראוי לציין שילד אנושי מסוגל ללמוד באמצעות הרבה הרבה פחות דוגמאות מאשר רשת נוירונים.
זה נכון אבל זה קצת מטעה - זה בגלל חיווט "קודם" - כלומר, המוח האנושי מתחיל להתפתח עוד ברחם ויש לו "מבנה" סדור כבר בעת הלידה (כמובן שהוא פלסטי וכו' אבל זה לא סתם "בלוב" כללי שיכול ללמוד הכל כמו רשת נוירונים לפני אימון - אלא - הוא מכיל בתוכו כבר "ידע מבני" שעוזר לו להתמקד בקלטים ספציפיים ולהבנות אותם בצורה מסויימת). כך שנכון יותר לחשוב על המח האנושי כרשת נוירוינים "מעוצבת למחצה" שעוצבה במהלך מאות מליוני שנות אבולוציה, עם המון קלטים שנצברו לאורך זמן ו-"נחקקו" בסלע הגנטי.

זה לא "מקרה" שכל אדם שנולד עם מוח בריא - הוא מתפתח עם אותם איזורים ספציפיים של איזורי ראייה כמו V1, אמיגדלה, גזע מח, PREFRONTAL LOBE , הגשר הבין-אונתי, וכו' וכו' וכ'...

כשהייתי באוני' דיברו על "מבחן טיורינג" אבל אני מניח שמודלי השפה העדכניים עוברים את המבחן ואז נשאלת השאלה איך מגדירים תודעה בימינו, מעניין.
הם לא. לפחות לא לפי ההגדרה ה-STRICT של המבחן.
 
ואז נשאלת השאלה איך מגדירים תודעה בימינו
זה מתחלק ל'בעיה קלה' ו'בעיה קשה' (hard problem of consciousness).
הבעיה הקשה- למה כל התהליך המוחי צריך להיות מלווה בחוויה סובייקטיבית של מציאות. רק רשת מורכבת יכלה תיאורטית לעבוד טוב בלי שתהיה חויה סובייקטית (רובוט).
יש מספר ספקולציות ומחלוקות בנושא.
רוג'ר פנרוז למשל מאמין שזה קשור בכלל בתהליך קוונטי לא חישובי במוח שפחות רלוונטי למחשב.
 
זה נכון אבל זה קצת מטעה - זה בגלל חיווט "קודם" - כלומר, המוח האנושי מתחיל להתפתח עוד ברחם ויש לו "מבנה" סדור כבר בעת הלידה (כמובן שהוא פלסטי וכו' אבל זה לא סתם "בלוב" כללי שיכול ללמוד הכל כמו רשת נוירונים לפני אימון - אלא - הוא מכיל בתוכו כבר "ידע מבני" שעוזר לו להתמקד בקלטים ספציפיים ולהבנות אותם בצורה מסויימת). כך שנכון יותר לחשוב על המח האנושי כרשת נוירוינים "מעוצבת למחצה" שעוצבה במהלך מאות מליוני שנות אבולוציה, עם המון קלטים שנצברו לאורך זמן ו-"נחקקו" בסלע הגנטי.

זה לא "מקרה" שכל אדם שנולד עם מוח בריא - הוא מתפתח עם אותם איזורים ספציפיים של איזורי ראייה כמו V1, אמיגדלה, גזע מח, PREFRONTAL LOBE , הגשר הבין-אונתי, וכו' וכו' וכ'...


הם לא. לפחות לא לפי ההגדרה ה-STRICT של המבחן.
טענות דומות לטענה שלך הועלה במהלך ההיסטוריה מספר פעמים, לדוגמא כשהומצא מנוע הקיטור אז השוו בינו לבין גוף האדם ואמרו שהגוף זה סהכ מכונה שמכניסים אנרגיה ומוציאים אנרגיה. אנשים כל הזמן מנסים להסביר את הגוף באמצעות הטכנולוגיה המתקדמת ביותר לאותה תקופה.

מעבר לכך, להשוות בין מוח לרשת ניורונים מלאכותית זה כמו להשוות בין ציפור למטוס. שניהם טסים, לשניהם יש כנפיים. אבל אתה באמת יכול להשוות בין יכולות הטיסה של ציפורי טרף, נאמר בז או נץ, לבין יכולת טיסה של המטוס הכי מתקדם שתחשוב עליו?

יתרה מזאת, ישנם המון יתרנות לאדם מעבר למכונה (רשת ניורונים או וואטאבר) אחד היתרונות המובהקים היא היכולות הבנה של רמות תודעה (או היכולת לצאת מהמערכת). זא אם אתן לאדם לעשות פעולה סזיפית שחוזרת על עצמה, הרבה פעמים הוא ידע להבין את התמונה הגדולה ולקצר תהליכים. עד כה מכונות לא עושות זאת, הן פשוט ימשיכו את הפעולה הסזיפית. בהקשר של עיבוד תמונות או טקסט, המכונה לא מבינה שפונים אליה המוני אנשים עם אותו קלט ולכן היא תחליט לשמור את זה בצד כדי להפיק את זה מהר יותר, היא לא תבין שאם אני מבקש תמונה של אברהם לינקולן עם ילדה זה דומה לאברהם לינקולן עם ילד והיא יכולה להשתמש באותה תמונה שכבר צוירה ורק להחליף את הילדה. מכונה לא יכולה לשנות את הארכיטקטורה של הרשת ניורונים של עצמה. אם המכונה מוגדרת לפלט של טקסט אז היא תפלוט טקסט לא אודיו/וידאו/תמונות

הפסקה האחרונה שאובה מתוך ספר שנקרא geb מממליץ לקרוא לכל מי שמתעניין בתודעה או בai וכו
 
אם כל צ'אט אחד פתוח מולו זה עולם שהוא לומד ממנו?
אם אני מבין נכון את השאלה. אתה יכול לייצר מופעים של מודלים שהבסיס שלהם הוא מודל של CGPT את המודלים האלה אתה יכול ללמד ולאמן עם מידע שאתה בוחר. לאחר מכן, אתה יכול לבחור לעבוד מול המודלים האלה, יהיו להם היכולות של הצ'אט שאלה רואה ברשת פלוס כל המידע שאתה הזנת את המודל איתו.
 
. כך שנכון יותר לחשוב על המח האנושי כרשת נוירוינים "מעוצבת למחצה"
צודק, האמת שאם אני חושב על זה אז בנוסף לידע המולד מהאבולוציה תינוק רואה המון המון דברים בלי שיגידו לו מהם (דאטה לא מתוייג) אז אני מניח שאפשר לדמיין שהמוח קצת דומה לרשת שעוברת אימון בצורה self supervised או משהו בסגנון ואז מסוגלת לעשות few shot learning.
הם לא. לפחות לא לפי ההגדרה ה-STRICT של המבחן
אוקי, אם לא עכשיו אז בעוד שנים ספורות, בכל מקרה כנראה שצריך לחשוב על מבחן יותר מוצלח.
 
נערך לאחרונה ב:
טענות דומות לטענה שלך הועלה במהלך ההיסטוריה מספר פעמים, לדוגמא כשהומצא מנוע הקיטור אז השוו בינו לבין גוף האדם ואמרו שהגוף זה סהכ מכונה שמכניסים אנרגיה ומוציאים אנרגיה. אנשים כל הזמן מנסים להסביר את הגוף באמצעות הטכנולוגיה המתקדמת ביותר לאותה תקופה.
אכן ישנם מובנים שבהם האדם (וכל אורגניזם אחר) הוא באמת כמו מנוע קיטור או כמו מכונות אחרות.
ככל שהטכנולוגיה שלנו מתקדמת, הגיוני שהיא תוכל לחקות יותר ויותר אלמנטים מהטבע ואז נוכל להשוות גם את הטבע למה שבנינו לעמוד על טיבו של הדמיון ביניהם

מעבר לכך, להשוות בין מוח לרשת ניורונים מלאכותית זה כמו להשוות בין ציפור למטוס. שניהם טסים, לשניהם יש כנפיים. אבל אתה באמת יכול להשוות בין יכולות הטיסה של ציפורי טרף, נאמר בז או נץ, לבין יכולת טיסה של המטוס הכי מתקדם שתחשוב עליו?
נו, כרגיל - טיעונים חלשים נגד אנלוגיה בד"כ מבוססים על הרעיון שהיות ואין "זהות" בין שני דברים, אז כביכול לא נכון "להשוות" ביניהם.

מה לעשות, שכל הפואנטה בהשוואה או אנלוגיה היא מציאת תכונות דומות - תוך התעלמות או הנחה בצד של הבדלים --- אחרת כל שני דברים שאינם זהים היו בלתי-ניתנים להשוואה.

אפשר להשוות את שואת הארמנים לשואת היהודים ולעמוד על הדמיון והשוני ביניהם.
אפשר להשוות על שיטת המשטר בישראל ולהשוות בינה ובין שיטת המשטר בארה"ב ולעמוד על הדמיון והשוני ביניהם.
אפשר לעמוד על הדמיון בין תפוז וכיסא,
הדמיון בין מח ובין מחשב,
בין מטוס ובין ציפור,
ובין חלקיקים שמתנגשים ב-CERN בשוויץ ובין הריאקציה שהם עוברים בשמש.

ולגופו של עניין - אכן יש דמיון רב בין מנגנון התעופה שעליו מבוסס מטוס, ובין זה שעליו מסתמכות ציפורים - והוא זה של יצירת LIFT ע"י הפרשי לחץ אוויר (אם אני זוכר נכון).
איזה הבדל מהותי אתה מזהה בין שתי המכונות הללו - הטבעית והמלאכותית? האם בגלל שאחד גם מנפנף בכנפיו יוצר הבדל מהותי? הרי גם מודל כזה נוסה בעבר (ע"י האחים רייט אם איני טועה) ולבסוף התבסס מודל אחר שלא דורש משק כנפיים.
יתרה מזאת, ישנם המון יתרנות לאדם מעבר למכונה (רשת ניורונים או וואטאבר) אחד היתרונות המובהקים היא היכולות הבנה של רמות תודעה (או היכולת לצאת מהמערכת). זא אם אתן לאדם לעשות פעולה סזיפית שחוזרת על עצמה, הרבה פעמים הוא ידע להבין את התמונה הגדולה ולקצר תהליכים. עד כה מכונות לא עושות זאת, הן פשוט ימשיכו את הפעולה הסזיפית. בהקשר של עיבוד תמונות או טקסט, המכונה לא מבינה שפונים אליה המוני אנשים עם אותו קלט ולכן היא תחליט לשמור את זה בצד כדי להפיק את זה מהר יותר, היא לא תבין שאם אני מבקש תמונה של אברהם לינקולן עם ילדה זה דומה לאברהם לינקולן עם ילד והיא יכולה להשתמש באותה תמונה שכבר צוירה ורק להחליף את הילדה. מכונה לא יכולה לשנות את הארכיטקטורה של הרשת ניורונים של עצמה. אם המכונה מוגדרת לפלט של טקסט אז היא תפלוט טקסט לא אודיו/וידאו/תמונות

כל הפסקה הזו לא ברורה בתכליתה: אין פה מישהו שטוען שהצלחנו לייצר בינה מלאכותית שזהה (או אפילו מתקרבת) למוח אנושי בשלמותו.

מדובר פה על התקרבות (ואני ואחרים טוענים: פריצת דרך) בהתקרבות ביכולות הטכנולוגיה לחקות את היכולות האנושיות.

האם הגענו לאיזשהו "יעד" סופי? לא. האם הגענו לדמיון מלא או זהות? לא.

דובר על השאלה העקרונית האם יש הבדל מהותי במנגנון הבסיסי שעומד בבסיס המח האנושי (לא על מבנהו הסופי והשלם המוכר לנו, אלא אותו מבנה בסיסי שקיים אצל כל יצור בעל מערכת עצבים ומח) - ובין זה של מערכת נוירונים מלאכותית -
הבדלים וודאי שיש, וגם ברור מאליו שטרם הצלחנו לחקות באופן מושלם מה שנקרא "מערכת עצבים שלמה" אפילו של יצור פשוט כמו תולעת (למרות שנעשו נסיונות לא רעים להתקרב לזה - ספציפית במקרה של תולעים בעלות כ-300 נויריונים - שגם צלחו)

אבל השאלה היא האם יש משהו עקרוני שמונע מאיתנו להגיע לרמה הנ"ל.
והתשובה שלי היא שלמיטב ידיעתנו - אין דבר עקרוני כזה.

המח הוא "מכונה".
הגוף הוא "מכונה".
ואנחנו יודעים לבנות מכונות: רובוטים, רכבים נוסעים, לבבות מלאכותיים, אולי בעתיד גם כבד מלאכותי, כליות מלאכותיות, ואולי אפילו מוח מלאכותי.

האתגר הוא רק המורכבות של המכונה אותה אנחנו מנסים לחקות (והאינטרקציה שלה עם סביבתה).
 
אני חושב שזה קצת overratedת כן אני מתשמש בזה כל יום במקום גוגל, זה חוסך לי המון זמן, אבל יש שם כמות טעויות לא זניחה לדוגמא הכנסתי לו שאלה במבנה נתונים (שאלה קלה שזה אמור לפתור) וביקשתי זמן ריצה מסויים, הביא לי זמן אחר. בנוסף חלק מהדברים לא עובדים ואם מבקשים משהו יחסית מורכב הוא משאיר המון חלקים ריקים. לדוגמא שביקשתי ממנו שיממש לי sgd הוא כתב פונקציה עם הלולאות שצריך להיות בלי שום תוכן אמיתי אלה רק את ה״שלד״.
לפי דעתי זה פשוט הפך למנוע חיפוש טוב יותר מגוגל כי פה אין צורך לחפש שעה בין אלפי תוצאות, אם זאת זה גם החיסרון מכוון שלא נחשפים להרבה אינפורמציה שעלולה להוביל אותנו למסקנות אחרות ממה שאנחנו רוצים להגיע (זה סוג של לאנוס את התוצאות להיות מה שאנחנו רוצים - התכונה הכי רעה במחקר ובאופן כללי).
אם זאת הוא יכול להחליף כל עבודה חזרתית מהכי פשוט להכי מתקדם, לדוגמא ביקשתי ממנו שיכתוב לי תנאי שימוש למוצר והוא עשה את זה בצורה מושלמת, אבל מצד שני זה לא מפתיע כי אם הייתי מבקש אותו דבר מעורך דין הוא היה מעתיק משהו כתוב מראש ומשנה דברים מזעריים (כמובן שהיה גובה על זה 5 אלף שקל).
לפי דעתי זה פשוט מודל שפה מאוד מאוד טוב אבל אין פה יותר מזה כרגע.
 
אכן ישנם מובנים שבהם האדם (וכל אורגניזם אחר) הוא באמת כמו מנוע קיטור או כמו מכונות אחרות.
ככל שהטכנולוגיה שלנו מתקדמת, הגיוני שהיא תוכל לחקות יותר ויותר אלמנטים מהטבע ואז נוכל להשוות גם את הטבע למה שבנינו לעמוד על טיבו של הדמיון ביניהם


נו, כרגיל - טיעונים חלשים נגד אנלוגיה בד"כ מבוססים על הרעיון שהיות ואין "זהות" בין שני דברים, אז כביכול לא נכון "להשוות" ביניהם.

מה לעשות, שכל הפואנטה בהשוואה או אנלוגיה היא מציאת תכונות דומות - תוך התעלמות או הנחה בצד של הבדלים --- אחרת כל שני דברים שאינם זהים היו בלתי-ניתנים להשוואה.

אפשר להשוות את שואת הארמנים לשואת היהודים ולעמוד על הדמיון והשוני ביניהם.
אפשר להשוות על שיטת המשטר בישראל ולהשוות בינה ובין שיטת המשטר בארה"ב ולעמוד על הדמיון והשוני ביניהם.
אפשר לעמוד על הדמיון בין תפוז וכיסא,
הדמיון בין מח ובין מחשב,
בין מטוס ובין ציפור,
ובין חלקיקים שמתנגשים ב-CERN בשוויץ ובין הריאקציה שהם עוברים בשמש.

ולגופו של עניין - אכן יש דמיון רב בין מנגנון התעופה שעליו מבוסס מטוס, ובין זה שעליו מסתמכות ציפורים - והוא זה של יצירת LIFT ע"י הפרשי לחץ אוויר (אם אני זוכר נכון).
איזה הבדל מהותי אתה מזהה בין שתי המכונות הללו - הטבעית והמלאכותית? האם בגלל שאחד גם מנפנף בכנפיו יוצר הבדל מהותי? הרי גם מודל כזה נוסה בעבר (ע"י האחים רייט אם איני טועה) ולבסוף התבסס מודל אחר שלא דורש משק כנפיים.


כל הפסקה הזו לא ברורה בתכליתה: אין פה מישהו שטוען שהצלחנו לייצר בינה מלאכותית שזהה (או אפילו מתקרבת) למוח אנושי בשלמותו.

מדובר פה על התקרבות (ואני ואחרים טוענים: פריצת דרך) בהתקרבות ביכולות הטכנולוגיה לחקות את היכולות האנושיות.

האם הגענו לאיזשהו "יעד" סופי? לא. האם הגענו לדמיון מלא או זהות? לא.

דובר על השאלה העקרונית האם יש הבדל מהותי במנגנון הבסיסי שעומד בבסיס המח האנושי (לא על מבנהו הסופי והשלם המוכר לנו, אלא אותו מבנה בסיסי שקיים אצל כל יצור בעל מערכת עצבים ומח) - ובין זה של מערכת נוירונים מלאכותית -
הבדלים וודאי שיש, וגם ברור מאליו שטרם הצלחנו לחקות באופן מושלם מה שנקרא "מערכת עצבים שלמה" אפילו של יצור פשוט כמו תולעת (למרות שנעשו נסיונות לא רעים להתקרב לזה - ספציפית במקרה של תולעים בעלות כ-300 נויריונים - שגם צלחו)

אבל השאלה היא האם יש משהו עקרוני שמונע מאיתנו להגיע לרמה הנ"ל.
והתשובה שלי היא שלמיטב ידיעתנו - אין דבר עקרוני כזה.

המח הוא "מכונה".
הגוף הוא "מכונה".
ואנחנו יודעים לבנות מכונות: רובוטים, רכבים נוסעים, לבבות מלאכותיים, אולי בעתיד גם כבד מלאכותי, כליות מלאכותיות, ואולי אפילו מוח מלאכותי.

האתגר הוא רק המורכבות של המכונה אותה אנחנו מנסים לחקות (והאינטרקציה שלה עם סביבתה).

לא טענתי שאי אפשר להשוות, להפך אני נותן לך אנלוגיה נוספת להשוואה. הכוונה שלי הייתה שכפי שציפור טרף, נאמר נץ, שולטת בתנועה שלה ברמה מדהימה שלעומתה מטוס קרב מתקדם ככל שיהיה נראה כמו ליצן בקרקס. אז ככה גם המרחק בין רשת ניורונים ביולוגית למלאכותית. אם נתעמק באנלוגיה נבין כי כפי שבתחילת הפיתוח של מטוס המהנדסים שאבו השראה מציפורים כך גם רשת ניורונים שאבה השראה מהמוח. אך כעת המרחק בין הדברים גדל אט אט כי הפיתוח המלאכותי מתרחק מהמקור.

אני לא טוען שזה לא התקדמות המדע. אני טוען שהמרחק לחיקוי מוח או מודעות או אדם עדיין עצום.

בכלל המדע עדיין לא מבין איך איך המוח בנוי או פועל אנחנו מגלים רק קוצו של יוד בתחום (אז כבר שם אתה מאבד אותי). אבל אתה ממשיך וטוען שלא רק שאתה מבין איך המוח פועל אלא אתה גם מבין רשתות ניורונים מספיק לעומק (גם ההבנה מה קורה בתוך רשת ניורונים זה תחום מחקר בפני עצמו) ויודע ששניהם פועלים באופן דומה.
גילוי נאות: מתעסק ברמה יומיומית עם רשתות ניורונים מלאכותית וגם בעל ידע אקדמי במדעי המוח
 
שהמרחק לחיקוי מוח או מודעות או אדם עדיין עצום.
איך אתה מודד את המרחק הזה? יש איזשהו סט של משימות שהיית רוצה ש ai מודע יוכל לבצע? משהו מדיד?

עריכה:
אני מתעקש על מדידות כי בלי יכולת לתכנן ניסויים שיפריכו או יוכיחו משהו אז כל אחד יכול לטעון מה שבא לו ואין ממש תכלית לויכוח.
 
נערך לאחרונה ב:
בהקשר של עיבוד תמונות או טקסט, המכונה לא מבינה שפונים אליה המוני אנשים עם אותו קלט ולכן היא תחליט לשמור את זה בצד כדי להפיק את זה מהר יותר, היא לא תבין שאם אני מבקש תמונה של אברהם לינקולן עם ילדה זה דומה לאברהם לינקולן עם ילד והיא יכולה להשתמש באותה תמונה שכבר צוירה ורק להחליף את הילדה. מכונה לא יכולה לשנות את הארכיטקטורה של הרשת ניורונים של עצמה. אם המכונה מוגדרת לפלט של טקסט אז היא תפלוט טקסט לא אודיו/וידאו/תמונות

הפסקה האחרונה שאובה מתוך ספר שנקרא geb מממליץ לקרוא לכל מי שמתעניין בתודעה או בai וכו
הערה טכנית:
לא קראתי את הספר, אבל הפסקה הזו מכילה טעויות בסיסיות.

"המכונה לא מבינה שפונים אליה המוני אנשים עם אותו קלט ולכן היא תחליט לשמור את זה בצד כדי להפיק את זה מהר יותר" -
מתואר כאן זיכרון מטמון (cache). נמצא בשימוש נרחב מאוד כבר עשרות שנים.

"היא לא תבין שאם אני מבקש תמונה של אברהם לינקולן עם ילדה זה דומה לאברהם לינקולן עם ילד והיא יכולה להשתמש באותה תמונה שכבר צוירה ורק להחליף את הילדה" -
הרבה מאוד כלים לעיבוד ולהצגה של וידאו שומרים בכלל רק את ההבדלים בין פריימים סמוכים
(לרוב התמונות אינן משתנות בחדות. למשל כל הרקע נשאר זהה, רק שאדם מזיז את היד. לכן הרבה יותר יעיל לשמור רק את ההבדל בין הפריימים הסמוכים, לא את המידע המלא על כל פריים).
גם בתחומים שאינם קשורים לעיבוד תמונה משתמשים בשיטות דומות ("קופצים" לstate מסוים, ומשם רק משנים קצת, במקום ליצור את המידע המלא מהתחלה).
 
נערך לאחרונה ב:
הערה טכנית:
לא קראתי את הספר, אבל הפסקה הזו מכילה טעויות בסיסיות.

"המכונה לא מבינה שפונים אליה המוני אנשים עם אותו קלט ולכן היא תחליט לשמור את זה בצד כדי להפיק את זה מהר יותר" -
מתואר כאן זיכרון מטמון (cache). נמצא בשימוש נרחב מאוד כבר עשרות שנים.

"היא לא תבין שאם אני מבקש תמונה של אברהם לינקולן עם ילדה זה דומה לאברהם לינקולן עם ילד והיא יכולה להשתמש באותה תמונה שכבר צוירה ורק להחליף את הילדה" -
הרבה מאוד כלים לעיבוד ולהצגה של וידאו שומרים בכלל רק את ההבדלים בין פריימים סמוכים
(לרוב התמונות אינן משתנות בחדות. למשל כל הרקע נשאר זהה, רק שאדם מזיז את היד. לכן הרבה יותר יעיל לשמור רק את ההבדל בין הפריימים הסמוכים, לא את המידע המלא על כל פריים).
גם בתחומים שאינם קשורים לעיבוד תמונה משתמשים בשיטות דומות ("קופצים" לstate מסוים, ומשם רק משנים קצת, במקום ליצור את המידע המלא מהתחלה).
כל מה שאמרת הוא נכון.
כוונתי הייתה שמכונה לא תבין זאת לבד אלא אם כן מתכנן המכונה הגדיר את האלמנטים האלו היא לעולם לא תצא מתוך המערכת.

אני אצטט פה מתוך הספר כי אני מבין שההסברים שלי לא מספיק ברורים. מקווה שזה יהיה ברור יותר

One big difference between machines and humans is that it is possible to program a machine to do a routine task, while noticing no higher order to what it’s doing. Humans will always recognize these patterns when they’re sufficiently obvious. A car will never pick up the idea that it is supposed to avoid other cars.

Jumping Out of the System: A property of intelligence is that it can “jump out” of the system it’s in, such as by noticing that it’s repeating the number “1” every time it presses the calculator. We all perceive systems at different levels, and may try to convince others that they’re operating within systems that they’re blind to but that we observe. (Finite / Infinite Games)

It is necessary to distinguish between operating within the system and making observations or statements about the system. This is the M-Mode (mechanical mode) and the I-Mode (intelligent mode
 
נושאים דומים
פותח הנושא כותרת פורום תגובות תאריך
O בניית תמהיל משכנתא התחלתי נדל"ן 35
M דעתכם לגבי הרכב תיק התחלתי שוק ההון 5
O השוואה בין אלטרנטיבות - קניית דירה אחת או שתי דירות (הון התחלתי זהה) נדל"ן 2
deussex שאלת תם - אופן העברה של סכום התחלתי לחשבון ממוסה שוק ההון 5
E הגיע הזמן לביזנס- תיק התחלתי שוק ההון 17
T התחלתי עבודה חדשה - איך לא לאבד וותק בקרן השתלמות? שוק ההון 8
י פתיחת קרן השתלמות IRA עם סכום התחלתי נמוך שוק ההון 1
Liron2035 כבר התחלתי לכתוב ת'רד על תקרת ביטוח 250K ב-IB שוק ההון 4
ס פתאום התחלתי לחשוש פרישה מוקדמת והחיים שאחריה 152
S פיזור עם סכום התחלתי נמוך. שוק ההון 8
Wonko פתחתי חשבון בבית השקעות! אבל אז התחלתי לקרוא.. שוק ההון 46
O בן 22 התחלתי ללמוד. יומני מסע אישיים 1
ר התחלתי תיק השקעות (בן 21) שוק ההון 27
ט התנהלות מול השתלמות ira(עצמאי) עם סכום התחלתי. שוק ההון 2
כ מחיר התחלתי לשקעה בקופת גמל IRA שוק ההון 2
B בן 23, ללא הון התחלתי, עם הפקדה חודשית מחפש הכוונה שוק ההון 21
omerdn1 מעוניין להתחיל לסחור בשוק ההון (הון התחלתי נמוך) שוק ההון 5
nicepo1 מיצוע התחלתי וDollar Cost Averaging שוק ההון 36
ג'וני לנד קל לתת ציפיות כלכליות קשה לעמוד בהם שוק ההון 4
ה הגיע הזמן לתת לכסף לעבוד ! יומני מסע אישיים 6
I האם הבנקים עושים שורט על אגחי"ם בשוק ההון בשביל לתת משכנתאות? שוק ההון 10
A בתי השקעות שמוכנים לתת הלוואה כיום כנגד קה"ש נזילה פנסיה, גמל וקרנות השתלמות 1
I מה מומלץ למי שמעוניין להחזיק קרן לשעת חירום שתוכל לתת מענה לשלל מצבי קיצון? שוק ההון 12
M קרן עולמית צמודה למדד או קרן עוקבת סנופי צמודה לדולר - מי צפויה לתת תשואה ריאלית גבוהה יותר? שוק ההון 10
ל לתת הלוואה להורים - מה המחיר של זה? שוק ההון 19
ד האם מישהו יכול לתת רקע על מניית יאללה גרופ? פוסטים מאיכות נמוכה 3
Tsachi01 בסדר לתת ציק דחוי בחתונה? פוסטים מאיכות נמוכה 33
P איזה מסמך קבלה לתת לפקדון זמני? פוסטים מאיכות נמוכה 0
ת איך מפסיקים לתת טיפ אחרי שכבר הרגלת את השליח לקבל? אוף טופיק 56
T למה בנקים לא רוצים לתת הלוואות לדיור? נדל"ן 29
I השוואת הצעות תיקי השקעות - למה לתת משקל שוק ההון 13
נ שאלה טכנית - אפשר לתת שתי פקודות לימיט בכיוונים שונים? שוק ההון 2
כ רשות ני"ע מציעה: כל אחד יוכל לתת המלצות השקעה לציבור שוק ההון 8
D האם הגיוני לתת צ'ק בטחון פתוח למשכיר? אוף טופיק 16
A מה האינטרס של הבנק לתת לנו עמלות נמוכות? אוף טופיק 42
wa11a רשות ניירות ערך אוסרת על אינטראקטיב לתת שירותי מטבע שוק ההון 49
Shnizelia מחפש אלטרנטיבה איכותית ל-ChatGPT פוליטיקה, אקטואליה, דת-מדינה ושאר מרעין בישין 10

נושאים דומים

Back
למעלה