התחלתי לתת ל ChatGPT לעשות את העבודה שלי

[בת העמק]

הדגמתי איך אותו קלט ממש הביא אותו ליצור ציור דומה אך בסגנון שונה.

ביקשת גם באותו סגנון ויצא שוב אותו ציור? משהו אחר?

 

[klayhamn]

ביקשת גם באותו סגנון ויצא שוב אותו ציור? משהו אחר?

אף פעם לא יצא שוב אותו ציור (אלא אם משתמשים באותו SEED, שהוא הפרמטר שאחראי לרעש הראשוני ומכתיב דטרמיניסטית גם את התהליך הלאה. אני חושב שאפילו עם אותו SEED זה לא יהיה *בדיוק* אותו דבר, אבל מאוד דומה)

בגדול אם מבקשים ממנו פעמיים עם אותו קלט, מקבלים תוצאות אחרות לגמרי (כי ה-SEED מוגרל באקראי) - אפילו שהן כמובן עדיין תהיינה "דומות" במובן זה שהן תואמות לקלט.

בכל מקרה לא ביקשתי שום סגנון, נתתי לו לבחור לבדו את הסגנון.

את יכולה להתרשם כאן מעוד תוצאות שקיבלתי עבור קלט קצת אחר (הוספתי בסוף הקלט שם של אמן שרציתי שהתוכנה תנסה להתקרב אליו - MARK RYDEN)

פה יש סרטון שמסביר איך זה עובד - למי שמעניין אותו:

How AI Image Generators Work (Stable Diffusion / Dall-E) - Computerphile

AI image generators are massive, but how are they creating such interesting images? Dr Mike Pound explains what's going on. Thumbnail image partly created by...

www.youtube.com

 

[lavi]

זה באמת נקודה מעניינת.

אבל
1. האם זה ש CHATGPT משתמשת בתגובות המשתמשים לשיפור עצמי איננו סוג של יציאה מהתכנות שלה ? היא הרי מסתכלת על דפוסי התגובות שלה ביחס לתגובות המשתמשים ומתקנת את עצמה

2. האפשרות של יציאה מהתכנות שלה דורשת סוג של מודעות. כיום אין ככ מחקר על מערכות עם מודעות. אבל מהמחקר שיש(וציטטתי מקודם ) יש כבר רובוט מודע שבונה סימולציה של הגוף שלו , לומד ללכת , והוא מודע לעצמו כך שאם מתקלקל לו חלק בגוך הוא מתאים את עצמו וחוזר ללכת. זה לדעתי סוג של פעולה מחוץ למערכת.


כמובן יש פה עניין של הגדרות , ואפשר להגיד שזה חלק מתכנות המערכת של הרובוט וכו. אבל גם אפשר להגיד על האדם שהמודעות שלו שמאפשרת חשיבה מחוץ למערכת היא גם חלק מהתכנות שלו.

1. זה לגמרי ליבת התכנוצ שלו לכן בתוך המערכת
2. ממליץ לך בחום לקרוא את geb הופשטטר מסביר מאוד יפה את כל הדברים והרבה. רבה מעבר

 

[ת.אוקהם]

אתה מוזמן להציע דרך מדידה. הכי קל זה להטיל את האחריות לצד שני.

אתה טענת שאנחנו "מאוד רחוקים" ממשהו שאתה לא יודע להגדיר בכלל מהו ואתה לא יודע להגדיר בשום צורה מה המרחק שלנו ממנו.
אני ביקשתי ממך להיות קונסיסטנטי במה שאתה כותב ועכשיו זה התפקיד שלי למצוא דרך מדידה? סבבה.

, עקרונית בדיון כל אחד זכאי לטעון מה שבא לו והצד השני זכאי להגיב לו ולנסות להפריך את הטיעון ולאחר מכן להעלות טיעון משלו.

חלק מהקטע של להפריך טענות זה שהן יהיו טענות שניתן להפריך אותן
בכל מקרה, תהנו.

 

[איניגו מונטויה]

אתה טענת שאנחנו "מאוד רחוקים" ממשהו שאתה לא יודע להגדיר בכלל מהו ואתה לא יודע להגדיר בשום צורה מה המרחק שלנו ממנו.
אני ביקשתי ממך להיות קונסיסטנטי במה שאתה כותב ועכשיו זה התפקיד שלי למצוא דרך מדידה? סבבה.

אינני מדבר בשם @lavi , אבל אשמח לייצג לרגע את הצד הזה בדיון.

אם רוצים להשוות בין יכולות של AI לבין יכולות של בינה אנושית,
אני מציע דרך מדידה שהיא הרחבה למבחן טיורינג (ההבדל החשוב צבוע בכחול) -

חוקר מקיים דיאלוג בשפה טבעית עם שני גורמים סמויים מעיניו, האחד אדם והשני מכונה, ונותן להם מטלה.
החוקר מקבל את התוצאות משני הגורמים בזמן מסוים שייקבע מראש (כדי למנוע את האפשרות להבחין בין אדם ומכונה לפי זמן התגובה).
אם החוקר אינו מסוגל לקבוע בביטחון מי האדם ומי המכונה, אזי המכונה עברה בהצלחה את המבחן באותו תחום ובאותה רמה שבה הושלמה המטלה.

ההבדל המרכזי בין זה לבין מבחן טיורינג המקורי הוא שמבחן טיורינג בודק אך ורק את היכולת לקיים דיאלוג בשפה טבעית, שהיא רק יכולת אחת מתוך מגוון היכולות האנושיות.

ספוילר: ההבדלים הצבועים באדום מתארים פרצות במבחן המקורי

מבחן טיורינג המקורי אינו מזכיר את:
1. זמן התגובה (מחשב מגיב מהר יותר, לכן אפשר לזהות אותו לפי זמן התגובה, גם אם הוא עומד בתנאים האובייקטיביים).
2. הרמה שבה מתבצע המבחן -
יש למשל הבדל בין מחשב שמסוגל לנהל דיאלוג ברמה של ילד בן שנתיים, לבין מחשב שינהל דיאלוג ברמה של אדם בוגר.
בכל אופן, אלו פרצות במבחן המקורי שאינן קשורות אך ורק לשרשור.

בכל אופן, אם נחיל את מבחן טיורינג המורחב על מספר תחומים שהוזכרו בשרשור:

1. בתחום הציור לפי דרישה:
נראה שהAI עובר כבר היום בהצלחה את המבחן.
האדם הפשוט (אני לצורך העניין) אינו מסוגל להבחין בין ציור שהכלי יצר לפי דרישה לבין ציור שאדם אחר יצר לפי דרישה.

2. בתכנות:

ניקח את הדוגמא של פות"ש -
כשנותנים לאדם אחר מטלת תכנות כלשהי, הוא מסוגל לחשוב לבד על הדרך, לבצע את מה שחשב עליו, לוודא שהקוד עומד בדרישות, ולבוא עם תוכנה סופית מוכנה.
הוא יכול לבוא למי שמזמין את העבודה כדי לשאול שאלות נוספות (להבין טוב יותר את הדרישות, לברר האם יסכים לקבל מפרט חלופי שאותו זול יותר לממש וכדומה), אבל לא שהמזמין יצטרך להפעיל אותו בעצמו.

לפי מה שתואר בשרשור ובכתבות, ChatGPT לא מתקרב אפילו ליכולת הזו.
מה שפות"ש ואחרים מתארים הוא בסך הכול כלי נוסף שהאדם יכול להפעיל, לא "בינה" שיכולה להשלים בעצמה מטלה מורכבת בתכנות באותה רמה שאדם בתחום מסוגל לה.

כלומר בתחום התכנות וברמה של עובד "רגיל" בתעשייה - מבחן טיורינג המורחב אינו מתקיים כרגע לגבי ChatGPT.
בתחום התכנות ברמה של בית ספר - אולי כן.

 

[ת.אוקהם]

אינני מדבר בשם @lavi , אבל אשמח לייצג לרגע את הצד הזה בדיון.

אם רוצים להשוות בין יכולות של AI לבין יכולות של בינה אנושית,
אני מציע דרך מדידה שהיא הרחבה למבחן טיורינג (ההבדל החשוב צבוע בכחול) -


ההבדל המרכזי בין זה לבין מבחן טיורינג המקורי הוא שמבחן טיורינג בודק אך ורק את היכולת לקיים דיאלוג בשפה טבעית, שהיא רק יכולת אחת מתוך מגוון היכולות האנושיות.

ספוילר: ההבדלים הצבועים באדום מתארים פרצות במבחן המקורי

מבחן טיורינג המקורי אינו מזכיר את:
1. זמן התגובה (מחשב מגיב מהר יותר, לכן אפשר לזהות אותו לפי זמן התגובה, גם אם הוא עומד בתנאים האובייקטיביים).
2. הרמה שבה מתבצע המבחן -
יש למשל הבדל בין מחשב שמסוגל לנהל דיאלוג ברמה של ילד בן שנתיים, לבין מחשב שינהל דיאלוג ברמה של אדם בוגר.
בכל אופן, אלו פרצות במבחן המקורי שאינן קשורות אך ורק לשרשור.

בכל אופן, אם נחיל את מבחן טיורינג המורחב על מספר תחומים שהוזכרו בשרשור:

1. בתחום הציור לפי דרישה:
נראה שהAI עובר כבר היום בהצלחה את המבחן.
האדם הפשוט (אני לצורך העניין) אינו מסוגל להבחין בין ציור שהכלי יצר לפי דרישה לבין ציור שאדם אחר יצר לפי דרישה.

2. בתכנות:

ניקח את הדוגמא של פות"ש -
כשנותנים לאדם אחר מטלת תכנות כלשהי, הוא מסוגל לחשוב לבד על הדרך, לבצע את מה שחשב עליו, לוודא שהקוד עומד בדרישות, ולבוא עם תוכנה סופית מוכנה.
הוא יכול לבוא למי שמזמין את העבודה כדי לשאול שאלות נוספות (להבין טוב יותר את הדרישות, לברר האם יסכים לקבל מפרט חלופי שאותו זול יותר לממש וכדומה), אבל לא שהמזמין יצטרך להפעיל אותו בעצמו.

לפי מה שתואר בשרשור ובכתבות, ChatGPT לא מתקרב אפילו ליכולת הזו.
מה שפות"ש ואחרים מתארים הוא בסך הכול כלי נוסף שהאדם יכול להפעיל, לא "בינה" שיכולה להשלים בעצמה מטלה מורכבת בתכנות באותה רמה שאדם בתחום מסוגל לה.

כלומר בתחום התכנות וברמה של עובד "רגיל" בתעשייה - מבחן טיורינג המורחב אינו מתקיים כרגע לגבי ChatGPT.
בתחום התכנות ברמה של בית ספר - אולי כן.

ראשית, תודה על הצפת אתגר קונקרטי

שנית, אתה צודק, מודל השפה העדכני אכן לא מתקרב ליכולת שתיארת.

עם זאת, יש לי כמה הערות:
1. לעניות דעתי נגיע גם למה שאתה מתאר, אני לא יודע אם זה ייקח עשר שנים או 30 שנים אבל נגיע לשם (אלא אם אני מפספס משהו ויש פה לדעתך איזה הבדל איכותני שימנע מרשת נוירונים לבצע את המשימה הזו?).
בהקשר הזה מעניין לציין את ההתקדמות המטאורית שמודלי השפה עשו בעשור וקצת האחרונים: לפני עידן הרשתות ובייחוד לפני עידן הטרנספורמרים (בסה"כ 2017) הרבה מאוד ממה שאתה רואה היום היה נחשב מדע בדיוני לחלוטין ולכן ממש קשה לחזות מה יהיה בעוד עשור לדוגמא.
2. ראוי לציין שכדי להיות עובד רגיל בתעשיית התכנות אדם צריך איי קיו של בערך 110 שזה יותר מ ~70% מהאוכלוסיה כך שהמבחן שלך בעצם דורש מהבינה המלאכותית לעמוד בסטנדרטים ש 70% מבני האדם לא יעמדו בהם.

 

[lavi]

@איניגו מונטויה @ת.אוקהם

הטענה שלי היא שבמדידת המרחק או הטלת מטלה אנחנו מרדדים את היכולת האנושית ומאבדים המון אינפורמציה רלוונטית. אני לא חושב שיש לנו מדד יחיד או מטלה שעונה על הקריטריונים של מודעות או הבנה.

אני אשאל אתכם שאלה שהתדיינתי עליה בעבר. אם יש מודל שפה שיודע בעל פה ומצטט במדויק ערך ספציפי בויקפדיה (נניח חורים שחורים). האם הייתם אומרים שהמודל מבין מהם חורים שחורים?

נשאלת השאלה מה זה הבנה, ולשם בדיוק אני חותר. אני חושב שהבנה ומודעות זה נושאים מורכבים יותר מאיזה מטלה אקראית או מדד כלשהו.

 

[lavi]

חלק מהקטע של להפריך טענות זה שהן יהיו טענות שניתן להפריך אותן
בכל מקרה, תהנו.

לא כל דיון מחויב לעמוד תחת התנאים של קרל פופר ופילוסופיה של המדע. להבדיל מדיון מדעי.

בלי קשר אתה לגמרי יכול להפריך את הטענה שלי, אני טענתי שהמרחק גדול אתה יכול לבחור מדד, למדוד את המרחק ולהוכיח לי שהוא קטן.

מעבר לכך, אתה גם טוען שנגיע לשם בעוד 10 או 30 שנים לפחות (שזהו לדעתי מרחק גדול)

 

[איניגו מונטויה]

@ת.אוקהם

אתחיל דווקא בנקודה השנייה שהעלית, כי היא נוגעת להווה ולא לעתיד.

2. ראוי לציין שכדי להיות עובד רגיל בתעשיית התכנות אדם צריך איי קיו של בערך 110 שזה יותר מ ~70% מהאוכלוסיה כך שהמבחן שלך בעצם דורש מהבינה המלאכותית לעמוד בסטנדרטים ש 70% מבני האדם לא יעמדו בהם.

צודק לגמרי.
הביאו כאן (ובכתבות) את הדוגמא של תחום התכנות, לכן התייחסתי בין היתר לדוגמא הזו.

אגב, אני רוצה להדגיש שהעובדה שכרגע התוכנה אינה שקולה לאינטליגנציה של עובד אנושי בתחום הספציפי הזה (שכמו שכתבת - מסובך למדי),
לא אומרת שהיא לא יכולה להחליף חלק מהעובדים (בגלל ייעול של תהליכי עבודה).

אפשר לקחת בתור דוגמא תוכנות עזר אחרות, למשל קומפיילרים, שפות לתיאור חומרה (HDL), כלים לסינתזה ועוד.
כל הכלים האלו מקצרים תהליכים וחוסכים חלק משמעותי של העבודה, כך שבטווח הקצר הם יכולים להחליף חלק מהעובדים.
בטווח הארוך יותר, הכלים דווקא גורמים לכך שהעבודה תהיה קלה ויעילה יותר, ומן הסתם גם הביקוש לשירותים עולה עם השיפור בתועלת.

כך שתחום התכנות דווקא התרחב מאז המצאת הכלים הנ"ל, לא הצטמצם.

 

[איניגו מונטויה]

ועכשיו לנקודה הראשונה שהעלית, שמדברת על ההערכות לעתיד -

1. לעניות דעתי נגיע גם למה שאתה מתאר, אני לא יודע אם זה ייקח עשר שנים או 30 שנים אבל נגיע לשם (אלא אם אני מפספס משהו ויש פה לדעתך איזה הבדל איכותני שימנע מרשת נוירונים לבצע את המשימה הזו?).
בהקשר הזה מעניין לציין את ההתקדמות המטאורית שמודלי השפה עשו בעשור וקצת האחרונים: לפני עידן הרשתות ובייחוד לפני עידן הטרנספורמרים (בסה"כ 2017) הרבה מאוד ממה שאתה רואה היום היה נחשב מדע בדיוני לחלוטין ולכן ממש קשה לחזות מה יהיה בעוד עשור לדוגמא.

כמו שאמרת, קשה מאוד לחזות את העתיד

ההערכה האישית שלי היא שלפחות בעתיד הנראה לעין -
נפגוש יותר ויותר תחומים שבהם הAI יוכל להגיע לנקודה שבה לא ניתן להבחין בינו לבין אדם,
אבל שיהיו מספיק תחומים אחרים שבהם לאינטליגנציה האנושית תהיה יתרון בולט.

את העתיד הרחוק זו תהיה איוולת מצידי להעריך -
כל כך הרבה דברים יכולים לקרות בינתיים, שבכלל לא בטוח שתהיה איזושהי רלוונטיות להערכות שניתנות בנקודת הזמן הנוכחית.

 

[איניגו מונטויה]

הטענה שלי היא שבמדידת המרחק או הטלת מטלה אנחנו מרדדים את היכולת האנושית ומאבדים המון אינפורמציה רלוונטית. אני לא חושב שיש לנו מדד יחיד או מטלה שעונה על הקריטריונים של מודעות או הבנה.

אני אשאל אתכם שאלה שהתדיינתי עליה בעבר. אם יש מודל שפה שיודע בעל פה ומצטט במדויק ערך ספציפי בויקפדיה (נניח חורים שחורים). האם הייתם אומרים שהמודל מבין מהם חורים שחורים?

נשאלת השאלה מה זה הבנה, ולשם בדיוק אני חותר. אני חושב שהבנה ומודעות זה נושאים מורכבים יותר מאיזה מטלה אקראית או מדד כלשהו.

היופי של מבחן טיורינג (בעיניי) הוא העובדה שהוא עוקף את כל הדיון הפילוסופי, ומתמקד בשאלה המעשית.
הדיון הפילוסופי אינו פשוט (כמו שהודגם כאן בשרשור - אין אפילו הסכמה מה זה אינטליגנציה של אדם, האם לאדם יש "רצון" משלו ועוד סוגיות ברומו של עולם), וגם לא בטוח שיש לו השלכות מעשיות מיידיות.

במקום זה, מבחן טיורינג מתמקד בשאלה מתי המחשב שקול באופן מעשי לאינטליגנציה של אדם (כך שאדם אחר לא יוכל להבחין ביניהם).
ההרחבה שניסיתי לעשות למעלה היא לחלק את הקריטריון המעשי לכזה שהוא תלוי תחום ותלוי רמה.

בכל אופן, אם בא לך לעסוק בשאלות פילוסופיות - זה ממש אחלה.
כמו שהודגם כאן (ובדיונים פילוסופיים לאורך ההיסטוריה), בכל רמה שדיון כזה מתנהל, יש צורך להניח הנחות שאין עליהן הסכמה ושבחלק גדול מהמקרים - לא ניתן להוכיח או למדוד. כך שתתכונן לדיון ממושך

 

[Zorg]

דרך אגב מעניין אם זה נכון, למי שמתעניין בדיבידנדים, שאלה בקשר לחברות דיבידנדים שגדל כל שנה בלפחות 3% ב 10 שנים אחרונות

There are many companies that have a history of consistently raising their dividends each year. However, it's important to note that past performance is not indicative of future results, and there is no guarantee that a company will continue to raise its dividends in the future.
Here are a few examples of companies that have raised their dividends by at least 3% per year over the past decade:​

1. Johnson & Johnson: This healthcare company has increased its dividends for 57 consecutive years, with an average annual increase of 6.5% over the past decade.​
2. Procter & Gamble: This consumer goods company has increased its dividends for 63 consecutive years, with an average annual increase of 5.6% over the past decade.​
3. McDonald's: This fast food chain has increased its dividends for 40 consecutive years, with an average annual increase of 3.2% over the past decade.​
4. PepsiCo: This food and beverage company has increased its dividends for 45 consecutive years, with an average annual increase of 4.1% over the past decade.​

Again, it's important to carefully consider your investment goals and risk tolerance before investing in any individual stock or ETF. It's also a good idea to diversify your portfolio by investing in a variety of assets.​

או 5% ,

Here are a few examples of companies that have raised their dividends by at least 5% per year over the past decade:
​

1. Apple: This technology company has increased its dividends for 9 consecutive years, with an average annual increase of 11.5% over the past decade.​
2. IBM: This technology and consulting company has increased its dividends for 22 consecutive years, with an average annual increase of 8.7% over the past decade.​
3. Exxon Mobil: This oil and gas company has increased its dividends for 37 consecutive years, with an average annual increase of 7.9% over the past decade.​
4. Walmart: This retail giant has increased its dividends for 45 consecutive years, with an average annual increase of 5.1% over the past decade.​

Again, it's important to keep in mind that past performance is not indicative of future results, and there is no guarantee that a company will continue to raise its dividends in the future. It's also a good idea to diversify your portfolio by investing in a variety of assets.​

 

[השמח בחלקו]

ראשית, תודה על הצפת אתגר קונקרטי

שנית, אתה צודק, מודל השפה העדכני אכן לא מתקרב ליכולת שתיארת.
1. לעניות דעתי נגיע גם למה שאתה מתאר, אני לא יודע אם זה ייקח עשר שנים או 30 שנים אבל נגיע לשם
(אלא אם אני מפספס משהו ויש פה לדעתך איזה הבדל איכותני שימנע מרשת נוירונים לבצע את המשימה הזו?).

ראשית, תודה ל- @איניגו מונטויה על סיכום מצויין של הטענות.

יש היום ויכוח רציני (ולפעמים סוער) האם pattern recognition הוא מספיק (בין אם הוא ממומש על ידי רשת של נוירונים פשוטים מאוד או לא).
ברור שזה מרכיב חיוני שמשיג תוצאות מדהימות. אבל אפשר להראות שהוא לא מסוגל לתפוס יחסים סיבתיים (causality).
יש עבודות חשובות של חוקרים כמו Judea Pearl שמבהירים את ההבדל. אני ממליץ על הספר The Book of Why

דרך אגב, בנוגע למבחן טיורינג על תמונות. מספיק מאמץ קל כדי לגרום לו להכשל. הנה שתי דוגמאות למטלות.
(1) הנה תמונה של המפתחות שלי, ותמונה של הארנק שלי. צייר לי תמונה של שניהם מונחים על שולחן המטבח.
זה יהיה די קל לצייר אנושי לעשות את זה, אבל מודלי דיפוזיה נוכחיים לא יודעים ללמד שני קונספטים חדשים ולצייר את שניהם.
(הם כן יודעים לטפל בקונספט אחד. ראה textual inversion)
(2) צייר לי תמונה של עשרה כדורי ביליארד, כך שיהיה מובן שהכדור האדום הולך לפגוע בירוק.

 

[אליהו]

כמו שהודגם כאן (ובדיונים פילוסופיים לאורך ההיסטוריה), בכל רמה שדיון כזה מתנהל, יש צורך להניח הנחות שאין עליהן הסכמה ושבחלק גדול מהמקרים - לא ניתן להוכיח או למדוד.

אני מסכים איתך אבל בכל זאת אני מהמר, שיצליחו להגיע לרמה אנושית והרבה מעבר לזה, וזה שאני חושב כך זה בעיקר כי אני חושב שההבנה האנושית היא בסך הכול דימוי דבר לדבר, (כך ר' סעדיה גאון כותב) ואני לא רואה סיבה שבינה מלאכותית לא תצליח לעשות את זה, וזה שיש גדולים היום בין אדם לבינה המלאכותית זה נכון מאוד, אבל ההבדלים הגדולים לא בדווקא אומרים הבדלים מהותיים (בדיוק כמו שיש אנשים טיפשים וחכמים, למרות שההבדלים המהותיים ביניהם הם אפסיים) ובאמת אי אפשר להוכיח שום צד, ונוכל לדעת רק על ידי ניסוי בשטח, עם זה יעבוד.
(ובנושא של הבחירה עם האמונה דבר ראשון יש משגיח חשוב שמאוד השפיע בציבור הליטאי והוא סובר שברוב המוחלט של הדברים אין לנו בחירה, ורק יש נקודות שבהם יש בחירה ואם אנחנו מתמודדים בהם, אז אנחנו לא מדרדרים לנקודות בחירה נמוכות יותר, וממילא זה אומר שברוב ההחלטות שלנו מכונות יכולים גם, ובנוסף חשוב לדעת את רבינו בחיי שמביא בצורה לגיטימית את שני הצדדים.)

 

[klayhamn]

אני באמת לא מצליח להבין מה הרלוונטיות עכשיו של מבחן טיורינג בעת הנוכחית בהקשר שאנחנו מדברים עליו, בהתחשב בזה שאף אחד לא טוען שהצלחנו עדיין לחקות יכולת אנושית רלוונטית בצורה מלאכותית כך שהיא תוכל לעבור איזשהו מבחן טיורינג. מדובר בפעם החמישית - על השאלה העקרונית מה מונע מאיתנו כביכול) להגיע ליכולת כזו בעתיד

זה יהיה די קל לצייר אנושי לעשות את זה, אבל מודלי דיפוזיה נוכחיים לא יודעים ללמד שני קונספטים חדשים ולצייר את שניהם.

זה לא נכון MIDJOURNEY יודע להתמודד עם קלטי תמונה מרובים. התנסיתי בזה עצמי ושילבתי תמונה של אדם עם תמונה של חללית, ותמונה של אישה עם תמונה של מערבולת.
כמובן שהשילוב לא יהיה מושלם וקשה "לשלוט" על הפלט, אבל הוא בהחלט יודע לשלב בין אלמנטים שונים.

יש היום ויכוח רציני (ולפעמים סוער) האם pattern recognition הוא מספיק (בין אם הוא ממומש על ידי רשת של נוירונים פשוטים מאוד או לא).
ברור שזה מרכיב חיוני שמשיג תוצאות מדהימות. אבל אפשר להראות שהוא לא מסוגל לתפוס יחסים סיבתיים (causality).
יש עבודות חשובות של חוקרים כמו Judea Pearl שמבהירים את ההבדל. אני ממליץ על הספר The Book of Why

מה לדעתך החלק החסר שדרוש כדי "לתפוס יחסים סיבתיים"? ואיך הוא ממומש במח אם לא בעזרת רשת נוירונים (טבעית)?

אזכיר שגם אנשים הם לא תמיד משהו בתפיסת יחסים סיבתיים, למעשה - הם די גרועים בזה, ולכן הם מייחסים אסונות לאלים ושדים וכו'.
מייחסים מזג אוויר גרוע להיעדר תפילה, או מייחסים ריפוי ממחלה לברכה שנתן רב.
ואפילו גם סתם מייחסים נצחון במשחק למאמן או שחקן מוכשר (ונוטים להמעיט נניח בחלקו של מזל או של שיפוט מוטה) וכו' וכו' וכ'...
בניגוד לבעלי חיים עם קוגניציה גבוהה שסתם מסוגלים לטעות בפרשנות סיבתית - בני אדם מוסיפים ל-"מיקס" גם מושגים מומצאים שמצליחים לגרום להם "לעבוד על עצמם" עוד יותר ממה שאורגניזם אחר מסוגל.

 

[איניגו מונטויה]

ובאמת אי אפשר להוכיח שום צד, ונוכל לדעת רק על ידי ניסוי בשטח, עם זה יעבוד.

+1

יש משגיח חשוב שמאוד השפיע בציבור הליטאי והוא סובר שברוב המוחלט של הדברים אין לנו בחירה, ורק יש נקודות שבהם יש בחירה ואם אנחנו מתמודדים בהם, אז אנחנו לא מדרדרים לנקודות בחירה נמוכות יותר

זה מעניין מאוד, אשמח לקבל הפנייה למאמר (אם יש לזה קישור באינטרנט ).

דעתי האישית היא שבטווח הקצר אכן אין לנו הרבה יכולות בחירה (אדם לא יכול לבחור להיות שונה ב180 מעלות ולצפות שזה יעבוד בבת אחת),
אבל בטווח הארוך אפשר ליצור שינוי גדול באמצעות סדרה של שינויים קטנים:

בהנחה שלאדם יש יכולת בחירה לשינוי קטן ככל שיהיה (למשל בחירה בין 2 אפשרויות שהוגדרו לו מבחוץ),
הוא יכול לבחור בכיוון פעולה/מחשבה מסוים, שבתורו גם ייתן לו אפשרות לשינוי נוסף, ובסופו של דבר ייווצר הבדל משמעותי שאותו האדם בעצמו יצר - באמצעות בחירותיו.

 

[אליהו]

+1


זה מעניין מאוד, אשמח לקבל הפנייה למאמר (אם יש לזה קישור באינטרנט ).

דעתי האישית היא שבטווח הקצר אכן אין לנו הרבה יכולות בחירה (אדם לא יכול לבחור להיות שונה ב180 מעלות ולצפות שזה יעבוד בבת אחת),
אבל בטווח הארוך אפשר ליצור שינוי גדול באמצעות סדרה של שינויים קטנים:

זה נושא מאוד מעניין, (בישיבה זה היה נושא פופולארי) עכשיו עוד מעט שבת ואין לי זמן לחפש, אני השתדל לחפש אחרי שבת.

וזה שטענת שבחירה קטנה גורמת לשרשרת של אפשרויות חדשות שגורמות להבדל גדול, ביסודו אני מסכים איתך, אבל לדעתי ברגע שטוענים שחלק יש בחירה וחלק אין, קשה מאוד לייחס לאנושות כוח בחירה שזה מה שישאיר אותו מעל כולם, כי בסוף עצם הבחירה עצמה, היא לא מחויבת, כי הרי יש לנו הרבה נושאים שאנחנו פועלים בתחכום רב, ואנחנו לא בוחרים בהם... וקשה מאוד לייחס לבחירה את הסיבה של העליונות על הבינה המלאכותית.

(אני מקווה בכל מקרה שאתה צודק, כי ממש לא בא לי שינוי סדרי עולם... לדעתי צריך באיזה שהוא שלב לעצור דברים כאלו, אם זה אפשרי, כי בסוף לדעתי נפסיד מזה, פחות ממה שנרוויח)

 

[איניגו מונטויה]

עכשיו עוד מעט שבת ואין לי זמן לחפש, אני השתדל לחפש אחרי שבת.

תודה. שבת שלום!

מדובר בפעם החמישית - על השאלה העקרונית מה מונע מאיתנו כביכול) להגיע ליכולת כזו בעתיד

יש כאן מספר דיונים מקבילים.
אחד מהם אכן מדבר על זה, אבל אחרים דיברו על דברים אחרים (חלקם על יכולות הכלי, חלקם על ההשפעות שיהיו לו, חלקם על הגדרות פילוסופיות ועוד).

לשאלה שאותה אתה מעלה -
אני לא רואה איך אפשר לתת לזה תשובה כרגע.
או שמנסים ומצליחים, או שמנסים ונכשלים (למשל: בגלל המורכבות הגדולה) - אבל השאלה נשארת פתוחה.

ספוילר: וביתר הרחבה

הכיוון החיובי ניתן כרגע להוכחה רק אם הוא מתרחש בפועל.
מכיוון שמנגנון הלימוד וההבנה במוח האנושי עדיין לא נחקר עד תומו, איך אפשר להתיימר *להוכיח* שמכונה יכולה להיות שקולה אליו?
(אפשר *לשער* או *להעריך*, אבל לא רואה איך אפשר *להוכיח* שמכונה תוכל להיות שקולה לX אם אתה לא מבין את X עד הסוף.)

הכיוון השלילי אינו אפשרי להוכחה באופן עקרוני.
גם אם נמצא הוכחה מתמטית שבאמצעות הכלים הקיימים אי אפשר להגיע לרמה כזו של סיבוכיות למשל -
מי אמר שבעתיד לא יהיו תגליות/פיתוחים חדשים שיאפשרו פיתוח מחשב שיעבור את מבחן טיורינג?

בקיצור - נחיה ונראה (או שלא)

 

[oferM]

אני באמת לא מצליח להבין מה הרלוונטיות עכשיו של מבחן טיורינג בעת הנוכחית בהקשר שאנחנו מדברים עליו, בהתחשב בזה שאף אחד לא טוען שהצלחנו עדיין לחקות יכולת אנושית רלוונטית בצורה מלאכותית כך שהיא תוכל לעבור איזשהו מבחן טיורינג. מדובר בפעם החמישית - על השאלה העקרונית מה מונע מאיתנו כביכול) להגיע ליכולת כזו בעתיד


זה לא נכון MIDJOURNEY יודע להתמודד עם קלטי תמונה מרובים. התנסיתי בזה עצמי ושילבתי תמונה של אדם עם תמונה של חללית, ותמונה של אישה עם תמונה של מערבולת.
כמובן שהשילוב לא יהיה מושלם וקשה "לשלוט" על הפלט, אבל הוא בהחלט יודע לשלב בין אלמנטים שונים.


מה לדעתך החלק החסר שדרוש כדי "לתפוס יחסים סיבתיים"? ואיך הוא ממומש במח אם לא בעזרת רשת נוירונים (טבעית)?

אזכיר שגם אנשים הם לא תמיד משהו בתפיסת יחסים סיבתיים, למעשה - הם די גרועים בזה, ולכן הם מייחסים אסונות לאלים ושדים וכו'.
מייחסים מזג אוויר גרוע להיעדר תפילה, או מייחסים ריפוי ממחלה לברכה שנתן רב.
ואפילו גם סתם מייחסים נצחון במשחק למאמן או שחקן מוכשר (ונוטים להמעיט נניח בחלקו של מזל או של שיפוט מוטה) וכו' וכו' וכ'...
בניגוד לבעלי חיים עם קוגניציה גבוהה שסתם מסוגלים לטעות בפרשנות סיבתית - בני אדם מוסיפים ל-"מיקס" גם מושגים מומצאים שמצליחים לגרום להם "לעבוד על עצמם" עוד יותר ממה שאורגניזם אחר מסוגל.

דברים שיכולים למנוע מאיתנו להגיע ליכולות אנושיות:

1. מגבלות חומרה, סופו של חוק מור וכו.

2. יתכן שרשת שעושה REASONING או אינטגרציה בין מודולים במוח או לא יודע מה, היא רשת נוירונים הבנוייה בצורה שונה לגמרי ותדרוש פריצת דרך מדעית , כמו שהטרנספורמרים היו בזמנו.

אבל לראות זאת כאפשרות היחידה תהיה קריאה פסימית של המפה לאור ההצלחות המדהימות בשנים האחרונות.

 

[איניגו מונטויה]

בניגוד לבעלי חיים עם קוגניציה גבוהה שסתם מסוגלים לטעות בפרשנות סיבתית - בני אדם מוסיפים ל-"מיקס" גם מושגים מומצאים שמצליחים לגרום להם "לעבוד על עצמם" עוד יותר ממה שאורגניזם אחר מסוגל.

מעניין מאוד.
מצד אחד בני אדם רואים סיבתיות ש(למיטב ידיעתי) בעלי חיים לא מצליחים לראות,
ומצד שני אנחנו משלמים על זה בfalse positive לא זניח, שכמו שכתבת - קיים במידה חזקה יותר אצל בני אדם
(דיברת על אמונות ותפיסות עולם, ואפשר להזכיר גם עיוותי חשיבה והטיות קוגניטיביות שיש לכולנו במידה כזו או אחרת).

זה גורם לי לשער שייתכן שכל אינטליגנציה צריכה לכלול שיעורים מסוימים של טעויות עודפות.
מחיר העובדה שאפשר ללמוד, הוא האפשרות (או למעשה הוודאות) שנטעה מתישהו בדרך.

לכן הטעויות של תוכנות הAI (שהוזכרו מוקדם יותר בשרשור) לא מהוות בהכרח אינדיקציה לכך שהתוכנות "לומדות" באופן שגוי.