התחלתי לתת ל ChatGPT לעשות את העבודה שלי

[lavi]

איך אתה מודד את המרחק הזה? יש איזשהו סט של משימות שהיית רוצה ש ai מודע יוכל לבצע? משהו מדיד?

עריכה:
אני מתעקש על מדידות כי בלי יכולת לתכנן ניסויים שיפריכו או יוכיחו משהו אז כל אחד יכול לטעון מה שבא לו ואין ממש תכלית לויכוח.

באותה דרך שאתה מודד מרחק בין מודעות או מוח של אדם א לאדם ב. לא ידועה לי על דרך שבאמת מזקקת את האדם לכדי מדידה אחת וזאת מכיוון שהאדם הוא יצור מורכב.

לעומת זאת, מכונה שמייצרת טקסט או תמונה ניתן למדוד (או אפילו ליצור) מפונקציה פשוטה או מורכבת ככל שתהיה.

 

[shlomi171]

בעברית בכל אופן, יש עוד הרבה מקום לשיפור

תן לי רשימה של ראשי ממשלת ישראל מהראשון עד לאחרון
ראשי הממשלות של ישראל מהראשון עד לאחרון הם:
1. דוד בן גוריון 2. שמעון פרס 3. יצחק רבין 4. יצחק שמיר 5. משה שרת 6. אהוד ברק 7. בנימין נתניהו 8. ראובן ריבלין 9. נתניהו מלך 10. יהודה שפירא 11. אריאל שרון 12. יעקב שופ

 

[DudeOFortune]

מישהו הבין איך מתגברים על הגבלת האורך של המלל שהתוכנה מאפשרת?
ניסיתי לבקש לחלק את התשובות לכמה הודעות שונות אבל התוכנה מסרבת לבצע את זה.
יש מגבלה של כ7000 מילים ממה שהצלחתי להבין. איך מגדילים את זה באמצעות טריק?

 

[ת.אוקהם]

באותה דרך שאתה מודד מרחק בין מודעות או מוח של אדם א לאדם ב. לא ידועה לי על דרך שבאמת מזקקת את האדם לכדי מדידה אחת וזאת מכיוון שהאדם הוא יצור מורכב.

טוב, בקיצור אכן כל אחד יכול לטעון מה שבא לו ונשמע לו הגיוני.
המשך דיון פורה.

 

[איניגו מונטויה]

כוונתי הייתה שמכונה לא תבין זאת לבד אלא אם כן מתכנן המכונה הגדיר את האלמנטים האלו היא לעולם לא תצא מתוך המערכת.

צודק, ו(בניגוד לחלק מהחברים כאן) אני אישית גם נוטה להסכים עם הטענה שהאדם איננו מכונה דטרמיניסטית שרק עברה "אימון" בדומה לרשת נוירונים מלאכותית, אלא יש לנו יכולת חשיבה אמיתית מחוץ לקופסה.

אבל...
אם נותנים למכונה וירטואלית סדרת הוראות מורכבת מספיק, ישנו שלב שבו כבר קשה להבחין בין תודעה חופשית לבין מילוי הוראות מוגדרות מראש.

 

[איניגו מונטויה]

אם נותנים למכונה וירטואלית סדרת הוראות מורכבת מספיק, ישנו שלב שבו כבר קשה להבחין בין תודעה חופשית לבין מילוי הוראות מוגדרות מראש.

אגב, ישנה טענה דומה לגבי ההבדל בין מדע וקסם -
"לא ניתן להבדיל בין טכנולוגיה מתקדמת דיה לבין קסם".

יש ספר מדע בדיוני נחמד בשם הקוסמת מן הכוכבים שמביע רעיון דומה.
מסופר משתי נקודות מבט:
אישה מתרבות מתקדמת שפועלת למען שמירה על תרבות מקומית נחשלת (כולל שימוש באמצעים טכנולוגיים מתקדמים),
ונערים מאותה התרבות שמאמינים שהיא קוסמת שבאה לעזור להם להילחם בדרקון בעזרת מילוי של 3 משימות ומציאת 3 חפצים קסומים.

ממש רואים איך כל צד מבין בצורה הגיונית לגמרי את הסיטואציה מנקודת המבט שלו.

 

[klayhamn]

אלא יש לנו יכולת חשיבה אמיתית מחוץ לקופסה.

אם לא במסגרת קופסא כלשהי, היכן בדיוק לדעתך מתרחשת אותה "חשיבה אמיתית"?
ומה הופך אותה ל-"אמיתית" כביכול לעומת חשיבה ש-"אינה" אמיתית?
שימפנזים גם נהנים מהיכולת הנ"ל?
מה לגבי דביבונים?
עכברים?
דג?

להבחין בין תודעה חופשית

באיזה מובן אתה חושב שהתודעה שלך "חופשית" בדיוק? חופשית ממה?
אתה הרי לא בוחר למשל מה לרצות: הרצונות שלך כפויים עליך.
אם אתה רוצה לשתות לא "בחרת" לרצות את זה.
אם אתה רוצה שלא לשמוע שיר מסויים לא "בחרת" לרצות את זה (אתה אולי "בוחר" במודע לפעול לפי הרצון או לא, אבל גם בחירה כזו אולטימטיבית נעשית כהכרעה שבה רצון אחד שלך גובר על רצון אחר - ואת שניהם לא אתה "המצאת").
הרצונות שלך הם חלק מזהות שלא "אתה" יצירת בשום מובן אולטימטיבי.

ישות לא יכולה ליצור את עצמה, זו סתירה לוגית. מח לא יכול ליצור את עצמו (הוא אולי יכול ליצור מח אחר).
אדם לא יכול "לבחור" מה "לרצות" משום שהרצונות שלו הם אולטימטיבית ביטוי של מי שהוא ומה שהוא - שאלה - כפי שהראתי בדוגמא הקודמת, לא תוצאה של הישות עצמה ופעולתה.
המח נוצר ע"י תהליכים שחיצוניים לו, מתעצב ע"פ תהליכים שחיצוניים לו, וכו'.
נכון שמאותו רגע הוא מתנהל "עצמאית" אבל הוא עדיין כפוף לאותה מערכת שהיא הוא, מערכת שלא הוא הגה או יצר.

החלופות הם אקראיות או דטרמיניזם או שילוב ביניהן.
וכפי שצווח פעם ישעיהו לייבוביץ' : ואין שלישית.

 

[איניגו מונטויה]

אם לא במסגרת קופסא כלשהי, היכן בדיוק לדעתך מתרחשת אותה "חשיבה אמיתית"?
ומה הופך אותה ל-"אמיתית" כביכול לעומת חשיבה ש-"אינה" אמיתית?
שימפנזים גם נהנים מהיכולת הנ"ל?
מה לגבי דביבונים?
עכברים?
דג?

כתבתי שזה חלק מהאמונה האישית שלי (לא מבוסס מחקרית), אז לא יודע עד כמה זה יתרום לדיון...
ובכל זאת -

דעתי האישית, ועוד לא ראיתי הוכחה נגדית (ולא ברור איפה אפשר למצוא הוכחה כזו)
היא שלאדם יש משהו שנקרא "רצון" שאינו בהכרח מבוסס קלט אלא תלוי בחירה חופשית (כמובן במסגרת האפשר - ברור שגם לנו יש "קופסה" כמו שכתבת, אבל בתוכה יש בחירה).

אני נוטה להאמין שגם לבעלי חיים יש רצון, אבל עם פחות יכולת בחירה (יותר חשופים להתניות) - כמובן כתלות בחיה הספציפית.
לא יודע להיכנס לרזולוציה של חיות ספציפיות שאתה מדבר עליהן (מן הסתם לדולפין יש תודעה "גבוהה" יותר משל עכבר, אבל קשה לתת כאן אינדיקטור כמותי).

לגבי בינה מלאכותית - מדובר על אלגוריתם מוגדר מראש, כמו כל תוכנת מחשב אחרת.
ישנם אלמנטים של אקראיות (למשל בעזרת RNG), אבל אם יודעים את כל הקלטים (ואין סיבה שלא - הכל יכול להישמר) אפשר לעקוב אחרי המסלול ולצפות בצורה חד משמעית את הפלט.

 

[klayhamn]

אפשר לעקוב אחרי המסלול ולצפות בצורה חד משמעית את הפלט.

זה עקב העובדה שבנינו את המערכת כך שתהיה לנו אינטרוספקציה פשוטה עליו.
על המח קשה יותר לבצע זאת מסיבות טכניות בלבד: קשה לנתח את פעולתו של מח חי בלי "להרוס" או לכל הפחות "להפריע" ליצור החי לתפקד.

חוץ מזה, שגם ברשתות נוירונים מורכבות מספיק לא באמת ניתן לספק "הסבר" מה תפקידו של כל נוירון או איזה חלק הוא ממלא בהשגת התוצאה. אתה אולי תוכל "לראות את הפלט" ולחזות כביכול את הצעד הבא בכל שלב לפני ביצוע החישוב (ע"י... עצם זה שפשוט תבצע את החישוב בעצמך) אבל זה לא יעניק לך כל תובנה מעמיקה לגבי אופן פעולת המערכת.
כמובן שזה לא האופן שבו ספציפית בהכרח עובד המודל של מסעאמצע - קרוב יותר למודלים שמרכיבים את GPT וכו', אבל עדיין.

רשת נוירונים היא *לא* אלגוריתם מתוכנן. זה בדיוק מה שהיא לא. היא אם לשאול מה שאמר פה (ברדוקציה קיצונית) אחד החברים האחרים יותר דומה ל-"פונקציה מורכבת" (בטירוף). חישוב. היא לא רצף צעדים ידוע שבו כל שלב מוכר לך ואתה מבין את תפקידו ואת תרומתו להשגת התוצאה (כמו נניח מתכון של עוגה) - היא בדיוק יותר דומה לאופן שבו חישוב נעשה במח: קלטים מעצבים רשת נוירונים שמתהווה לכדי פונקציה שמסוגלת לחשב פלט כלשהו עבור קלט.
כך לדוגמא על יכולת הראיה האנושית מולבשות עשרות "פונקציות" כאלה, כל אחת עם תפקיד משלה - לדוגמא של זיהוי עצמים (שעצמה מורכבת על פונקציה פרימטיבית יותר של זיהוי EDGES וכו'), זיהוי פרצופים (מערכת נפרדת), זיהוי מיקום חפצים בחלל, זיהוי של חפצים מתקרבים או מתרחקים (חישוב שאנחנו יודעים כיצד בדיוק הוא מתבצע ממש ברמת נוירונים ספציפיים).
אנחנו יודעים נניח שיש במערכת הראיה נוירונים שאחראים לזהות "קוים אלכסוניים", ו-"קוים ישרים" וכו'. אנחנו ידועים זאת מניסויים על חתולים שנעשו בשנות ה-70, למשל.
כל אלה מתרכבים להם יחד כדי להניב מערכת אינטגרלית מורכבת שמשלבת קלטים ופונקציות מובחנות רבות (שגם "מתערבבות" ביניהן לעיתים בשימוש שלהם בניורונים או בחלקים במח) שהפלט הכולל שלה מכתיב את התנהגות האורגניזם.

לכן למשל אנשים שנפגעו באיזור הקדמי של ראשם - מאבדים לעיתים את החלק במח שאחראי על INHIBITION - כלומר - הימנעות מפעולות. בהינתן שכך הם הופכים להרבה יותר אימפולסיביים, בלתי צפויים, אגרסיביים וכו'. זה לא "מקרי", וזה לא נצפה רק "באדם אחד או שניים". זו תופעה רחבה ומוכרת שחוזרת על עצמה שוב ושוב באינספור פגיעות מוחיות באותו האיזור בדיוק.

דעתי האישית, ועוד לא ראיתי הוכחה נגדית (ולא ברור איפה אפשר למצוא הוכחה כזו)
היא שלאדם יש משהו שנקרא "רצון" שאינו בהכרח מבוסס קלט אלא תלוי בחירה חופשית (כמובן במסגרת האפשר - ברור שגם לנו יש "קופסה" כמו שכתבת, אבל בתוכה יש בחירה).

בחירה היא לא דבר מיוחד. גם מכונית אוטונומית מבצעת בחירות - לדוגמא אם לבלום או לאו. הבחירה הזו היא תוצאה של שקלולים של גורמים.
אם ה-"בחירה" שלך לא מבוצעת על הקלט הנתון (או מצבור קודם של קלטים ודברים שירשת מאב ואם סביבה) - אז על מה הם מבוססים בדיוק? אם לא מבוססים על כלום אז בהגדרה הם אקראיים. לדוגמא אני יכול לבחור את המספר: 841817766111111 בחזקת 3i
מספר אקראי לכאורה שלא מבוסס על שום קלט שקיבלתי כעת מאף אחד. אבל הוא גם לא "חופשי" או "שלי" באיזשהו מובן בעל משמעות: סתם אקראי.

אני נוטה להאמין שגם לחיות יש רצון, אבל עם פחות יכולת בחירה (יותר חשופים להתניות).

לא כל בחירה של יצור חי היא ביטוי של "התניה", זו רדוקציה מיותרת.
כשימפנזה מעדיף לחבק אותך ולא לחשוש ממך זה בגלל האופי של השימפנז הספציפי הזה. אולי אחיו דווקא כן תוקפני.
זה לא בגלל שיש לו "נפש" או "רוח" או "רצון חופשי" אלא כי רצה הגורל והמח שלו התעצב בצורה כזו שזה אופיו - ומכאן שאלה בחירותיו.
אגב, זו לא בחירה "גורפת". אפשר בהחלט שכלפי אדם אחר יחוש דווקא חשדנות. מסיבותיו שלו.

המח האנושי הוא בדיוק אותו דבר, רק שיש בו יותר "שכבות" - ובמיוחד, שכבות "תרבותיות" שנעדרות לחלוטין מעולם החי . אבל גם ה-"שכבה החברתית" למשל לחלוטין קיימת אצל חיות חברתיות כמו דולפינים או שימפנזים. אבל אין שום דבר מיוחד ב-"שכבה התרבותית", סתם עוד מערכת של ערכים, אילוצים, שיקולים, רצונות וכו' שמולבשת על גבי יתר השכבות.

כשאתה בוחר לדוגמא מה ללמוד באוניברסיטה, זה לא בגלל שאתה איזושהי "נפש מרחפת מעל המים" ששואבת את כוחה מעולם הרוחות הקסום -
זה פשוט בגלל שרצה הגורל ואתה אדם שאלה סט שיקוליו, אלה העדפותיו שהתפתחו מילדות ועד בגרות, אלה חבריו או משפחתו שמפעילים עליו עצות או שיקולים או תמריצים כאלה ואחרים וכו'.

ולבסוף כשמתקיימת הכרעה, ייתכן שאף מעורב בה אלמנט אקראי שאליו רוב האנשים יתכחשו ויבצעו רציונאליזציה לבחירות שלהם בדיעבד כדי להרגיש בטוחים יותר לגביהן (וגם זו כמובן תכונה מולדת אנושית, ולא איזו "המצאה" של האינדיבידואל).

 

[איניגו מונטויה]

אם אתה רוצה שלא לשמוע שיר מסויים לא "בחרת" לרצות את זה (אתה אולי "בוחר" במודע לפעול לפי הרצון או לא, אבל גם בחירה כזו אולטימטיבית נעשית כהכרעה שבה רצון אחד שלך גובר על רצון אחר - ואת שניהם לא אתה "המצאת").
הרצונות שלך הם חלק מזהות שלא "אתה" יצירת בשום מובן אולטימטיבי.

ישות לא יכולה ליצור את עצמה, זו סתירה לוגית. מח לא יכול ליצור את עצמו (הוא אולי יכול ליצור מח אחר).
אדם לא יכול "לבחור" מה "לרצות" משום שהרצונות שלו הם אולטימטיבית ביטוי של מי שהוא ומה שהוא - שאלה - כפי שהראתי בדוגמא הקודמת, לא תוצאה של הישות עצמה ופעולתה.

לא לגמרי מסכים.
בהנחה שלאדם יש יכולת בחירה לשינוי קטן ככל שיהיה (למשל בחירה בין 2 אפשרויות שהוגדרו לו מבחוץ),
הוא יכול לבחור בכיוון פעולה/מחשבה מסוים, שבתורו גם ייתן לו אפשרות לשינוי נוסף, ובסופו של דבר ייווצר הבדל משמעותי שאותו האדם בעצמו יצר - באמצעות בחירותיו.

זה לא בגלל שיש לו "נפש" או "רוח" או "רצון חופשי" אלא כי רצה הגורל והמח שלו התעצב בצורה כזו שזה אופיו - ומכאן שאלה בחירותיו.

מכבד את האמונה שלך, אבל כל עוד אין לך הוכחה -
כדאי לזכור שזו רק אמונה...

לא רואה מה הטעם בדיון הפילוסופי - לא מכיר אפשרות להציע ניסוי שיוכיח כיוון כזה או אחר, וגם לא רואה השלכות מעשיות לדיון (כך שאין אפשרות לדבר על איזו דעה תועיל יותר).

בכל אופן, בהיבט המעשי - ברור לי שכיום "בינה" מלאכותית אינה מסוגלת להגיע לכל היכולות שהאדם מסוגל להגיע אליהן.

 

[klayhamn]

הוא יכול לבחור בכיוון פעולה/מחשבה מסוים, שבתורו גם ייתן לו אפשרות לשינוי נוסף, ובסופו של דבר ייווצר הבדל משמעותי שאותו האדם בעצמו יצר - באמצעות בחירותיו.

אתה מדבר פה על מערכת שבחירותיה בעצמן מובילות אותה בנתיב שאולי יכול לעצב בהמשך את המערכת עצמה וכו'.
אין בזה שום דבר ייחודי, בהחלט אפשר (בוודאי ברמת העקרון, אך גם במובן הפרקטי) לבנות מערכת מלאכותית שלומדת, ושעצם הלימוד שלה משפיע על פעולותיה בעתיד כולל בחירות אחרות שאולי תעשה והאופן שבו תגיב לקלטים בעתיד.

זה עדיין אולטימטיבית לא איזשהו "יש מאין" - מדובר בלולאה של היזון: פעולה משפיעה על הסביבה - האדם רואה את השפעתה של בחירתו, ואז הוא מקבל קלט חדש שעשוי להוביל אותו בעתיד לקבל החלטות שונות או דומות.

זו תכונה שמכונה "פלסטיות". היא לא ייחודית אפילו ליצורים בעלי קוגניציה גבוהה, גם כאלה בעלי קוגניציה נמוכה יותר יכולים לגלות גמישות כזו.

התכונה הזו אפילו נידונה פה בהקשר של CHATGPT - לדוגמא, האם המערכת יכולה "להמשיך וללמוד" משיחות אקטיביות שנעשות בה, או שמא - הלימוד שלה "הסתיים" עם אימון המערכת. הטענה הייתה שהיא בהחלט מסוגלת להמשיך וללמוד, וגם אם תכונה זו עדיין לא מבוססת מאוד כפיצ'ר קיים, היא בהחלט יכולה להתרחב ולגדול ולהפוך לאבן יסוד של המערכת.

מכבד את האמונה שלך, אבל כל עוד אין לך הוכחה -
כדאי לזכור שזו רק אמונה...

אפשר לטעון את זה על כל דבר שאנחנו יודעים.
זו "אמונה" באותה מידה שתורת היחסות או הקוואנטים או הכבידה וכו' הן "אמונות". זה מדע.
אנחנו יודעים מספיק על מנגנונים במח (הרבה ממה שאנחנו יודעים מבוסס דווקא על פגיעות במח באיזורים שונים והשפעתן) כדי לדעת מה מתרחש בו בגדול - בטח ברמה שאתה מדבר עליה (הרמה ההתנהגותית/קוגניטיבית וכו').

בהיבט המעשי - ברור לי שכיום "בינה" מלאכותית אינה מסוגלת להגיע לכל היכולות שהאדם מסוגל להגיע אליהן.

אבל זה לא הדיון.
הדיון הוא האם יש משהו עקרוני שמונע זאת.
הטענה שלי הייתה שאין: זו מכונה וזו מכונה.
אחת התעצבה בטבע ב-500 מליוני השנים האחרונות, והשניה בידי האדם בעשרות השנים האחרונות.
בסוף הדבר היחיד שמגביל את האדם הם חוקי הפיזיקה. והיות המח "קיים" (כלומר, הוא אפשרי פיזיקלית), אין סיבה שלא נוכל (בקרוב, ברחוק, אין זה משנה) לחקותו גם אנחנו.

 

[lavi]

טוב, בקיצור אכן כל אחד יכול לטעון מה שבא לו ונשמע לו הגיוני.
המשך דיון פורה.

אתה מוזמן להציע דרך מדידה. הכי קל זה להטיל את האחריות לצד שני.

וכן, עקרונית בדיון כל אחד זכאי לטעון מה שבא לו והצד השני זכאי להגיב לו ולנסות להפריך את הטיעון ולאחר מכן להעלות טיעון משלו.

 

[oferM]

זה מתחלק ל'בעיה קלה' ו'בעיה קשה' (hard problem of consciousness).
הבעיה הקשה- למה כל התהליך המוחי צריך להיות מלווה בחוויה סובייקטיבית של מציאות. רק רשת מורכבת יכלה תיאורטית לעבוד טוב בלי שתהיה חויה סובייקטית (רובוט).
יש מספר ספקולציות ומחלוקות בנושא.
רוג'ר פנרוז למשל מאמין שזה קשור בכלל בתהליך קוונטי לא חישובי במוח שפחות רלוונטי למחשב.

ההסבר שאותי הכי שכנע לקיומה של מודעות עצמית , הוא מאת נוירולוג או חוקר מוח, משהו בכיוון, בשם רמצאדרן.
הוא אומר דבר כזה:
בתור בנאדם , יש לך מערכת נוירוני מראה , שנותנת לך את תכונת האמפתיה, היכולת לעשות סימולציה איך אדם אחד מרגיש וחושב. ליצור חברתי ברור למה מערכת כזאת היא מועילה אבולוציונית.
עכשיו ברגע שהמערכת הזאת קיימת , אתה יכול להפנות אותה אל עצמך וליצור סימולציה של מי אתה. גם לזה יש הרבה יתרונות אבולציונים.



לגבי הקטע של חוויה סובייקטיבית , הבנתי בערך שזה - אם למשל אתה רואה פרח אתה גם חווה את היצוג של הפרח במוח שלך , גם את הרגשות שקשורים לפרח הזה , גם זכרונות שקשורים לכך מעברך וכו, והכל ביחד נותן לך חוויה סובייקטיבית(סט של נוירונים מופעלים ומערכות ביוכימיות מופעלות) שמאוד אישי לך.

האם זה נכון לגבי החוויה הסובייקטיבית ?

 

[oferM]

כל מה שאמרת הוא נכון.
כוונתי הייתה שמכונה לא תבין זאת לבד אלא אם כן מתכנן המכונה הגדיר את האלמנטים האלו היא לעולם לא תצא מתוך המערכת.

אני אצטט פה מתוך הספר כי אני מבין שההסברים שלי לא מספיק ברורים. מקווה שזה יהיה ברור יותר

One big difference between machines and humans is that it is possible to program a machine to do a routine task, while noticing no higher order to what it’s doing. Humans will always recognize these patterns when they’re sufficiently obvious. A car will never pick up the idea that it is supposed to avoid other cars.

Jumping Out of the System: A property of intelligence is that it can “jump out” of the system it’s in, such as by noticing that it’s repeating the number “1” every time it presses the calculator. We all perceive systems at different levels, and may try to convince others that they’re operating within systems that they’re blind to but that we observe. (Finite / Infinite Games)

It is necessary to distinguish between operating within the system and making observations or statements about the system. This is the M-Mode (mechanical mode) and the I-Mode (intelligent mode

זה באמת נקודה מעניינת.

אבל
1. האם זה ש CHATGPT משתמשת בתגובות המשתמשים לשיפור עצמי איננו סוג של יציאה מהתכנות שלה ? היא הרי מסתכלת על דפוסי התגובות שלה ביחס לתגובות המשתמשים ומתקנת את עצמה

2. האפשרות של יציאה מהתכנות שלה דורשת סוג של מודעות. כיום אין ככ מחקר על מערכות עם מודעות. אבל מהמחקר שיש(וציטטתי מקודם ) יש כבר רובוט מודע שבונה סימולציה של הגוף שלו , לומד ללכת , והוא מודע לעצמו כך שאם מתקלקל לו חלק בגוך הוא מתאים את עצמו וחוזר ללכת. זה לדעתי סוג של פעולה מחוץ למערכת.


כמובן יש פה עניין של הגדרות , ואפשר להגיד שזה חלק מתכנות המערכת של הרובוט וכו. אבל גם אפשר להגיד על האדם שהמודעות שלו שמאפשרת חשיבה מחוץ למערכת היא גם חלק מהתכנות שלו.

 

[doc29]

לפי דעתי זה פשוט הפך למנוע חיפוש טוב יותר מגוגל

הייתי מוסיף אבל לחיסרון שציינת את העובדה שבגוגל יחסית קל להעריך איזה מהתוצאות יותר אמינה. לפחות בתחומים שאתה קצת יותר מכיר. כאן אתה מקבל תוצאה אחת שלא ברור מה מקורה, האם היא אינטגרציה של כמה מקורות ואילו. אגב בהקשר לשאלה שאני שאלתי אותו הוא כשל לגמרי ואחרי זמן ארוך של קריאה בדוקומנטציה וניסיון להבין למה הוא התכוון, רק מישהו אנושי בstack overflow הצליח לעזור לי עם זה.

כך שלפחות באספקט של קוד נראה לי שזה מתאים רק לדברים מאוד בייסיק וקלאסיים.

 

[צלולן]

מישהו הבין איך מתגברים על הגבלת האורך של המלל שהתוכנה מאפשרת?
ניסיתי לבקש לחלק את התשובות לכמה הודעות שונות אבל התוכנה מסרבת לבצע את זה.
יש מגבלה של כ7000 מילים ממה שהצלחתי להבין. איך מגדילים את זה באמצעות טריק?

אני כותב לו "Continued"

 

[Eugene]

לי יש כמה דירות בחו״ל, דף אינסטגרם, אתר אינטרנט וכמובן משתמש גם בבוקינג וairbnb. ביקשתי מהצ׳ט לכתוב תיאור לדירות, בairbnb מגבילים ל500 אותיות אז ביקשתי ממנו גם לכתוב תיאור עד 500 אותיות. עשה עבודה מצויינת וכל התיאורים שלי הם באמצעות הצ׳ט

 

[klayhamn]

לגבי הקטע של חוויה סובייקטיבית , הבנתי בערך שזה - אם למשל אתה רואה פרח אתה גם חווה את היצוג של הפרח במוח שלך , גם את הרגשות שקשורים לפרח הזה , גם זכרונות שקשורים לכך מעברך וכו, והכל ביחד נותן לך חוויה סובייקטיבית(סט של נוירונים מופעלים ומערכות ביוכימיות מופעלות) שמאוד אישי לך.

האם זה נכון לגבי החוויה הסובייקטיבית ?

אפשר עדיין לכאורה לפחות לדמיין ברמת העקרון "זומבי פילוסופי" שאין לו שום חוויה סובייקטיבית אבל בכל זאת עושה את כל הדברים שאתה אומר. שכל התהליכים יהיו "אישיים", אין לזה רלוונטיות. חוויה סובייקטיבית היא (לפחות על פניו) תופעה מסוג אחר מאוד מעצם התהליכים הקוגניטיביים שדרושים בשביל לתמוך בהתנהגויות האלה (ואכן יש יצורים עם התנהגויות שונות ומשונות ואפילו דברים ששקולים ל-"זכרון" ובכל זאת אנחנו לא חושדים שיש להם חוויה סובייקטיבית)

הבעיה הקשה לא מכונה כך "סתם".

בכל מקרה, אני מציע לשים בצד את ה-"בעיה הקשה" כי אף אחד לא חושד שנצליח לייצר בקרוב מערכת שיש לה "חוויה סובייקטיבית" משל עצמה.

בוא נתמקד בעיקר והוא כרגע בשאלה של יכולות (שאלה שקל יותר לענות עליה) וביצוע משימות.

 

[בת העמק]

@klayhamn , הציור של לינקולן מבשל לילדה חמודה מסקרן אותי בשני אופנים:
1. אם תכתוב לו שוב את המשפט הזה ותבקש ציור באותו סגנון - הוא יצייר שוב את אותו ציור או משהו אחר?
2. אם תכתוב את המשפט ללא המילה "חמודה" - הוא יעשה ציור אחר? איך הוא "מבין" מה זה חמודה?

 

[klayhamn]

@klayhamn , הציור של לינקולן מבשל לילדה חמודה מסקרן אותי בשני אופנים:
1. אם תכתוב לו שוב את המשפט הזה ותבקש ציור באותו סגנון - הוא יצייר שוב את אותו ציור או משהו אחר?
2. אם תכתוב את המשפט ללא המילה "חמודה" - הוא יעשה ציור אחר? איך הוא "מבין" מה זה חמודה?

יש כבר תשובה ל-1 בשרשור הזה ממש, הדגמתי איך אותו קלט ממש הביא אותו ליצור ציור דומה אך בסגנון שונה. כמובן שאלה רק שתי דוגמאות, בפועל הוא מייצר ארבע גרסאות פלט על כל בקשת קלט אחת, לא שמתי פה את כל הארבע

2. כן, זה ישפיע על התוצאה. הוא לא " מבין" מה זה חמודה אלא שמילת הקוד הזו מתורגמת לנתיב קצת אחר ב-"חלל" האפשרויות (אין לי דרך טובה יותר לתאר את זה על רגל אחת)

בגדול המכניזם שבו stable diffusion עובד מבוסס על היכולת "להסיר רעש מתמונה" עד כמה שזה נשמע אולי טפשי או מוזר. כשמביאים את זה לקצה, המשמעות היא שהוא מסוגל גם כביכול להסיר רעש מתמונה שכולה היא רק רעש אקראי ותו לא,
ואז הקלט משמש כסוג של "רמז" שעוזר לו להבין איזו תמונה הוא מנסה לחשוף בעצם.

עד כמה שהמכונה "יודעת" היא בסך הכל מנסה לנקות רעש כביכול מתמונה קיימת. בפועל התמונה לא קיימת ולכן התוצאה היא של יצירה.

המערכת "ראתה" מספיק CUTE ב-"חייה" כך שהיא כבר נמדדה על יכולותיה לחשוף תמונות שאכן תואמות לתיוג הזה, ולכן - כשהיא מנסה "לחשוף" כביכול תיאור שכולל CUTE היא בין היתר (כתוצר לוואי של המבנה המגובש של המערכת המאומנת, ללא הנחיה מפורשת) תנסה להכניס את האלמנטים הדרושים כדי שהתמונה ה-"נחשפת" (קרי - נוצרת) תהיה נאמנה גם לתיוג הנ"ל.

בפועל זה טיפה יותר מורכב כי יש להם משולבים פנימה גם כל מיני מנגנונים קצת אחרים שאחראים לגרום לתוצאה להיות יותר איכותית, נניח - יש מודלים שונים עבור צילום, מאשר עבור ציור, וכיו"ב.