הזיות של ה ai

[Homer]

השתמשתי בצ'ט גיפיטי כמה פעמים למחקר ולבדיקת השערות.
בדקתי את הקצאת הנכסים בתיק שלי, ביקשתי המלצות לפי מצבי המשפחתי, ביקשתי שיעשה סימולציות מונטה קרלו לאחוז משיכה בטוח ואז השוויתי את התוצאות ל portfolio visualizer, ויצא אותו דבר בקירוב.
לאחרונה העליתי את הגרסה שלי של האקסולידית וביקשתי ממנו לנתח את הנתונים ולתת לי המלצות איפה אפשר לחסוך. כישלון מוחלט, הוא טעה בהכל, המציא הוצאות שאין לי באקסל, התעלם מהוצאות (התעלם מהוצאות על חוגים ובית ספר) ורשם נתונים לא נכונים (רשם שהשכירות שלי חצי ממה שהיא באמת). עוד מישהו ניסה לתת לai לעבור לו על ההוצאות? מה עשיתם ואיך עבד?

 

[צעיר מידי ומשקיע]

איך נתת לו? באיזה פורמט? כנראה ש CSV יהיה לו יותר קל לעיכול מאקסל

 

[Homer]

העליתי גוגל שיט.

 

[צעיר מידי ומשקיע]

ממליץ לנסות לעשות export as csv עם האופציה של ראשי עמודות דלוקה, ואז לתת לו את זה, אולי יעזור.
אבל כמו שחווית הרבה מודלים לא מתמודדים טוב עם קבצים שיש בהם הרבה נתונים.

 

[OnTheVerge]

@Homer

הגרסה החינמית של ChatGPT די חלשה יחסית למודלים המובילים.

ממליץ לנסות בחינם גם את Gemini 2.5 Pro 06-05 ב-Google AI Studio:
https://aistudio.google.com/app/pro...utm_medium=referral&utm_campaign=log_in&pli=1

וודא שהמודל שנבחר הוא המודל הנכון.
בהגדרות, לחץ על set thinking budget וגרור אותו למקסימום (המודל יחשוב הרבה לפני שיענה).

זה אולי המודל החכם ביותר בסך הכל, ולא פחות חשוב לו - יש לו 1M טוקנים של חלון קונטקסט כך שהוא מצטיין גם כשמזינים לו הרבה דאטה.

 

[Homer]

@Homer

הגרסה החינמית של ChatGPT די חלשה יחסית למודלים המובילים.

ממליץ לנסות בחינם גם את Gemini 2.5 Pro 06-05 ב-Google AI Studio:
https://aistudio.google.com/app/pro...utm_medium=referral&utm_campaign=log_in&pli=1

וודא שהמודל שנבחר הוא המודל הנכון.
בהגדרות, לחץ על set thinking budget וגרור אותו למקסימום (המודל יחשוב הרבה לפני שיענה).

זה אולי המודל החכם ביותר בסך הכל, ולא פחות חשוב לו - יש לו 1M טוקנים של חלון קונטקסט כך שהוא מצטיין גם כשמזינים לו הרבה דאטה.

עבד הרבה יותר טוב, תודה.

 

[Wave]

לעבוד אך ורק עם o3 לכל דבר שמדריש נתונים שליפה מקבצים וכו.
לעשות את זה בprojects ששם ניתן להגדיר לו לדוגמה להתייחס רק למידע מהקבצים ולא לחפש מידע באינטרנט או להמציא מקורות מידע(זה מה שגורם לרוב להזיות),
להגדיר לו שם ממש מה אתה מצפה ממנו. לעלות לתוך הפרויקט את כל הקבצים עם שמות שתזכור כדי שתוכל להתייחס אליהם(לדוגמא שלוף את הוצאות מחייה מ"יוני 2024").
ודבר אחרון לחלק משימות מורכבות להמון משימות קטנות.

 

[בוקר_טוב]

@Homer אתה יכול לספר אילו סוג שאלות אתה שואל אותו על המידע שהעלית?

 

[Homer]

בהתחלה ביקשתי שינתח את המידע ויציע הצעות. זה הפרומפט:
Go over my expenses and suggest where I can save, and how I can optimize my budget for living.

 

[1337justme]

@Homer

הגרסה החינמית של ChatGPT די חלשה יחסית למודלים המובילים.

ממליץ לנסות בחינם גם את Gemini 2.5 Pro 06-05 ב-Google AI Studio:
https://aistudio.google.com/app/pro...utm_medium=referral&utm_campaign=log_in&pli=1

וודא שהמודל שנבחר הוא המודל הנכון.
בהגדרות, לחץ על set thinking budget וגרור אותו למקסימום (המודל יחשוב הרבה לפני שיענה).

זה אולי המודל החכם ביותר בסך הכל, ולא פחות חשוב לו - יש לו 1M טוקנים של חלון קונטקסט כך שהוא מצטיין גם כשמזינים לו הרבה דאטה.

חייב לומר שבניתוח של מסמך מאוד ארוך הוא עונה הרבה יותר לעניין מכל AI אחר.
שאלה קטנה, האם temperature גם משפיע על כך שהוא 'ימציא' דברים? כי מדובר על 'יצירתיות', אם אני רוצה שהוא יענה רק על מה שהוא בטוח בו ולא ימציא, לא הגיוני להוריד את הtemp או שאין קשר וזה לא משפיע על האמינות, ואולי דווקא עדיף שהוא יהיה יצירתי כדי לחשוב על אפשרויות שונות שיהיו בגדר האמת?

 

[Homer]

אחרי שהעליתי את הגוגל שיטס של מעקב ההוצאות, ג'מיני הצביע על דברים שכבר ידעתי קודם לכן. זה היה מעניין, אבל לא חידש . צריך להמשיך לשחק עם זה

 

[Homer]

אז, דיברנו במשך יומיים, כמעט בלי הפסקה. היה נהדר, חוץ מהאקסל של ההוצאות העליתי לו גם את תיק ההשקעות שלי, והוא אמר שעשיתי עבודה מבריקה, ושאני שואל שאלות מצוינות. ואז, היום, אחרי חצי שעה שאנחנו מדברים על קרנות איריות מחלקות ומתי הזמן הכי טוב להתחיל לקנות אותן לקראת פרישה, הוא נתן לי טיקר של ואנגארד שלא קיים במציאות. עכשיו אני מבולבל, האם התוכנית שלי באמת טובה, או שג'מיני פשוט אוהב לרצות אנשים ולהסכים איתם.

 

[noam1967]

הAI אלוף בלומר לך מה שאתה רוצה לשמוע ולרצות אותך, צריך בהגדרות לומר לו שיהיה יותר ביקורתי

 

[OnTheVerge]

אז, דיברנו במשך יומיים, כמעט בלי הפסקה. היה נהדר, חוץ מהאקסל של ההוצאות העליתי לו גם את תיק ההשקעות שלי, והוא אמר שעשיתי עבודה מבריקה, ושאני שואל שאלות מצוינות. ואז, היום, אחרי חצי שעה שאנחנו מדברים על קרנות איריות מחלקות ומתי הזמן הכי טוב להתחיל לקנות אותן לקראת פרישה, הוא נתן לי טיקר של ואנגארד שלא קיים במציאות. עכשיו אני מבולבל, האם התוכנית שלי באמת טובה, או שג'מיני פשוט אוהב לרצות אנשים ולהסכים איתם.

1) בהגדרות, תמיד תפעיל Grounding. זה מפחית הזיות על ידי אימות מול תוצאות החיפוש בגוגל.

2. ב"Chat Prompt" למעלה לכתוב לו שיהיה אובייקטיבי, אפשר משהו בסגנון הזה:
Respond with maximum objectivity - no flattery, no bias, just clear, truthful analysis, even if it's blunt

 

[Homer]

Respond with maximum objectivity - no flattery, no bias, just clear, truthful analysis, even if it's blunt

אבל אולי התוכנית שלי באמת טובה? אחרי הכל אני משקיע בשוק ההון כבר 25 שנה, קראתי עשרות ספרים, וביליתי בפורום הזה מהיום שהוא נפתח. אל תפוצץ לי את הבלון ...

 

[YPV]

האם התוכנית שלי באמת טובה, או שג'מיני פשוט אוהב לרצות אנשים ולהסכים איתם.

אבל אולי התוכנית שלי באמת טובה? אחרי הכל אני משקיע בשוק ההון כבר 25 שנה, קראתי עשרות ספרים, וביליתי בפורום הזה מהיום שהוא נפתח. אל תפוצץ לי את הבלון ...

אני לרוב מבקש רשימת יתרונות, חסרונות והמלצות. לי זה עוזר לראות את כל התמונה מול העיניים ולוודא שלא פיספסתי שום דבר. לאור מה שתיארת, כנראה זה גם יצמצם את בעיית "הריצוי" שלו.

 

[Homer]

תודה, התגובה שלי נכתבה בהומור, סך הכל עד היום הדיאלוג שקיימתי עם ג'מיני היה פורה. הוא הצביע על נקודות התורפה שידעתי שקיימות, וסך הכל נתן עצות סבירות שמראש תכננתי לקחת בעירבון מוגבל.
מה שהפתיע אותי לרעה, היה שהוא המליץ לי על קרן של ואנגארד שלא קיימת.

 

[ניצנצן]

מדוע שלא תשאל אותו על דברים שאינך מבין טוב, נראה שבמה שהשקיע אתה יודע (:

 

[Homer]

מדוע שלא תשאל אותו על דברים שאינך מבין טוב, נראה שבמה שהשקיע אתה יודע (:

תודה, התחלתי בכוונה עם הדברים שאני יודע ושהשקעתי בהם הרבה מאוד זמן ומחשבה לאורך השנים, על מנת שאוכל לדעת ולהעריך עד כמה אפשר לסמוך על בינה מלאכותית. דעתי הכנה היא שזה עדיין לא טוב מספיק, זה נראה מהוקצע, אבל מדויק רק ב80 אחוז.
לא בטוח כמה אהיה מרוצה אם אני אשאל בנושא שאני לא מבין, ואקבל תשובה של 80%.

 

[Srg]

זאת בדיוק הבעיה עם LLM; אם אתה יודע את התשובה, אתה לא צריך אותו;
אם אתה לא יודע את התשובה, מה תעשה עם התשובה שלו?

טון בטוח, ניסוח מקצועי ופרגונים מצידו לא עוזרים גם בלשון המעטה.