אני מוכרח לציין שאחרי שההתלהבות הראשונית דעכה הפסקתי להשתמש ב-ChatGpt. השתמשתי בצ'ט בשביל לזרז תהליך ניסוח מיילים מקצועיים, אבל זה דרש להזין (=ללמד) הרבה מידע לתוך הצ'ט בשביל לקבל תוצר נורמלי ופשוט היה לי יותר קל ומהיר כבר לכתוב את המייל לבד. זה כמו לחנוך מזכירה שהתקבלה לעבודה עם אפס ניסיון קודם, אבל בלי תחושת סיפוק שהיא לומדת ובהדרגה הופכת להיות יותר עצמאית ותורמת לארגון.
אתה יכול להשתמש ב API כדי לעשות fine tuning לאחד המודלים, מספיק כמה עשרות דוגמאות כדי להגיע לתוצאות טובות, ואני מעריך שיש לך כמה עשרות אלפים של מיילים כאלה בארגון. החיסרון של זה הוא שהמודל המאומן יהיה יותר יקר פר טוקן.
פתרון אחר הוא להשתמש במודל הכי זול ומשתלם מבחינת עלות ליכולת,כרגע GPT3.5 turbo, ולחפש system message אפקטיבי שינחה את המודל לנוסח המבוקש. הודעת מערכת זו הודעה שאתה מוסיף לבקשה של המשתמש והמטרה שלה היא להנחות את המודל לשימוש האישי שלך (הנחיה שכוללת הוראות + מספר מצומצם של דוגמאות מייצגות). אפשר לעשות אינטגרציה לסביבת האימייל שאתם עובדים בה ואז כל מה שמזכירה בארגון שלך צריכה לעשות זה ללחוץ על כפתור ולקבל את הנוסח המבוקש שמתאים בדיוק לצרכי הארגון.
אני כותבת קוד בתחום די נישתי, יש כמות קטנה יחסית של קוד בנושא ושאלות בפורומים לאיך עושים דברים מורכבים או ספציפיים, או אנשים שיענו לך על שאלות. עשיתי כמה ניסויים עם chatgpt עם משהו מסויים טיפה מורכב. הוא חירטט לי פונקציות שלא קיימות מתוך ספריות שכן קיימות, כמובן שהכל נראה משכנע לחלוטין. אחרי כמה איטרציות מפרכות הגעתי למסקנה שהיה לי הרבה יותר קל לכתוב את הקוד לבד. הצ'ט לא יודע באמת לכתוב קוד, הוא פשוט אומן על כל הStack overflow ודומיו. הוא אגב עוזר לי מאוד כשאני צריכה לכתוב קוד משעמם (תוציא לי את המספר הזה שמופיע אחרי המילה הזאתי בשורה שמתחילה ב-...) אבל תמיד צריך לוודא אותו, כמובן.
השתמשת ב co-pilot או באתר הצ'אט? co-pilot זה מודל GPT שאומן יותר על קוד ויש לו אינטגרציה ל VS code, ככה שהוא רואה בדיוק את הקבצים של הפרויקט ולא צריך לספק לו את הקונטקסט לכל בקשה. מהניסיון שלי הוא הוזה הרבה פחות.
בעיית ההזיות מוכרת ועובדים על הצמצום שלה כל הזמן, אבל בכל מקרה אם הקוד שלך מאוד נישתי יהיה יותר קשה למודל כי הוא אומן בעיקר על פרוייקטים של פייתון. צריך גם לדעת איך להשתמש בכלי, זו צורת עבודה מעט שונה בה התפקיד שלך הופך יותר לבודקת תוכנה. לי באופן אישי הרבה יותר נוח להסביר למודל (ב comments) מה אני צריך, לקבל ממנו את הפונקציה, לקבל ממנו טסטים, ולדבג. זה ייעל את התפוקה שלי פי 10. אבל צריך להתרגל לשיטת העבודה הזאת, ללמוד את הטריקים, "להרגיש" את היכולות של המודל ולפתח בולשיט דטקטור להזיות שלו. מתכנתים שעובדים כבר שנים בתחום מקובעים בשיטת עובדה מסוימת ולגיטימי שיהיה להם יותר קשה להסתגל, אבל זה העתיד. software 2.0. הדור הבא לא הולך לתכנת במובן שאנחנו מכירים ומבינים תכנות, אלא התפקיד שלהם יהיה לנסח את הדרישות הטכניות של התכנית ולתכנן את המערכת ממבט על. את הכתיבה הסיזיפית של תוכנה מודלים יעשו.
בחלומות של מתכנתים שנמצאים על הספקטרום ללא ניסיון במקצועות אחרים וחסרי יכולת להבין את אלפי הניואנסים שיש בכל תחום ותחום. כל פעם שמנסים לבצע אוטומציה לתחום מסוים מגלים את המורכביות שיש במקצוע ובמקרה טוב מצליחים לבצע אוטומציה לפונקציה כלשהי באותו מקצוע, אבל לא למקצוע עצמו.
אמרו ש-Siri ושות' תחליף מזכירות (כן, בטח. מחר)
אמרו שמכונית אוטונומית תתחיל לנסוע שנה באה (אמרו את זה ב-2019, כן. אנחנו כבר באמצע 2023)
אמרו שמנהלי חשבונות יכחדו (המקצוע יותר מבוקש מאי פעם והשכר נמצא בעלייה מתמדת)
אמרו שרואי חשבון יהיו מיותרים (ומי יסע למס הכנסה לדיון שומה? chatgpt?)
ועוד ועוד ועוד
אני לא אומר שדברים האלה לא יתרחשו בשלב כלשהו, אבל בוא נגיד שאנשים אופטימיים מידי לגבי הלו"ז.
כל הדוגמאות שהבאת היו ניסיונות להביא פתרון צר לבעיה רחבה. AGI בהגדרה זה מוח דיגיטלי שלא נופל ממוח אנושי באף תחום. מערכת AGI יעילה וזולה מספיק תוכל להחליף כל עבודה שאדם עושה מול מסך עם עכבר ומקלדת, כל עוד המחיר לשגיאה הוא לא הרסני (כמו מכוניות אוטונומיות). אני מניח שעל זה נוכל להסכים.
עכשיו השאלה היא האם אתה מאמין שאנחנו באמת קרובים ל AGI תוך שנים ספורות. בתור אחד שמשתמש מסיבית במודלים האלה, ועוקב אחרי החדשות והפיתוחים, לדעתי אנחנו מאוד קרובים. לדעתי ChatGPT עם fine tuning כפי שתיארתי בתגובה לציטוט למעלה כבר עכשיו יכול לחתוך עבודה של מזכירות/נותני שירות לקוחות ב 80%.
מהתגובות כאן נראה שאנשים לא תופסים את העובדה הפשוטה שאנחנו רק בתחילת הדרך. מבחינת כוח מחשוב, עלות האימון של chatGPT היא בסדר גודל של כמה מיליונים.
זה כלום. זה פשוט כלום.
אילו יכולות GPT5 יפתח כשישקיעו כמה
ביליונים באימון (סכומים שמתקרבים כבר לעלות של כור גרעיני)? כשיגיעו ל 10, 100 , 1000 טריליון פרמטרים?
גם אם היינו עוצרים את הפיתוח של המודלים האלה לאלתר, כבר עכשיו אפשר להביא שדרוגים עצומים למודל הבסיסי. אתה יכול לדמיין ועדה, או פנל של מודלים תחת מערכת אחת, כל אחד מאומן ספציפית לתחום אחר, שיש להם גישה לכלי AI צרים ( wolfram alpha, Dall E, alpha fold). מבחינת ה end user, הוא מכניס את ה prompt שלו כרגיל, אבל מאחורי הקלעים מאות "אינטליגנציות" שונות מדברות אחת עם השנייה במהירות האור, בשפה טבעית, מייצרות אלפי outputs אפשריים ובוחרות את התוצר הטוב ביותר. זה לא מדע בדיוני, אני ליטרלי יכול לכתוב מערכת פשוטה כזאת תוך כמה ימים. יש כבר פרויקטים כאלה שהראו שיפור מסיבי בדיוק של המודל על ידי מניפולציות דומות.