המלצה למפרט מחשב עבור ML / AI

[teeto]

היי

אני רוצה להיכנס לתחום, ונראה שאין מנוס מלקנות מחשב מתאים (המשאבים החינמיים מ kaggle ו google colab כבר קטנים מדיי).
אז כמו שהכותרת אומרת, אשמח להמלצות למפרט מחשב שולחני עבור ML / AI.
התקציב הוא עד 4500, עדיף פחות.
אין צורך בציוד הקפי או מערכת הפעלה.
אני חושב להתחיל עם RAM 64GB, אבל נחמד אם תהיה אפשרות להרחיב.

אין לי ניסיון, אבל כמה זה מסובך לקנפג את הספריות הפופלריות tensorflow / pytorch לעבוד עם ה GPU?
יש איזו עדיפות לאיזו מערכת הפעלה? כי מתאמי נוחות אעדיף windows.

תודה

 

[מצב צבירה]

עבור מחשב טוב באמת בפחות מ-8 אלף ש״ח לא תמצא, זה מחשב שהרכבתי און ליין עכשיו.

1) בגלל שאתה רוצה אפשרות לשדרוג עתידי של הזכרון, אז אתה כבר משלם בערך 200 ש״ח יותר על לוח האם.
2) לא יודע מה דרישות האחסון שלך, אבל חשוב להשתמש בדיסק קשיח עם הכיתוב EFRX שכן הוא מותאם בצורה מיטבית לקריאה וכתיבה אינטנסטיבית לעומת רוב הדגמים שמתאימים בעיקר לקריאה מרובה.
3) גם אם תחסוך כמה שקלים במעבד פחות חזק ופחות זכרון, אתה לא תגיע לרמות של 4500 ש״ח. על כרטיס המסך לדעתי אין פה יותר מידי איפה להתפשר.
4) במפרט מתחת למפרט העליון השתמשתי בדגמים מייצרנים פחות נחשבים, ללא אפשרות שדרוג זכרון והשתמשתי בקירור שמגיע עם המארז והמעבד בלבד, יצא 1500 ש״ח פחות.

1 - 8000 ש״ח

	Processor Intel	Intel Core i7 10700K 3.8Ghz 16 MB Cache s1200 - Tray
	CPU Cooler	Arctic Freezer i13 X CPU Cooler
	Motherboards for Intel	Asus TUF GAMING B560M-E B560 DDR4 2xPCI-E
	Memory	Kingston FURY RENEGADE RGB 2x32GB DDR4 3200MHz CL16
	VGA Cards	ASUS Dual RTX 3060 Ti OC 8GB GDDR6 2xHDMI 3xDP
	Solid-State Drives (SSD)	Intel SSD 660p 512GB M.2 80mm PCIe SSDPEKNW512G8X1
	Hard Disk	Western Digital Caviar Red WD10EFRX 1TB Sata III
	Power Supply	Antec EarthWatts 750W 80+ Gold EA750G PRO PSU Retail
	Case	Antec NX110 Black ATX Case No PSU
	Fans, Coolers, Accessories	Noctua NF-F12 CH.BK.S PWM 12cm Fan 1500RPM Chromax Black Swap

2 - 6500 ש״ח

	Processor Intel	Intel Core i7 10700K 3.8Ghz **** Cache s1200 - Tray
	Motherboards for Intel	Asus PRIME H510M-D LGA1200 Intel H510 DDR4 PCI-E
	Memory	G.Skill Trident Z Neo RGB 2x32GB DDR4 2666Mhz CL18 Kit
	VGA Cards	PALIT RTX 3060 StormX 12GB GDDR6 HDMI 3xDP
	Solid-State Drives (SSD)	ADATA Ultimate SU800 3D NAND M.2 2280 512GB SSD SATA III ASU800NS38-512
	Hard Disk	Western Digital Caviar Blue 1TB Sata III WD10EZEX
	Power Supply	Antec Atom G750 750W 80 Plus Gold 135mm Fan PSU (Retail)
	Case	Sharkoon VS4-S Black ATX Case No PSU	1

 

[אורי ג.]

תחכה טיפה, בדיוק יצאו לשוק מעבדי אינטל דור 12 אבל עוד לא הגיעו לארץ, היכולת שלהם שופרו משמעותית.

 

[Henchman34]

@מצב צבירה למה לבסס מחשב סביב מעבד ולוח אם של intel כאשר AMD לוקחים אותם בביצועים ובמחיר?

 

[דגגגג]

לרוב עובדים על מחשב בענן. אחד חלש יחסית שעולה כמה סנטים ליום ומשמש לעבודה על דטא סט מוקטן ואחד חזק הרבה יותר שעולה כמה דולרים לשעה שמשמש לריצות הכבדות יותר.
אני לא מכיר הרבה שעובדים על המחשב האישי מעבר ללהתחבר למחשב בענן.
רוב הקורסים גם נותנים לך קרדיטים חינם או סביבה מוכנה לעבודה.


אולי אם אתה עובד על מודל שרץ בזמן אמת ואתה רוצה לבדוק איך הוא עובד כחלק ממערכת שלמה בתוך סימולטור. הסימולטור לא עובד טוב על מחשב בענן או שלא מאפשר לך לראות בעין בזמן אמת מה קורה, אז תרצה לרוץ לוקאלית.

 

[TechPeon]

בשביל inference, מחשב אישי זה אולי סבבה, אבל אם וכאשר תצטרך לאמן מודל מפלצתי, לדעתי עדיף לשלם קצת כסף בשביל חסכון משמעותי בזמן.

 

[Oringa]

כמה דברים:

1. הראם של המחשב עצמו חשוב, אבל מה שיותר חשוב הוא הראם של הכרטיס מסך, שיקבע איזה רשת אתה מסוגל לאמן במהירות (לא תוכל לאמן על כרטיס המסך רשת שאתה לא מסוגל לאחסן בשלמותה עליו).
2. כמה זמן אתה מתכנן לאמן על המחשב? עקרונית, אם אתה תשתמש במחשב הזה הרבה, הוא יהיה זול משמעותית מאשר כל שירות ענן. אם תאמן רק מדי פעם, זה כנראה יקר מדי לעומתם.
3. לעבוד עם Windows זה סבבה מבחינת GPU, אבל זה יהיה פחות סבבה מבחינת לקחת קוד עובד מריפו כלשהו ולהריץ אותו אצלך.

 

[teeto]

@מצב צבירה
תודה רבה על התגובה המושקעת.
המחירים גבוהים משמעותית משציפיתי.
בהנחה שאלך על המפרט השני שהצעת, יש לך הצעות זולות יותר עבור המעבד והכרטיס הגרפי?
ברור לי שיהיו לזה מחירים בביצועים, אבל אני מניח שזה לא כל כך נורא, לפחות לuse case שלי (רוצה להתנסות מעבר למשאבים שיש בקאגל, לא בונה מכונית אוטונומית).
(נ.ב. אם תוכל אולי להסביר איך אני יודע אם כרטיס גרפי X או מעבד Y מתאימים ללוח אם Z, אודה לך מאוד... התאימות, זה מה שאני לא יודע. הtradeoff של מחיר כנגד ביצועים - אילו ביצועים אני מפסיד עבור המחיר הנמוך יותר - את ה tradeoff הזה אני יותר מבין לרוב)

@Oringa
אני מניח שצריך להתקין דרייברים בשביל הכרטיס הגרפי, תקן אותי אם אני טועה. זה כל כך פשוט על לינוקס?
כמה זה straight forward להגיע למצב "עבודה"? שספריה מקובלת (נאמר tensorflow / pytorch) רצה על ה GPU?
פעם ראשונה שייצא לי להתעסק עם זה, החשש שלי שלא אצליח לגרום לספריות לרוץ על ה GPU, ואז למעשה קניתי קופסת ברזל בכמה אלפים טובים

תודה רבה

 

[drx]

לרוב עובדים על מחשב בענן. אחד חלש יחסית שעולה כמה סנטים ליום ומשמש לעבודה על דטא סט מוקטן ואחד חזק הרבה יותר שעולה כמה דולרים לשעה שמשמש לריצות הכבדות יותר.
אני לא מכיר הרבה שעובדים על המחשב האישי מעבר ללהתחבר למחשב בענן.
רוב הקורסים גם נותנים לך קרדיטים חינם או סביבה מוכנה לעבודה.

מסכים לגמרי. מעבר לזה שפותח השרשור העיד שהוא רק נכנס לתחום ולא ברור עדיין מה יעשה וכמה. כדי לפתור קטנות לא צריך חומרה מיוחדת ובשביל גדולות שום מחשב אישי לא יספיק גם ככה.

 

[Oringa]

אני מניח שצריך להתקין דרייברים בשביל הכרטיס הגרפי, תקן אותי אם אני טועה. זה כל כך פשוט על לינוקס?
כמה זה straight forward להגיע למצב "עבודה"? שספריה מקובלת (נאמר tensorflow / pytorch) רצה על ה GPU?
פעם ראשונה שייצא לי להתעסק עם זה, החשש שלי שלא אצליח לגרום לספריות לרוץ על ה GPU, ואז למעשה קניתי קופסת ברזל בכמה אלפים טובים

להתקין CUDA על לינוקס זה הרבה יותר פשוט היום מאשר פעם. ברגע שהדרייבר מותקן, הספריות המקובלות שציינת ירוצו על ה-GPU בקלות. חוץ מזה, אם אתה מוכן ללמוד איך עובדים עם Docker, יהיה לך מאד קל לקחת ספריות עובדות ולהריץ אותן אצלך.

 

[guesto]

יש בעיות בשוק של כרטיסי המסך כבר תקופה, אל תצפה לקבל מחיר טוב. רק הכרטיס עצמו ינגוס לך בחלק גדול מהתקציב.

 

[מצב צבירה]

@מצב צבירה
תודה רבה על התגובה המושקעת.
המחירים גבוהים משמעותית משציפיתי.
בהנחה שאלך על המפרט השני שהצעת, יש לך הצעות זולות יותר עבור המעבד והכרטיס הגרפי?
ברור לי שיהיו לזה מחירים בביצועים, אבל אני מניח שזה לא כל כך נורא, לפחות לuse case שלי (רוצה להתנסות מעבר למשאבים שיש בקאגל, לא בונה מכונית אוטונומית).
(נ.ב. אם תוכל אולי להסביר איך אני יודע אם כרטיס גרפי X או מעבד Y מתאימים ללוח אם Z, אודה לך מאוד... התאימות, זה מה שאני לא יודע. הtradeoff של מחיר כנגד ביצועים - אילו ביצועים אני מפסיד עבור המחיר הנמוך יותר - את ה tradeoff הזה אני יותר מבין לרוב)

@Oringa
אני מניח שצריך להתקין דרייברים בשביל הכרטיס הגרפי, תקן אותי אם אני טועה. זה כל כך פשוט על לינוקס?
כמה זה straight forward להגיע למצב "עבודה"? שספריה מקובלת (נאמר tensorflow / pytorch) רצה על ה GPU?
פעם ראשונה שייצא לי להתעסק עם זה, החשש שלי שלא אצליח לגרום לספריות לרוץ על ה GPU, ואז למעשה קניתי קופסת ברזל בכמה אלפים טובים

תודה רבה

בבקשה זה יוצא אפילו 6150 - שים לב שאין לך פה אפשרות להרחבת הזכרון בעתיד, זה מקסימום 32GB.
המעבד הוא הדגם הכי זול של סדרת i7 וכרטיס המסך הו הדגם הכי זול בסדרת ה-RTX.

	Processor Intel	Intel Core i7 10700K 3.8Ghz 16 MB Cache s1200 - Tray
	Motherboards for Intel	Asus H510M-K LGA1200 Intel H510 DDR4 PCI-E HDMI
	Memory	G.Skill Trident Z Neo RGB 2x32GB DDR4 2666Mhz CL18 Kit
	VGA Cards	PNY RTX 2060 6GB BLOWER GDDR6 HDMI 3xDP
	Solid-State Drives (SSD)	Transcend 110S TS512GMTE110S 512GB SSD NVMe PCIe Gen3 x4
	Hard Disk	Western Digital Caviar Blue 1TB Sata III WD10EZEX
	Power Supply	Antec Atom G750 750W 80 Plus Gold 135mm Fan PSU (Retail)
	case	Sharkoon VS4-S Black ATX Case No PSU

יש לך 2 דברים מרכזיים. התאימות בין הזכרון ללוח האם והתאימות בין המעבד ללוח האם.
כמו שאתה רואה במפרט הזה, גם הזכרון הוא DDR4 וגם לוח האם תומך ב-DDR4, בנוסף, המעבד יושב על תושבת 1200 וגם לוח האם בעל תושבת 1200.
יש גם נושא של גודל לוח האם לעומת גודל המארז, מהירות הזכרון, כמות הוואט של ספק הכח כדי שתספיק (עם מרווח בטחון) לכל הרכיבים, במיוחד כרטיס מסך, האם לוח האם תומך בm.2 או רק ב-sata לחיבור דיסקים קשיחים, האם יש בלוח האם תושבת PCIe x4 לדוגמא שמתאימה לסוג כרטיס המסך שאתה רוצה לשים וגם האם יש מקום פיזי לכרטיס המסך בדגם שאתה רוצה - יש כרטיסים ארוכים למדי, וגם כפולים ברוחבם בעקבות יחידת קירור מסיבית.

 

[teeto]

בבקשה זה יוצא אפילו 6150 - שים לב שאין לך פה אפשרות להרחבת הזכרון בעתיד, זה מקסימום 32GB.
המעבד הוא הדגם הכי זול של סדרת i7 וכרטיס המסך הו הדגם הכי זול בסדרת ה-RTX.

	Processor Intel	Intel Core i7 10700K 3.8Ghz 16 MB Cache s1200 - Tray
	Motherboards for Intel	Asus H510M-K LGA1200 Intel H510 DDR4 PCI-E HDMI
	Memory	G.Skill Trident Z Neo RGB 2x32GB DDR4 2666Mhz CL18 Kit
	VGA Cards	PNY RTX 2060 6GB BLOWER GDDR6 HDMI 3xDP
	Solid-State Drives (SSD)	Transcend 110S TS512GMTE110S 512GB SSD NVMe PCIe Gen3 x4
	Hard Disk	Western Digital Caviar Blue 1TB Sata III WD10EZEX
	Power Supply	Antec Atom G750 750W 80 Plus Gold 135mm Fan PSU (Retail)
	case	Sharkoon VS4-S Black ATX Case No PSU

יש לך 2 דברים מרכזיים. התאימות בין הזכרון ללוח האם והתאימות בין המעבד ללוח האם.
כמו שאתה רואה במפרט הזה, גם הזכרון הוא DDR4 וגם לוח האם תומך ב-DDR4, בנוסף, המעבד יושב על תושבת 1200 וגם לוח האם בעל תושבת 1200.
יש גם נושא של גודל לוח האם לעומת גודל המארז, מהירות הזכרון, כמות הוואט של ספק הכח כדי שתספיק (עם מרווח בטחון) לכל הרכיבים, במיוחד כרטיס מסך, האם לוח האם תומך בm.2 או רק ב-sata לחיבור דיסקים קשיחים, האם יש בלוח האם תושבת PCIe x4 לדוגמא שמתאימה לסוג כרטיס המסך שאתה רוצה לשים וגם האם יש מקום פיזי לכרטיס המסך בדגם שאתה רוצה - יש כרטיסים ארוכים למדי, וגם כפולים ברוחבם בעקבות יחידת קירור מסיבית.

תודה רבה על העזרה, אפילו למדתי בדרך.