מישהו בחברתכם החליט שהגיעה העת להריץ בינה מלאכותית על החומרה שלכם. אולי תרצו צ'אטבוט פרטי שמכיר את המסמכים הפנימיים שלכם, תהליכון תמונות לצוות המוצר, או מודל שקורא חשבוניות בהיקפים גדולים. ועכשיו אתם האדם שמשווה בין GPU - מביטים בדפי מפרטים מלאים ב-TFLOPS, VRAM ומקיצי חיבור, בעוד שכל ספק טוען שהוא הכי מהיר.
מדריך זה נכתב בדיוק לרגע זה. הוא מסביר, בשפה פשוטה, מה מדדי ה-GPU באמת מודדים, אילו מספרים חשובים לעבודה עם AI ואילו ניתן להתעלם מהם בבטחה, ואיך לחשב כמה חומרה באמת נדרשת עבור מקרה השימוש שלכם. בסיום תוכל לקרוא כל דף מפרט של GPU, להשוות בין שני כרטיסים לבד, ולדעת בדיוק אילו שאלות לשאול לפני שתתחייב לתקציב של עשרת אלפים או שישה עשר אלף.
מה המבחן של GPU בעצם מספר לכם
מדד ביצועים הוא מבחן שניתן לחזור עליו: אותו משימה, בוצעה תחת אותם תנאים, על חומרה שונה. משום שהמשימה אינה משתנה, התוצאות ניתנות להשוואה הוגנת — כרטיס A סיים את ההעמסה במהירות זו, כרטיס B סיים אותה במהירות זו. זה כל מדד ביצועים, וזו הכלי הכי חשוב שיש לקונה.
זה חשוב כי דף תצורה בלבד לא יכול לענות על שאלתכם. היצרנים מפרסמים מקסימלים תאורטיים — הכוח החשוב שיכול שבב לספק בתנאי מעבדה מושלמים. עבודה אמיתית ב-AI היא יותר מסובכת: הנתונים חייבים לעבור פנימה והחוצה מזיכרון, התוכנה מוסיפה עומס, ומשימות שונות משפיעות על חלקים שונים בכרטיס. שני GPU עם תצורות נייר דומות יכולים להתנהג מאוד שונה ברגע שהם מריצים מודל שפה בפועל.
זו הסיבה שבגינה מדדי עומס העבודה הם המספרים שכדאי לקרוא. במקום ניקוד אבסטרקטי, הם מודדים את העבודה שהחומרה של ה-AI אכן מבצעת לאורך כל היום: יצירת טקסט עם מודל שפה, הפקת תמונות עם מודל Diffusion, וקריאה או ניתוח תמונות. אם השימוש המתוכנן שלכם תואם את עומס העבודה, המדד נותן לכם משהו אמיתי.
הגבלה כנה אחת, ישר בתחילה: מדדים הם נקודות ייחוס, לא ערבות. התוצאות משתנות עם גרסאות הנהג, מסגרות תוכנה, גדלי אצווה והגדרות מודל. השוואה רצינית — כולל שלנו — מבוססת על נתוני מבחן פרסום לציבור ותמיד תאמר זאת. קיימו כל מספר במדריך זה, ובכל עמוד השוואה, כהנחיה ולא כהבטחה לתוצאה.
Reading a benchmark chart: one baseline, proportional bars, and a healthy dose of context.
13 המונחים החשובים בהשוואת חומרת ה-AI
אין צורך בתואר בהנדסה כדי לרכוש את ה-GPU הנכון. אתה זקוק לשלושה עשר מונחים, שמסודרים כאן בסדר בו יפגשו אותך במחלטת רכישה אמיתית.
המדריך למהדורה והצרכים שלה
Inference runs the model. Training teaches it — and typically needs two to four times the memory.
מהירות שאפשר להרגיש
המחסום המוסתר
הסטיה ועלות
כל מונח מתוך הרשימה מופיע בעמודה או בתווית ב-נוטבלת השוואת GPUכך תוכלו לראות אותם מצורפים לכרטיסים ממשיים במקום הגדרות מופשטות.
כמה GPU באמת עליכם?
גודל המודל מגדיר את התקרה. הערכה נפוצה שמפורסמת בדרך כלל: בדיוקנות FP16 מלא, מודל זקוק לכ־2 GB של VRAM לכל מיליארד פרמטרים. קוונטיזציה מצמצמת את ההשפעה הזו — INT8 דרוש כ־מחצית, INT4 כ־רבע. בנוסף למשקלות שצריכים, תכננו בערך 15 עד 20 אחוז נוספים עבור מטמונים ופעולות, ועוד إذا תרצו חלונות הקשר ארוכים.
שני הערות מעשיות על טבלה זו. ראשית, אלה הערכות למשקלות פלוס קולטות ניהול רגילות — חלון הקשר הארוך או דגם Batch גדול מוסיפים עוד יותר. שנית, ההדרכה משנה הכל: ללמד או לכוון דגם בדרך כלל דרוש לפחות פי שתיים עד ארבעה יותר זיכרון מאשר להריץ אותו, מכיוון שמשקלות וסטטוסי אופטימיזר קיימים ב- VRAM יחד עם המשקלות.
המהירות פועלת לפי לוגיקה דומה. לאינטפירנס, רוחב הפס של הזיכרון בדרך כלל קובע כמה מהר מופיעים הטרנזקציות, ולכן כרטיסי מרכז נתונים עם זיכרון HBM מרגישים מהירים באופן לא פרופורציונלי על מודלים גדולים יותר מאשר יתרון ה-TFLOPS שלהם מרמז.
The memory ladder: what common model sizes need at full precision versus quantized to INT4.
אם תרצה לדלג על החישוב, קבוצנו כל כרטיס לארבע כיתות מעשיות — מחומרת כניסה לפרוטוטייפינג ועד לכרטיסי דגל לשרת תוצר של מעל 70 מיליארד — ב־רמות עומס בעמוד ההשוואה.
איך לזהות איזה GPU טוב יותר: רשימת בדיקה של 4 שאלות
כאשר שני קלפים נמצאים ברשימת הקול הקול שלך, ארבע שאלות פותרות כמעט כל השוואה.
יש עוד טריק אחד שמקל משמעותית על ההשוואה: אינדקסינג. במקום להסתובב בין ארבע טבלאות מפרט, שימו כל כרטיס על משקל אחד. דף ההשוואה שלנו מדרג כל GPU על פני מטלות חישוב LLM, יצירת תמונות ועיבוד חזותי, ולאחר מכן מגדיר אינדקס לכל אחד ביחס ל-RTX 3090 הנקבעת כBaseline של 100 נקודות — ציונים של 200 משמעו בערך כפול容量 התפוקה הכוללת של הכרטיס הידוע הזה. פתאום השאלה איזה טוב יותר מקבלת תשובה במהרה.
One scale for every card: when the RTX 3090 is 100, a 403 speaks for itself.
אתה יכול לראות את השדה הממויין המלא ב-טבלת 78-GPUאו קפצו ישירות ל-קרב עימות בין שתי קלפים כלשהםשאלת ה-H100 לעומת H200, למשל, נפתרת בזמן קצר: חישוב זהה בתוכנית אך 141 GB של זיכרון מהיר יותר ב-H200 לעומת 80 GB ב-H100.
דרך חינמית להשוואה: בתוך כלי מבחן ה-GPU
שקיפות מלאה: הכלי שתואר כאן שייך לנו. הוא חינם, הוא עובד ללא הרשמה כלשהי, וקיומו נובע מכיוון שהתשאלנו שוב ושוב את אותם שאלות השוואה ללקוחות באופן ידני. להלן מה שכל חלק עושה — כולל מה שהוא לא יכול לעשות.
טבלת 78-GPU
כל כרטיס נוכחי בטבלה sortable אחת: VRAM, אינדקס ה-inference של ה-AI עם סרגל פרופורציונלי, TFLOPS תאורטיים של FP16, דרך הטרנינג הפורסדור שנמצאת בפועל, והערה בשפה פשוטה על מה כל כרטיס מתאים ביותר עבורו. סנן לפי קלס VRAM, חפש לפי שם, ומיין כל עמודה. Aפודיום של שלושת המקומות הראשונים הנוכחייםיושב מעליה לאלו שממהרים.
הגבלת הכנות: טבלת ה-GPU אינה מציגה מחירים במכוון. מחירי השוק לחומרה בינה מלאכותית משתנים שבועית, ומחיר מיושן עדיף על חוסר מחיר — המחירים נקבעים בציטוט, לא בטבלה סטטית.
הזירה בין-הראשיתה
בחר כל זוג קלפים ו-זירהשים אותם זה לצד זה: VRAM, אינדקס ההסקה, חישוב FP16 ודרוג היכולות באוטומציה של אימון כמקלות מראה, ועוד חוות דעת כתובה במשפט אחד בשפה פשוטה. זהו הדרך המהירה ביותר לפתור מחלוקת פנימית בין שני כרטיסי מסקרנים.
הגבלתית: ההכרעה משקפת את המדד הפרוש, לא את ערכת התוכנה המדויקת שלכם. כרטיס שמנצח במדד יכול עדיין להפסיד במסגרת או בגירסת הדגם הספציפית שלכם — ולכן ההכרעה מציינת את ההפרש instead of pretending to be a lab report.
The arena in three steps: pick two cards, compare the bars, read the verdict.
48 שרתי AI מלאים
ברגע שכרטיס אחד אינו מספיק, יחידת ההשוואה משתנה: שרת מרובה GPU נשפט לפי הזיכרון הכולל ולפי החישוב הכולל שלו.חלק השרתרשימות 48 מערכות מושלמות — מתחנות עבודה קטנות ועד למכונות ראג' עם 8-GPU — עם זיכרון VRAM כולל וחישוב FP16 כולל מחושב באותו קנה מידה כמו הכרטיסים הבודדים, כדי שהמספרים יישארו השוואתיים בכל האתר.
דרגות, מתודולוגיה והנקודות הקטנות
ה-רמות עומס העבודההמרה של קבוצות חומרה למקרי שימוש פשוטים — הדגל לשרת של מעל 70 מיליארד פעולות מרובה שוכרים, High-End לעבודה תעשייתית של 30 מיליארד עד 70 מיליארד, Mid-Range לטווח של 8 מיליארד עד 30 מיליארד, Entry להדגמות ולמידה. המתודולוגיה מפורסמת באופן פתוח: רק נתוני מבחן זמינים לציבור, שלוש משפחות עומסים אמיתיות, הכל ממוין ביחס ל-RTX 3090 על 100. והדף חוזר על ההצהרה העצמית שלו, שאותה אנחנו חוזרים כאן: נתוני ייחוס לייעוץ בלבד, לא בהכרח אחריות לביצועים.שאלות נפוצות עם 16 שאלותמכסה את הפרטים.
חמש טעויות שעושות קונים בפעם הראשונה
מהרשימה הקצרה להצעת מחיר: מה עליכם להכין ומה הצעד הבא
שנקודת הזמן בה שלב גיליון הנתונים מסתיים ואתה מדבר עם ספק. השיחה קצרה ופורה אם תביא חמישה עובדות:
עם התשובות האלה, הנה איך זה מתנהל אצלנו, בפשטות: אתה שולח את השאלה דרך ה-טופס בדף ההשוואהאו באמצעות WhatsApp או Telegram, ומהנדס אמיתי — לא בוט — עונה בדרך כלל תוך ככשעתיים. ה-GPU והשרתים מספר 78 ו-48 בעמוד הם מה שאנו מפרסמים לציבור; אנו יכולים לספק הרבה מעבר לכך, לתת הצעות מחיר ב-B2B ובמחירי כמויות, שלוח לכל העולם עם טיפול במכס, או להפעיל את הציוד במתקני האחסון שלנו. וכדי לעצבן את עצמנו בכנות: MillionMiner היא משווקת ומספקת אחסון, לא יצרן — ולכן המלצה אינה קשורה לאף מותג בודד.
שאלות נפוצות
האם אנו זקוקים למומחיות חומרה פנימית כדי לרכוש שרת בינה מלאכותית?
לא. אם תוכלו להשיב על חמש שאלות ההכנה לעיל — מודל, משתמשים, באפר, ניתוח או אימון, מיקום — ספק מוסמך יכול לתרגם אותן לחומרה. אוצר המילים במדריך זה קיים כדי שתוכלו לבדוק את הלוגיקה שלהם, לא כדי שתעשו את העבודה שלהם.
هل علينا شراء وحدات GPU أم השכרתן בענן?
דפוס נפוץ שפורסם במיוחד: עומסי עבודה הפועלים בשימוש גבוה מתמשך משלמים על החומרה שבבעלותם באופן מפתיע במהירות, בעוד שעומסי עבודה עם תנודות או ניסויים מעדיפים שכירות. רבות מהעסקים מוצאים את עצמם באמצע — owning את החומרה והחזקתה בשרת חיצוני, המשלב עלות צפויה ללא העבודה באתר. חשבו את המספרים על השימוש הריאליסטי שלכם לפני קבלת החלטה.
האם מודל מקודד מאבד איכות ניכרת?
ה הערכות שפורסמו באופן עקבי מראות כי FP8 כמעט בלתי נפרד בדיוק המלא ברוב המשימות, ו-INT4 מהווה ויתור קטן שתלוי במשימה. הגישה ההגיונית היא לבדוק את המקרה הספציפי שלכם ברמת הכימות שבה אתם מתכוונים להריץ — לפני שתהיו צריכים לתכנן את החומרה עבורו.
איזה מידע עלינו להכין לפני בקשת הצעה מחיר?
המודל וגדולתו, מספר המשתמשים החופפים הצפויים או נפח הבקשות, ציפיית היפוך הזמנים שלכם, אם דרושות גם אימון וגם ניחוש, היכן צריכה להימצא החומרה. חמש תשובות — זה כל השיעור.
האם עלינו לחכות לדור הבא של ה-GPU?
תמיד קיימת דור חדש. קנו לטווח עומס עבודה של שניים עד שלושה שנים: אם החומרה הזמינה היום משרתת את המודלים הנוכחיים ובקרובים, עם מקום לגדילה, ההמתנה בעיקר עוללת לכם את חודשי הערך שלא הצלחתם לתפוס. דורות חדשים נוטים להוסיף זיכרון ויעילות במקום לשנות את מה שיכול להיות.
המסקנה העיקרית
גודל המודל מגדיר את רף הזיכרון שלכם. רוחב פס הזיכרון קובע את מהירות היישום שלכם בעולם האמיתי. מדדים — קראו אותם כנתוני ייחוס המומרים לאב המטרה — מקבעים את ההשוואה בין שני מועמדים. כל היתר הוא חישוב על עומס העבודה שלכם.
כאשר תהיה מוכן להמיר שמות למספרים, ההשוואת שרתים עם GPU ו-AIמציג את כל השדה בסקלָה אחת, ו________________קטלוג חומרה ל-AIמציג מה במלאי כרגע.
