רכוש חומרה ל-AI: GPU של NVIDIA, שרתי GPU ואחסון ארגוני ל-AI

אנחנו מספקים שלוש קטגוריות של חומרה מקצועית ל-AI:כרטיסי GPU ל-AI(NVIDIA H100, H200, A100, RTX PRO 6000 Blackwell, RTX 5090, T1000, L4 ו-עוד)שרתים מבוססי בינה מלאכותית(DGX H100/H200, רכיבי OEM HGX, GB200 NVL72, פתח-עבודה מותאם אישית עם ריבוי GPU ופלטפורמות הרכבה לתא) ו-אחסון ארגוני(Seagate EXOS 20–24 TB כונני HDD קרובים, WD Gold/Ultrastar, Samsung PM9A3 NVMe SSDs, Seagate Nytro וסדרת Micron 7450). כל הפריטים נשלחים עם משלוח DDP עולמי חינם.

H100 ו-H200 משתפים את אותו die GPU Hopper וביצוע חישובים זהה (~3.9 PFLOPS FP8 דליל). ה-H200 מחליף את HBM2e ב-HBM3e, ומגדיל את הקיבולת ל-141 ג'יגהבייט (לעומת 80 ג'יגהבייט) ורוחב פס של 4.8 טרהבייט/שנייה (לעומת 3.35 טרהבייט/שנייה) — חיוני להגשה של מודלים גדולים להסקת מסקנות. שני ה-H100 וה-H200 זמינים בצורת SXM (NVSwitch, GPU מרובה עם רוחב פס גבוה) ובפורמט PCIe (שרת סטנדרטי). ה-RTX PRO 6000 Blackwell הוא GPU לעמדות עבודה/רשת המשתמש בארכיטקטורת Blackwell: 96 ג'יגהבייט ECC GDDR7 בכרטיס PCIe עם שני חריצים, ליבות Tensor דור חמישי עם תמיכה ב-FP4, אך ביצועי FLOPS כוללים נמוכים יותר מ-H100/H200. זהו הבחירה הטובה ביותר כאשר קיבולת הזיכרון בחריץ PCIe היא השיקול המרכזי.

NVSwitch הוא ASIC ייעודי שמרכיב חיבור רשת שלם בין כל ה-GPU במערכת שרת בינה מלאכותית. ב-DGX H100, 4 ASICs NVSwitch מחברים 8 GPU H100 כך שכל GPU יכול לתקשר עם כל GPU אחר במהירות של 900 GB/שנייה בו זמנית — הרבה מעבר למה ש-PCIe יכול לספק. ללא NVSwitch, אימון מרובה GPU דורש פעולות AllReduce על פני PCIe (~64 GB/שנייה), מה שהופך לב צוואר בקבוק קשה לעבודה על עומסי עבודה עם טנזורים ומודלים גדולים. NVSwitch זמין רק בשרתים בפורמט SXM (DGX, HGX).

כקו בסיס: להידוק מודל בגודל 7–13 מיליארד על مجموعת נתונים מותאמת אישית, 1–4 טרהבייט של SSD NVMe מספיקים עבור مجموعת הנתונים, נקודות ביקורת ומשקלי המודל. להקדים אימון או הידוק מודלים עם 70 מיליארד ומעלה, תכננו ל-10–100 טרהבייט של אחסון מהיר בהתאם להיקף مجموعת הנתונים שלכם. בהיקף פטהבייט (ריצות אימון מלאות), אשכול אחסון מבוזר באמצעות Seagate EXOS או WD Ultrastar HDDs בזמינות קרובה ל-line בסידור Ceph/Lustre הוא הסטנדרט. אנו ממליצים על אדריכלות מרובת רמות: NVMe ארגוני ל-I/O חם (תיקוני נקודות, חבילות בתנועה) וכונני HDD בנפח גבוה לאגם مجموعת הנתונים.

זה תלוי בדיוק. ב-FP16 מודל של 70B דורש כ-140 GB של VRAM — רק ה-H200 (141 GB) יכול להחזיק אותו ב-GPU אחת בדיוק מלא. ב-הקצאת INT8 (~70 GB), ה-H200 או ה-H100 80 GB מטפלים בו עם מקום לעוגן KV. ב-INT4 (GGUF Q4, כ-35–40 GB), ה-RTX PRO 6000 Blackwell (96 GB) מריץ אותו בנוחות עם הרבה מקום לעוגן KV. ב-INT4 עם הקצאה קיצונית (~20–25 GB), אפילו ה-RTX 5090 (32 GB) יכול לשרת מודלי 70B.

כן. אנו מציעיםמשלוח DDP חינם בכל העולםעל כל ההזמנות. DDP (Delivery Duty Paid) פירושו שאנו מטפלים ביצוא, בהובלה בינלאומית, במעברי מכס ובתשלום מיסי היבוא — המחיר שתראו הוא המחיר שתרכשו. הזמנות GPU ואחסון נשלחות בתוך 1–3 ימי עסקים. מערכות שרת גדולות עשויות לדרוש זמן עיבוד נוסף להגדרה ולמשלוח;צרו קשר איתנולתקופה מסוימת.

כן. מיליוןמיינר מטפלת ברכישות תאגידיות, מוסדות מחקר ותשתית אחסון בענן. מחירי כמות זמינים להזמנות GPU מרובות יחידות, כונני אחסון בכמות של פלטה ומערכות שרת שלמות.צור קשר עם צוות המכירות שלנועם דרישותיך — דגם, כמות, מיקום אספקה, ולוח זמנים — נוכל לספק הצעת מחיר ייחודית הכוללת לוגיסטיקת משלוחים.

שרתים עם 2 GPU PCIe ברמת כניסה צורכים בין 2 ל-4 קילוואט וניתן להשתמש במערכת קירור אוויר סטנדרטית. DGX H100 עם 8 GPU צורך עד 10.2 קילוואט ודרוש חשמל תלת-פאזי של 30A, 240V ( צפון אמריקה) או 3 פאזות של 32A (אירופה). GB200 NVL72 צורך עד 120 קילווואט לכל ארון ודרוש קירור ישיר במים ומצב חשמל תלת-פאזי ייעודי — תכנון המתקן חובה לפני ההזמנה. לכרטיסי GPU בודדים, RTX PRO 6000 Blackwell צורך 300 W ומתאים בכל תחנת עבודה סטנדרטית עם ספק כוח מספיק.

הצוות שלנו זמין 24/7 דרך WhatsApp (+49 176 777 888 33), דואר אלקטרוני וטלפון. אנו מסייעים בבחירת GPU לעומסים ספציפיים, תכנון אשכול GPU מרובה, השוואות פלטפורמת שרתים, תכנון ארכיטקטורת אחסון ורכש B2B.צרו קשראו בקרו ב-Ourשאלות נפוצותלתשובות מיידיות.