קירור נוזלי מגביר את הביצועים והיעילות של פלטפורמת Blackwell של Nvidia

 

הצמיחה המהירה של בינה מלאכותית (AI), במיוחד בתחומים כמו AI Generative (GenAI) ומודלים של שפות גדולות (LLMs), הניעה ביקוש חסר תקדים לכוח מחשוב. ככל שדגמי בינה מלאכותית הופכים מורכבים יותר ודורשים יותר נתונים, החומרה הדרושה כדי לתמוך בהתקדמות אלה עומדת בפני אתגרים משמעותיים, במיוחד עם פיזור חום. שיטות קירור מסורתיות, כמו קירור אוויר, אינן מספיקות עוד כדי לנהל את צריכת החשמל של חומרת AI חדשנית, וכאן נכנסות לתמונה פתרונות קירור נוזליים.

 

טכנולוגיית קירור נוזלי זכתה בולטות כדרך יעילה ביותר לנהל את התפוקה התרמית של מרכזי נתונים בינה מלאכותית. זה חיוני במיוחד עבור פלטפורמות כמו ארכיטקטורת Blackwell של Nvidia, שבהן כוח החישוב העצום דורש מערכות קירור מתקדמות כדי להבטיח ביצועים ואריכות ימים.

 

ב-Hotchip 2024כנס, Nvidia הציגה את הפתרון החדשני שלה, שילובמים חמים קירור נוזלי ישיר לצ'יפטכנולוגיה עם ארכיטקטורת Blackwell שלה כדי להתמודד עם אתגרי צריכת החשמל והקירור המתגברים. פיתוח זה מסמל התקדמות מרכזית בתכנון חומרת AI, הפחתת עלויות תפעול ושיפור היעילות ביישומי AI בקנה מידה גדול.

 

▲ מדריך Hot Chips: קירור נוזלי משפר את הביצועים והיעילות

 

עלייתה של טכנולוגיית קירור נוזלי

 

טכנולוגיית קירור נוזלי מתגלה כמרכיב קריטי בתכנון מרכזי נתונים בינה מלאכותית בשל הדרישות ההולכות וגדלות של שבבי AI. ככל שיישומי AI גדלים, צריכת החשמל במרכזי נתונים צפויה לעלות באופן דרסטי. מעבדי AI רבים, כולל H100 של Nvidia והחדש שלוארכיטקטורת בלאקוול, צורך בכל מקום מ-700W עד 1200W של הספק. משיכת האנרגיה העצומה הזו מתחזקת כאשר אשכולות AI, המורכבים מאלפי GPUs, פועלים ביחד.

 

לְמָשָׁל,אשכול אימון בינה מלאכותית של אילון מאסק, הגדול בעולם עם 100,000 H100 GPUs, מקורר נוזל לחלוטין כדי לנהל את דרישת האנרגיה של 31-מגה וואט. דוגמאות כאלה מדגימות מדוע אופטימיזציה של טכנולוגיית הקירור היא קריטית - לא רק כדי להפחית עלויות תפעול אלא גם כדי לשפר את הביצועים הכוללים של מערכות בינה מלאכותית. ככל שהצורך בבינה מלאכותית בעלת ביצועים גבוהים ממשיך לגדול, קירור נוזלי ימלא תפקיד מרכזי יותר ויותר בשמירה על מערכות מחשוב בעלות ביצועים גבוהים.

 

 

היתרונות של קירור נוזלי במרכזי נתונים בינה מלאכותית

קירור נוזלי בולט בזכות יכולתו להעביר חום ישירות הרחק ממרכיבים קריטיים כמו מעבדים ומעבדים גרפיים, ומשפר את פיזור החום בהשוואה לקירור אוויר מסורתי. בקירור נוזלי ישיר (DLC), נוזל קירור בא במגע ישיר עם השבב, משפר את היעילות התרמית ומצמצם את הצורך במאווררים מגושמים ובמערכות מיזוג אוויר. כתוצאה מכך צריכת אנרגיה נמוכה יותר לקירור, ובכך מפחיתה את סך העלויות התפעוליות של מרכז הנתונים.

 

יֶתֶר עַל כֵּן,קירור נוזלי טבילה, שבו שרתים שלמים שקועים בנוזל דיאלקטרי, מציג פתרון קירור יעיל עוד יותר. שיטה זו לא רק מבטיחה שכל הרכיבים יישארו קרירים אלא גם ממזערת בלאי מכני, אשר מאריך את תוחלת החיים של החומרה, ומפחית משמעותית את הרעש מציוד הנעים באוויר.

 

 

אתגרי צריכת חשמל בחומרת AI

 

ככל שמערכות AI מתרחבות, צריכת החשמל שלהן מהווה אתגר הולך וגובר. חומרת AI, כגוןNvidia H100 GPUואתארכיטקטורת בלאקוול, ידועים כצורבים להספק, כאשר דרישות הספק מגיעות עד 1200W לשבב. אשכול AI טיפוסי המכיל 22,000 H100 GPUs, למשל, עשוי לדרוש עד31 מגה וואט חשמל-שווה ערך לצריכת החשמל של עיר קטנה.

 

הדרישה האדירה הזו לא רק מגדילה את העלויות התפעוליות של מרכזי נתונים, אלא גם תורמת להשפעות סביבתיות משמעותיות. כדי להתמודד עם אתגרים אלה, מרכזי נתונים חייבים להתמקד הן בהפחתת צריכת החשמל והן בשיפור יעילות הקירור.

 

 

ארכיטקטורת Blackwell של Nvidia ומים חמים ישירות לקירור שבב

 

ב-כנס Hotchip 2024, Nvidia חשפה את הפתרון שלה לשילוב קירור נוזלי עם ארכיטקטורת Blackwell שלה, תוך שימושמים חמים טכנולוגיית קירור ישיר לצ'יפ. גישה זו משתמשת במים חמים (בניגוד למים קרים) כדי לספוג ולהעביר חום ישירות מהשבב. על ידי שימוש בקירור מים חמים, Nvidia יכולה להפחית את צריכת חשמל הקירור של מרכזי נתונים בעד 28%.

 

היעילות של פתרון זה היא כפולה: הוא לא רק מקטין את צריכת החשמל הכוללת לקירור, אלא גם מאפשר שחזור של פסולת חום, שניתן להשתמש בו מחדש לשימושים אחרים, כגון חימום מבנים סמוכים. בנוסף, קירור מים חמים מאריך את תוחלת החיים התפעולית של שרתים על ידי שמירת השבבים בטווחי טמפרטורה אופטימליים, מניעת התחממות יתר והפחתת בלאי.

 

▲ פתרון קירור מים חמים ישירות לצ'יפ

 

טכניקת קירור זו חשובה במיוחד מכיוון שיישומי בינה מלאכותית כמו GenAI ו-LLM ממשיכים להגביר את כוח החישוב הנדרש במרכזי נתונים. היכולת לשמור על טמפרטורות אופטימליות משפיעה ישירות על הביצועים ועל המדרגיות של עומסי העבודה של AI, מה שמבטיח שמערכות אלו יכולות להתמודד עם הדרישות האינטנסיביות המוטלות עליהן.

 

 

 

קירור נוזלי טבילה: צעד מעבר

 

בנוסף לקירור נוזלי ישיר,קירור נוזלי טבילהזוכה גם למשיכה כפתרון ברמה הבאה למערכות בינה מלאכותית בקנה מידה גדול. שיטה זו מטביעה שרתים שלמים בנוזל דיאלקטרי לא מוליך, הסופג ומפזר חום מלא מכל הרכיבים. על ידי קירור המערכת כולה באופן זה, קירור נוזלי טבילה מציע את היתרונות הבאים:

 

• יעילות קירור משופרת: על ידי הקיפת כל הרכיבים בנוזל קירור, שיטה זו מספקת הסרת חום אחידה ויעילה.
• עלויות תחזוקה נמוכות יותר: ללא חלקים נעים כגון מאווררים, יש פחות בלאי מכני, מה שמפחית את עלויות התחזוקה ומאריך את חיי הציוד.
• יעילות אנרגטית משופרת: קירור טבילה יכול להפחית באופן דרמטי את צריכת האנרגיה, מכיוון שהוא מבטל את הצורך במערכות מיזוג אוויר ורכיבי קירור פעילים אחרים.

 

▲ מערכת קירור נוזלי טבילה

 

יֶתֶר עַל כֵּן,קירור נוזלי טבילהניתנת להרחבה מאוד, מה שהופך אותו לאידיאלי עבור מרכזי נתונים המטפלים בעומסי עבודה של בינה מלאכותית שמייצרים כמויות משמעותיות של חום, כמו אלו המופעלות על ידי ארכיטקטורת Blackwell של Nvidia. כאשר מודלים גדולים יותר של AI הופכים נפוצים יותר, קירור טבילה עשוי להפוך לפתרון מומלץ עבור מרכזי נתונים המעוניינים להגדיל את הפעילות שלהם תוך מזעור עלויות האנרגיה וההשפעה הסביבתית.

 

 

 

ההשקעה של עמק הסיליקון בטכנולוגיות קירור

 

הביקוש הגובר לפתרונות קירור יעילים יותר במרכזי נתונים בינה מלאכותית משך את תשומת הלב של חברות הון סיכון, במיוחד בתחוםעמק הסיליקון. חברות אלה משקיעות באופן פעיל בסטארטאפים שמתמחים בקירור נוזליטכנולוגיות, מתוך הכרה שחידושים בתחום זה חיוניים לעתיד של חומרת AI.

 

סטארטאפים מתפתחיםפתרונות קירור מתקדמיםלא רק מספקים יתרונות מיידיים למערכות בינה מלאכותיות מהדור הנוכחי, אלא גם מניח את התשתית לגל הבא של חומרת בינה מלאכותית, שככל הנראה ידרוש שיטות קירור מתוחכמות עוד יותר. טכנולוגיות אלו צריכות לתת מענה הן לדרישות ההספק הגבוהות והן לאתגרים התרמיים של מערכות בינה מלאכותית, מה שהופך אותן להשקעה אטרקטיבית עבור אלה המחפשים לדחוף את הגבולות של מה שאפשר במחשוב בעל ביצועים גבוהים.

 

▲ AI Data Center מגמות השקעות

 

 

מַסְקָנָה

 

ככל שחומרת AI ממשיכה להתפתח, הדרישה לטכנולוגיות קירור חדשניות גדלה. של Nvidiaארכיטקטורת בלאקוולעומדת בחזית השינוי הזה, מנצלתמים חמים ישירות לצ'יפקירור כדי להגביר את היעילות ולהפחית עלויות תפעול.קירור נוזלי, בין אם באמצעות מגע ישיר או טבילה, מתגלה כדרך היעילה ביותר לנהל את צריכת החשמל המסיבית ותפוקת החום של מערכות בינה מלאכותית מודרניות.

 

חברות הון סיכון שמות לב, עם השקעות רבות בסטארטאפים שיכולים להציע פתרונות קירור מהדור הבא. ככל שמרכזי נתונים בינה מלאכותית יהפכו לגדולים ומורכבים יותר, החשיבות של מערכות קירור יעילות וניתנות להרחבה רק תגדל, מה שהופך את הקירור הנוזלי לאבן יסוד בתשתית מחשוב עתידית עתידית.