עלייתם של פתרונות קירור נוזלי בשרתי AI: ניתוח TrendForce

Oct 03, 2024

השאר הודעה

 

Ⅰ מבוא

 

על פי הסקר האחרון של TrendForce, קצב החדירה של פתרונות קירור נוזלים צפוי לעלות, מונע מהמשלוח הצפוי של פלטפורמת NVIDIA Blackwell ברבעון הרביעי של 2024. שיעור זה צפוי לעלות מכ-10% ב-2024 ל-2024 מעל 20% בשנת 2025. המודעות הגלובלית הגוברת לגורמים סביבתיים, חברתיים וממשל (ESG), יחד עם הבנייה המואצת של שרתי AI על ידי ספקי שירותי ענן (CSPs), סוללת את הדרך למעבר משמעותי מקירור אוויר מסורתי לפתרונות קירור נוזליים מתקדמים.

 

קירור נוזלי מציע מספר יתרונות על פני קירור אוויר, כולל ניהול תרמי משופר, רמות רעש מופחתות ויעילות אנרגטית מוגברת. ככל שהביקוש ליכולות AI עולה, במיוחד ביישומים עתירי נתונים, המעבר למערכות קירור נוזלי הופך יותר ויותר קריטי לשמירה על ביצועי שרת מיטביים.

 

A liquid cooling system installed in an AI server environment, showcasing the advanced cooling technology

▲ מערכת קירור נוזלי המשמשת בסביבות שרתי AI

 

 

Ⅱ הדומיננטיות של NVIDIA בשוק שרתי הבינה המלאכותית

 

בשוק שרתי הבינה המלאכותית העולמית, NVIDIA ממשיכה לשלוט בבעלותה, ומחזיקה בנתח שוק של קרוב ל-90% בפלח שרתי ה-GPU AI נכון לשנת 2024. AMD משתרכת באופן משמעותי עם נתח שוק של כ-8%. הדומיננטיות הזו נובעת בעיקר מהטכנולוגיה המתקדמת של NVIDIA והמערכת האקולוגית החזקה שלה, התומכת במגוון רחב של יישומים ב-AI, למידת מכונה וניתוח נתונים.

 

TrendForce מציינת שהיקף המשלוחים של NVIDIA Blackwell השנה קטן יחסית. הסיבה לכך היא בעיקר כי הפלטפורמה עוברת תהליכי בדיקה ואימות סופיים בתוך שרשרת האספקה, הדורשים אופטימיזציה מתמשכת בתחומים כמו העברת נתונים במהירות גבוהה ותכנון קירור. צריכת האנרגיה המוגברת של פלטפורמת Blackwell, במיוחד בפתרון מתלה GB200, מחייבת יעילות קירור מעולה, ומאיצה עוד יותר את האימוץ של פתרונות קירור נוזליים.

 

NVIDIA Blackwell platform designed for high-performance AI server applications

▲ פלטפורמת NVIDIA Blackwell לשרתי AI

 

למרות היתרונות של קירור נוזלי, המערכת האקולוגית של השרתים הנוכחית עדיין מציגה שיעור אימוץ נמוך של טכנולוגיה זו. יצרני עיצוב מקוריים (ODMs) חייבים לנווט בעקומת למידה כדי להתמודד עם אתגרים הקשורים ליעילות דליפה וקירור. מכיוון ששיעור ה-GPUs המתקדמים בפלטפורמת Blackwell צפוי לעלות על 80% עד 2025, הדבר יצית תחרות בין יצרני ספקי הכוח ותעשיית הקירור בשוק הקירור הנוזלי המתפתח של AI, מה שיוביל לנוף תחרותי חדש.

 

 

 

Ⅲ פריסה מואצת על ידי CSPs גדולים

 

ספקי שירותי ענן גדולים, כולל גוגל, AWS ומיקרוסופט, האיצו במהירות את פריסת שרתי ה-AI שלהם בשנים האחרונות, תוך שימוש בעיקר במעבדי NVIDIA GPU ו-ASIC שפותחו בעצמם. הספק העיצוב התרמי (TDP) של ארון ה-GB200 NVL72 של NVIDIA הוא כ-140 קילוואט, מה שמדגיש את הצורך הדחוף בפתרונות קירור נוזלי לניהול יעיל של פיזור חום. שיטות קירור נוזל לאוויר (L2A) צפויות להפוך לגישה המרכזית בהקשר זה.

 

AI server deployment in modern data centers, highlighting the use of advanced cooling solutions

▲ פריסת שרתי AI במרכזי נתונים

 

בעוד שמעבדי ה-GPU של NVIDIA שולטים, גוגל גם הייתה פרואקטיבית בבחינת פתרונות קירור נוזלי עבור יחידות העיבוד הטנסוריות שלה (TPUs). המחויבות של גוגל לטכנולוגיה זו ממצבת אותה כחברה האמריקאית בעלת החשיבה קדימה ביותר באימוץ קירור נוזלי. BOYD ו-Cooler Master הם הספקים העיקריים לצלחות הקרות של גוגל, שהן קריטיות לשמירה על טמפרטורות אופטימליות בסביבות מחשוב בעלות ביצועים גבוהים.

 

בסין היבשתית, עליבאבא מרחיבה באגרסיביות את מרכזי הנתונים שלה לקירור נוזלי, תוך שימת דגש על השינוי העולמי לעבר טכנולוגיית קירור מתקדמת זו. ספקי שירותי ענן אחרים ממשיכים בעיקר להסתמך על פתרונות קירור אוויר עבור ASICs AI שפותחו בעצמם, מה שעלול להפריע לביצועים בהשוואה למערכות מקוררות נוזל.

 

 

Ⅳ ספקים מרכזיים ויעוד רכיבים

 

ככל שהמעבר לקירור נוזלי תופס תאוצה, ספקי שירותי ענן מייעדים ספקי רכיבים מרכזיים עבור פתרונות הקירור הנוזלי של ארון ה-GB200. נכון לעכשיו, Qihong ו-Cooler Master הם ספקים מובילים עבור צלחות קרות, בעוד שרכיבי סעפת מקורם ב-Cooler Master ו-Shuanghong. יחידות הפצת נוזלי קירור (CDUs) מסופקות על ידי מובילים בתעשייה כגון Vertiv ו-Delta.

 

עבור רכיבים חיוניים למניעת דליפה כמו ניתוקים מהירים (QDs), יצרנים כגון CPC, Parker Hannifin, Danfoss ו-Staubli מעורבים רבות ברכש. כאשר ספקים נוספים כמו Jiazhe ו-Fushida ייכנסו לשלב האימות, יהיו להם הזדמנויות לספק רכיבי ניתוק מהיר במחצית הראשונה של 2025, מה שיעזור להפחית את חוסר האיזון הנוכחי בין היצע וביקוש.

 

Various suppliers involved in the liquid cooling component supply chain for AI servers.

▲ ספקים מרכזיים לרכיבי קירור נוזלי

 

 

Ⅴ היתרונות של קירור נוזלי

 

יעילות קירור משופרת

מערכות קירור נוזלים נועדו להסיר חום בצורה יעילה יותר ממערכות קירור אוויר. זה חשוב במיוחד ביישומי AI שבהם מעבדים יכולים לייצר חום משמעותי עקב דרישות חישוביות גבוהות. על ידי שימוש בנוזל כדי לספוג ולהעביר חום מהרכיבים, שרתים יכולים לפעול בטמפרטורות נמוכות יותר, להפחית את הסיכון למצערת תרמית ולשפר את הביצועים.

 

אופטימיזציית שטח

מערכות קירור נוזלי לרוב תופסות פחות מקום מפתרונות קירור אוויר מסורתיים, מה שמאפשר עיצוב מרכזי נתונים יעיל יותר. תכונה זו חוסכת מקום מועילה במיוחד לארגונים המעוניינים למקסם את קיבולת השרת שלהם מבלי להרחיב את טביעת הרגל הפיזית שלהם.

 

יעילות אנרגטית

עם התמקדות גוברת בקיימות ויעילות אנרגטית, פתרונות קירור נוזליים יכולים לסייע בהפחתת צריכת האנרגיה הכוללת של מרכזי נתונים. על ידי צמצום ההסתמכות על מאווררים ויחידות מיזוג אוויר, קירור נוזלי יכול להוזיל את עלויות האנרגיה וטביעות הפחמן, תוך התאמה עם יעדי ה-ESG שחברות רבות שואפות להשיג.

 

הפחתת רעש

מערכות קירור נוזלים פועלות בצורה שקטה יותר ממערכות מקוררות אוויר מסורתיות, מה שמוביל לסביבת עבודה נעימה יותר במרכזי נתונים. הפחתת רעש זו מהווה שיקול חשוב עבור מתקנים הממוקמים בקרבת אזורים מיושבים או בתוך בנייני משרדים.

 

 

Ⅵ התמודדות עם אתגרים נפוצים

 

למרות היתרונות, המעבר לקירור נוזלי אכן מלווה באתגרים. אלה כוללים:

 

עלויות ראשוניות

ההשקעה מראש עבור מערכות קירור נוזלי יכולה להיות גבוהה יותר מפתרונות קירור אוויר מסורתיים. ארגונים חייבים לשקול את העלויות הללו מול היתרונות והחיסכון לטווח ארוך ביעילות אנרגטית ותחזוקה.

 

חששות דליפה

אחד האתגרים המשמעותיים ביותר הקשורים לקירור נוזלי הוא הסיכון לדליפות. פרוטוקולי תכנון, בחירת חומרים ותחזוקה נכונים חיוניים כדי לצמצם סיכון זה ולהבטיח אמינות המערכת.

 

מורכבות תחזוקה

מערכות קירור נוזלים דורשות תחזוקה מורכבת יותר בהשוואה למערכות מקוררות אוויר. ארגונים חייבים להכשיר את הצוות שלהם או להעסיק ספקי שירות מיוחדים כדי להבטיח שפתרונות קירור נוזליים יישארו יעילים וללא בעיות.

 

 

Ⅶ מגמות עתידיות בקירור נוזלי

 

ככל שהביקוש למחשוב AI ממשיך לעלות, מספר מגמות עתידיות צפויות לעצב את נוף הקירור הנוזלי:

 

אימוץ פתרונות היברידיים

מערכות קירור היברידיות המשלבות טכנולוגיות קירור אוויר ונוזל עשויות לזכות בכוח. מערכות אלו יכולות לספק גמישות ויעילות, תוך התאמה לעומסי עבודה ולצרכים תפעוליים שונים.

 

חומרים מתקדמים

פיתוח חומרים מתקדמים לרכיבי קירור נוזליים יכול לשפר את הביצועים והאמינות. חידושים במדעי החומרים עשויים להוביל לפתרונות קירור קלים, עמידים ויעילים יותר.

 

אינטגרציה עם AI ו-IoT

השילוב של טכנולוגיות AI ו-IoT במערכות קירור יכול לייעל את הביצועים על ידי הפעלת ניטור בזמן אמת והתאמות אוטומטיות המבוססות על תנאי הסביבה ועומסי העבודה של השרת.

 

דגש על קיימות

ככל שחברות נותנות עדיפות גוברת לקיימות, פתרונות קירור נוזליים המשתמשים בנוזלי קירור וחומרים ידידותיים לסביבה יהפכו לנפוצים יותר. התעשייה עשויה לראות מעבר למערכות בלולאות סגורות כדי למזער פסולת והשפעה סביבתית.

 

 Future trends in liquid cooling technology

▲ מגמות עתידיות בטכנולוגיית קירור נוזלי

 

 

 

Ⅷ מסקנה

 

המעבר מפתרונות קירור אוויר לנוזל בשרתי AI מייצג התפתחות משמעותית בתעשייה, המונעת על ידי התקדמות הטכנולוגיה והביקוש הגובר לניהול תרמי יעיל. כאשר NVIDIA מובילה את שוק שרתי הבינה המלאכותית וספקי שירותי ענן גדולים כמו גוגל בוחנים באופן פעיל אפשרויות קירור נוזלי, הנוף משתנה במהירות.

 

על ידי הבנת היתרונות והאתגרים של קירור נוזלי, כמו גם שחקני המפתח המעורבים ביישום שלו, ארגונים יכולים למקם את עצמם טוב יותר כדי למנף את הטכנולוגיה הזו לשיפור ביצועים, קיימות ותחרותיות בנוף ה-AI. ככל שהתעשייה מתקדמת, פתרונות קירור נוזליים ישחקו תפקיד מכריע בעיצוב העתיד של מרכזי הנתונים, ויבטיחו שהם יוכלו לעמוד בדרישות של יישומי AI מהדור הבא.

 

 

 

 

שלח החקירה