שרתי AI מקוררים בנוזל מתמודדים עם צווארי בקבוק
Sep 30, 2024
השאר הודעה
עם הגידול במשלוחים של שבבי Blackwell, גם נכונות הלקוחות לאמץ קירור נוזלי תעלה.
מקורבים בתעשייה מדווחים כי אספקת התקני הניתוק המהיר (UQD) אוניברסליים לפתרונות קירור נוזלים הולכת ונעשית צרה, מה שעשוי להפוך לצוואר בקבוק מרכזי לצמיחת קירור נוזלי שרתי AI.
יצרני שרת ODM מציינים כי שבבי Blackwell AI של Nvidia, כולל B100 ו-B200, יתחילו לשלוח השנה, בעוד שפתרון ה-GB200 לא ייכנס לייצור המוני עד סוף 2024 או 2025. רוב הלקוחות של B100 ו-B200 עדיין משתמשים בעיצובי קירור אוויר , אך יצרני ODM מדווחים על עלייה מתמשכת בחדירת קירור נוזלים, בציפייה שגם נכונות הלקוחות לאמץ קירור נוזלי תעלה עם העלייה במשלוחי שבבי Blackwell.

▲ שרתי AI מקוררים בנוזל
I הרחבת הקיבולת כדי לענות על הביקוש הגובר לקירור נוזלי
חברות רלוונטיות מרחיבות את הייצור כדי לקבל בברכה את העידן החדש של קירור נוזלי. יצרנית המודולים התרמיים Amlogic מתכננת להגדיל את כושר הייצור החודשי שלה של לוחות קירור מים מ-30,000 ל-300,000 יחידות.
Auras הקימה מפעל חדש בתאילנד כדי לתת מענה לדאגות הגיאו-פוליטיות של הלקוחות ולדרישותיהם. מפעל זה צפוי להתחיל בייצור המוני ברבעון השלישי. בנוסף להרחבת יכולת הייצור המקומית של לוחות קירור, Auras מתכננת לייצר יחידות חלוקת קירור (CDU) וסעפת חלוקת נוזל קירור (CDM) באופן מקומי, עם קיבולת חודשית מתוכננת של כ-2,000-3,{{2 }} ערכות.
יצרנית המודולים התרמיים AVC הצהירה בשיחת הרווחים האחרונה שלה כי קיבולת הייצור החודשית של מודול לוחות הקירור שלה בסין ובווייטנאם היא כ-115,000 יחידות, מה שמתורגם לתפוקה חודשית של כ-420,000 יחידות כאשר מחושב על ידי לוחות קירור.
AVC מתכננת להרחיב את הקיבולת שלה ב-50% עד סוף השנה. AVC מתכננת גם להגדיל את כושר הייצור החודשי שלה עבור CDUs ל-1,000 יחידות ועבור CDMs ל-30,{4}} סטים. AVC הדגיש כי קיבולת מתוכננת זו ניתנת להתאמה גמישה בהתבסס על דרישות הזמנת הלקוח.
חברת Thermo Technology Goli Thermal Processing מרחיבה את הקיבולת שלה במפעל Zhongli בטייוואן עקב ביקוש מוגבר של לקוחות לקירור נוזלי. עד סוף הרבעון השלישי, הקיבולת החודשית של CDMs צפויה לעלות מ-1,000 יחידות ל-2,000 יחידות, ועד סוף השנה ל-4,{{5} } יחידות, עם ייצור CDU שנתי צפוי להגיע גם ל-2,000 יחידות עד סוף השנה.
ליצרנים אלו יש ציפיות גבוהות לביקוש לקירור נוזלי, בעיקר בשל היעילות החישובית ותקני ה-PUE של מרכז הנתונים בסין ובאיחוד האירופי, אך הגורם המשמעותי ביותר הוא Nvidia מסירה את ההגבלות המוטלות על עצמה על מפרטים תרמיים עבור יצרני שבבים.
II צמיחה מהירה של קירור נוזלי מובילה למחסור ב-UQD
בעוד התעשייה צופה בשקיקה את בואו של עידן הקירור הנוזלי, UQD הפך לצוואר הבקבוק הגדול ביותר לצמיחה. יצרני מודולים תרמיים ציינו כי היצע ה-UQDs הפך לאחרונה הדוק. למרות שנתח השוק הנוכחי של קירור נוזלי הוא רק חד ספרתי, אם הוא יעלה לדו ספרתי בעתיד, UQDs עלול להיות קשה להשגה.
ספקי UQD מגיעים בעיקר מאירופה ומארצות הברית, כמו החברות האמריקאיות הגדולות Parker Hannifin ו-CPC, Staubli International משוויץ, Danfoss דנמרק ו-Cejn השוודית. גם ענקית רכיבי המחברים הטייוואנית Lotes נכנסת באופן פעיל לשוק והחלה במשלוחים לדוגמה.
יו"ר Anbo Technology, Liang Zhijian, ציין שמכיוון שקירור נוזלים נועד בעיקר למנוע דליפות, ו-UQDs הם הרכיבים המועדים ביותר לדליפה, אספקת UQD היא המוגבלת ביותר מבין רכיבי קירור נוזלים. זו לא רק בעיה טכנית; ליצרנים רלוונטיים יש גם הגנת פטנט, ו-Anbo Technology חוקרת דרכים לפרוץ את מחסומי הפטנטים הללו.
מקורבים בתעשייה ציינו כי בעוד שליצרני UQD יש הגנות על פטנט, עליהם לעבור גם אימותים מרובים, כולל אישורי OCP ואימותי לקוחות, שגוזלים זמן ועבודה. יתרה מכך, ליצרנים אירופיים ואמריקאים קיימים אין כוונה להרחיב את הקיבולת, מה שיהפוך לצוואר בקבוק מרכזי לפיתוח מהיר של קירור נוזלי.
Supermicro היא אחת מיצרניות הקירור הנוזלי הצומחות ביותר. המייסד והמנכ"ל Liang Jianhou ציין כי קירור נוזלי היווה רק 1% משוק השרתים במהלך 30 השנים האחרונות, אך הוא מעריך שעד 2025 קצב החדירה יזנק ל-30%.
III קירור נוזלי כפתרון פוטנציאלי; בום AI מפעיל לחץ על הרשת
ההתפתחות המהירה של בינה מלאכותית יוצרת הניעה התרחבות חסרת תקדים במרכזי נתונים, והעלתה חששות לגבי השפעתם על רשת החשמל. מתקנים עתירי אנרגיה אלו עלולים להוביל להפסקות ולעלויות אנרגיה. על פי הערכות של מכון המחקר החשמלי, עד שנת 2030, מרכזי נתונים יכולים לצרוך 9% מהחשמל של ארצות הברית, להכפיל את הנתון הנוכחי. צריכת החשמל של מרכז נתונים גדול שווה לזו של מאות אלפי משקי בית.
הדרישה הגוברת לכוח מבינה מלאכותית מדאיגה במיוחד. דגמי AI מוקדמים צרכו פי עשרה מהאנרגיה מחיפוש בגוגל, בעוד שבבים חדשים יותר דורשים אפילו יותר כוח. מומחים מזהירים שהפיתוח העתידי של בינה מלאכותית עשוי להיות מוגבל על ידי היכולת שלנו לייצר מספיק כוח.
חלק מהמדינות מתמודדות עם אתגרים קשים. לדוגמה, עד 2026, ייתכן ש-30% מהחשמל של אירלנד יוקדש למרכזי נתונים. בארה"ב, צריכת החשמל במרכז הנתונים מרוכזת ב-15 מדינות, כאשר טקסס ווירג'יניה הן הגבוהות ביותר. קליפורניה נמצאת במצב קריטי, כאשר מרכזי נתונים חדשים צפויים לייצר ביקוש לחשמל העולה על אלו של תחנות כוח גרעיניות.
מרכזי נתונים IV: צריכת אנרגיה עצומה ועליית הקירור הנוזלי
הדרישות החישוביות של בינה מלאכותית מגבירים את טמפרטורות השרת ואת פליטת הפחמן, מה שמביא לעלייה משמעותית בביקוש למערכות קירור. מערכות קירור מהוות 40% מצריכת החשמל הכוללת של מרכז נתונים, מה שהופך אותן למקור צריכת החשמל השני בגודלו אחרי השרתים עצמם. שוק קירור השרתים העולמי צפוי לגדול מ-20 מיליארד דולר ב-2024 ל-90 מיליארד דולר עד 2027. שוק מערכות קירור נוזלי במרכזי נתונים צפוי לגדול מ-1% ל-22%, כאשר שווי השוק צפוי לגדול מ-317 מיליון דולר 7.8 מיליארד דולר בשלוש השנים הקרובות.
פתרונות קירור נוזליים, המשתמשים במים או בנוזלי קירור לקירור שרתים, הופכים פופולריים יותר ויותר. טכנולוגיות חדשות כוללות קירור טבילה (טבילה של מדפי שרתים שלמים בנוזלים לא מוליכים) וקירור נוזלים ישיר (הזרקת מים סביב שרתים). למרות שכיום יקר יותר ממערכות קירור אוויר, קירור נוזלי יכול להפחית את צריכת החשמל של מרכז נתונים ב-10% או יותר.
חברת המחקר Global Market Insights צופה כי שוק הקירור הנוזלי העולמי למרכזי נתונים יגדל מ-2.1 מיליארד דולר ב-2022 ל-12.2 מיליארד דולר עד 2032. סקר של מכון Uptime מצא כי 16% ממנהלי מרכזי הנתונים מאמינים שקירור נוזלי יהפוך לקירור העיקרי. שיטה בעוד 1-3 שנים, בעוד ש-41% חושבים שזה ייקח 4-6 שנים. לכן, שיטות קירור היברידיות צפויות יותר להופיע בטווח הקצר.
Upsite Technologies, מובילה בניהול מערכות קירור אוויר למרכזי נתונים, ציינה כי בעוד שהטכנולוגיה מתקדמת ללא הרף, השגת 100% מרכזי נתונים מקוררים נוזלים אינה סבירה בטווח הקצר, שכן ציוד קירור נוזלי עדיין דורש קירור אוויר לצורך פיזור חום. . למרות שקירור נוזלי יעיל יותר, הוא מאתגר ליישום בקנה מידה גדול ודורש השקעה משמעותית מראש. קירור אוויר הוא פחות יקר אך גם פחות יעיל. לפיכך, מתקני קירור היברידיים הופכים פופולריים יותר ויותר כדי למקסם את היתרונות של קירור נוזלי ואוויר כאחד.
V משבר האנרגיה במרכז הנתונים קורא לפעולה דחופה
בשל ההשפעה הסביבתית שלהם, מרכזי נתונים זוכים לביקורת גוברת. ממשלות ברחבי העולם מיישמות תקנות לשליטה בצריכת האנרגיה ובטביעת הרגל הפחמנית שלהן. הנחיות "מרכז הנתונים הירוק" של סין ויוזמות דומות בגרמניה, סינגפור ויפן מדגימות מגמה זו. מומחי תעשייה כמו שניידר אלקטריק מדגישים את הצורך במדדים סביבתיים מקיפים כדי להעריך את הקיימות של מרכזי נתונים, כולל גורמים מעבר לשימוש באנרגיה, כגון משאבי מים וייצור פסולת.
ממשלת ארה"ב לוחצת על חברות טכנולוגיה גדולות להשקיע באנרגיה נקייה ולהכיר בהשפעה המשמעותית שיש לדרישות הכוח הגוברות של בינה מלאכותית על הסביבה.
VI מציאת מקורות כוח מתאימים: מרכז נתונים ואתגרי אנרגיה
מרכזי נתונים זקוקים לתמהיל אנרגיה מגוון כדי לאזן בין אמינות וקיימות תוך עמידה בדרישות הולכות וגדלות. מקורות אנרגיה מתחדשים כמו שמש ורוח הם אטרקטיביים בשל טביעת הרגל הפחמנית הנמוכה שלהם. עם זאת, התלות שלהם בתנאי מזג האוויר עלולה להוביל לתפוקה לא יציבה, מה שהופך אותם לבלתי מתאימים כמקור הכוח הבלעדי למרכזי נתונים. בניית מתקנים מיותרים כדי לפצות על חוסר עקביות זה עשויה להיות הכרחית אך יקרה.
כוח גרעיני התגלה כפתרון פוטנציאלי. תחנות כוח גרעיניות מסורתיות מספקות כוח עומס בסיס אמין, מייצרות חשמל יציב החיוני לפעילות מרכזי הנתונים. יתרה מכך, שוק החשמל הגרעיני העולמי צפוי להשיג צמיחה מתמדת בעשור הקרוב.
חידושים במגזר הגרעיני מציעים אפשרויות מבטיחות יותר. כורים מודולריים קטנים (SMR) מפותחים כחלופות קטנות יותר, בטוחות יותר וניתנות להרחבה לתחנות כוח גרעיניות מסורתיות. למרות שעדיין בשלב המחקר והפיתוח, ל-SMR יש פוטנציאל לפרוס ישירות במרכזי נתונים, לספק אנרגיה נקייה ייעודית.

▲ שוק הקירור הנוזלי העולמי (US$b)
עם זאת, האימוץ הנרחב של SMRs עומד בפני מכשולים משמעותיים. אתגרי הרגולציה והייצור עלולים לדחות את הפריסה המסחרית שלהם במספר שנים. ממשלת ארה"ב בוחנת באופן פעיל פתרונות, כולל שותפויות עם ענקיות טכנולוגיה להפחתת עלויות ולייעל תהליכים.
דרך נוספת להפחית את דרישות האנרגיה של מרכז הנתונים היא לייעל את עומסי העבודה של בינה מלאכותית. על ידי העברת כמה משימות AI מהענן למכשירים מקומיים עם דגמי AI קטנים יותר ועתירי משאבים פחות, ניתן להפחית את צריכת האנרגיה הכוללת.
הפיתוח העתידי של מרכזי נתונים דורש גישה רב-גונית. אימוץ תמהיל אנרגיה מגוון, כולל מקורות אנרגיה אמינים כמו אנרגיה גרעינית, תוך חיפוש אקטיבי של פתרונות מתחדשים וחדשניים כמו SMRs, הוא חיוני. בנוסף, אופטימיזציה של עומסי AI במכשירים מקומיים יכולה לקדם עוד יותר את הקיימות של מרכזי נתונים.
