מרכזי נתונים ובינה מלאכותית: המרוץ אחר חשמל, קירור ויעילות

אין בינה מלאכותית בלי תשתית פיזית

שירות AI נראה למשתמש כמו תוכנה, אך מאחוריו פועלת מערכת פיזית עצומה: מעבדים, זיכרון, אחסון, רשת, קירור ואספקת חשמל. אימון מודל גדול דורש עומס חישובי גבוה, וגם שלב ההפעלה השוטפת - inference - מצטבר למיליוני בקשות. לכן צמיחת AI הופכת את מרכזי הנתונים לנושא מרכזי בתכנון אנרגיה ותשתיות.

דוח Energy and AI של סוכנות האנרגיה הבין-לאומית מדגיש את שני צדי הקשר. מרכזי נתונים דורשים חשמל בהיקף גדל, אך AI יכול גם לשפר חיזוי, תפעול רשתות, תחזוקה ויעילות במערכת האנרגיה.

אימון הוא רק חלק מהתמונה

השיח הציבורי מתמקד לעיתים באימון מודלים, אך במערכת מצליחה שלב השימוש עשוי להפוך לצרכן המרכזי. מספר המשתמשים, אורך הבקשות, גודל המודל, סוג החומרה ורמת הדיוק משפיעים על הצריכה. גם יצירת תמונה, וידאו או פעולה של סוכן שמפעיל כמה כלים עשויה לדרוש יותר חישוב מתשובת טקסט קצרה.

לכן אין מספר יחיד שמייצג את טביעת האנרגיה של 'שאילתת AI'. מדידה מקצועית בוחנת את כל המסלול: ניצול המעבדים, הפסדי חשמל, קירור, העברת נתונים וזמן המתנה. עומס שאינו מנוהל היטב יכול לבזבז משאבים גם כאשר החומרה עצמה יעילה.

קירור הופך לאתגר תכנוני

מעבדי AI מרכזים הספק גבוה בשטח קטן. קירור אוויר מסורתי אינו תמיד מספיק, ולכן מתרחב השימוש בקירור נוזלי ובתכנון צפיפות גבוה. ההחלטה משפיעה על מבנה החדר, צנרת, יתירות, תחזוקה, גילוי דליפות ואופן החלפת ציוד.

גם מים הם חלק מהדיון. שיטות קירור שונות צורכות מים באופן ישיר או עקיף, והבחירה תלויה באקלים, במקור האנרגיה ובדרישות הזמינות. מרכז נתונים יעיל במקום אחד אינו בהכרח יעיל באותה צורה במקום אחר.

AI יכול לייעל את התשתית שמפעילה אותו

חיישנים ומודלים חזויים יכולים לנתח טמפרטורה, זרימת אוויר, עומס חשמלי וביצועי ציוד. המערכת יכולה לזהות נקודה חמה, לצפות כשל במאוורר או להמליץ על פיזור עומסים. במקביל, תזמון משימות גמיש יכול להעביר חישוב לשעה שבה יש יותר אנרגיה זמינה או פחות עומס ברשת.

אולם אופטימיזציה מקומית אינה מספיקה. אם שיפור יעילות מוריד עלויות ומוביל לגידול חד בשימוש, הצריכה הכוללת עדיין עשויה לעלות. לכן צריך למדוד גם יעילות ליחידת עבודה וגם צריכה מוחלטת.

הכיוון: תכנון משותף של מחשוב ואנרגיה

מרכזי AI עתידיים יידרשו לתיאום הדוק יותר בין מפעילי מרכזי נתונים, ספקי חשמל, מתכנני קירור ורשויות. זמינות חשמל, חיבור לרשת, אגירה, גיבוי ומקורות דלי פחמן הופכים לשיקולי מיקום ותכנון. החדשנות אינה רק בשבב מהיר יותר, אלא במערכת שלמה שמספקת ביצועים, אמינות ויעילות תוך ניהול ההשפעה הסביבתית.

ארבעה מדדים שלא כדאי לבלבל ביניהם

PUE מודד את היחס בין כלל האנרגיה שנכנסת למרכז הנתונים לבין האנרגיה שמגיעה לציוד המחשוב. הוא חשוב, אך אינו מספר כמה עבודה שימושית בוצעה. מדד נוסף הוא ניצול החומרה: שרת יעיל שפועל רוב הזמן בחוסר ניצול עדיין מבזבז משאבים. יש לבחון גם צריכת מים ואת פליטות החשמל לפי הזמן והמיקום.

לבסוף נדרש מדד ברמת השירות, למשל אנרגיה לכל אלף בקשות או לכל משימת חישוב מוגדרת. גם הוא חייב לכלול איכות, משום שמודל זול שאינו מספק תשובה נכונה עלול לגרור ניסיונות חוזרים. שילוב המדדים מונע מצב שבו שיפור נקודתי מוצג כהצלחה כוללת. שקיפות מדידה תאפשר להשוות חלופות ולבחור מתי להשתמש במודל גדול, במודל קטן או בעיבוד מקומי.

בנוסף, מיקום מרכז הנתונים משפיע על התשתית האזורית. פרויקט חדש עשוי לדרוש שדרוג תחנת משנה, קווי הולכה, מאגרי מים או פתרונות חום שיורי. תכנון מוקדם מאפשר לבחון שימוש באנרגיה מתחדשת, אגירה והחזרת חום למערכות סמוכות. לכן החלטות מחשוב נעשות גם החלטות עירוניות וסביבתיות.

ההשוואה צריכה לכלול גם זמינות ושרידות, משום שחיסכון באנרגיה אינו מועיל אם הוא פוגע בשירות.