העולם צמא למשאבי מחשוב עבור בינה מלאכותית וחברת אנבידיה (Nvidia), הספקית הכמעט בלעדית של שרתי מחשבים ל-AI, לא חוסכת במאמצים כדי להפוך את עוצמת המחשוב היקרה הזו לזמינה יותר. היום החברה חושפת שיתוף פעולה משמעותי עם Hugging Face, אחת מפלטפורמות הפיתוח הבולטות בתחום ה-AI.
שיתוף הפעולה הזה יאפשר למשתמשי Hugging Face גישה למשאבי המחשוב הרבים שנדרשים כדי לאמן למשל מודלי שפה גדולים (LLMs) או צ'אטבוטים ייעודיים לשימושי החברות. תהליך האימון זולל את משאבי המחשב האלה, שעלות השימוש בהם גבוהה במיוחד, מה שעד כה איפשר רק לחברות גדולות להיות מסוגלות לאמן מודלים משמעותיים. עלות השירות החדש לא פורסמה, אך ניתן להעריך שמדובר בעשרות אלפי דולר בחודש, "סכום פעוט" לעומת החלופות הנוכחיות.
שיתוף הפעולה בין אנבדיה ל-Hugging Face הושק היום על ידי ג'נסן הואנג, מייסד ומנכ"ל אנבידיה, בנאום הפתיחה של כנס הגרפיקה הממוחשבת SIGGRAPH בלוס אנג'לס. במסגרת שיתוף הפעולה אנבידיה תאפשר גישה למפתחים לשירות מחשב-העל בענן (DGX Cloud) עליו הכריזה לאחרונה. כל יחידת DGX Cloud מכילה שמונה מעבדים גרפיים מדגמי H100 או A100 עם 640 גיגה-בייט של זיכרון GPU.
אנבידיה חולשת כאמור על מרבית שוק המחשוב ל-AI, מה שמאפשר לה לגבות מחירים גבוהים מחברות ענק. כך למשל רכשה חברת x.AI החדשה של אילון מאסק 10,000 יחידות DGX לקראת תחילת עבודתה.
שיתוף הפעולה החדש צפוי לאפשר למשתמשים לדלג על ההיבטים הטכניים המסובכים באימון AI ולעשות זאת ישירות מפלטפורמת הפיתוח של Hugging Face. השירות החדש, שמוגדר כ-Training Cluster as a Service, נועד להקל על המפתחים ביצירת מודלי בינה מלאכותית המותאמים באופן ספציפי לצרכים של ארגונים
אבל אנבידיה מכוונת לשווקים רחבים הרבה יותר, וכאן משתלבת תוכניתה למחשוב-על בענן, שמאפשר גישה לשרתי AI באמצעות האינטרנט. בשיתוף הפעולה הנוכחי אנבידיה מתקדמת צעד נוסף ומאפשרת למשתמשים לדלג על כל ההיבטים הטכניים המסובכים באימון AI ולעשות זאת ישירות מפלטפורמת הפיתוח של Hugging Face. השירות החדש, שמוגדר כ-Training Cluster as a Service, נועד להקל על המפתחים ביצירת מודלי בינה מלאכותית המותאמים באופן ספציפי לצרכים של ארגונים.
Hugging Face היא כוכבת של דור ה-AI הגנרטיבית. מדובר בפלטפורמה לשיתוף קוד פתוח, שמאפשרת למפתחים לבנות, לאמן ולהריץ מודלי בינה מלאכותית. כיום פועלים באמצעותה כ-15 אלף ארגונים, וקהילת המפתחים הבינלאומית שנבנתה סביבה תרמה עד היום יותר מ-250 אלף מודלי בינה מלאכותית ו-50 אלף מערכי נתונים (datasets) לאימון המודלים השונים.
אנבידיה הציגה היום שורה של מוצרים נוספים, בהם פלטפורמת AI Workbench שמאפשרת לבדוק ולהתאים מודלי שפה גדולים ומוצרי GenAI נוספים באמצעות מחשב אישי רגיל, יחידת מחשוב ל-AI חדשה ומהירה משמעותית מקודמותיה - GH200 Grace Hopper, ופלטפורמת בינה מלאכותית חדשה - AI Enterprise 4.0, שמיועדת לפיתוח ולהטמעה של בינה מלאכותית בארגונים.
ואם חשבנו לרגע שהמטאוורס מת, אנבידיה מפתיעה עם מערכת חדשה שנותנת לו זריקת עידוד של ממש. מדובר ב-CloudXR Suite, חבילת תוכנה למפתחים וליוצרים בעולמות המציאות הרבודה האירגונית. המערכת מאפשרת פיתוח משולב חווייתי של סביבות XR וחיבור למכשירי קצה כמו אייפון ואנדרואיד בקצבי שידור גבוהים.