איפה לשים את המידע שלי? – VMware Cloud Foundation כתשתית ל-Private AI

מנהלי מערכות מידע ומנהלי תשתיות נתקלים בשנה האחרונה בשאלה חדשה / ישנה: איפה נכון לנו לשמור את המידע הארגוני כדי לאפשר לייצר אפליקציות נתמכות AI עבור הארגון שלנו? 

אין מנהל מערכות מידע שיכול להתעלם משתי מגמות בשוק והצורך לשלב את שתיהן – מצד אחד השימוש בשירותי ענן ציבורי, ומצד שני האימוץ של שירותי AI בכלל, ו-Generative AI בפרט, ככלים לשיפור היעילות הארגונית ובידול ממתחרים בשוק.

מצד שני, הצורך בשירותי ענן ציבורי לצורך גישה לנתוני הארגון ע״י מודלים של AI, ובראשם Large Language Models, מייצרת אתגרים רבים בנושא אבטחת מידע, ביצועים, ושליטה בעלויות בהפעלת שירותים אלו בענן, שלא ניתן להתעלם מהן.

חברות רבות דוהרות למודלים החדשים של הבינה המלאכותית היצרנית, אם ניקח למשל חברות פיננסיות או תקשורת, שרוצה לייצר תוכן על בסיס המידע הארגוני שלה, כמו סיכום מידע לקוחות לטובת שיפור השירות ללקוח, יצירת מידע ייחודי לכל לקוח על בסיס הפרופיל האישי שלו ועוד, החברות יאלצו להעביר את המידע מחוץ לכותלי הארגון,  ואף לאפשר ללקוחות חיצוניים גישה למידע שנוצר במודלים הללו. לצד הפוטנציאל העסקי הרב, חברות חוששות מהיבטי האבטחה, פרטיות. והעלויות הכרוכות בכך, שכמובן כמעט בלתי אפשרי לחזות.

אז מה הפתרון? איך אפשר ליהנות מיתרונות כמו של הענן הציבורי להרצה פשוטה וקלה של AI מצד אחד, ולשמור על פרטיות המידע, ביצועים ועלויות נשלטות.

הפתרון הוא בשילוב היתרונות של שני העולמות: בתשתית ענן פרטי או היברידי מנוהל, עם תשתית AI כשירות מעליו – בדיוק מה שמספק פתרון Private AI של חברת VMware by Broadcom, הרץ על תשתית של VMware Cloud Foundation.

פתרון Private AI הוא שיתוף פעולה בין חברת VMware by Broadcom, לחברות המובילות בשוק בתחום ה-AI, ובראשן nVidia. גם IBM ו-Intel שהצטרפו לאחרונה. הפתרון מאפשר לייצר, על בסיס תשתית הענן הפרטי או ההיברידי של VMware by Broadcom, סביבה מופשטת, המבוססת על Best Practices, להרצה של מודלים ואפליקציות של  AI בפשטות וביעילות על התשתית הפרטית המבוססת VMware של הארגון, On-Premise או בעננים השונים.

תשתית VMware Cloud Foundation, עליה מבוסס הפתרון, כוללת יכולות להקמה אוטומטית ומהירה של סביבות מובנות להרצה של אפליקציות שונות. הסביבות הם ווירטואליות לחלוטין, כולל ווירטואליזציה של כל שכבות ה-Data Center: המחשוב, האחסון, התקשורת, אבטחת המידע, הניהול, האוטומציה, ושכבת שירותי Microservices בעזרת VMware Tanzu. התשתית הזאת יכולה לרוץ על שרתים On-Premises במרכז המחשוב של הלקוח, או על שרתים ייעודיים בכל שבעת העננים הציבוריים המובילים, ובכללם AWS, Azure, Google Cloud, ו-OCI. 

הפתרון כולל גם יכולת מובנית לתמוך בחומרות שונות של GPU, ובראשן nVidia GPU המותקנים על שרתים סטנדרטיים מיצרנים מובילים בשוק. השילוב של טכנולוגית vGPU של nVidia, מאפשרת הקמה דינמית של חוות שלמות של GPUs, חלוקה דינמית של המשאבים שלהם לאפליקציות, ותמיכה בביצועים שלא נופלים מסביבות קשיחות ללא ווירטואליזציה.

אחד היתרונות המרכזיים של פתרון VMware Cloud Foundation הוא היכולת להקים, לשנות, לשדרג, להגדיל, או להקטין את הסביבה בצורה אוטומטית ומהירה. בעולם ה-Private AI זוהי תכונה חשובה ביותר, בגלל הדינמיות של הטכנולוגיה והצרכים המשתנים של אנשי הפיתוח בארגון.

יתרה מזאת, פתרון VMware Cloud Foundation בשילוב עם VMware Tanzu Greenplum Data Warehouse או עם Google Cloud’s AlloyDB Omni, מאפשר גם לתמוך בקלות בשירותים של Vector Database הנדרשים לא אחת לצורך הקמת אפליקציות AI פרטיות.

הפתרון כולל גם Ecosystem שלם של פתרונות משלימים בתחום ה-AI מחברות מובילות בתחום ומעולם הקוד הפתוח, שניתן לצרוך בצורה פשוטה כשירותים מעל הפלטפורמה, כולל ארכיטקטורה מוגדרת מראש, כדוגמת Kubeflow, PyTorch, Ray AI, Hugging Face ואחרים.

לסיכום, יש פה הזדמנות להנות משני העולמות. מצד אחד – להקים במהירות ובפשטות סביבה להרצה מהירה וקלה של מודלים ואפליקציות AI, כולל כל מה שענן מאפשר – גמישות, הקמה והורדה של סביבות לפי הצורך, ביצועים גבוהים וצריכה של שירותים בלחיצת כפתור, ומצד שני, יכולת לשמר את המידע בתוך הארגון – אם זה On-Prem או בתשתית ייעודית פרטית בענן הציבורי, לצורך אבטחת מידע, ביצועים מקסימליים, ועלות נשלטת.

עם ההכרזה על סיום תהליך רכישתה של VMware ע״י Broadcom, הודיעה Broadcom על רפורמה מקיפה בחבילות המוצרים שהיא מעניקה, פשטות החבילות, והצבת פתרון VMware Cloud Foundation לפתרון המוביל שלה לשוק, תוך הורדות מחירים והכללת יכולות רבות במקט בודד שבעבר היו מוצרים נפרדים.

לפרטים נוספים אנא פנה אל המחבר ב-VMware (hmelamed@broadcom.com) או לנציגי בינת תקשורת.