AI PODs for Inferencing

חברות ברחבי העולם, בכל תעשייה, מעוניינות לנצל את הבינה המלאכותית (AI) כדי לשנות את העסק שלהן, לשפר את שביעות רצון הלקוחות ולהשיג יתרון תחרותי. פריסת יישום AI גנרטיבי, היא תהליך מורכב הדורש תכנון קפדני, הערכת מודלים, תשתיות וביצוע. זוהי הזדמנות להצליח … או להיכשל.

ארגונים רבים מתקשים להגדיר אסטרטגיה מנצחת להשקעתם בפרויקטי AI , תוך התמודדות עם הסיכון של פתרונות AI נקודתיים יקרים ומורכבים. צרכי התשתית יכולים להשתנות באופן משמעותי בהתאם לסוג וגודל מודל הAI-. לשם כך נבנו מודולי ה- AI PODs, שיכולים לעזור להתאים את ההשקעה בתשתית, הקשורה ל AI, תוך איזון בין צרכי העסק וה IT הנוכחיים, עם מבט לעתיד של גידול מדרגי.

AI Inferencing, תהליך הסקת מסקנות

תהליך הסקת מסקנות ב AI כולל שימוש במודל מאומן מראש, (כגון (GPT-4, Claude 3, Llama 3 לניתוח נתונים חדשים, והפקת תובנות או התוצאות הסבירות ביותר, על בסיס נתונים אלו. תהליך זה נפוץ ביישומים כמו צ’אטבוטים, סיוע בקידוד וזיהוי תמונות. בעוד שמודלים מסורתיים של AI יעילים לשאלות ידע כללי, הם עשויים להתקשות בשאלות הדורשות נתונים ספציפיים שלא היו חלק מהאימון שלהם, כמו נתונים קנייניים של חברה.

כאן נכנסת לתמונה טכניקת ה- RAG, "יצירתיות מוגברת על ידי אחזור". RAG משפרת את הדיוק והרלוונטיות של הסקת מסקנות ב-AI על ידי שילוב מקורות נתונים חיצוניים שהמודל המקורי לא אומן עליהם. היא מחברת את המודל לנתונים ספציפיים לתחום, ומאפשרת לו להפיק תוצאות מדויקות ורלוונטיות יותר. לדוגמה, בשקלול מודל ביטוח שאומן על נתוני אוכלוסייה של מדינה, על ידי הוספת נתונים ספציפיים של הלקוחות הארגון, המודל יכול לספק תובנות מדויקות ורלוונטיות יותר.

פתרון AI PODs for Inferencing

סיסקו מפתחת ומספקת מערכים בדוקים ומאושרים  (CVDs) כבר למעלה מ-20 שנה. מערכים אלו מונגשים כמסמכי הנחיות מקיפות שנבדקו בקפידה, המסייעות ללקוחות לפרוס ולנהל תשתיות IT ביעילות. הם כוללים מדריכי יישום מפורטים, שיטות עבודה מומלצות ומקרי שימוש בעולם האמיתי, לעיתים קרובות בשילוב עם מוצרי שותפים טכנולוגיים של סיסקו. CVDs מפחיתים את הסיכון בפריסה, בהקמה, מייעלים ביצועים ומבטיחים מדרגיות, תוך ליווי של מרכז התמיכה הטכנית של סיסקו. תמיכה ואינטגרציה זו מספקות ללקוחות דרך אמינה ויעילה להשגת מטרות העסק שלהם.

מהם ה- AI PODs.

אלו מגוון פתרונות מבוססי CVD להסקת מסקנות כגון , Edge-RAG והסקת מסקנות בקנה מידה גדול. הם מספקים יכולת פריסה מהירה, עם מסמכי הנחייה, ניהול מרכזי ואוטומציה. הפתרון נבדק לתמיכה ברמות ביצועים שונות ומדגים מדרגיות לינארית באמצעות מבחני ביצועים על סימולציות מודלים אמיתיים, המציגים ביצועים עקביים גם עם גדלי מערכי נתונים.

לפרטים נוספים:  https://www.cisco.com/site/us/en/solutions/artificial-intelligence/index.html