אנבידיה - העתיד כבר כאן!

ביום ראשון השבוע, קיימה הנציגות בישראל של NVIDIA, תדרוך מוקדם לעיתונאים, לקראת כנס ה- GDC 2024 שיתקיים למחרת בארה"ב והועבר ביו-טיוב בשעה עשר בלילה. ראשון הדוברים היה אלי כהן, מנהל מערך התקשורת של NVIDIA בישראל. שהדגיש את רצונה של NVIDIA להעביר לכתבים בישראל, בטרם האירוע, ולאפשר מענה על שאלות.

הדובר השני היה עמית כץ, סמנכ"ל מוצר ב- NVIDIA, שסיפר שהשנה מדובר לראשונה בכנס פנים מול פנים, כך שהתרגשות בשיאה. צפוי שג'נסן הואנג, מנכ"ל NVIDIA, יביא איתו שורה של בשורות בתחום ה- AI, שרבות מהן פותחו בישראל, או משולבות בטכנולוגיה ישראלית. לכן הכנס הזה מרגש רבים מאנשי מלאנוקס לשעבר, שנמצאים בישראל.

מאז שמלאנוקס בה היו כ- 2,000 עובדים בישראל, נרכשה על ידי אנבידיה, הפעילות צמחה ביותר מ70%, וכיום יש באנבידיה ישראל יותר מ-3,500 עובדים. הצוותים עובדים על מגוון מוצרי החברה, החל מטכנולוגיה תקשורת מואצת שמאפשרות את מהפכת הבינה המלאכותית היוצרת, ועד לדורות הבאים של המעבדים, טכנולוגיות הרכבים האוטונומיים שמפתחת אנבידיה. בנוסף, היא משתפת פעולה עם כ-900 סטארטאפים ישראלים בתוכנית הסטארט אפ שנקראת NVIDIA Inception.

ההכרזות

אחת מאבני היסוד החשובות בעולם הבינה המלאכותית וזאת יכולת המחשוב והעיבוד. בעשור האחרון התעשייה נעה בקצב מסחרר וכיום אנו רואים טכנולוגיות Generative AI. אם בעבר בני אדם היו צריכים למיין, למתג ולתייג את המידע, מה שהגביל אותו מאוד, בהמשך ניתן היה לעשות שימוש במידע לא מתוייג. ממש לאחרונה חווינו את ה"בום" של ה- Chat GPT, שכולם כבר מכירים ויכולים לעשות בו שימוש במחשב או בסמארטפון בכף היד.

כעת אנו מתקדמים לעידן חדש של מודלים שמשלבים מומחיות שונות – Mixture of experts. כך מודלים שונים שכל אחד מומחה בתחומו, יכולים לשתף ביניהם פעולה, כדי לייצר את התוצר המדויק והטוב ביותר. מודלים כמו ג'ימיני של גוגל, No Language left behind של Meta, וכמובן ה- CHAT GPT 4 של Open AI.

כדי לפשט את ההתקדמות הנוכחית, ניתן לתאר קבוצה של מומחים שמתכתבים ביניהם באימיילים וכך לומדים אחד מהשני, והידע הכולל הזה שלהם נקרא Mixture of experts. הדבר הזה קורה בזמן אמת באמצעות תקשורת מאד מהירה. מהר מאד הגענו למצב שבו הגורם המגביל הוא מהירות התקשורת בין המודלים השונים.

From Billion to Trillion Parameters

ההיתעצמות ההולכת וגוברת של המודלים הללו מטריליוני פרמטרים הנדרשים לחישוב, דורשת כוח עיבוד יותר חזק ממה שקיים היום.

השנה נראה את הדור הבא של ארכיטקטורת המיחשוב, וזו ההכרזה הגדולה של אנבידיה: Blackwell, המנוע מאחורי המהפכה התעשייתית החדשה. לא מדובר בשבב רגיל אלא ב- AI Super Chip. מדבר בשתי יחידות סיליקון נפרדות שמאוחדות באמצעות טכנולוגיה לשבב אחד, ממש כמו ששני צידי המח האנושי מדברים זה עם זה במהירות של 10 טרה בייט לשניה. התוצאה תהיה 100,000 GPU שמדברים ביחד זה עם זה, קפיצה משמעותית מהדור הקודם.

לצד האימון, שהוא השלב הראשון של הכשרת המודלים, יש גם דרישה הולכת וגוברת להסקה, השלב השני בלימוד. כך המודל לא רק משמש כמנוע חיפוש משוכלל ויקר, אלא ממש מסיק את המסקנות על בסיס הפרמטרים עליהם הוא אומן. כך אם אתם מבקשים ליצור תמונה, או מבקשים מידע מה-AI, הדור הנוכחי של Blackwell מסוגל לספק תוצאה טובה ומהירה פי 30 מהדור הקודם, ופי 25 ביעילות האנרגטית. היעילות האנרגטית חשובה מאד, מכיוון שמערכות כאלה צורכות המון חשמל, וחשוב לשפר את היעילות על מנת שניתן יהיה להוסיף עוד יחידות עיבוד. מכיוון שמעבד אחד אינו מספיק, אנו רוצים שעשרות אלפי מעבדים של Blackwell יעבדו יחד, ויעבדו טריליוני פרמטרים, ולא מאות בודדות של פרמטרים כמו שהיה עד עכשיו. הצורך שעשרות אלפי מעבדי GPU יעבדו יחדיו וישלחו את המידע כל כך מהר ובו זמנית ל-GPU אחר, נוצר צוואר בקבוק חדש – מהירות התקשורת בין המעבדים אינה מספיק מהירה, ולכן ה- run time של הפעולה ארוך ממה שציפינו, כך ש- 60% מהזמן המעבדים משקיעים בתקשורת במקום בעיבוד מידע. אנבידיה פתרה את הבעיה באמצעות ייצור המתג המהיר בעולם Spectrum H800 ו- Quantum H800 שמסוגל לחבר 576 GPUs תחת רשת אחת. המתג חדש מסוגל לגרום לכך ששבבי Blackwell מסוגלים לבצע חישובים תוך כדי התקשורת, ובכך להקל על השבב.

פלטפורמות המחשוב המואץ והבינה המלאכותית היוצרת נמצאות בכל חברות הענן הגדולות, אבל לצד זה מכריזים אנבידיה על data center שלם, מוכן לשימוש, שנבנה על ידי אנבידיה מקצה לקצה, ומסוגלות להכיל אלפי סופר שבבים מהדור החדש. ה- data center הזה יכלול את המחשב היעיל ביותר בעולם.

אנבידיה לוקחת את שירותי ה- AI צעד אחד קדימה, ומאפשרת ללקוחותיה, במקום לבנות data center אצלם, לקבל את יכולות עיבוד ה- AI בענן. הראשונה שתציע שירותים אלו של אנבידיה היא אמזון, ואחריה יגיעו כל האחרות.

פיתוח תוכנה

עד כה דובר על החומרה בה מריצים את הבינה המלאכותית, אבל חשוב לזכור שמאחורי זה עומדת תוכנה שגורמת לכל הקסם הזה לקרות. נזכיר שלפני שנתיים כשהחל גל ההתנסות ב- CHAT GPT, מאות מיליונים של משתמשים ברחבי העולם החלו להתנסות בכלי בינה מלאכותית יוצרת. ביניהם גם חברות שהחלו לבחון כיצד בינה מלאכותית יוצרת יכולה להועיל גם להם. זה התחיל מסטארטאפים וארגונים קטנים, ולאחריהם גם כל ענקיות הטכנולוגיה. הניסיונות הללו הפכו בעצם לאבני היסוד של שוק הבינה המלאכותית, וכיום כבר יש חברות שממש עושות שימוש יומיומי עם הכלים הללו.

החסמים שהוסרו והביאו לידי כך הם:

• חברות לא רוצות שהשאלות שהם שואלים את ה- AI, והתשובות שמקבלים מה-AI יהפכו לנחלת הכלל. כך התאפשר "לארוז" את המודל שרק החברה שרוכשת את שירותי ה- AI, תחשף למידע שלו.

• אם פעם כדי לעבוד עם AI, היית צריך להיות מדען נתונים (data scientist), היום נפתחה גישה למפתחי אפליקציות שיכולים לבנות את היישומים ולהשתמש במודלים, גם בלי להיות מדען נתונים.

• האפליקציות של AI מייצרות ידע (knowledge) וכך בתקציב נתון מתקבל ידע עצום, במהירות ובביצועים אדירים ביחס לעבר.

ההכרזה שהכי מרחיקת לכת היא זו של ה- Nvidia NIM, שלוקח את כל העבודה של אנבידיה בעולמות התוכנה ואורז אותם בחבילה אחת בה לוקחים את המודל, שמים אותו בחבילת תוכנה, משלבים תמיכה במודלים מותאמים, עם גישה למאגר AI, וכך תוך 5 דקות יכול כל אחד, גם אם אינו איש AI, לייצר לעצמו מערכת AI שמשתמשת בכל יכולות הקצה של אנבידיה, ולהשתמש בה כאילו היא שלו.

Nvidia NIM – חבילת AI לכל דורש

שער הכניסה של אנבידיה ל-AI

אנבידיה היא חברת ה- AI הגדולה בעולם, שעובדת עם כל חברות ה- AI, ולכן היא משיקה גם כתובת אתר חדשה: ai.nvidia.com. באתר תהיה אפשרות להתנסות בכל המודלים שפיתחה אנבידיה, לשחק וללמוד אותם, ולבסוף גם לרכוש אותם ולהריץ אותם אצלו.

רובוטים מונעי בינה מלאכותית

ההתפתחות של המודלים הללו מביאה להטמעה של AI גם בעולם הפיזי. אנבידיה בונה שלוש פלטפורמות תוכנה שתומכות בחומרה של רובוטים כדי לאפשר את הדבר:

• מרכזי הנתונים של אנבידיה AI

• Omniverse עם פלטפורמות מדוייקות

• פלטפורמות עם יישום לרובוטים

לפני כשנה פיתחה אנבידיה עם BMW מפעל וירטואלי במערכת Omniverse, כדי לאפשר ל-BMW ללמוד כיצד להתאים המפעל לצרכים ולמנוע טעויות שיעלו כסף רב לתקן. התיכנון הוירטואלי של המפעל ירד לפרטים, והוא יפתח פיזית בהונגריה, בשנת 2025.

Nvidia GROOT

אנבידיה משיקה את GROOT, פלטפורמה חדשה לפיתוח רובוטים דמוי אדם Humanoid robots. הפלטפורמה החדשה תקבל שפה ודיבור וגם הדגמות בוידאו והדגמות אנושיות בתור כלי למידה, ולשלב אותם עם נסיון עבר של המודל, כדי להביא לכדי פעולה. כך ילמדו הרובוטים בעולם הוירטואלי לבצע את הפעולות בעולם האמיתי. כדי שזה יעבוד, משלבים ברובוט שבב מוח ייעודי בשם Jetson THOR, שיניע את הדור הבא של הרובוטים, ויהפוך את התנועות שלהם ליותר מדויקות.

GROOT – רובוטים דמוי אדם

אנבידיה ו-BYD

יצרנית הרכבים החשמליים הגדולה בעולם, BYD, מבצעת כבר כיום שימוש ב- Omniverse לרכבים והמפעלים שלה. כך הם מאמצים את כל היצע היכולות האוטונומיות של אנבידיה לרכבים ותהליכי הייצור שלהם. הם מטמיעים את Nvidia Drive Thru כדי להפעיל את הרכבים החשמליים שלהם, ואת הרובוטים של החברה במפעלים לייצור הרכבים.

Apple Vision Pro & NVIDIA

יכולות עיבוד מידע תלויות רבות גם במכשירי הקצה. אנבידיה עובדת בשיתוף עם אפל על מנת להטמיע ב- Apple Vision Pro את ה- Omniverse וכך לאפשר לרוב פעולות העיבוד להתבצע בענן, ולא להסתמך על יכולות העיבוד המוגבלות של מכשיר הקצה.

הטמעת Omniverse של Nvidia ב- Apple Vision Pro

מי יפקח?

בשלב השאלות שאלתי את המארחים אם הם מאפשרים לכל חברה או אירגון להשתמש בכל היכולות העצומות שמספקות מערכות ה AI שפיתחה אנבידיה, בענן, ללא כל צורך בחומרה ייחודית, בתמורה לתשלום, הרי שבשלב הראשון עשויים להשתמש ביכולות הללו גם גורמים עויינים כדי לפתח כלי הרס ופגיעה, ובשלב השני להביא לידי כך שרצף אירועים מהיר מידי כבר לא יישלט על ידי האדם.

לכן שאלתי מי מפקח עליהם?

חשוב לזכור שהרגולציה של AI ממש בחיתוליה, והיא נגררת אחרי ההתקדמות העצומה של חברות ה- AI. רק לאחרונה נכתב ה- EU AI ACT, והוא כלל לא מטפל בכלי פיתוח, אלא רק ברגולציה של מוצרים שיימכרו באיחוד האירופי. בארה"ב הרגולציה גם לא סיפקה מענה, ומכאן התוצאה של התקדמות בלתי נשלטת באפליקציות לכל דורש, בתמורה לתשלום נאה.

בתשובה לשאלתי נעניתי שאנבידיה עומדת בדרישות הרגולציה במדינות השונות בה היא פועלת.

זוכרים את המשפט ?With great power comes great responsibility חשוב שאת הפיתוחים האדירים והמבורכים שמביאה אנבידיה לעולם, ינצלו לצרכים חיוביים בלבד. זאת כדי שלא נציג לסצינה מתוך הסרט Terminator 2 בה מנסים לעצור את מנהל הפיתוח של ה-AI בחברת Cyberdyne Systems.

חשוב שבמקביל להזנקה האדירה אותה אנו חווים בזכות אנבידיה, נפעל כדי לוודא שהתרחיש הזה יישאר דמיוני. צריך להבין האם בונים את היכולות הללו עם בקרות, או שחושפים את הטכנולוגיות המתקדמות ביותר לכל דורש, פשוט בשביל לשלוט בשוק. רגע לפני שיהיה מאוחר, יש לווסת את היכולות הללו ולבנות להם גם בלמים על מנת שלא נקבל לפיתחנו את המקבילה החדשה של הנשק הגרעיני. היכולת של המחשבים לפעול ולחשב נתונים במהירות שבני אדם כבר לא יכולים להתערב, עלולה להביא לכדי תוצאה שלא ניתן יהיה לעצור.