בשנתיים האחרונות אנו צופים בפריצה רצינית של כל עולם ה-LLM (כלומר Large Language Models), במיוחד בתצורות מסחריות כגון Open AI, Anthropic, Gemini ואחרים. אין ספק שכלים ופלטפורמות אלו משנים הן את עולם הפיתוח והעולמות הנלווים (IT ועוד) מהקצה לקצה, ולכן חשבתי להתייחס ל-LLM ספציפית בתחום ה-IT.
נתחיל בשאלה הראשונה: האם שרות כמו ChatGPT או Claude יכול לסייע בתחומי IT?
בניגוד לאחרים, אני לא חושבת שאפשר לתת תשובה חד ערכית של ״כן״ או ״לא״. הדברים מורכבים יותר, וברשותכם – אפרט (לא אתייחס ל-LLM מפורסמים ספציפית, פשוט אקרא לכך ״סייען״):
- אין ספק שסייען כמו קלוד או ChatGPT יכול לסייע – כל עוד אתה מבין את הנושאים בהם אתה מבקש עזרה. אם אתה צריך עזרה בנושאים הקשורים ללינוקס ואינך לדוגמא מבין מה-הם ספריות, שרותים או דברים כאלו, יכול להיות שתקבל סיוע והסבר מהסייען, אבל באותו בטחון שתקבל סיוע, יכול להיות שתקבל מידע שגוי, מוטעה או פשוט ישן, כי הסייען לא טרח לחפש מידע ברשת ושילב אותו בתשובה.
- במקרים רבים, יכול להיות שתופתע מהתשובות או שתיכנס ל״סחרחורת״ הואיל והסייען ״נתקע״ בתקלה שולית שלא קשורה לבעיה שבגינה פנית, ויכול להיות שתיקון אותה תקלה שולית – תדפוק לך את המערכת, ולכן אתה חייב ״לפקס״ את הסייען אך ורק בנושא הבעיה שבגינה פנית.
- לא חשוב כמה מנגנונים יש לסייען ״לזכור״ דברים – לפעמים הוא שוכח, וגם כשהוא מחפש ב״זכרון״ שלו (או בקבצי md) יכול להיות שהוא ימצא אזכור ו״יזכר״, אך הזכרון הוא על מקרה אחר שאינו קשור לבעיה הנוכחית, ושוב אתה עלול למצוא את עצמך צופה ב״תיקון״ שיכול להיות שידפוק לך את המערכת.
- אם לא הקמתם עד היום, מומלץ להקים: שרת git פנימי (לא, לא github או שרות git בענן ציבורי). הסייען במקרים רבים משנה קבצים או מתקין/מסיר חבילות או משנה קוד (באישורך כמובן), ולפעמים קשה מאוד לעשות rollback (אלא אם אתה רוצה להתחבר למערכת הגיבוי ולשחזר vm מהגיבוי האחרון, לדוגמא). שילוב git יחד עם הסייען כך שכל שינוי הכי קטן ירשם ב-git מיידית, יוכל לעזור לחזור אחורה (או לעבור קדימה) בין בשימוש בסייען ובין בהרצת פקודות git ידניות. זו השיטה הכי טובה לעקוב אחר שינויים.
- רבים לא יודעים – במקרים רבים הסייען פשוט מרים ידיים כשאתה מבקש דברים נדירים או שלא נעשו או שקשה למצוא מידע עליהם, או שהוא פשוט טוען שזה לא אפשרי. אם יש לך ידע שהדבר אפשרי, פה יהיה המקום שלך ״להתווכח״ (push back) ולציין דברים מסויימים, על מנת שהסייען ילך ויחפש יותר מידע.
- להכיר את הקוד – ביקשת מהסייען לכתוב אפליקציה או תוכנית או סקריפט. אם אינך מכיר את השפה, בקש מהסייען שיכתוב את זה בשפת תכנות או סקריפטים שאתה מבין. ככל שתקרא את הקוד, תמצא במקרים רבים כל מיני בעיות של כתיבה יותר מדי קצרה וחסרה או ארוכה של הקוד ובמקרים רבים גם השמטות של פונקציות שביקשת.
- יכול להיות מאוד קל לפרוץ אליכם: רבים מבקשים כל מיני אפליקציות שהסייען כותב בפלטפורמות JS שונות ובמקרים רבים הסייען יתקין חבילות שאינן חדשות ושכוללות בעיות אבטחה. במקרים כאלו, מספיק יהיה להריץ התקנה ואת האפליקציה – והמערכת שלכם חשופה לפרצות, שימוש בטוקנים של הסייען, השתלטות על מערכות ועוד, ולכן – הסייען כתב לכם משהו שרציתם? שניה לפני שהמערכת מריצה npm. npx, pnpm וכו׳ – בקשו מהסייען לוודא שאלו הגרסאות האחרונות וגם לאחר ההתקנה – לוודא שאין שום חבילה פרוצה מותקנת. טיפ קטן: כל סייען ישמח לכתוב לכם סקריפט קצר שירוץ ב-cron/scheduler ויסרוק יומית את החבילות המותקנות אם התגלו בעיות אבטחה – ויוכל לשלוח אליכם התראה בדרך שתרצו (טלגרם, אימייל וכו׳).
נקודה אחרונה שאני מעוניינת להתייחס אליה וקשורה לקיצוץ/פיטורים עקב אינטגרציה של סייען דיגיטלי כזה או אחר: מי שעוקבים אחרי חברות טכנולוגיה רבות, רואה שכשחברה אחת מפטרת עקב שילוב AI, חברות אחרות שוכרות יותר, ובצדק: הסייען הוא כלי שמחירו עולה ועולה, הוא גרוע ביצירתיות והוא מצריך ״שליטה״ מצד הארגון. אם יש לארגון 6 אנשי IT שמטפלים בתשתית, במקום לפטר לדוגמא מחצית ״כי יש AI״, יהיה אפשר לשנות לחלק מהאנשים את התפקיד לכך שיבצעו פרויקטים אחרים תוך שימוש מפוקח ב-AI וניצול הידע והנסיון של אותם אנשי IT- כדי לקדם את התשתיות בחברה. דוגמאות: הקמת ובדיקת פלטפורמות נסיוניות חדשות, ביצוע אופטימיזציה לקיימות, מעבר חלקים מסויימים לענן וחלקים אחרים מהענן, בדיקות לגבי multi cloud, בדיקה אם אפשר להחליף פתרונות SAAS יקרים (שהאמת הפשוטה: אין לכם מושג ירוק מה החברה שנותנת שרות מריצה) בפתרונות ״ביתיים״ ועוד ועוד. היצירתיות שיש לאותם אנשי IT תעזור מאוד לארגון יחד עם הסייען כדי להקים את אותם דברים.
לסיכום: כן, AI זה בהחלט משהו שלא הכרנו מהעבר (אני נמצאת יותר מ-30 שנה בתחום וההבטחות לגבי ״מערכות חכמות״ אכזבו פעם אחר פעם), אבל חשוב לשים דברים בפרופורציה – זה כלי שעוזר, אבל כלי שגם יביא לכם סיוטים, ישקר חופשי וישכח דברים עם אפס יצירתיות, אז עם כל יתרונותיו, יש בו לא מעט חסרונות ובמקום לחפש איך לפטר אנשים ״בגלל AI״ חפשו איך ניתן לשלב את שניהם יחדיו.
אתמול התרחשה תקלה מאוד משמעותית ב-AWS, תקלה שהשביתה אתרים רבים, כולל אתרים גדולים וידועים שהתארחו על AWS, והפעם – גם אתרים שגיבשו ומימשו תהליך שרידות של Multi Zone או Multi Region, מצאו את עצמם סובלים בדיוק כמו אחרים.
לאחרונה אנחנו נתקלים ביותר ויותר חדשות לגבי OpenAI והרכישות המאסיביות שלה.