טק - כמה מילים על נושאי טכנולוגיה שונים

המתחרים החדשים למקבוק Neo – שלא שווה לרכוש

כשאפל תכננה את מחשבי המקבוק Neo, הם תכננו את המחשב בצורה כזו שהוא יתאים לסטונדטים שמתחילים ללמוד ולאלו שאינם במצב כלכלי ״לבזבז״ על מחשבי המקבוק Air ומעלה. לשם כך, אפל בנתה את המחשב בצורה כזו שניתן לפרק אותו בקלות, ולהחליף את רוב החלקים מבלי להידרש לידע טכני מורכב (אך לא ניתן לשדרג אותו פנימית). המעבד במחשב עלה לאפל בעצם ״אפס״ הואיל והיה בו דפקט והוא לא התאים לייעודו המקורי, ולפיכך אפל ניצלו זאת כדי להטמיע אותו עם ליבה גרפית אחת מושבתת בתוך המקבוק Neo.

אפל מעולם לא יעדה את המחשב הזה לאנשים שיוצרים תוכן ״כבד״ או מפתחים וכו׳ מכיוון שהמחשב כולל כמות אחסון קטנה וכמות זכרון קטנה (8 ג׳יגהבייט) שלא ניתן לשנות, גם ע״י אפל (הזכרון נמצא בתוך המעבד), ונראה שהציבור הבין זאת (פחות או יותר)

התוצאה: אפל מכרה את כל המחשבים שהיא יצרה והיא הגיעה למצב שהיא ביקשה מיצרנית המעבד (TSMC) ליצור מחדש את המעבד לסבב חדש של מקבוק Neo. האם המחיר יהיה זהה או יעלה יותר? ימים יגידו.

יצרניות המחשבים המתחרות זעקו ל-AMD ואינטל בתחינה למצוא פתרון ולהציל את מכירות המחשבים הניידים. אינטל הראשונה שנענתה ובכנס לפני מס׳ שבועות בסין הציגה את סדרת מעבדי ה-Wild Cat שכוללים 2 ליבות עוצמתיות ו-4 ליבות חלשות Low power. אותו מעבד במבחני ביצועים עמד יפה בהשוואה מול מחשבי המקבוק Neo…

ֿהראשונה שהציגה מחשב מבוסס Wild cat במחיר ״זול״ (700 דולר, 600 לסטודנט) היתה Dell עם ה-XPS 13 (גירסת 2026). מבחינה טכנית – יש בו את כל מה שתרצו: מארז אלומיניום, מסך 13.4״ ברזולוציית 2.5K, מקלדת מוארת ואפילו מצלמת Webcam עם רזולוציה של 2 מגהפיקסל (מזכיר לי את מצלמות הנוקיה). יש 2 חיבורי USB-C (במהירות 10 ג׳יגהביט) וסוללה יותר גדולה ממה שמגיעה עם מקבוק Neo.

נשמע טוב? בערך, עד שמסתכלים ״בפנוכו״: 8 ג׳יגהבייט זכרון ו-256 ג׳יגהביט. את האחסון אפשר לשדרג – את הזכרון, לא ממש, ועל התענוג, תשלמו $700 (או 600 אם תוכיחו שאתם סטודנטים).

וכאן מגיעה הבעיה הענקית: אם רוכשים את המחשב, הוא מגיע עם Windows 11 עמוס בתוכנות זבל ו-Mcafee, כך שהמחשב פשוט יזחל עוד בהפעלה הראשונה. גם אם תסירו את התוכנות הנלוות, המצב ישתפר אך עדיין – Windows 11 לא עובד טוב ב-8 ג׳יגהבייט זכרון, וזה עוד לפני שמריצים תוכנות צד ג׳. זו הסיבה שבשנתיים האחרונות, גם הלאפטופים הבסיסיים נמכרו עם 16 ג׳יגהבייט זכרון.

לסיכום: פתרון מבוסס על Wild Cat הוא פתרון טוב, אבל ש״נחנק״ בגלל כמות זכרון קטנה מדי, עומס תוכנות זבל ו-Windows 11 שגם הוא תופס משאבים רבים שמנוצלים לפרסומות ושלל דברים שהציבור לא צריך. מקבוק Neo בהשוואה לכך – נותן תמורה טובה יותר לכספכם באותם סכומים.

לפיכך – אני ממליצה לרכוש מחשב נייד אחר עם 16 ג׳יגהבייט זכרון ולפחות 512 ג׳יגהבייט אחסון, או מחשב מקבוק Neo (אם זה מתאים לצרכיכם).

בונים שרת 2U למעבדה הביתית? שימו לב

אם החלטתם לבנות עבורכם שרת 2U, בין אם בהקמה מ-אפס ובין אם רכשתם שרת משומש והחלפתם חלקים עבור המעבדה הביתית שלכם – חשוב לשים לב לנקודות שלא שמים לב אליהם: הדיסקים הקשיחים בקידמת השרת, והמעבדים

משתמשים רבים מחליטים בדרך כלל לשים מאווררים שקטים בתוך השרת, במיוחד אם השרת אינו מאוחסן בתוך חניון או מחסן, הרחק מהחדרים שנמצאים דיירי הבית.

הבעיה הגדולה בפתרון כזה היא בעיית הדיסקים: אם אתם רוצים להכניס דיסקים קשיחים לצרכי גיבוי או לצרכי שרות קבצים (NAS), תצטרכו להביא בחשבון שמאווררים שקטים אינם מספקים את צרכי הקירור של הדיסקים בתצורת שרת 2U (אין זה משנה אם מדובר ב-SSD או דיסקים מכניים), כך שאתם עלולים להגיע למקסימום טמפרטורה שלינוקס מאפשר לדיסקים להגיע – ואז לחטוף התראות (המקסימום הוא 55 מעלות, ואין זה חשוב אם היצרן מאפשר יותר).

כיצד ניתן לפתור זאת? במיקום חכם של הדיסקים וב״הקרבה״ של מקום.

כאשר מכניסים 12 דיסקים, לא נכנס מספיק אויר על מנת לקרר את הדיסקים, והדרך היחידה בשרת ל-enterprise לפתור זאת היא ע״י הכנסת מאווררים חזקים מאוד של חברות כמו Delta, Sunon ואחרות, מאווררים שמכניסים אוויר בלחץ וע״י כך מאווררים את כל החלקים בשרת. הלחץ הזה כמעט ולא קיים במאווררים ״ביתיים״ כמו Noctua ואחרים (חברה כמו Arctic מייצרת מאווררים מסידרת Max שנותנת משהו באמצע, אך המחיר הוא רעש חזק)

לשם כך, נצטרך ״להקריב״ את השורה האמצעית להכנסת דיסקים, כך שבמקום להכניס 12 דיסקים מקסימום, נכניס עד 8 דיסקים – 4 למעלה, 4 למטה, ובכך הטמפרטורות של הדיסקים יגיעו עד 38-40 מעלות, טמפרטורה שדיסקים יכולים להסתדר איתה מצוין

נקודה חשובה נוספת קשורה למעבדים: רוצים שרת 2U שקט? תצטרכו מעבדים עם כמות ליבות קטנה ו-TDP קטן – עד 65 וואט. מעבר לכך, קשה מאוד לקרר מעבדים עם מעל 8 ליבות מבלי להשתמש במאווררים החזקים.

לסיכום: אם החלטתם לבנות או לשנות שרת על מנת שיתאים לשרת ביתי, ובמיוחד אם אתם רוצים אותו שיעבוד עבודה שקטה, תצטרכו לחשוב על דברים שונים שחייבים ״להקריב״ על מנת לאפשר לשרת לעבוד בצורה שקטה ויעילה.

האם כדאי לרכוש רכזת USB? או שאולי כדאי Thunderbolt Dock?

אם יש מקום שהוא ״עמוס״ במידע שגוי, מוטעה (הן מצד היצרנים, הן מצד משפיענים, וכן… גם מעוזרים וירטואליים) – זהו עולם ה-USB, שמכניס שמות מבלבלים ועוד.

במחשבים רבים כיום (הן במחשבי מקבוק, או לאפטופים PC) כמות החיבורים שקיימים – קטנה מאוד: במק היקר ביותר ישנם 3 חיבורי USB וחיבור Magsafe, ואולי בעולם ה-PC, ברוב המקרים תקבל חיבור או 2 של USB-C (בקצה הגבוה חלק מאותם חיבורים יהיו Thunderbolt והשאר USB-C רגילים) ועוד חיבור או 2 של USB-A וחיבור HDMI ואולי, אולי, קורא כרטיסים די איטי..

כך יוצא שרבים מהמשתמשים מעוניינים לחבר ציוד נוסף למחשב, אך כמות החיבורים המועטה במחשב מאלצת אותם לחפש פתרונות שמאפשרים חיבורים רבים חיצוניים, וכאן מתחיל הסיבוך: האם לקנות איזו רכזת USB עמוסה כניסות? או שאולי כדאי להשקיע יותר ולרכוש Thunderbolt Docking Station? ומה בעצם ההבדל ביניהם?

בקליפ הבא (אזהרה: קצת ארוך, בערך 6 דקות) אסביר את הדברים. חשוב לציין שאני מדברת בכלליות ואני מתמקדת ב-2 נקודות: או שאתם בבית (שאז מומלץ Thunderbolt Dock) או שאתם בחוץ (שאז מומלצת רכזת USB). (שימו לב – הקליפ הוא ברזולוציית 4K אז אתם מוזמנים ללחוץ על כפתור ה-Full Screen לראות את החיבורים במכשירים)

אם יש לכם שאלות, אשמח לענות עליהם בתגובות לפוסט זה.

האם כדאי לארח שרת ציבורי בתשתית ה-Lab שלנו?

סביר להניח שהתשובה לכותרת הפוסט זה תהיה מאנשים רבים: ״חס ושלום!״, במיוחד לאנשים שמבינים בתשתיות, מערכות הפעלה, אבטחה וכו׳

אבל לפני הכל, הנה קליפ קצר (2 דקות) מדוע חשבתי על העניין:

מכיווון שאפשר לפרש את שאלתי להרבה כיוונים, אסביר: אינני מדברת על אירוח שרתי משחקים, שרותי סטרימינג מהבית או שרותים מסחריים. אני מדברת על לארח בלוג, או לארח דבר כלשהו שלא מצריך רוחב פס משמעותי.

הבעיה הגדולה ביותר שיש באירוח ״בחוץ״, בין אם זה אצל ספק הוסטינג ישראלי שיקים לך שרת וירטואלי עם ביצועי מעבד ורשת גרועים או אצל ספק ענן מכובד אחר בחו״ל (Hetzner, Linode ואחרים) – זה שאין לך שום שליטה על דברים שהם מעבר ל-VM שלך. בין אם ה״שכן״ שלך מריץ סקריפטים שפשוט ״טוחנים״ את המשאבים ובין אם משהו מוגדר באופן שגוי בוירטואליזציה או בדברים אחרים – אתה תסבול, ואם יש לך בעיות – זבש״ך, שלא לדבר על כך שמיגרציה מספק אחד לספק אחר היא כאב ראש לא קטן.

אז איך אפשר להימנע מהעניין, ועדיין להקים מכונה וירטואלית שתפנה לציבור, וגם לשמור על אבטחה כך שלא כל האקר יפרוץ לך לבית ויגרום נזק משמעותי? להלן מספר צעדים, חלקם כלליים וחלקם ספציפיים לתשתית (למען פוסט זה, אני מדברת על שימוש ב-Proxmox גירסאות 8/9, ומערכת הפעלה לינוקסית ב-VM, לא חשוב איזו הפצה)

נתחיל בדברים הכלליים:

ראשית, אנחנו לא נאפשר שום גישה ישירה ל-VM. כל הגישה לאתר בשרת תתבצע דרך שרותי tunnels שונים שנבחר: Cloudflare Tunnels, Tailscale funnel ואחרים, מה שאומר שאם מישהו גולש אל האתר שלך מבחוץ, הוא קודם כל נבדק לפני שהוא מגיע. זה לא מונע בוטים ודברים אחרים, אבל לכך נתייחס בהמשך
אנחנו לא נצטרך כתובת IP סטטית. ה-Tunnels חוסכים לנו גם הקמה ושימוש ב-Dyndns וגם מייתרים את הצורך בשימוש IP סטטי (אנחנו נגדיר בדומיין את ה-tunnel במקום זאת).
אנחנו נוודא שכמה שיותר דברים יצאו ״סטטיים״ (כמו פוסטים, עמודים) כך שמערכות Cache ינגישו אותם במקום לפנות שוב ושוב לשרת שלנו. כנ״ל לגבי תכנים כמו וידאו או אודיו: אם אנחנו לא יכולים לארח אותם באתרים ציבוריים (יוטיוב וכו׳), אנחנו יכולים להשתמש בשרותים זולים כמו R2 של Cloudflare לאירוח התכנים (מחיר: $0.015 סנט לכל ג׳יגה מעבר ל-10 ג׳יגה הראשונים שניתנים בחינם, ואין עלויות שידור המידע. כך לדוגמא הקליפ למעלה מגיע משרות זה)
להקשחה ולמניעת בוטים שונים, נוכל להשתמש בשרותי ה-WAF של cloudflare – על כך בהמשך.

מכאן נעבור לחלק הוירטואליזציה:

הדבר הראשון שנעשה הוא להקים VM רגיל, עם מערכת הפעלה שנרצה, עם כל התוכנות, העדכונים וההגדרות שנצטרך, בדיוק כמו כל VM שתקימו אצל ספק ענן ונוודא שהכל פעיל.
לאחר מכן נגדיר בוירטואליזציה Bridge. ה-Bridge יהיה עם כתובת IP יחודית (לשם הדוגמא בפוסט: 192.168.10.1/24) נקרא לגשר הזה vmbr2. חשוב לזכור לא לחבר אותו לשום כרטיס או פורט פיזי.
את ה-VM שהקמנו נכבה ונחליף בהגדרות הרשת שלה שהמכונה תהיה מחוברת אך ורק ל-vmbr2.
נפעיל את ה-VM ונגדיר את כתובת ה-VM לכתובת לדוגמא 192.168.10.10 עם subnet של 255.255.255.0 ו-GW של 192.168.10.1. מבחינת DNS נשים 1.1.1.1. נוודא שאנחנו יכולים לבצע ping אל ה-bridge (כלומר: 192.168.10.1). כרגע, שום נסיון לתקשר החוצה לעולם או לכל מקום אחר מעבר ל-bridge – לא יצלח.
אנחנו נשתמש ב-Proxmox לשרותי ניתוב. הדבר הראשון שנעשה זה להפעיל IP Forward, כך שהוא ידע לנתב את התעבורה. אנחנו גם נגדיר דרך iptables לזרוק כל פאקט שמגיע מה-lan שלנו (נניח בדוגמא זו שה-LAN שלכם הוא 192.168.0/24) אך כן להעביר אלינו ומאיתנו פאקטים לאינטרנט.
מכיוון שאת הרוב נצטרך להגדיר ידנית, הנה בלוק קוד לדוגמא שאמור לשבת בתוך קובץ etc/networking/interfaces/ ב-proxmox:

auto vmbr2

iface vmbr2 inet static

address 192.168.10.1/24

bridge-ports none

bridge-stp off

bridge-fd 0

post-up echo 1 > /proc/sys/net/ipv4/ip_forward

post-up iptables -A FORWARD -i vmbr2 -d 192.168.0.0/24 -j DROP

post-up iptables -t nat -A POSTROUTING -s 192.168.10.0/24 -o vmbr0 -j MASQUERADE

post-down iptables -D FORWARD -i vmbr2 -d 192.168.0.0/24 -j DROP

post-down iptables -t nat -D POSTROUTING -s 192.168.10.0/24 -o vmbr0 -j MASQUERADE

שימו לב: כש-proxmox מקים את ה-bridge בשבילנו, הוא מצמיד לו חוקים כפי שהסברתי לעיל, אבל הוא גם מוריד את החוקים אם אנחנו מורידים את ה-bridge.

עכשיו ה-VM יוכל לגשת לרשת האינטרנט אך לא ל-LANֿ, מה שאומר שאין לנו דרך לעשות SSH או כל תקשורת רגילה דרך ה-LAN ל-VM (רמז: אל תנסו להגדיר spice כאמצעי גישה למכונה, זה יתקע). איך נבצע בעצם גישה? דרך גישה מוצפנת כמו zero tier או tailscale שנתקין על ה-VM. לאחר מכן נכנס אל ה-VM ונראה אם אפשר דרך ה-tailscale לגלוש אל האתר/פלטפורמה ב-VM עם כתובת IP של tailscale (או פשוט שם). הצלחנו? מעולה, נמשיך לשלב הבא.
ניכנס לממשק cloudflare ונגדיר tunnel חדש. חשוב שנגדיר את ה-tunnel אל דומיין מסויים שרכשנו ורשמנו ב-cloudflare (ודרכו ננגיש את האתר לציבור). אם הגדרנו הכל כשורה, נוכל להיכנס דרך הדומיין אל האתר שלנו.

זהו. מעתה, כל גישה לאתר עצמו יכולה להתבצע אך ורק דרך ה-tunnels (אל תשכח להסיר כל הגדרת dynamic DNS מאותו דומיין), ולא ניתן להיכנס אליו דרך SSH

נקודה חשובה: יש צורך בשינוי הגדרות ב-virtualhost של שרת ה-web שלכם כדי שיכיר בכך שאתם משתמשים ב-cloudflare tunnels כך שתוכלו לראות את ה-IP האמיתיים והארצות שמגיעים אליכם. בלי השינוי, כל מה שתראו ב-לוגים זה 127.0.0.1.

סיימנו? זה כבר תלוי בכם. מכאן אפשר להגדיר WAF (בתוכנית החינמית זה מופעל אצלכם כברירת מחדל), אפשר להגדיר חוקי firewall ברמת ה-proxmox אם אתם רוצים לתת גישה לפורטים 80/443 אך ורק ל-cloudflare וכמובן לחסום פורטים אחרים, אבל תאורתית, מכיוון שהמכונה שלכם ״חבויה״, הדרך להיכנס אליה היא רק דרך ה-tunnels ואתם צריכים להגן טוב על הפלטפורמה או שרת ה-virtualhost שלכם.

להלן שאלות שבוודאי ישאלו ע״י הגולשים:

״למה לא השתמשת ב-VLAN?״ התשובה לכך פשוטה: בלא מעט מקרים למשתמשים אין ציוד שמכיר ב-VLAN רמה 3, או שהם לא מכירים איך להשתמש, ובכל מקרה שימוש ב-bridge ״יתום״ יתן פחות או יותר את אותה פונקציה של הפרדה.
״ספקי אינטרנט יכולים לחסום תעבורה או שהתעבורה יכולה להיות איטית, ולכן פתרון כזה אינו כדאי״. נכון, אבל שוב, כשהכל נמצא ב-cache רוחב הפס שנשתמש, הוא קטן מאוד, ושיחת וידאו לוקחת הרבה יותר רוחב פס מגישה לאתר סטטי ברובו.
״מה שהצעת לא מספיק מוגן״. יכול להיות, אבל מה שנחשב ״מוגן״ למישהו אחד, יכול להיחשב ״בלתי מספיק״ למישהו אחר. אין גבול לכך
״לא הגדרת שום דבר מבחינת תשתית הוירטואליזציה עצמה להגן עליה״. נכון, נסו לחשוב על כך – הדרך היחידה של פורץ היא להיכנס רק דרך ה-VM וגם אז רק דרך ה-web (אם הגדרת רק HTTP ב-tunnel), כך שגם אם הוא יקבל shell, אין לו דרך ״לדבר״ עם ה-lan כי אנחנו חוסמים זאת ברמה מעבר ל-VM. יש סיכון קטן של ״בריחה מה-VM״, אבל אז כבר מדובר בכשלי אבטחה בוירטואליזציה שמתוקנים די מהר בעדכונים השוטפים
״ניתן להפיץ נוזקות ותולעים עם גישה כזו״. אפשר לעשות אותו גם דרך Hosting רגיל ב-vm שמוכרים לך

לסיכום: מדובר פה ברעיון שיכול אולי לעזור פה ושם. כמו כל רעיון, לא מדובר פה בפתרון קצה, ומנהל ה-lab עדיין צריך לנטר את המערכות, לעדכן אותן ולוודא שהכל עובד כשורה. אם מישהו חושב שפתרון כזה הוא כמו ״שגר ושכח״ – הוא טועה.

אשמח לשמוע את דעתכם.

כמה מילים על DGX Spark של NVidia

חברת NVidia החלה למכור לאחרונה בצורה ישירה ודרך יצרני מחשבים נוספים כמו Dell, HPE, Lenovo, Asus (שמוכרים מחשב שהוא זהה פנימית, אך באריזה שונה) – את ה-Spark, מחשב מיני קטן שמיועד למפתחי AI/ML ואימוני Dataset.

מבחינה חיצונית ובהשוואה למחשבי מיני PC אחרים שקיימים בשוק, ה-Spark שונה כמעט בכל דבר: אין לו חיבורי HDMI או חיבורי USB Type A, אין לו חיבור חשמל קנייני, אין בו מעבד X86 או GPU יעודי, ואין בו זכרון רגיל שמופרד ל-CPU ו-GPU. המחשב כולל את הטכנולוגיות החדשות – רק חיבורי USB-C, זכרון אחוד שמשותף ל-CPU/GPU0, מעבד ARM שכולל CPU/GPU, וחיבורי רשת שלא קיימים באף מחשב אחר: חיבור 10 ג׳יגהביט ב-RJ45 ו-2 חיבורים במהירות 100 ג׳יגהביט (חיבור QSFP56) המאפשרים לשרשר ישירות עוד מחשבי Spark במהירות גבוהה. לאלו שרוצים, יש גם Wifi..

הבדל נוסף ומאוד מהותי קשור בכל מה שיש מבחינת תוכנה: אין Windows (ולא נראה שיש כוונה להציע עליו את מערכת ההפעלה הזו) אלא אובונטו בגירסה של Nvidia (שנקרא DGX_OS), והשינוי הכי גדול שיכול מאוד לסייע למפתחים – הוא מאגר תוכנות ופלטפורמות AI/LM שזמינות להורדה והתקנה עם Playbooks מיד כשמפעילים לראשונה את המחשב, ואם מישהו לא מכיר מה לעשות ואיך, המערכת כולל מודל פנימי המאפשר למפתח ״לשוחח״ ישירות עם המודל ולקבל את הפרטים איך לעשות ומה. בקיצור, NVidia עשו הכל כדי לתת למפתחים חיים יותר קלים מבלי לשבור את הראש על תאימות מערכת הפעלה, דרייברים, התקנת פלטפורמות וכו׳

מה בעצם נותן SPARK שפתרונות אחרים לא נותנים? בכדי לענות על כך, צריך לזכור שכיום, כאשר מפתח רוצה לאמן Dataset כלשהו על מודל, הוא צריך להעלות את המודל על ה-VRAM של ה-GPU ובנוסף להעלות גם את ה-Dataset (כולו או חלקו) אל ה-VRAM, כך שלשם ביצוע הדברים הללו, יש צורך בכרטיס GPU יקר (או 2), או להשתמש במודלים שהוגדרו מראש ל-Floating Point נמוך כמו 8 או 4 ביט (FP4) שאינם תופסים זכרון VRAM יקר.

ה-Spark מאפשר לעשות זאת ביתר קלות: המחשב מכיל כ-128 ג׳יגהבייט זכרון אחוד, כך שיש מספיק מקום בזכרון להשתמש הן במודל והן ב-Dataset (או חלקו), אולם חשוב לזכור: ה-Spark מצטיין ב-FP4 ונצטרך להשתמש במודל עם Quantization כזה על מנת לבצע אימון (אפשר לעשות על FP8 ואחרים, אך הביצועים יהיו איטיים מאוד). הביצועים בכל מקרה לא יהיו כמו מערכת של שרת DGX או כרטיס גרפי RTX, אך הם יספיקו למפתח לנסות ולכוונן Dataset חלקי, לראות שהכל עובד – ואז להעביר את האימון המלא לשרתים.

יתרון נוסף לפתרון כמו של Spark הוא אפשרות הגדילה: צריכים 256 ג׳יגהבייט זכרון אחוד? קונים עוד מערכת, ומחברים דרך כבל DAC בחיבור ה-100 ג׳יגה ביניהם, ואם רוצים לבנות אשכול שלם, משתמשים במתג 100 ג׳יגהביט. למתחרים, אגב – אין פתרון כזה.

ואם דיברנו על מתחרים: הפתרונות המתחרים שיש כיום הם פתרונות מבוססים Ryzen AI Max של AMD שיש להם יתרונות וחסרונות: מצד אחד, גם הם כוללים פתרון זכרון אחוד, אפשרות להפעיל Windows ותאימות X86 עם ביצועים שאינם כה רחוקים מה-Spark, אולם החסרון הוא שאין רשמית CUDA (יש משהו שנקרא ZLUDA אבל זה פתרון שעדיין בפיתוח) ולכן יש צורך בשימוש ROCm או Vulkan. יתרון גדול הוא המחיר – כמחצית ממה ש-Nvidia מבקשים.

לסיכום: Spark הוא פתרון מעולה שמתאים למפתחים בחברות, ארגונים וכל מקום שיכול להרשות לעצמו להשקיע 4000$ במכונה ושהם צריכים זאת. מצד שני, למשתמש הביתי, ה-Home Lab, או זה שיודע לינוקס טוב ויודע לקמפל ולהגדיר דברים גם כשאין CUDA – אפשר להשתמש בפתרון המבוסס AMD או PC עם כרטיס RTX יקר.

התקלה הגדולה ב-AWS וביזור אמיתי של ענן

אתמול התרחשה תקלה מאוד משמעותית ב-AWS, תקלה שהשביתה אתרים רבים, כולל אתרים גדולים וידועים שהתארחו על AWS, והפעם – גם אתרים שגיבשו ומימשו תהליך שרידות של Multi Zone או Multi Region, מצאו את עצמם סובלים בדיוק כמו אחרים.

לשמחתינו, בניגוד לכל מיני ספקים ישראליים (אינני מדברת על הנציגויות של ספקי הענן העולמיים) – אמזון שיתפה מידע לגבי התקלה: מתברר כי קריאות API ל-DynamoDB הגדול שמנהל פנימית את כל השרותים של אמזון ונמצא ב-US-EAST-1 – לא קיבל ולא שלח תשובות לקריאות עקב תקלות DNS (לאלו המעוניינים,הנה הסבר יותר מפורט של ג׳מיני לתקלה – בעברית)

במילים אחרות, אמזון לא כל כך יישמה את החלק של הביזור במערכות הקריטיות הפנימיות שלה, וכל קריאה לשרות גלובאלי – הועברה לאזור US-EAST-1, וברגע שהתרחשה התקלה באזור זה, רוב האזורים האחרים בעולם נפגעו מכך (כולל ישראל). אין ספק שאמזון יצטרכו כבר בימים הקרובים לתכנן מחדש את המערכת.

תקלה כזו מראה כמה חשוב לכל אתר שצריך להיות באויר בכל זמן – לחשוב ביתר רצינות על פתרונות המבוססים Multi Cloud, כך שאם נופל שרות זה או אחר אצל ספק ענן A, המערכת תעבור אוטומטית לספק שרותים מספק ענן B, וכיום פלטפורמות כמו Terraform מסייעים מאוד להקים פתרונות כאלו.

מערכת Windows 10 רוצה שתשדרגו. מה עושים?

בימים האחרונים יותר ויותר אנשים מקבלים הודעה ממערכות ה-Windows שלהם בבית כי עליהם לשדרג ל-Windows 11, ורבים לא יודעים אם לעשות זאת, מה הסיכונים, מה המחיר ומה האלטרנטיבות. אם נסתכל לפי הרשת, נראה מגוון עצות, ולכן החלטתי להתייחס ל-4 עצות העיקריות:

כן, לשדרג ל-Windows 11. העצה הזו מגיעה מגורמים רבים והיא בסופו של דבר עצה טובה ברמת המאקרו. סביר להניח שכל האפליקציות שלכם ימשיכו לעבוד וההגדרות שלכם ישמרו בעת שדרוג.
אז האם כדאי לשדרג? כן, אבל חשוב לזכור: Windows 11 הופכת את המחשב שלכם למחשב עם פרסומות מכאן ועד הודעה חדשה, ועם כריכת שרותי אונליין לשרותים רגילים (נסו לשמור תמונה ותראו איך מיקרוסופט מתעקשת שתשמרו אותה אונליין ולא מקומית, לדוגמא) מה שמתורגם לכך שתוציאו יותר כסף, ובנוסף – השדרוג מתקין שורה של תכונות ותוכנות נוספות שכביכול אמורות לשפר את חויית השימושיות, אבל בפועל – זה מאיט יותר את המחשב ותופס יותר מקום על דיסק.
לכן, אם רוצים לבחור באופציה זו, כדאי להריץ את Debloater על מנת להסיר חלקים שונים ב-Windows שרק תופסים מקום ומשאבים (חשוב: אם אין לכם נסיון במחשבים, תנו למישהו שיש לו נסיון להפעיל את ה-Debloater).
לא לשדרג – זו גם אופציה אפשרית, אבל חשוב לזכור: מיקרוסופט לא תשחרר יותר בחינם שדרוגי אבטחה, וזה יכול לעלות לכם כלום או 30 דולר, תלוי באיזה אופציה תבחרו במסגרת תוכנית ESU. בכל מקרה, תצטרכו ליצור חשבון במיקרוסופט (אם לא יצרתם והתחברתם אליו), וזו נקודה שחשובה לחלק מהאנשים שלא מעוניינים בה.
לעבור ל-מק או לעבור ללינוקס: זו הצעה שמאוד ״תופסת גובה״ בפורומים השונים, אולם כאחת שיש לה יותר מ-8 שרתי לינוקס ו-5 מחשבי מק בביתה, אני ממליצה דווקא לא לבחור באופציות הללו, אלא אם אותו משתמש מוכן להשקיע את הזמן ומאמץ ללמוד מערכת אחרת, כולל את כל ה״שטיקים״ שלה ובאגים או הגדרות שיש לעשות על מנת לעבוד באופן רגיל ושוטף, ולכן זו האופציה האחרונה שאינני ממליצה (ואם מתעקשים ללכת במסלול הזה, אני ממליצה על מק… לינוקס, עדיין, אינו מוכן לשימוש כדסקטופ, אלא אם המשתמש מכיר טוב לינוקס)

לסיכום: מיקרוסופט רוצה שתשדרג, ועכשיו, ויש המון קולות ללכת לכאן או לכאן, אבל חשוב לשקול היטב את האופציות השונות, ורק אז ליישם (ואם אין לכם כח להחליט עכשיו ואתם חושבים להחליט עוד חודש חודשיים, אתם תמיד יכולים לשנות משהו קטן, הנה קליפ שמסביר מה ואיך):

כמה מילים על הרכישות של OpenAI

לאחרונה אנחנו נתקלים ביותר ויותר חדשות לגבי OpenAI והרכישות המאסיביות שלה. כאן החברה עושה עיסקה סיבובית עם Nvidia לגבי רכישת ציוד בגודל ״10 ג׳יגהוואט״ (איפה הימים שפשוט היו סופרים כרטיסים או מערכות..) – ובמקביל Nvidia משקיעה ב-OpenAI סכום ״צנוע״ של 100 מיליארד דולר..

אבל זו כמובן לא העיסקה היחידה. קדמה לה עיסקה של OpenAI עם ברודקום, בסכום של 10 מיליארד דולר. במסגרת עיסקה זו, ברודקום תיצור שבב עבור OpenAI (כלומר ASIC) שישמש, כנראה, לצרכי Inference.. או משהו. החברות לא הרחיבו על כך.

אז השבבים של Nvidia ישמשו לאימון (training), השבבים של AMD ש-OpenAI רכשה ורוכשת ישמשו לצרכי Inference והשבבים מ-ברודקום יחליפו בהדרגה את הדור הנוכחי והישן יותר מ-Nvidia…?

לא בדיוק..

רק לפני מס׳ ימים הכריזו AMD ו-OpenAI כי האחרונה תרכוש מהראשונה כמות המוערכת ב-״6 ג׳יגהוואט״ של GPU מהסוג החדש ש-AMD תוציא בשנה הבאה (ה-MI450). ב-OpenAI, כפי שציינתי, משתמשים בשבבים של AMD לצרכי Inference, אך מה שאינו מובן לי לגבי עיסקה זו – היא הצורך בה. אתם מזמינים ב-10 מיליארד דולר שבבי Custom, אז למה אתם צריכים את השבבים של AMD?

העניין נראה עוד יותר תמוה כשמבינים (ליתר דיוק .. מנסים להבין) את העסקאות הסיבוביות. במקרה עם Nvidia, חברת OpenAI אמנם משלמת על הכרטיסים, אבל היא מקבלת בחזרה כסף בצורת השקעה מצד Nvidia, כך שזה יוצא מכיס אחד, אבל נכנס מהכיס השני (נכנס פי 10, ליתר דיוק) בכפוף לעמידה ביעדים. במקרה עם AMD זה נעשה יותר מורכב: OpenAI תשלם ל-AMD על הציוד, אבל היא תקבל לאחר מילוי ההזמנה הראשונה (של 1 ג׳יגהוואט) ״צו רכישה״ (תרגום של ג׳מיני) של מניות במחיר של 1 פני, עד 160 מיליון מניות. מניות אלו יהיו ניתנות למימוש רק אם החברות תעמודנה באבני דרך להקמת הפרויקט, ורק אם המניה תעמוד ביעדי מחיר ספציפיים, ואם מחיר המניה יגיע ל-600 דולר, OpenAI יוכלו לממש את כל החבילה.

אין ספק שהתנאים הללו הם תנאים מעולים ל-OpenAI, אבל כאן מגיעה הבעיה היותר גדולה: הקמת חוות השרתים. כשמדובר בחוות של 1 ג׳יגהוואט ומעלה (להלן קישור לקליפ מהערוץ של
Anastasi In Tech על הקמת חוות השרתים של xAI) – מדובר באתגר עצום שאינו קל לפתרון, והבעיה פחות קשורה לרכישת וקבלת GPU אלא דברים שקשה להשיג ולהקים, כמו חשמל, קירור ועוד, וכשמדברים על מעבר ל-1 ג׳יגהוואט, הבעיה מכפילה את עצמה ומעבר.

כך שבסופו של יום, לא בטוח ש-OpenAI תצליח לעמוד באתגרים הללו. החברה מזמינה ציוד על ימין ועל שמאל, ובנוסף חותמת עם אורקל לאספקת שרות בשווי מוערך של 300 מיליארד דולר ל-5 השנים הקרובות (ואורקל תצטרך להלוות 100 מיליארד דולר בפריסה של 4 שנים רק כדי להקים את אותן חוות ולרכוש את הציוד), אבל גם כאן, הסיכון הוא עצום.

האם יהיה כאן מה שהגשש החיוור קרא ״40 קומות באוויר, 20 קומות באדמה״? כלומר .. בועה שתגרום לחברות רבות להינזק?

ימים יגידו..