הכותרות שעניינו הכי הרבה גולשים בדף זה
13/08/23 15:58
11.43% מהצפיות
מאת אנשים ומחשבים
OpenAI – מפתחת כלי הבינה המלאכותית היוצרת הדומיננטי מכולם, ChatGPT, שהחלה את דרכה כארגון ללא מטרות רווח שייסדו סם אלטמן, המנכ"ל כיום, ויזם הטק המפורסם אילון מאסק (שפרש ממנה מזמן) – עומדת בפני מספר אתגרים שעלולים להוביל אותה לפשיטת רגל עד סוף 2024. את ה"נבואה" הזו סיפק אתר ALM (ר"ת Analytics India Magazine) המנתח את תחום הטק, עקב מסקנות תחקיר שערך ושאותם פרסם בשבוע שעבר.
לפי התחקיר, אחד האתגרים הגדולים ביותר העומדים בפני OpenAI הוא הירידה במספר המשתמשים בצ'טבוט שלה, ChatGPT. לפי נתוני סימילרווב, בחודש יוני, מספר משתמשי ChatGPT ירד ב-9.7% בהשוואה לנתוני חודש מאי. ואילו ביולי השנה ירד בסיס המשתמשים של החברה ב-12% בהשוואה ליוני – מ-1.7 מיליארד משתמשים ל-1.5 מיליארד משתמשים "בלבד".
ירידה זו נובעת ככל הנראה ממספר גורמים, ביניהם: שחרורו של ChatGPT API, המאפשר למשתמשים לבנות צ'טבוטים משלהם, ובמקביל השקתם של דגמי LLM בקוד פתוח, כמו Llama 2 מבית מטא, המשתפת פעולה במהלך עם מיקרוסופט. בנוסף, הולכים ומצטברים משתמשים רבים שאינם שבעי רצון מתפקוד השירות של הצ'טבוט ומלינים על הזיות (Hallucinations – מושג שמתאר מצבים שבהם המענה של הכלי נראה רהוט וענייני אך מתגלה שאין לו ולא בסיס אחד במציאות) שלו שמחבלות ביכולתם לסמוך או להסתמך על פעילותו באופן שלם. עניין נוסף ולא פעוט בכלל הוא חששם של משתמשים מהכלי, שאפילו אלטמן כבר הודה כי תחום ה-AI כולו כיום בינתיים פרוץ מדי וזקוק לפיקוח רגולטורי.
הודה שתחום ה-AI זקוק לפיקוח. סם אלטמן, מנכ"ל OpenAI. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: ShutterStock ו-פליקר (בהתאמה)
עלות הפעלת ChatGPT היא 700 אלף דולר ביום
אתגר נוסף שעומד בפני OpenAI הוא ההפסדים הכספיים שלה. בחודש מאי הוכפלו הפסדים אלו ל-540 מיליון דולר. מצב זה של הפסדים נובע בין השאר מהעלות הגבוהה של הפעלת ChatGPT, שעומדת על 700 אלף דולר ליום. אלטמן המנכ"ל דיבר כבר בשלהי השנה הקודמת על כך שהמצב הזה "מדמיע" ומטריד.
ALM סבורים כי מכיוון שההפסדים הקודמים (540 מיליון דולר השנה עד כה) הוכפלו מאז שהחל פיתוח הצ'טבוט של החברה – שהציגה הכנסות של 200 מיליון דולר לשנת 2023 – הופכים את כוונות החברה להרוויח מיליארד דולר ב-2024 לשאפתנות חסרת ביסוס.
על פי ALM, הרווחיות של OpenAI נפגעת גם מהמחסור ב-GPU, המקשה על OpenAI להכשיר דגמים חדשים ולשפר את האיכות של ChatGPT שלשמם נדרש כוח עיבוד עצום.
הקים את xAI שתתחרה ב-ChatGPT. אילון מאסק. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: BigStock ו-ויקיפדיה (בהתאמה)
עוד פרמטר שעלול, לפי ALM, להביא לסוף דרכה של OpenAI בתוך זמן קצר יחסית הוא העובדה שיש לה תחרות עזה מחברות אחרות, גדולות ומנוסות ממנה, כמו גוגל עם בארד (Bard) שלה, או מכוחות עולים חדשים שיאיימו על הזירה בקרוב, ביניהם אפשר בהחלט להמר כבר על xAI שהשיק מאסק באמצע החודש שעבר.
היזם, שהיה בתחילת דרכה של OpenAI, כאמור, בין מייסדיה ושבהמשך הדרך פרש, עסוק מאז כניסת ChatGPT והבינה הג'נרטיבית לחיינו בהעברת ביקורת על שימוש לא אחראי בה. לדבריו, החברה החדשה שלו בונה מודל שפה גדול אלטרנטיבי שיציא צ'טבוט מתחרה ל-ChatGPT, אשר אינו מוטה או מפיץ פייק ניוז, כפי שכבר העידו משתמשים רבים שעושה ChatGPT. מאסק רכש גם 10,000 GPUs של היצרנית אנבידיה (NVIDIA) כ-פוש לחברה שלו במירוץ הבינה המלאכותית הקשוח שאליו היא תצא בהקדם.
לפי טענת ALM, אם OpenAI – שנשענת ככל הנראה על כ-10 מיליארד הדולר שמיקרוסופט מימנה לה השנה – לא תקבל עוד מימון בעתיד הקרוב, היא צפויה להגיש בקשה לפשיטת רגל עד תום השנה הבאה, כאמור. באתר מעלים עם זאת את האפשרות ש-OpenAI תירכש על ידי חברה גדולה יותר, במהלך שיעניק לה את המשאבים הדרושים כדי להמשיך במחקר ובפיתוח שלה ושגם יספק לה גלגל הצלה פיננסי כדי להמשיך לשרוד, לחדש ולנצח.
13/08/23 12:50
10% מהצפיות
מאת אנשים ומחשבים
בעוד כחודשיים צפויה גוגל (Google) לחשוף את המכשירים בסידרת ה-Pixel 8 הבאה שלה, שפרטים שונים עליהם כבר דלפו, כמו מסך שטוח ב-Pixel 8 Pro ושדרוג מצלמה "משמעותי". בסוף השבוע האחרון פורסמה עוד הדלפה על המכשירים החדשים על ידי משתמש X, שפרסם מה שנראה כמו סרטון פרומו מקצועי ל-Pixel 8 Pro, והוא חושף שני פרטים חדשים על המכשירים.
הראשון הוא תכונת Audio Magic Eraser, שfנראה עושה עבור אודיו בסרטונים מה שה-Magic Eraser עושה עבור תמונות, בכך שהוא מאפשר להסיר פריטים לא רצויים בתמונות שנוצרו עם Pixel 8 ו-8 Pro. במקרה זה, כמובן, מדובר באודיו לא רצוי שנשמע בסרטון. בדוגמה המוצגת, המשתמש מסיר רעשי רקע מסרטון של אישה גולשת על סקייטבורד. לא ברור באילו פריטי אודיו אחרים אפשר להשתמש, אבל אפשרות אחת נוספת שכותרתה "אנשים" מציעה להסיר את צלילי הקולות של אנשים, ואפשרות שלישית, שנראית רק בחלקה בסרטון, היא כנראה "מוזיקה".
הפרט הנוסף הוא צבע חדש ל-Pixel 8 Pro – צבע תכלת דומה לצבע ים, המוצע כיום ב-Pixel 7a בלבד. בהתחשב באופן שבו גוגל עושה דברים, סביר להניח שצבע התכלת הזה יהיה הצבע הנוסף היחיד שגוגל תציע ב-Pixel 8 Pro בנוסף ללבן ושחור. במכשיר ה-Pixel 7 Pro, היה הצבע הנוסף בגוון של אגוז לוז.
13/08/23 18:15
10% מהצפיות
מאת אנשים ומחשבים
סם בנקמן-פריד, מייסד FTX והנאשם המרכזי בהונאת הקריפטו הגדולה, נכנס ביום ו' למעצר, לאחר שעל פי החשד, הטריד פעמיים עדה במשפטו הקרב ושיבש הליכי משפט. השופט דחה את בקשתו לדחות את כניסתו למעצר עד לדיון בערעור שהגיש, ואם הערעור לא יתקבל – הוא יהיה מאחורי סורג ובריח עד לפתיחת שלב ההוכחות במשפטו ב-2 באוקטובר.
בהחלטתו כתב השופט כי "המסקנה שלי היא שיש סיבה טובה להאמין שהנאשם ניסה להטריד את העדה לפחות פעמיים". התביעה ביקשה לפני כשבועיים לבטל את הערבות שעל בסיסה הוא שוחרר בעבר ממעצר, על סך של 250 מיליון דולר, ולשלוח אותו שוב אל מאחורי סורג ובריח. זאת, לאחר שלטענתה, הוא הפר את תנאי השחרור שלו בכך ששלח לניו יורק טיימס התכתבויות פרטיות של אחת העדות המרכזיות בתיק – קרולין אליסון, בת זוגו לשעבר ומי שהייתה המנכ"לית של אחד מעסקיו – קרן הקריפטו אלבמה ריסרץ'.
עם קבלת ההחלטה, בנקמן-פריד נראה מוריד את הבלייזר, העניבה והנעליים שלו, ומרוקן את כיסיו. הוא הובל מבית המשפט היישר לבית המעצר, כשהוא אזוק בידיו. שני הוריו נכחו בבית המשפט ואימו ישבה במשך רוב זמן קריאת ההחלטה כשראשה כלפי מטה וידיה על פניה.
הפרשה החלה בקריסתה של בורסת FTX, שבנקמן-פריד ייסד, בתחילת נובמבר האחרון. על פי החשד, הקריסה אירעה כתוצאה ממעשה הונאה שהוא ביצע. כחודש לאחר מכן הוא נעצר באיי הבהאמה, לבקשת ארצות הברית, והוסגר אליה. בינואר האחרון הוא הובא בפני השופט לואיס קפלן בבית המשפט הפדרלי במנהטן, להקראת סעיפי האישום נגדו – וכפר בהם.
גנב מיליארדי דולרים ועלול להישלח לעד 115 שנות מאסר
בנקמן-פריד בן ה-31 מואשם בכך שהונה משקיעים, גנב סכומים שווי ערך למיליארדי דולרים ותרם עשרות מיליונים מהם למטרות פוליטיות. בין סעיפי האישום נגדו: הונאת רשת וקשירת קשר לביצוע הלבנת הון. אם יורשע, הוא עלול להישלח למאסר של עד 115 שנים. גם אליסון הואשמה בפרשה, ואף הודתה – הודאה שעלולה לשאת איתה עונש של עד 110 שנות מאסר. עם זאת, לאחר מכן היא הסכימה להעיד נגד בן הזוג שלה לשעבר – מה שעשוי להוביל לכך שהיא תקבל עונש מופחת.
יש לציין שבנקמן-פריד שוהה בכלא פוטמן בניו-יורק, שם יש לו גישה ללפטופ עם אינטרנט, לצורך הגנתו. התביעה תמכה בכך, אולם התנגדה לשלוח אותו לבית המעצר מטרופוליטן, הקרוב ביותר לבית המשפט, שם יש לעצורים גישה מוגבלת לאינטרנט.
בנקמן-פריד לא יכול להגיב על ההחלטה, משום שמוקדם יותר בהליכים המשפטיים נגדו הוציא השופט קפלן צו שאוסר עליו, ועל המעורבים האחרים בפרשה, להתייחס אליה התייחסות כלשהי.
13/08/23 11:25
8.57% מהצפיות
מאת אנשים ומחשבים
גוגל (Google) הוסיפה את יכולת התרגום המיידי לאפליקציית Gmail באנדרואיד וב-iOS, בדומה לתכונה שקיימת באפליקציית הדואר בגירסה למחשבים. כלומר כשמתקבלת הודעה ב-Gmail בשפה שאינה השפה הראשית – Gmail יתרגם באופן אוטומטי את ההודעה לשפה הראשית גם באפליקציה לסמארטפונים.
אפליקציית Gmail קובעת את השפה המועדפת לפי "שפת התצוגה של Gmail" בהגדרות, ובכל פעם שמגיע אי-מייל בשפה אחרת, Gmail יציג באנר "תרגם ל" בראש העמוד, שיאפשר לבחור אם האימייל יוצג בשפתו או מתורגם לשפה המועדפת. יש גם אפשרות להגדיר את Gmail כך שתמיד יתרגם הודעות בשפה מסוימת, או שלא יתרגם אף פעם.
אם נבחרת האפשרות לבטל את התרגום האוטומטי, ניתן לגשת לתפריט התרגום בהקשה על תפריט שלוש הנקודות בתוך האפליקציה.
התכונה החדשה תופץ למשתמשי אנדרואיד בהדרגה במשך שבועיים החל מה-15 באוגוסט, ולמשתמשי iOS החל מה-21 באוגוסט – אז תתחיל ההפצה ההדרגתית ל-iPhone.
התכונה תהיה זמינה בסופו של דבר לכל משתמשי Gmail, ללא קשר אם החשבון הוא אישי או חשבון Workspace.
13/08/23 11:48
7.14% מהצפיות
מאת אנשים ומחשבים
מנופי ענק שיוצאים משליטה ומשליכים מכולות לים… מערכות כבישים שמשתבשות ויוצרות כאוס אדיר… מי שתייה מזוהמים (מזה כבר קיבלנו טעימה בשנת 2020)… ניתוק מוחלט מהאינטרנט… זו איננה סצנה מסרט אפוקליפטי וגם לא דיסטופיה מעוררת פלצות מבית נטפליקס. סיכוי סביר שבעתיד, מלחמות לא יהיו מה שהכרנו. טילים? כן, אבל גם התמונה שלעיל, משולבת בניתוק ממושך מתשתיות קריטיות כמו חשמל, מים ואינטרנט. כמה זמן אנחנו בעצם יכולים להסתדר בלי מזגן ואינטרנט? איך תיראה המלחמה הבאה, ולמה? עולם הטכנולוגיה התפעולית – ה-OT (ר"ת Operational Technology) – הוא מה שמכונה "העולם הישן". מכונות הייצור במפעלים והמערכות הקריטיות הגדולות (מרמזורים ועד תחנות כח) בסופו של דבר מנוהלות בידי מחשבים. אלה מערכות המצויות בתשתיתם של גופים מכל מגזרי המשק – מפעלי ייצור (תרופות, מזון, מוצרי צריכה), יצרני חשמל, חברות המים, מערכי בקרת תנועה, שדות תעופה וכיוצא בזאת. האם בשנת 2023 התשתיות הללו מוגנות?
מהצד השני, בעולמות ה-IT, הטרנספורמציה הדיגיטלית של העשור האחרון הפכה כמעט את כל הפעולות שלנו למבוססות דיגיטל. פעולות בקופת חולים, העברת בעלות על רכב, תשלום מסים… כל זה שינה את "משטח התקיפה", והופך את הפגיעה הפוטנציאלית בעורף לכזו שמתבטאת בפגיעה דיגיטלית אשר תשפיע ישירות על האזרחים.
לב העניין הוא מערכות פשוטות לכאורה, שבטכנולוגיה שלהן, כאמור, לא הושקעו עד היום משאבי אבטחה מספקים וזו בעיה שיש לתת עליה את הדעת
אז נכון, אנחנו רואים בכל מקום טכנולוגיות סייבר מתקדמות, אבל מה שנסתר מהעין הוא ש"בעולם הישן" התקיימה הפרדה מוחלטת בין רשת ה-OT לרשת ה-IT. הפרדה פיזית זו יצרה הגנה מובנית בעצם הניתוק של רשתות ה-OT מהעולם החיצון. אבל אליה וקוץ בה: עולם הסייבר ב-IT התקדם שנות אור יחסית לתשתיות ה-OT, שנשארו מאחור. כדי להמחיש כמה מאחור, בחלק לא מבוטל מרשתות ה-OT עדיין משתמשים ב-WinXP ו-Win7.
בעבר היו מתקפות הסייבר בעיקר בגדר "אצבע בעין". למשל, שקופית עם דגל פלסטין באתר האינטרנט התדמיתי של הארגון, עם כיתוב מאיים כלשהו. מעצבן, אבל לא משבית מפעילות.
בהמשך התפתחה תעשיית מתקפות כופר, בה השתלטות על מידע או הצפנתו גרמה לארגונים לנהל מו"מ מול מאפיה מאורגנת. מעצבן? כן. כואב? גם. אבל נקודתי, ובעיקר בעל השפעה עסקית. השלב הבא הוא מתקפות מסוג סטוקסנט (Stuxnet) שהעלו לכותרות את האפשרות למתקפות סייבר בין מדינתיות על תשתיות קריטיות מבודדות. וזו כבר לא אצבע בעין ולא מתקפה עסקית, אלא מלחמה. ראינו את זה ממש לאחרונה במלחמת רוסיה-אוקראינה, בה הפילו הצדדים אתרי ממשל והשביתו מערכות מבצעיות זו של זו.
השלב הבא מאופיין בחזרה אל "התשתיות הפשוטות", ובו המכונות "באות אל קדמת הבמה" ובשילוב עם טכנולוגיה, כמובן, הן אלה שמהוות את החוליה החלשה בתרחיש המלחמה.
הרס ומצב דיסטופי ולא בסדרה של נטפליקס. צילום: אילוסטרציה. ShutterStock
מתקפות הסייבר המתוחכמות, עולות רמה
העולם החדש מציע שפע של אפשרויות טכנולוגיות ונוצר בו חיבור בין IT ל-OT. למשל, תמיכה מרחוק (בעיקר לאור הקורונה) וחיבור למערכות שליטה ובקרה ארגוניות גלובליות. מרגע שזה קרה, הפך העולם הישן, ה-OT, למושא תקיפה. ובזה החידוש המסוכן.
מתקפת סייבר זדונית על תשתיות קריטיות יכולה להיות הזויה יותר מכל מה שניתן לדמיין – ממכונות ייצור שיפסיקו לפעול דרך מכוניות שיישלטו מרחוק ועד למטופלים שיקבלו תרופה במינון גבוה פי 10 מהרשום.
וכל זה נוגע גם לטכנולוגיית הענן הכל כך נפוצה (מי אמר נימבוס?). כשמערכות מחשוב נמצאות "בחוץ", לא בטוח שתמיד ניתן יהיה להגן עליהן מפני מתקפות סייבר זדוניות.
מומחי האבטחה, מצידם, מפתחים ללא לאות מנגנוני הגנה ופתרונות מתקדמים בתחומי ניהול הרשאות גישה והזדהות כמו MFA (ר"ת Multi Factor Authentication) ואינסוף שיטות חכמות של מבחני חדירה (PT) וכיוצא בזאת. אבל אין מנוס מכך שמתקפות אמיתיות ומשמעותיות גם יצליחו, בסופו של דבר. לב העניין הוא מערכות פשוטות לכאורה, שבטכנולוגיה שלהן, כאמור, לא הושקעו עד היום משאבי אבטחה מספקים וזו בעיה שיש לתת עליה את הדעת.
חשוב לזכור כי מדינת ישראל מפעילה מספר גופי הנחיית סייבר, כמו מערך הסייבר הלאומי, המלמ"ב ואחרים, וכי היא משקיעה לא מעט בפעולות לשמירה על בטחוננו. אבל חכם יהיה לוודא כי הגופים הקריטיים במדינה מיישמים את מדיניות ההגנה ומשקיעים את המשאבים במקומות שהוזנחו במשך שנים.
חובה על הרגולטורים לוודא שמשאבים מספיקים מוזרמים לחיזוק ההגנות ברשתות ה-OT ולחייב עמידה בתקינה על מנת לייצר הגנה עלינו, האזרחים, מפני הפגיעה החדשה בעורף, הפגיעה הדיגיטלית.
הכותב הוא מנכ"ל סמארטסופט, מקבוצת יעל
13/08/23 16:21
7.14% מהצפיות
מאת אנשים ומחשבים
קרן ההשקעות של ג'ורג' סורוס הודיעה כי היא ביצעה ברבעון האחרון השקעות גדולות למדי בחברות המתמחות בענן ובמיוחד בבינה מלאכותית, כמו גם בחברות שפועלות בתחום אבטחת הסייבר. סורוס הוא יהודי-אמריקני ממוצא הונגרי, שבלשון המעטה לא אהוד במיוחד על השלטון של ויקטור אורבן בהונגריה, ולא חביב גם על הממשלה בישראל.
הקרן של סורוס היא אחת המשמעותיות בשוק והמהלך שלו בולט בין היתר על רקע סקירת שוק שהוא פרסם באחרונה, שבה כתב איל ההון כי "אני באופן אינסטינקטיבי מתנגד לבינה מלאכותית, אבל אני לא רואה כיצד אפשר לעצור אותה".
בדיווח הרבעוני שלה הודיעה הנהלת הקרן כי היא רכשה רבע מיליון מניות של AMD, שבאחרונה רואה עלייה במכירות של כרטיסי המסך המתקדמים שלה, ועוד 10,000 מניות של אנבידיה, נוסף על אלה שכבר יש לה. כמו כן, הקרן רכשה עוד 10,000 מניות של מיקרוסופט – בגלל ההשקעה הגדולה שלה ב-OpenAI ובתוצרי הבינה המלאכותית היוצרת שנובעים מהשקעה ושותפות זו, ובמרכזם ChatGPT.
בתחום אבטחת הסייבר שילשה הקרן את ההשקעה שלה בקלאודפלייר, כמעט הכפילה את השקעתה באוקטה, וכן הכפילה וקצת יותר את אלה שהיא ערכה ב-Rapid7.
אחת הדרכים לממן את הרכישות הללו הייתה למכור כ-170 אלף מניות של סיילספורס וכן 38,500 מניות של סנואופלייק – הראשונה היא מחברות ה-CRM הגדולות בשוק, והשנייה מציעה פתרונות הנדסת נתונים ואנליטיקה.
13/08/23 16:47
7.14% מהצפיות
מאת אנשים ומחשבים
אלפי האקרים הגיעו בסוף השבוע לעיר החטאים לאס וגאס, חלקם במטרה לפתח או לנצח מודלים של בינה מלאכותית כמו ChatGPT. כנס האבטחה מהגדולים בעולם, DEF CON – נפתח ביום ה' בערב, וההאקרים יתמודדו במסגרתו למול "צוותים אדומים" שיסתייעו במודלי AI, בברכת הבית הלבן, ויחד או נגד, ענקיות הטכנולוגיה העומדות מאחורי המודלים הללו.
המושג "צוות אדום" שאול מהעגה הצבאית: זו קבוצה של אנשים אשר מדמים את היריב ומובילים תקיפה של המושא המאובטח. זאת, על מנת לבחון את החולשות והפרצות במערך של היריב, תוך כדי ניסיון לממש את הסיכונים.
כפר ה-AI מושך את מירב תשומת הלב
בכנס אורגנו כמה מתחמים נושאיים, המכונים "כפרים", המתמקדים בנושאי אבטחת מידע והגנת סייבר שונים, כגון תעופה וחלל, אבטחת ענן והגנה על תשתיות קריטיות.
מירב תשומת הלב, באופן טבעי, הוא ב"כפר AI", שיארח את מבחן האבטחה הציבורי הגדול ביותר של דגמי שפה גדולים עד כה. הנושא, הסבירו מומחי אבטחה, הוא חשוב: מפעילי המודלים של בינה מלאכותית מקווים להימנע מטעויות של חדשנים מהעבר. אלה עברו במהירות לשלב המימוש, והחלו להפעיל את הטכנולוגיות שלהם – בלא לשקול ולבחון את ההשלכות הנובעות מכך במלואן, או להכין אותן להגנה מפני משתמשים יריבים.
כזכור, הבית הלבן הודיע על תמיכתו בתחום כבר במאי השנה. אנשי הבית הלבן מפקחים על האתגרים בכפר הבינה המלאכותית, והיו שותפים בעיצובם. עם ענקיות הטכנולוגיות המשתתפות במתחם זה ומציעות מודלים של בינה מלאכותית יוצרת, נמנות אנטרופיק (Anthropic), גוגל, האגינג פייס (Hugging Face), מיקרוסופט, אנבידיה, OpenAI ו-Stability AI.
מושכת עיסוק מרכזי בכנס אבטחת המידע בלאס וגאס. GenAI. צילום: צויר על ידי בינה יוצרת. ShutterStock
המשתתפים ינסו לאתר כשלים ב-LLMs
במסגרת האתגר, אשר נערך השבוע, כ-3,500 משתתפים יקבלו שימוש בן 50 דקות באחד מ-156 מסופי המחשב ברשת הסגורה של האירוע. האתגרים נחלקים לחמישה סוגי אירועים: פריצה מיידית, אבטחת מידע, שלמות ואמינות המידע, עקביות פנימית ונזקים חברתיים.
המשתתפים יקבלו רשימה של אתגרים ויקבלו גישה – באופן אקראי – למודלי שפה גדולים (LLMs) – לבדיקה. המארגנים גם יספקו למשתתפים עותק מקומי של ויקיפדיה, כדי שהם יוכלו לבצע בדיקת עובדות על כל מידע שהמודלים פולטים.
אחד המיקודים באתגרים יהיה על מה שהמארגנים מכנים "נזקים משובצים", המדגישים את הפגמים וחורי האבטחה הנוצרים באופן טבעי במודלים. זאת, כחלופה לניסיונות להערים על המודלים לבצע דברים רעים. מטרת המארגנים היא שההאקרים ינסו לחשוף נקודות תורפה בצ'טבוטים של AI, יצליחו לעשות הונאות על צ'טבוטים של בינה מלאכותית, יחשפו הטיות ומידע פוגעני או שגוי, כגון מידע מוטעה פוליטי, או תשובות הכוללות טעויות מתמטיות שגויות. ההאקרים ינסו גם לחשוף הטיות עדינות יותר, כמו וריאציות בתגובות לשאלות על מהנדסים שחורים למול לבנים.
מומחי אבטחה ציינו כי בעוד שתרגילי "צוות אדום" נפוצים בתעשיות הטכנולוגיה והסייבר, זו הפעם הראשונה שהם מבוצעים על דגמי AI בקנה מידה כה מסיבי. הזוכים באתגר יקבלו כרטיס מסך של אנבידיה וזכויות התרברבות.
תרגיל זה לא רק מספק ליוצרים של מודלי LLM הזדמנות לבדוק את המודלים שלהם ולזהות בהם פגיעויות, אלא גם מאפשר מחקר ובדיקות בקנה מידה גדול – בלא עלויות נלוות. תוצאות התחרות ישמשו כמאגר מידע מקיף של בעיות שנמצאו במודלים, כדי לטפל ולתקן את הבעיות.
13/08/23 15:34
5.71% מהצפיות
מאת אנשים ומחשבים
גוטפרנדס (Gotfriends) הינה חברת השמה להיי-טק גדולה בישראל. החברה מתמחה בחיבור בין מפתחים למשרות בסטארט-אפים ובחברות היי-טק. בכל שנה מנוהלים בחברה אלפי תהליכי גיוס טכנולוגיים עבור חברות היי-טק מובילות במשק, תוך ביצוע התאמה מדויקת בין טאלנטים טכנולוגיים למשרות פיתוח אטרקטיביות. תחומי ההתמחות של גוטפרנדס הינם תוכנה, אלגוריתמים, אבטחת מידע וסייבר, תשתיות, בדיקות ואוטומציה, ניהול מוצר, ביג דאטה ובכירים.
שוחחנו עם שירי וקס, מנכ"לית גוטפרנדס, שסיפרה לנו על החברה ועל השירות שלה, שניתן למועמדים ולמועמדות ללא עלות, וכולל ייעוץ, הכוונה וליווי מלא לאורך תהליך הגיוס.
מה ההתמחות הספציפית שלכן עבור יוצאי יחידות טכנולוגיות?
"הבנו שליוצאי יחידות טכנולוגיות יש צורך אחר לקראת השחרור, ובמיוחד עבור הקהל הזה הקמנו את 'היחידה' – מחלקה ייעודית שמנהלת עבורם את תהליכי הגיוס הטכנולוגיים. המחלקה מורכבת מקצינות איתור לשעבר, שמומחיות בעבודת גיוס והשמה בתחום הטכנולוגי, מכירות את היחידות והמרכזים השונים בצבא, 'שוחות' בחומר הטכנולוגי, ויודעות לתרגם כל קורס והכשרה צבאית למקבילה שלהם בעולם האזרחי".
מה השירות שאתן מציעות?
"אנחנו פוגשות את החיילים לקראת השחרור ומלוות אותם לאורך התהליך – החל מכתיבת קובץ קורות חיים בצורה נכונה ומקצועית, דרך סימולציות לראיונות משאבי אנוש, שיתוף מבחנים ושאלות מראיונות עבודה מקצועיים, בייעוץ והכוונה – לאיזו חברה כדאי להם לפנות? כיצד להתראיין? מה השכר שהם יכולים לדרוש, ובאילו תנאים?, ועד לחתימה על חוזה העבודה ותחילת העבודה בחברה. זאת, תוך התחשבות ברצונות ובצרכים האישיים של כל מועמדת ומועמד.
יש חיילים שמשתחררים ומתחילים איתנו תהליך, טסים לכמה חודשים לחו"ל לנקות את הראש והם יודעים שכשהם חוזרים, יש להם עם מי לדבר ולהתייעץ, עד להגעה למשרה המיוחלת. המטרה שלנו היא להפוך את המעבר מהצבא לאזרחות לנגיש הרבה יותר. כל זאת ללא עלות למועמדים".
לדברי וקס, "אנחנו פוגשות את המועמדים יוצאי היחידות כשהם פחות מנוסים בעולם העבודה ומעט חוששים, ונוצרת מערכת יחסים קרובה בינם לבין צוות הגיוס. אנחנו רואות את זה בתהליכי המשך, שאנחנו עושות עם מועמדים שמצאו דרכנו את העבודה הראשונה וממשיכים איתנו גם לתפקידים הבאים כשהם כבר מנוסים יותר באזרחות. זה מספק, תחושת השליחות והגאווה מתעצמת מכל תהליך ותהליך".
ליוויתן כבר מאות מועמדים יוצאי יחידות למשרה בהיי-טק. אילו טיפים היית נותנת לאלה שעומדים בפני שחרור?
"אם אתם רוצים להתחיל עבודה באזרחות ממש בסמוך לשחרור, כדאי לפנות אלינו כשלושה חודשים לפני שאתם פושטים את המדים, לעבוד על קורות החיים, ולהתחיל להבין מה אתם מחפשים ומה המשרות הפתוחות בשוק כעת. התפקיד הראשון לרוב מתווה את המשך הדרך ומעצב את דמות העובד שלכם מבחינה מקצועית. לכן, חשוב לא 'לקפוץ' על המשרה הראשונה שרואים, להסתכל קדימה ולמצוא חברה שתוכלו להשתלב בה בטווח הרחוק, שיש לה אופק המשכי, שתוכלו ללמוד ממנה כמה שאפשר ושתהווה עבורכם מקפצה להמשך הקריירה. חשוב למצות את ההזדמנויות הנקרות לפניכם".
מעניין אתכם לשמוע על ההזדמנויות שמחכות לכם בשוק? היכנסו ללוח המשרות של גוטפרנדס ליוצאי יחידות טכנולוגיות בצה"ל. כמו כן, אתם מוזמנים להצטרף לקהילה הסגורה שלנו בפייסבוק (ליוצאי יחידות מאומתים בלבד) ולקבוצה בטלגרם.
להרשמה לאירוע לחצו כאן.