OpenAI בדרך לפריצת דרך של מודיעין על

מה שאתה צריך לדעת

• למרות הפיאסקו של OpenAI שפרץ בסוף השבוע האחרון, החברה עשויה להיות על סף פריצת דרך שעלולה לעצב מחדש את האנושות כפי שאנו מכירים אותה.
• דיווחים מצביעים על כך שפיתוח מודיעין-העל נמשך ב-OpenAI, ולמרות שהוא עדיין בשלבים מוקדמים, הוא מראה הבטחה גדולה.
• מקור בעל זיקה קרובה לחברה חשף כי פריצת הדרך של מודיעין העל עשויה להניע את פיטורי הדירקטוריון של אלטמן.

---

OpenAI צברה די הרבה אחיזה בשנים האחרונות, בעיקר בגלל תרומתה לחלל הבינה המלאכותית. חוסר הוודאות מתנשא באוויר בחברת הטכנולוגיה שבסיסה בסן פרנסיקו הבאים הדירקטוריון פיטורים פתאומיים של ראש החברה, סם אלטמן, תוך ציון חוסר האמון שלהם בהנהגתו.

למרות זאת, אלטמן הוחזר לתפקיד מנכ"ל OpenAI לאחר שלמעלה מ-500 מקביליו במשרד איימו לעזוב את החברה אם הדירקטוריון לא יחזיר לו את עבודתו, בטענה שהמהלך ערער את המשימה והחזון שלהם.

ואם אולי חשבתם שזו הבשורה הכי גדולה שהגיעה לכותרות השבוע, אז אין ספק שאתם טועים. מדווחים שעובדים כתבו מכתב לדירקטוריון החברה ובו ציטטו פריצת דרך אפשרית בתחום הבינה המלאכותית לפני שהתרחש הפיאסקו של OpenAI של סוף השבוע. לפי המידע, פריצת הדרך עשויה להוביל לפיתוח מודיעין-על בתוך עשור זה או מוקדם יותר, עם המדען הראשי של OpenAI איליה סוצקבר בחזית.

מה זה מודיעין על?

למי שלא מכיר את הקונספט, זו בעצם מערכת בינה מלאכותית שעורמת קילומטרים לפני צ'אטבוטים כמו ChatGPT או Copilot ועולה על היכולות הקוגניטיביות של בני אדם. למרות שזהו הישג מדהים, זה עלול לגרום נזק רב אם לא יהיו אמצעים משוכללים ומעקות בטיחות כדי למנוע ממנו לצאת משליטה.

לפי מקורות הבקיאים בנושא, פריצת הדרך הפוטנציאלית של מודיעין העל הזינה את החלטת הדירקטוריון לשלול את אלטמן מתואר המנכ"ל שלו. עוד חשף המקור כי אחת המנהלות הבכירות של החברה, מירה מוראטי, שוחחה עם העובדים ביום רביעי, ותדרכה אותם על פריצת הדרך תחת שם הפרויקט Q* (Q-Star). בזמן שדיברה עם העובדים, מירה גם ציינה שהם שלחו מכתב לדירקטוריון המאיר את תשומת הלב לפריצת הדרך לפני פיטוריו של אלטמן.

איך עובד מודיעין על?

מקור בעל קשרים הדוקים לפרויקט Q-Star ציין כי אינטליגנציה על יכולה לפתור בעיות מתמטיות בבית הספר היסודי בצורה מושלמת. יחד עם זאת, משימות אלו עשויות להיחשב כמשימה קלה בהתחשב במחשוב הרב משאבים שהמודל ממנף, אבל הוא עדיין מראה הרבה הבטחה כי זה לאחרונה פְּרִיצַת דֶרֶך. OpenAI צפויה לנצל יותר את המיזם הזה ולחקור גבהים גדולים יותר בעתיד.

דגמים אחרים מתפקדים בצורה יוצאת דופן בעת ​​יצירת טקסט אך נאבקים במשימות מורכבות יותר כמו פתרון בעיות מתמטיות מכיוון שהן דורשות הבנה עמוקה, שתדרוש נמרצות הַדְרָכָה.

לפי רויטרס, החוקרים שמאחורי פריצת הדרך הדגישו כי פריצת הדרך עלולה לאיים על האנושות אם לא ייקבעו אמצעים משוכללים כדי לשלוט בה. על פי ההערכות, זו הסיבה לפיטוריו של אלטמן, שכן חברי הדירקטוריון נטו לכיוון הצד הבטוח של הטכנולוגיה. AI גנרטיבי היה במקום, עם חששות רבים של פרטיות ובטיחות סובבים סביבו.

סם אלטמן עוסק במודיעין-על

מנכ"ל OpenAI, סם אלטמן, היה קולני במיוחד בנוגע לאמונתו להגיע לרף מודיעין העל של AGI השנה. עם זאת, המנהלת הבכירה של מיקרוסופט, סאטיה נאדלה, חלקה קו מחשבה שונה. בראיון מוקדם יותר השנה, נשאל המנכ"ל על מחשבותיו על הנושא המסוים הזה, וכן הוא הבריש אותו מתחת לשטיח, וקבע:

"אני הרבה יותר מרוכז ביתרונות לכולנו. אני רדופה על ידי העובדה שהמהפכה התעשייתית לא נגעה בחלקי העולם שבהם גדלתי עד הרבה מאוחר יותר. אז אני מחפש את הדבר שעשוי להיות אפילו יותר גדול מהמהפכה התעשייתית, ובאמת עושה את מה שהמהפכה התעשייתית עשתה עבור המערב, עבור כולם בעולם. אז אני בכלל לא מודאג מכך ש-AGI יופיע, או יופיע מהר. נהדר, נכון? זה אומר של8 מיליארד אנשים יש שפע. זה עולם נפלא לחיות בו".

האם אתה חושב שהמערכות הקיימות כדי לשלוט בפריצות דרך כאלה הן יעילות? שתף אותנו במחשבותיך בתגובות.

עוד על OPENAI

• OpenAI נאלצה לאסור זמנית את ההרשמות ל-ChatGPT Plus על רקע תקוות מודיעין העל של AGI
• כלי פירוש הקוד החדש של ChatGPT עשוי להפוך לגן עדן להאקרים