OpenAI е на път към пробив в суперинтелекта

Какво трябва да знаете

• Въпреки фиаското на OpenAI, което избухна миналия уикенд, компанията потенциално е на ръба на пробив, който може да прекрои човечеството, каквото го познаваме.
• Докладите показват, че разработването на суперинтелигентност продължава в OpenAI и макар да е все още в ранен етап, показва голямо обещание.
• Източник, тясно свързан с компанията, разкри, че пробивът в суперразузнаването може да е подхранвал уволнението на Алтман от борда.

---

OpenAI набра доста голяма популярност през последните няколко години, главно поради приноса си към пространството на ИИ. Несигурността витае във въздуха в базираната в Сан Франциско технологична фирма бордът на директорите внезапно уволни лидера на компанията, Сам Алтман, позовавайки се на липсата на доверие в неговото ръководство.

Въпреки това, Алтман беше възстановен като главен изпълнителен директор на OpenAI след като над 500 негови колеги във фирмата заплашиха да напуснат компанията, ако бордът не му върне работата, цитирайки, че този ход подкопава тяхната мисия и визия.

И ако може би сте си помислили, че това е най-голямата новина, попаднала в заглавията тази седмица, тогава несъмнено грешите. Съобщава се, че служителите са написали писмо до борда на компанията, цитирайки потенциален пробив в областта на изкуствения интелект, преди да се случи продължилото уикенда фиаско на OpenAI. Според Информацията, пробивът потенциално може да доведе до развитието на суперинтелигентност през това десетилетие или по-рано, с главния учен на OpenAI Иля Суцкевер начело.

Какво е суперинтелигентност?

За тези, които не са запознати с концепцията, това по същество е AI система, която изпреварва мили пред чатботове като ChatGPT или Copilot и надминава когнитивните способности на хората. Въпреки че това е невероятно постижение, то потенциално може да причини много щети, ако не са въведени сложни мерки и парапети, за да се предотврати излизането извън контрол.

Според източници, запознати с въпроса, потенциалният пробив на суперинтелигентността е подхранвал решението на борда да лиши Алтман от титлата му главен изпълнителен директор. Освен това източникът разкри, че един от висшите ръководители на компанията, Мира Мурати, е разговарял със служителите в сряда, като ги е информирал за пробива под името на проекта Q* (Q-Star). Докато разговаряше със служителите, Мира също така посочи, че те са изпратили писмо до борда, подчертавайки пробива преди уволнението на Алтман.

Как работи суперинтелигентността?

Източник, тясно свързан с проекта Q-Star, посочи, че суперинтелигентността може да реши перфектно математически проблеми в началното училище. В същото време тези задачи могат да се считат за лесно начинание, като се имат предвид огромните компютри ресурси, които моделът използва, но все още показва много обещания, защото това е наскоро пробив. OpenAI вероятно ще се възползва повече от това начинание и ще изследва по-големи височини в бъдеще.

Други модели се представят изключително добре при генериране на текст, но се борят с по-сложни задачи като решаване на математически проблеми, тъй като те изискват дълбоко разбиране, което би изисквало енергичност обучение.

Според Ройтерс, изследователите зад пробива подчертаха, че пробивът може потенциално да застраши човечеството, ако не бъдат въведени сложни мерки за неговото управление. Смята се, че това е причината за уволнението на Алтман, тъй като членовете на борда са били склонни към безопасната страна на технологията. Генеративен AI е бил на място, с много опасения за поверителността и безопасността, които се въртят около него.

Сам Олтман е на суперинтелигентност

Главният изпълнителен директор на OpenAI, Сам Алтман, беше особено вокален относно вярата си в постигането на бенчмарка за суперинтелигентност на AGI тази година. Въпреки това, топ изпълнителният директор на Microsoft, Сатя Надела, сподели различно мнение. В интервю по-рано тази година главният изпълнителен директор беше попитан за мислите му по тази конкретна тема и той го изтри под килима, заявявайки:

„Аз съм много по-фокусиран върху ползите за всички нас. Преследван съм от факта, че индустриалната революция не докосна частите на света, в които съм израснал, много по-късно. Така че търся нещото, което може да е дори по-голямо от индустриалната революция и наистина правя това, което индустриалната революция направи за Запада, за всички по света. Така че изобщо не се притеснявам, че AGI ще се появи или ще се появи бързо. Страхотно, нали? Това означава, че 8 милиарда души имат изобилие. Това е фантастичен свят за живеене."

Смятате ли, че съществуващите системи за управление на такива пробиви са ефективни? Споделете вашите мисли с нас в коментарите.

ПОВЕЧЕ ЗА OPENAI

• OpenAI принуден да забрани временно регистрациите в ChatGPT Plus на фона на надежди за суперразузнаване на AGI
• Новият инструмент за интерпретиране на код на ChatGPT може да се превърне в рай за хакерите