OpenAI je na dobri poti do superinteligenčnega preboja

Kaj morate vedeti

• Kljub fiasku OpenAI, ki je izbruhnil prejšnji konec tedna, je podjetje potencialno na robu preboja, ki bi lahko preoblikoval človeštvo, kot ga poznamo.
• Poročila kažejo, da razvoj superinteligence v OpenAI poteka in čeprav je še v zgodnjih fazah, obeta veliko.
• Vir, ki je tesno povezan s podjetjem, je razkril, da je superobveščevalni preboj morda spodbudil upravni odbor, da je odpustil Altmana.

---

OpenAI je v zadnjih nekaj letih pridobil precej pozornosti, predvsem zaradi svojih prispevkov k prostoru umetne inteligence. Sledi negotovost v tehnološkem podjetju s sedežem v San Franciscu upravni odbor je nenadno odpustil vodjo podjetja, Sama Altmana, navajajoč pomanjkanje zaupanja v njegovo vodstvo.

vendar Altman je bil ponovno imenovan za izvršnega direktorja OpenAI potem ko je več kot 500 njegovih kolegov v podjetju zagrozilo, da bo zapustilo podjetje, če mu upravni odbor ne bo vrnil službe, navajajoč, da ta poteza spodkopava njihovo poslanstvo in vizijo.

In če ste morda mislili, da je to največja novica, ki je prišla na naslovnice ta teden, potem ste se nedvomno motili. Poročali so, da so zaposleni napisali pismo upravnemu odboru podjetja, v katerem so navedli potencialni preboj na področju umetne inteligence, preden se je končal konec tedna dolg fiasko OpenAI. Po navedbah

Informacije, bi lahko preboj potencialno vodil do razvoja superinteligence v tem desetletju ali prej, z glavnim znanstvenikom OpenAI Ilyo Sutskeverjem na čelu.

Kaj je superinteligenca?

Za tiste, ki koncepta ne poznate, gre v bistvu za sistem umetne inteligence, ki nabira kilometre pred klepetalnimi roboti, kot je ChatGPT ali Copilot in presega kognitivne sposobnosti ljudi. Čeprav je to neverjeten podvig, bi lahko povzročil veliko škode, če ne bi bili vzpostavljeni dovršeni ukrepi in zaščitne ograje, ki bi preprečile, da bi ušel izpod nadzora.

Glede na vire, ki so seznanjeni s to zadevo, je potencialni preboj superinteligencije spodbudil odločitev upravnega odbora, da Altmanu odvzame naziv izvršnega direktorja. Vir je nadalje razkril, da je eden od vodilnih delavcev v podjetju, Mira Murati, v sredo govoril z zaposlenimi in jih seznanil s prebojem pod imenom projekta Q* (Q-Star). Med pogovorom z zaposlenimi je Mira tudi poudarila, da so upravnemu odboru poslali pismo, v katerem so izpostavili preboj pred Altmanovo odpustitvijo.

Kako deluje superinteligenca?

Vir, ki je tesno povezan s projektom Q-Star, je navedel, da lahko superinteligenca odlično reši osnovnošolske matematične probleme. Obenem se lahko te naloge štejejo za lahke, glede na ogromno računalniške zmogljivosti virov, ki jih model izkorišča, vendar še vedno veliko obeta, ker je to nov preboj. OpenAI bo verjetno bolj izkoristil ta podvig in v prihodnosti raziskoval večje višine.

Drugi modeli delujejo izjemno dobro pri ustvarjanju besedila, vendar imajo težave z bolj zapletenimi nalogami, kot je reševanje matematičnih problemov, saj zahtevajo globoko razumevanje, ki bi zahtevalo močno usposabljanje.

Po poročanju Reutersa, so raziskovalci, ki stojijo za prebojem, poudarili, da bi lahko preboj potencialno ogrozil človeštvo, če ne bodo vzpostavljeni podrobni ukrepi za njegovo obvladovanje. To naj bi bil razlog za Altmanovo odpustitev, saj so bili člani upravnega odbora nagnjeni k varni strani tehnologije. Generativni AI je bil na kraju samem, okoli njega pa so se vrteli številni pomisleki glede zasebnosti in varnosti.

Sam Altman se ukvarja s superinteligenco

Generalni direktor OpenAI, Sam Altman, je bil še posebej glasen glede svojega prepričanja, da bo letos dosegel merilo superinteligence AGI. Vendar pa je vodilni direktor Microsofta, Satya Nadella, delil drugačno misel. V intervjuju v začetku tega leta so generalnega direktorja vprašali o njegovih mislih o tej temi in je odbrisal pod preprogo in izjavil:

"Veliko bolj sem osredotočen na koristi za vse nas. Preganja me dejstvo, da se je industrijska revolucija delov sveta, kjer sem odraščal, dotaknila šele veliko pozneje. Zato iščem stvar, ki je lahko celo večja od industrijske revolucije, in resnično delam to, kar je industrijska revolucija naredila za Zahod, za vse na svetu. Zato me sploh ne skrbi, ali se bo AGI pojavil ali hitro. Super, kajne? To pomeni, da ima 8 milijard ljudi obilje. To je fantastičen svet za življenje."

Ali menite, da so vzpostavljeni sistemi za upravljanje takšnih prebojev učinkoviti? Delite svoje misli z nami v komentarjih.

VEČ NA OPENAI

• OpenAI prisiljen začasno prepovedati prijave ChatGPT Plus sredi upanja na superinteligenco AGI
• Novo orodje za tolmačenje kode ChatGPT bi lahko postalo raj za hekerje