OpenAI ir ceļā uz superinteliģences izrāvienu

Kas jums jāzina

• Neskatoties uz OpenAI fiasko, kas izcēlās pagājušajā nedēļas nogalē, uzņēmums, iespējams, atrodas uz izrāviena robežas, kas varētu pārveidot cilvēci, kādu mēs to zinām.
• Pārskati liecina, ka OpenAI turpinās superinteliģences attīstība, un, lai gan tas joprojām ir sākuma stadijā, tas liecina par lielu solījumu.
• Avots, kas cieši saistīts ar uzņēmumu, atklāja, ka superinteliģences izrāviens varētu būt veicinājis Altmena atlaišanu valdē.

---

OpenAI pēdējos gados ir guvis diezgan lielu pievilcību, galvenokārt pateicoties tā ieguldījumam AI telpā. Sanfrancisko tehnoloģiju uzņēmumam seko nenoteiktība direktoru padome pēkšņi atlaida uzņēmuma vadītāju Semu Altmenu, atsaucoties uz viņu neuzticēšanos viņa vadībai.

tomēr Altmans tika atjaunots OpenAI izpilddirektora amatā pēc tam, kad vairāk nekā 500 viņa kolēģi uzņēmumā draudēja pamest uzņēmumu, ja valde viņam neatdos darbu, norādot, ka šī pārcelšanās grauj viņu misiju un redzējumu.

Un, ja varbūt jūs domājāt, ka šī ir lielākā ziņa, kas šonedēļ nonākusi virsrakstos, tad jūs neapšaubāmi maldāties. Tiek ziņots, ka darbinieki bija uzrakstījuši vēstuli uzņēmuma valdei, atsaucoties uz iespējamo izrāvienu mākslīgā intelekta jomā, pirms notika nedēļas nogales OpenAI fiasko. Saskaņā ar

Informācija, izrāviens varētu novest pie superinteliģences attīstības šīs desmitgades laikā vai ātrāk ar OpenAI galveno zinātnieku Iļju Sutskeveru priekšgalā.

Kas ir superinteliģence?

Tiem, kas nav pazīstami ar šo jēdzienu, tā būtībā ir AI sistēma, kas ir jūdzes priekšā tādiem tērzēšanas robotiem kā ChatGPT vai Otrais pilots un pārspēj cilvēku kognitīvās spējas. Lai gan tas ir neticams varoņdarbs, tas var radīt lielus bojājumus, ja netiks ieviesti sarežģīti pasākumi un aizsargmargas, lai novērstu to, ka tā iziet no kontroles.

Saskaņā ar avotiem, kas ir pazīstami ar šo jautājumu, iespējamais superinteliģences izrāviens veicināja valdes lēmumu atņemt Altmanam viņa izpilddirektora titulu. Avots arī atklāja, ka viens no uzņēmuma augstākajiem vadītājiem Mira Murati trešdien runāja ar darbiniekiem, informējot viņus par izrāvienu ar projekta nosaukumu Q* (Q-Star). Runājot ar darbiniekiem, Mira arī norādīja, ka viņi bija nosūtījuši valdei vēstuli, kurā tika uzsvērts izrāviens pirms Altmana atlaišanas.

Kā darbojas superinteliģence?

Avots, kas cieši saistīts ar projektu Q-Star, norādīja, ka superinteliģence var lieliski atrisināt skolas matemātikas problēmas. Tajā pašā laikā šos uzdevumus var uzskatīt par vieglu, ņemot vērā plašo skaitļošanas apjomu resursi, ko modelis izmanto, taču tas joprojām ir daudzsološs, jo tas ir nesen izrāvienu. Iespējams, ka OpenAI vairāk iesaistīsies šajā projektā un nākotnē izpētīs lielākus augstumus.

Citi modeļi darbojas īpaši labi, ģenerējot tekstu, bet cīnās ar sarežģītākiem uzdevumiem, piemēram, matemātisko problēmu risināšana, jo tām nepieciešama dziļa izpratne, kas prasītu enerģisku apmācību.

Saskaņā ar Reuters, izrāviena pētnieki uzsvēra, ka izrāviens var potenciāli apdraudēt cilvēci, ja netiks ieviesti sarežģīti pasākumi tā regulēšanai. Tiek uzskatīts, ka tas ir iemesls, kāpēc Altmans tika atlaists, jo valdes locekļi bija noskaņoti uz tehnoloģijas drošo pusi. Ģeneratīvs AI ir bijis uz vietas, un ap to ir saistītas daudzas privātuma un drošības problēmas.

Sems Altmans strādā par superinteliģenci

OpenAI izpilddirektors Sems Altmens ir īpaši skaļi paudis savu pārliecību šogad sasniegt AGI superinteliģences etalonu. Tomēr Microsoft augstākā līmeņa vadītāja Satja Nadella dalījās citādās domās. Intervijā šī gada sākumā izpilddirektoram tika jautāts par viņa domām par šo konkrēto tēmu, un viņš noslaucīja to zem paklāja, norādot:

"Es daudz vairāk koncentrējos uz ieguvumiem no mums visiem. Mani vajā fakts, ka industriālā revolūcija neskāra tās pasaules daļas, kurās es uzaugu, tikai daudz vēlāk. Tāpēc es meklēju lietu, kas varētu būt pat lielāka par industriālo revolūciju, un patiešām darīt to, ko industriālā revolūcija darīja Rietumiem, ikvienam pasaulē. Tāpēc es nemaz neuztraucos par AGI parādīšanos vai ātru parādīšanos. Lieliski, vai ne? Tas nozīmē, ka 8 miljardiem cilvēku ir pārpilnība. Tā ir fantastiska pasaule, kurā dzīvot."

Vai, jūsuprāt, esošās sistēmas, lai pārvaldītu šādus sasniegumus, ir efektīvas? Dalieties savās domās ar mums komentāros.

VAIRĀK PAR OPENAI

• OpenAI bija spiests uz laiku aizliegt ChatGPT Plus reģistrēšanos AGI superinteliģences cerību dēļ
• ChatGPT jaunais koda interpretācijas rīks varētu kļūt par hakeru paradīzi