OpenAI er på vej mod et superintelligens gennembrud

Hvad du behøver at vide

• På trods af OpenAI-fiaskoen, der brød ud i sidste weekend, er virksomheden potentielt på randen af ​​et gennembrud, der kan omforme menneskeheden, som vi kender den.
• Rapporter tyder på, at udviklingen af ​​superintelligens er i gang hos OpenAI, og selvom den stadig er i de tidlige stadier, viser det meget lovende.
• En kilde med tæt tilknytning til virksomheden afslørede, at superintelligens-gennembruddet kunne have ført til bestyrelsens fyring af Altman.

---

OpenAI har vundet ret meget indpas i løbet af de sidste par år, overvejende på grund af dets bidrag til AI-rummet. Usikkerheden har luret i luften hos det San Fransico-baserede tech-firma, der følger bestyrelsen pludselig fyring af selskabets leder, Sam Altman, med henvisning til deres manglende tillid til hans ledelse.

Imidlertid, Altman blev genindsat som OpenAI CEO efter at over 500 af hans kolleger i firmaet truede med at forlade virksomheden, hvis bestyrelsen ikke gav ham hans job tilbage, med henvisning til, at flytningen underminerede deres mission og vision.

Og hvis du måske har troet, at dette er den største nyhed, der har ramt overskrifterne i denne uge, så tager du uden tvivl fejl. Det er rapporteret, at medarbejdere havde skrevet et brev til virksomhedens bestyrelse med henvisning til et potentielt gennembrud inden for kunstig intelligens, før den weekendlange OpenAI-fiasko indtraf. Ifølge Oplysningerne, kan gennembruddet potentielt føre til udvikling af superintelligens inden for dette årti eller før, med OpenAI Chief Scientist Ilya Sutskever i spidsen.

Hvad er superintelligens?

For dem, der ikke kender konceptet, er det i bund og grund et AI-system, der ligger milevidt foran chatbots som f.eks. ChatGPT eller Copilot og overgår menneskers kognitive evner. Selvom dette er en utrolig bedrift, kan det potentielt forårsage meget skade, hvis der ikke er udførlige foranstaltninger og autoværn på plads for at forhindre det i at komme ud af kontrol.

Ifølge kilder, der er bekendt med sagen, gav det potentielle gennembrud af superintelligens næring til bestyrelsens beslutning om at fratage Altman sin CEO-titel. Kilden afslørede endvidere, at en af ​​virksomhedens topledere, Mira Murati, havde talt med medarbejderne onsdag og orienteret dem om gennembruddet under projektnavnet Q* (Q-Star). Mens hun talte med medarbejderne, påpegede Mira også, at de havde sendt et brev til bestyrelsen med fokus på gennembruddet før Altmans fyring.

Hvordan fungerer superintelligens?

En kilde med tætte bånd til Q-Star-projektet indikerede, at superintelligens kan løse matematiske problemer i folkeskolen perfekt. Samtidig kan disse opgaver betragtes som en nem opgave i betragtning af den omfattende databehandling ressourcer, som modellen udnytter, men den viser stadig meget lovende, fordi dette er en nylig bryde igennem. OpenAI vil sandsynligvis udnytte dette projekt mere og udforske større højder i fremtiden.

Andre modeller klarer sig usædvanligt godt, når de genererer tekst, men kæmper med mere komplekse opgaver som f.eks løse matematiske problemer, da de kræver dyb forståelse, hvilket ville kræve energisk uddannelse.

Ifølge Reuters, fremhævede forskerne bag gennembruddet, at gennembruddet potentielt kan true menneskeheden, hvis der ikke er på plads til at styre det. Dette menes at være årsagen til Altmans fyring, da bestyrelsesmedlemmerne var tilbøjelige til den sikre side af teknologien. Generativ AI har været på stedet, med mange bekymringer om privatlivets fred og sikkerhed omkring det.

Sam Altman er på superintelligens

OpenAI's administrerende direktør, Sam Altman, har været særlig højrøstet om sin tro på at ramme AGI superintelligens benchmark i år. Microsofts topchef, Satya Nadella, delte dog en anden tankegang. I et interview tidligere i år blev den administrerende direktør spurgt om sine tanker om netop dette emne, og han børstede det af under tæppet og konstaterede:

"Jeg er meget mere fokuseret på fordelene for os alle. Jeg er hjemsøgt af, at den industrielle revolution ikke rørte de dele af verden, hvor jeg voksede op, før langt senere. Så jeg leder efter det, der kan være endnu større end den industrielle revolution, og virkelig gør, hvad den industrielle revolution gjorde for Vesten, for alle i verden. Så jeg er slet ikke bekymret for at AGI dukker op, eller dukker hurtigt op. Fantastisk, ikke? Det betyder, at 8 milliarder mennesker har overflod. Det er en fantastisk verden at leve i."

Tror du, at systemerne til at styre sådanne gennembrud er effektive? Del dine tanker med os i kommentarerne.

MERE OM OPENAI

• OpenAI tvunget til midlertidigt at forbyde ChatGPT Plus-tilmeldinger midt i AGI-superintelligens håb
• ChatGPTs nye kodefortolkningsværktøj kan blive et hackers paradis