OpenAI er på vei mot et superintelligens gjennombrudd

Hva du trenger å vite

• Til tross for OpenAI-fiaskoen som brøt ut sist helg, er selskapet potensielt på randen av et gjennombrudd som kan omforme menneskeheten slik vi kjenner den.
• Rapporter tyder på at utviklingen av superintelligens pågår ved OpenAI, og selv om den fortsatt er i de tidlige stadiene, viser den mye lovende.
• En kilde med nær tilknytning til selskapet avslørte at superetterretningsgjennombruddet kan ha drevet styrets sparking av Altman.

---

OpenAI har fått ganske mye trekkraft de siste årene, hovedsakelig på grunn av dets bidrag til AI-rommet. Usikkerhet har lurt i luften hos det San Fransico-baserte teknologifirmaet som følger styret plutselig sparken av selskapets leder, Sam Altman, med henvisning til deres mangel på tillit til hans lederskap.

Derimot, Altman ble gjeninnsatt som administrerende direktør i OpenAI etter at over 500 av hans kolleger i firmaet truet med å forlate selskapet hvis styret ikke ga ham tilbake jobben, med henvisning til at flyttingen undergravde deres oppdrag og visjon.

Og hvis du kanskje har trodd at dette er den største nyheten som har nådd overskriftene denne uken, så tar du utvilsomt feil. Det er rapportert at ansatte hadde skrevet et brev til selskapets styre med henvisning til et potensielt gjennombrudd innen kunstig intelligens før den helgelange OpenAI-fiaskoen skjedde. I følge Informasjonen, kan gjennombruddet potensielt føre til utvikling av superintelligens i løpet av dette tiåret eller tidligere, med OpenAI Chief Scientist Ilya Sutskever i spissen.

Hva er superintelligens?

For de som ikke er kjent med konseptet, er det egentlig et AI-system som ligger milevis foran chatbots som ChatGPT eller Copilot og overgår de kognitive evnene til mennesker. Selv om dette er en utrolig bragd, kan det potensielt forårsake mye skade hvis forseggjorte tiltak og rekkverk ikke er på plass for å forhindre at det kommer ut av kontroll.

Ifølge kilder kjent med saken, drev det potensielle gjennombruddet for superintelligens styrets beslutning om å frata Altman sin administrerende direktør. Kilden avslørte videre at en av selskapets toppledere, Mira Murati, hadde snakket med de ansatte på onsdag, og orientert dem om gjennombruddet under prosjektnavnet Q* (Q-Star). Mens hun snakket med de ansatte, påpekte Mira også at de hadde sendt et brev til styret med fokus på gjennombruddet før Altmans sparken.

Hvordan fungerer superintelligens?

En kilde med nære bånd til Q-Star-prosjektet indikerte at superintelligens kan løse matematiske problemer på grunnskolen perfekt. Samtidig kan disse oppgavene betraktes som en enkel oppgave gitt den enorme databehandlingen ressurser som modellen utnytter, men den viser fortsatt mye lovende fordi dette er en nylig gjennombrudd. OpenAI kommer sannsynligvis til å utnytte denne satsingen mer og utforske større høyder i fremtiden.

Andre modeller yter eksepsjonelt godt når de genererer tekst, men sliter med mer komplekse oppgaver som løse matematiske problemer siden de krever dyp forståelse, noe som vil kreve energisk opplæring.

Ifølge Reuters, fremhevet forskerne bak gjennombruddet at gjennombruddet potensielt kan true menneskeheten hvis det ikke er på plass forseggjorte tiltak for å styre det. Dette antas å være årsaken bak Altmans sparking, da styremedlemmene var tilbøyelige til den sikre siden av teknologien. Generativ AI har vært på stedet, med mange personvern- og sikkerhetshensyn som dreier seg rundt det.

Sam Altman er på superintelligens

Administrerende direktør i OpenAI, Sam Altman, har vært spesielt vokal om sin tro på å nå AGIs superintelligens benchmark i år. Microsofts toppsjef, Satya Nadella, delte imidlertid en annen tankegang. I et intervju tidligere i år ble konsernsjefen spurt om sine tanker rundt akkurat dette temaet, og han børstet det av under teppet og uttalte:

"Jeg er mye mer fokusert på fordelene for oss alle. Jeg er hjemsøkt av det faktum at den industrielle revolusjonen ikke berørte delene av verden der jeg vokste opp før mye senere. Så jeg leter etter tingen som kan være enda større enn den industrielle revolusjonen, og virkelig gjør det den industrielle revolusjonen gjorde for Vesten, for alle i verden. Så jeg er overhodet ikke bekymret for at AGI dukker opp, eller dukker opp raskt. Flott, ikke sant? Det betyr at 8 milliarder mennesker har overflod. Det er en fantastisk verden å leve i."

Tror du systemene på plass for å styre slike gjennombrudd er effektive? Del dine tanker med oss ​​i kommentarene.

MER OM OPENAI

• OpenAI tvang til midlertidig å forby ChatGPT Plus-registreringer blant AGI-superintelligens håp
• ChatGPTs nye kodetolkingsverktøy kan bli et hackers paradis