OpenAI jest na dobrej drodze do przełomu w dziedzinie superinteligencji

Co musisz wiedzieć

• Pomimo fiaska OpenAI, które wybuchło w ubiegły weekend, firma jest potencjalnie o krok od przełomu, który może zmienić ludzkość, jaką znamy.
• Raporty wskazują, że w OpenAI trwa rozwój superinteligencji i choć jest on wciąż na wczesnym etapie, jest bardzo obiecujący.
• Źródło blisko powiązane z firmą ujawniło, że przełom w superwywiadie mógł przyczynić się do zwolnienia Altmana przez zarząd.

---

OpenAI zyskał dużą popularność w ciągu ostatnich kilku lat, głównie ze względu na swój wkład w przestrzeń sztucznej inteligencji. Niepewność wisi w powietrzu wokół firmy technologicznej z San Fransico nagłe zwolnienie przez zarząd firmy Sama Altmana, powołując się na brak zaufania do jego przywództwa.

Jednakże, Altman został przywrócony na stanowisko dyrektora generalnego OpenAI po tym, jak ponad 500 jego kolegów w firmie zagroziło odejściem z firmy, jeśli zarząd nie przywróci mu pracy, powołując się na to, że to posunięcie podważa ich misję i wizję.

A jeśli być może myślałeś, że to najważniejsza wiadomość, która trafi na pierwsze strony gazet w tym tygodniu, to niewątpliwie się mylisz. Doniesiono, że zanim doszło do weekendowego fiaska związanego z OpenAI, pracownicy napisali list do zarządu firmy, w którym powołując się na potencjalny przełom w sztucznej inteligencji. Według

Informacjaprzełom może potencjalnie doprowadzić do rozwoju superinteligencji w ciągu tej dekady lub wcześniej, z głównym naukowcem OpenAI Ilyą Sutskeverem na czele.

Czym jest superinteligencja?

Dla tych, którzy nie znają tej koncepcji, jest to w zasadzie system sztucznej inteligencji, który wyprzedza chatboty takie jak CzatGPT lub Copilot i przewyższa zdolności poznawcze człowieka. Chociaż jest to niesamowity wyczyn, może potencjalnie spowodować wiele szkód, jeśli nie zostaną zastosowane skomplikowane środki i poręcze, które zapobiegną wymknięciu się spod kontroli.

Według źródeł zaznajomionych ze sprawą potencjalny przełom w dziedzinie superwywiadu wpłynął na decyzję zarządu o pozbawieniu Altmana stanowiska dyrektora generalnego. Źródło ujawniło ponadto, że w środę jedna z dyrektorów najwyższego szczebla firmy, Mira Murati, rozmawiała z pracownikami, informując ich o przełomie pod nazwą projektu Q* (Q-Star). Rozmawiając z pracownikami, Mira wspomniała również, że wysłali do zarządu list, w którym zwrócili uwagę na przełom, jaki nastąpił przed zwolnieniem Altmana.

Jak działa superinteligencja?

Źródło blisko powiązane z projektem Q-Star wskazało, że superinteligencja może doskonale rozwiązywać problemy matematyczne występujące w szkołach podstawowych. Jednocześnie zadania te można uznać za przedsięwzięcie łatwe, biorąc pod uwagę ogromną moc obliczeniową zasobów, z których korzysta model, ale nadal jest bardzo obiecujący, ponieważ jest to nowość przełom. OpenAI prawdopodobnie w większym stopniu wykorzysta to przedsięwzięcie i w przyszłości osiągnie większe wyżyny.

Inne modele radzą sobie wyjątkowo dobrze podczas generowania tekstu, ale mają problemy z bardziej złożonymi zadaniami, takimi jak rozwiązywanie problemów matematycznych, ponieważ wymagają one głębokiego zrozumienia, co wymagałoby energiczności szkolenie.

Według Reutera, badacze stojący za przełomem podkreślili, że przełom może potencjalnie zagrozić ludzkości, jeśli nie zostaną wprowadzone skomplikowane środki zarządzania nim. Uważa się, że to było przyczyną zwolnienia Altmana, ponieważ członkowie zarządu skłaniali się ku bezpiecznej stronie technologii. Generatywna sztuczna inteligencja znajdował się na miejscu, wokół którego pojawiło się wiele obaw związanych z prywatnością i bezpieczeństwem.

Sam Altman pracuje nad superinteligencją

Dyrektor generalny OpenAI, Sam Altman, szczególnie głośno wyrażał się o swojej wierze w osiągnięcie w tym roku benchmarku superinteligencji AGI. Jednak dyrektor naczelny Microsoftu, Satya Nadella, podzielał inny tok myślenia. W wywiadzie udzielonym na początku tego roku dyrektor generalny został zapytany o swoje przemyślenia na ten konkretny temat i stwierdził, że zamiótł to pod dywan:

„O wiele bardziej skupiam się na korzyściach dla nas wszystkich. Prześladuje mnie fakt, że rewolucja przemysłowa dotknęła części świata, w których dorastałem, dopiero znacznie później. Szukam więc czegoś, co może być jeszcze większe niż rewolucja przemysłowa i naprawdę robić to, co rewolucja przemysłowa zrobiła dla Zachodu, dla wszystkich na świecie. Więc wcale nie martwię się pojawieniem się AGI lub pojawieniem się szybko. Świetnie, prawda? Oznacza to, że 8 miliardów ludzi ma dostatek. To fantastyczny świat, w którym żyje się.”

Czy sądzi Pan, że istniejące systemy zarządzania takimi przełomami są skuteczne? Podziel się z nami swoimi przemyśleniami w komentarzach.

WIĘCEJ O OPENAI

• OpenAI zmuszone do tymczasowego zakazu rejestracji w ChatGPT Plus w związku z nadziejami na superwywiad AGI
• Nowe narzędzie do interpretacji kodu ChatGPT może stać się rajem dla hakerów