Kodėl mokslininkai negali susitarti dėl AI sąmonės

Sąmoningo dirbtinio intelekto (AI) idėja sukuria pasaulį užvaldžiusių mašinų vaizdinius, tačiau ekspertai nesutaria, ar į šią koncepciją žiūrėti rimtai.

Vienas geriausių dirbtinio intelekto tyrinėtojų neseniai teigė, kad dirbtinis intelektas jau yra protingesnis, nei mes manome. Ilja Sutskeveris, OpenAI tyrimų grupės vyriausiasis mokslininkas, parašė tai "Gali būti, kad šiandieniniai dideli neuroniniai tinklai yra šiek tiek sąmoningi." Tačiau kiti AI ekspertai teigia, kad dar per anksti ką nors panašaus nustatyti.

„Norėdamas būti sąmoningas, subjektas turi suvokti savo egzistavimą aplinkoje ir tai, kad veiksmai, kurių ji imasi, turės įtakos jo ateičiai. Charlesas Simonas, FutureAI generalinis direktorius pasakojo Lifewire interviu el. paštu. „Nė vienas iš jų nėra dabartiniame AI“.

Antžmogis?

Sutskeveris anksčiau perspėjo, kad itin išmanusis AI gali sukelti problemų. Apklaustas AI dokumentinis filmasiŽmogusJis sakė, kad pažangus AI „išspręs visas šiandienines problemas“, bet taip pat perspėjo, kad jie „gali sukurti be galo stabilias diktatūras“.

„OpenAI“ buvo įkurta kaip ne pelno siekianti organizacija, siekiant išvengti pažangių kompiuterių keliamos rizikos, tačiau ji taip pat atliko tyrimus, siekdama sukurti dirbtinį intelektą.

Nors daugelis mokslininkų atmetė Simono teiginį, kad dirbtinis intelektas yra sąmoningas, jis turi bent vieną gerai žinomą gynėją. MIT kompiuterių mokslininkas Tamay Besiroglu „Twitter“ žinutėje apgynė Sutskeverį.

„Matyti tiek daug žinomų [mašininio mokymosi] žmonių, kurie šaiposi iš šios idėjos, apmaudu“, – sako Besiroglu. rašė Twitter. „Dėl to aš mažiau tikiuosi dėl šios srities gebėjimo rimtai imtis kai kurių gilių, keistų ir svarbių klausimų, su kuriais jie neabejotinai susidurs per ateinančius kelis dešimtmečius.

Kas yra Sąmonė?

Netgi nustatyti, ar kažkas yra sąmoninga, gali būti sudėtinga. AI tyrinėtojas Sneh Vaswani laiške Lifewire sakė, kad sąmonė turi keletą etapų. Jis sakė, kad dirbtinis intelektas „padoriai įsiveržė“ į pirmuosius etapus.

„Šiandien mašina gali suprasti emocijas, sukurti asmenybės profilį ir prisitaikyti prie žmogaus asmenybės“, – pridūrė jis. „Tobulėjant dirbtiniam intelektui, jis link pažengusių sąmonės stadijų juda greičiau, nei mes net galime suvokti.

Yra daug sąmonės apibrėžimų, o kai kurie tvirtintų, kad medžiai ir skruzdėlės yra šiek tiek sąmoningi, o ši idėja „išplečia apibrėžimą už įprastos vartosenos“, sakė Simonas. Jis teigia, kad savęs suvokimas yra savęs, kaip sąmoningos būtybės, suvokimas.

„Tiek sąmonė, tiek savimonė pasireiškia įvairiais elgesiais, pavyzdžiui, savo intereso rodymu, bet ir vidiniu pojūčiu“, – sakė Simonas. „Jei AI tikrai sąmoningi, galėsime stebėti elgesį, bet mažai žinosime apie vidinius pojūčius. Sąmonę galima suklastoti naudojant sąmoningai pasirodžiusių elgsenų biblioteką, pavyzdžiui, save vadinant „aš“, tačiau tikrai sąmoningas subjektas gali planuoti ir atsižvelgti į daugybę pasekmių.

Vis dėlto Vaswani optimistiškai vertina itin išmaniojo AI sukūrimo rezultatus Elonas Muskas yra tarp tų, kurie perspėjo kad sąmoningas AI gali sukelti žmonijos sunaikinimą.

„Kai dirbtinis intelektas visiškai įgaus sąmonę, jis užbaigs „neišsamią“ visuomenę: žmonės ir AI egzistuos kartu“, - sakė Vaswani. „Kartu pasieksime didesnių tikslų, o AI sklandžiai įsilies į mūsų pasaulį.

Kai kurie AI ekspertai teigia, kad pati sąmoningo AI samprata yra labiau mokslinė fantastika nei tikrovė. Ši problema linkusi per daug sureikšminti „terminatoriaus stiliaus“ robotus, o ne labai realią galimą žalą, kurią sukelia jau egzistuojantis šališkas AI, Triveni Gandhi, atsakingas dirbtinio intelekto vadovas iš AI bendrovės Dataiku, sakė el. laiške Lifewire.

„Galbūt nesusidursime su kita „Ex Machina“, bet mes susiduriame su tikrais iššūkiais“, – sakė Gandhi. „Tai matyti iš piktnaudžiavimo labai šališku dirbtiniu intelektu, siekiant numatyti sveikatos priežiūros išlaidas, įdarbinant įrankiai, kurie nesąžiningai išfiltruoja gyvenimo aprašymus, arba kredito skolinimo modeliai, kurie sustiprina esamus nelygybės“.

AI iš esmės nėra geras ar blogas, tai tik duomenys, kurie daro tai, ką mes liepiame, teigia Gandhi.

„Žmogaus šališkumas patenka į duomenų ir mašininio mokymosi modelius, todėl turėtume labai aiškiai žinoti, kokius duomenis naudojame, kodėl renkasi naudoti dirbtinį intelektą tokiais pajėgumais ir kaip tada pasirinkimai pateikiami žmonėms, paveiktiems dirbtinio intelekto sistemos“, – sakė Gandhi. pridėta.