Kodėl ekspertai sako, kad dabar turėtume kontroliuoti AI

Mokslininkai teigia, kad jei žmonės kada nors sukurs itin išmanųjį dirbtinį intelektą, gali būti, kad niekaip nepavyks jo suvaldyti.

DI jau seniai buvo reklamuojamas kaip vaistas nuo visų žmonijos problemų arba a Terminatorius- stiliaus apokalipsė. Tačiau iki šiol AI nepriartėjo prie žmogaus lygio intelekto. Tačiau pavadėlio laikymas prie pažangaus AI gali būti pernelyg sudėtinga problema žmonėms, jei jis kada nors bus sukurtas, teigia naujausias popierius paskelbtas m Dirbtinio intelekto tyrimų žurnalas.

„Ypač protinga mašina, valdanti pasaulį, skamba kaip mokslinė fantastika“, – sakė vienas iš šio straipsnio bendraautorių Manuelis Cebrianas. spaudos pranešimas.

„Tačiau jau yra mašinų, kurios tam tikras svarbias užduotis atlieka savarankiškai, programuotojams visiškai nesuprantant, kaip to išmoko. Todėl kyla klausimas, ar tai kada nors gali tapti nekontroliuojama ir pavojinga žmonijai.

Netrukus – super kompiuteris šalia jūsų

Žurnalas teigia, kad dirbtinio intelekto valdymui reikės daug pažangesnių technologijų, nei turime šiuo metu.

Savo tyrime komanda sugalvojo teorinį sulaikymo algoritmą, užtikrinantį, kad superinteligentiškas AI negali bet kokiomis aplinkybėmis pakenkti žmonėms, pirmiausia imituodamas AI elgesį ir prireikus jį sustabdydamas kenksmingas. Tačiau autoriai nustatė, kad tokio algoritmo negalima sukurti.

„Jei problemą išskaidysite iki pagrindinių teorinių informatikos taisyklių, paaiškės, kad algoritmas, kuris vadovautų AI nesunaikinti pasaulio galėtų netyčia sustabdyti savo veiklą." Iyad Rahwan, Žmonių ir mašinų centro direktorius Maxo Plancko žmogaus raidos institutas Vokietijoje, rašoma pranešime spaudai.

„Jei taip atsitiktų, jūs nežinotumėte, ar izoliavimo algoritmas vis dar analizuoja grėsmę, ar nustojo aptikti kenksmingą AI. Tiesą sakant, dėl to izoliavimo algoritmas tampa netinkamas naudoti.

Tikrai protingas AI gali atsirasti anksčiau, nei manome, teigia Michalis Vazirgiannis, informatikos profesorius École Polytechnique Prancūzijoje. „AI yra žmogaus artefaktas, tačiau jis greitai tampa savarankišku subjektu“, – sakė jis el Lifewire.

„Kritinis taškas bus, jei atsiras singuliarumas (t. y. kai dirbtinio intelekto agentai turės sąmonę kaip subjektą), todėl jie reikalaus nepriklausomybės, savikontrolės ir galiausiai dominavimo“.

Singuliarumas ateina

Vazirgiannis nėra vienas, numatęs neišvengiamą super AI atėjimą. Tikri tikintieji dirbtinio intelekto grėsme mėgsta kalbėti apie „ypatingumą“, kurį, kaip paaiškina Vazirgiannis, yra AI esmė. pakeičia žmogaus intelektą ir „kad AI algoritmai potencialiai suvoks savo egzistavimą ir pradės elgtis savanaudiškai ir bendradarbiaujant“.

Pasak Ray'aus Kurzweilo, „Google“ inžinerijos direktoriaus, išskirtinumas pasireikš iki XXI amžiaus vidurio. „2029 m. yra nuosekli data, kurią numatiau, kai dirbtinis intelektas išlaikys galiojantį Turingo testą ir pasieks žmogaus intelekto lygį“, – sakė Kurzweilas. Futurizmas.

„Singuliarumo“ datą nustatiau 2045 m., kai mes padauginsime savo efektyvų intelektą milijardą kartų susijungdami su mūsų sukurta intelektu.

Tačiau ne visi AI ekspertai mano, kad išmaniosios mašinos kelia grėsmę. AI konsultantas, kuriamas AI greičiausiai bus naudingas kuriant vaistus ir nerodo jokio tikro intelekto Emmanuelis Maggiori sakė interviu elektroniniu paštu. „Apie AI kyla didelis ažiotažas, todėl atrodo, kad tai tikrai revoliucinga“, – pridūrė jis. „Dabartinės AI sistemos nėra tokios tikslios, kaip skelbiama, ir daro klaidų, kurių žmogus niekada nepadarytų.

Kontroliuokite dirbtinį intelektą dabar

Vazirgiannis sako, kad gali būti sunku reguliuoti dirbtinį intelektą, kad jis nepatektų mūsų kontrolės. Įmonės, o ne vyriausybės, kontroliuoja AI išteklius. „Net patys algoritmai paprastai yra gaminami ir diegiami šių didelių ir galingų, dažniausiai daugianacionalinių, tyrimų laboratorijose“, – sakė jis.

„Todėl akivaizdu, kad valstybių vyriausybės vis mažiau kontroliuoja išteklius, reikalingus dirbtiniam intelektui kontroliuoti.

Kai kurie ekspertai teigia, kad norint valdyti superinteligentišką AI, žmonėms reikės valdyti skaičiavimo išteklius ir elektros energiją. „Pavyzdžiui, mokslinės fantastikos filmai Matrica skelbti pranašystes apie distopinę ateitį, kai dirbtinis intelektas naudoja žmones kaip biologinės energijos šaltinius“, – sakė Vazirgiannis.

„Nepaisant tolimesnių galimybių, žmonija turėtų užtikrinti, kad būtų pakankamai kontroliuojami skaičiavimo ištekliai (t. y. kompiuterių grupes, GPU, superkompiuteriai, tinklai / ryšiai) ir, žinoma, elektrinės, tiekiančios elektros energiją, kuri visiškai kenkia AI funkcijai.

AI valdymo problema yra ta, kad mokslininkai ne visada supranta, kaip tokios sistemos priima sprendimus, sakė Michaelas Bertholdas, vienas iš įkūrėjų ir generalinis direktorius. duomenų mokslo programinės įrangos įmonė KNIME, sakė interviu el. „Jei to nedarysime, kaip galime tai „kontroliuoti“?

Jis pridūrė: „Mes nesuprantame, kai priimamas visiškai kitoks sprendimas, pagrįstas mums nereikšmingais įnašais“.

Vienintelis būdas kontroliuoti AI naudojimo riziką yra užtikrinti, kad jis būtų naudojamas tik tada, kai ši rizika yra valdoma, sakė Bertholdas. „Kitaip tariant, du kraštutiniai pavyzdžiai: neskirti dirbtinio intelekto atsakingai už savo atominę elektrinę, kur nedidelė klaida gali turėti katastrofiškų šalutinių padarinių“, – pridūrė jis.

„Kita vertus, dirbtinis intelektas numato, kad jūsų kambario temperatūra turėtų būti šiek tiek padidinta arba sumažinta, gali būti verta nedidelės rizikos dėl gyvenimo komforto.

Jei negalime valdyti dirbtinio intelekto, geriau išmokykime jį manierų, buvęs NASA kompiuterių inžinierius Piteris Skotas sakė interviu elektroniniu paštu. „Galiausiai negalime užtikrinti dirbtinio intelekto valdomumo taip pat, nei galime užtikrinti savo vaikų“, – sakė jis.

„Mes juos auklėjame teisingai ir tikimės geriausio; iki šiol jie nesunaikino pasaulio. Norint juos gerai auklėti, reikia geriau suprasti etiką; Jei negalime išsivalyti savo namų, kokio kodo turėtume paprašyti dirbtinio intelekto laikytis?

Tačiau visos viltys žmonių rasei neprarandamos, sako dirbtinio intelekto tyrinėtojas Yonatanas Wexleris, MTEP vykdomasis viceprezidentas. OrCam. „Nors pažanga išties įspūdinga, aš tikiu, kad žmogaus intelektas neturėtų būti nuvertintas“, – sakė jis interviu el. paštu. „Mes, kaip rūšis, sukūrėme gana nuostabių dalykų, įskaitant patį AI“.

Vis išmanesnio AI paieškos tęsiasi. Tačiau galbūt geriau pagalvoti, kaip valdome savo kūrinius, kol dar ne vėlu.