Ekspertai stebisi, ar AI kuria savo kalbą

Atrodo, kad dirbtinis intelektas (AI) sukūrė savo kalbą, tačiau kai kurie ekspertai skeptiškai vertina šį teiginį.

OpenAI teksto į vaizdą AI sistema, vadinama DALL-E2 atrodo, kad sukūrė savo rašytinės komunikacijos sistemą. Tai pavyzdys, kaip sunku interpretuoti pažangių AI sistemų rezultatus.

"Dėl didelių modelių dydžio ir gylio labai sunku paaiškinti modelio elgesį." Teresa O'Neill, „iMerit“ natūralios kalbos supratimo sprendimų architektūros direktorius pasakojo „Lifewire“ interviu el. paštu. „Tai yra vienas iš pagrindinių iššūkių, o kai kuriais atvejais ir etikos problemos su vis galingesniais modeliais. Jei negalime paaiškinti, kodėl jie taip elgiasi, ar galime numatyti jų elgesį ar išlaikyti jį pagal savo normas ir lūkesčius?

AI pokalbiai

Informatikos studentas Giannis Daras neseniai pastebėjo, kad DALLE-2 sistema, kurianti vaizdus pagal teksto įvestį, tam tikromis aplinkybėmis grąžintų nesąmoningus žodžius kaip tekstą.

„Žinomas DALLE-2 apribojimas yra tai, kad jis kovoja su tekstu“, – rašė jis publikuotame dokumente išankstinio spausdinimo serveris Arxiv. „Pavyzdžiui, teksto raginimai, tokie kaip: „Žodžio lėktuvas vaizdas“, dažnai sukuriami vaizdai, kuriuose vaizduojamas beprasmis tekstas.

Tačiau, rašė Daras, už akivaizdžios beprasmybės gali slypėti metodas. „Mes pastebėjome, kad šis sukurtas tekstas nėra atsitiktinis, o veikiau atskleidžia paslėptą žodyną, kurį, atrodo, sukūrė modelis viduje“, – tęsė jis. „Pavyzdžiui, kai maitinamas šiuo beprasmišku tekstu, modelis dažnai gamina lėktuvus.

Savo tviteryje Daras nurodė, kad kai DALLE-2 buvo paprašyta subtitruoti pokalbį tarp dviejų ūkininkai, tai rodė, kad jie kalba, bet kalbos burbulai buvo užpildyti to, kas atrodė nesąmonė žodžius. Tačiau Darasas išsiaiškino, kad šie žodžiai AI turėjo savo reikšmę: ūkininkai kalbėjo apie daržoves ir paukščius.

Nicola Davolio, technologijų įmonės „Hupry“, kuri dirba su dirbtiniu intelektu, generalinis direktorius interviu „Lifewire“ paaiškino, kad kalba paremta simboliais, kuriuos DALL-E2 sistema išmoko susieti su tam tikrais sąvokas. Pavyzdžiui, simbolis „šuo“ gali būti susijęs su šuns nuotrauka, o simbolis „katė“ gali būti susietas su katės nuotrauka. DALL-E2 sukūrė savo kalbą, nes ji leidžia efektyviau bendrauti su kitomis AI sistemomis.

„Kalba sudaryta iš simbolių, kurie atrodo kaip egiptiečių hieroglifai ir, atrodo, neturi jokios konkrečios reikšmės“, – pridūrė jis. „Simboliai tikriausiai yra bereikšmiai žmonėms, tačiau jie puikiai supranta dirbtinio intelekto sistemą, nes ji buvo išmokyta naudoti milijonus vaizdų.

Tyrėjai mano, kad dirbtinio intelekto sistema sukūrė kalbą, kad padėtų jai geriau suprasti vaizdų ir žodžių ryšius, sakė Davolio.

„Jie nėra tikri, kodėl dirbtinio intelekto sistema sukūrė savo kalbą, bet įtaria, kad tai gali būti susiję su tuo, kaip ji mokėsi kurti vaizdus“, – pridūrė Davolio. „Gali būti, kad dirbtinio intelekto sistema sukūrė savo kalbą, kad komunikacija tarp skirtingų tinklo dalių būtų efektyvesnė.

AI paslaptys

DALL-E2 nėra vienintelė AI sistema, kuri sukūrė savo vidinę kalbą, pažymėjo Davolio. 2017 m. Google AutoML sistema sukūrė naują neuroninės architektūros formą vadinamas „vaikų tinklu“ palikus nuspręsti, kaip geriausiai atlikti duotą užduotį. Šio vaikų tinklo negalėjo interpretuoti jo žmogiškieji kūrėjai.

„Šie pavyzdžiai yra tik keli atvejai, kai AI sistemos sukūrė būdus, kaip daryti dalykus, kurių negalime paaiškinti“, - sakė Davolio. „Tai naujas reiškinys, kuris žavi ir kelia nerimą vienodai. Dirbtinio intelekto sistemoms tampant sudėtingesnėmis ir savarankiškesnėmis, galime vis dažniau atsidurti tokioje padėtyje, kad nesuvokiame, kaip jos veikia.

O'Neill teigė nemananti, kad DALL-E2 kuria savo kalbą. Vietoj to, ji sakė, kad akivaizdaus kalbinio išradimo priežastis tikriausiai yra šiek tiek proziškesnė.

„Vienas tikėtinas paaiškinimas yra atsitiktinė galimybė – tokiame dideliame modelyje gali būti taikomas šiek tiek Merfio dėsnis: jei gali nutikti keistas dalykas, greičiausiai taip ir nutiks“, – pridūrė O'Neillas. Kita galimybė, kurią pasiūlė tyrimų analitikas Benjaminas Hiltonas a „Twitter“ gijoje, kurioje aptariamos Daraso išvados yra tai, kad frazės „apoploe vesrreaitais“ forma imituoja lotyniško gyvūno pavadinimo formą. Taigi sistema sukūrė naują Aves užsakymą, pridūrė O'Neillas.

„Smagu grumtis su tokiais galvosūkiais, kaip akivaizdžiai paslėptas DALL-E2 žodynas, tačiau jie taip pat pabrėžia sunkesni klausimai apie riziką, šališkumą ir etiką, susijusią su dažnai nesuprantamu didelių modelių elgesiu“, – sakė O'Neillas. sakė.