Текст генерисан вештачком интелигенцијом постаје све чешћи - ево зашто је то лоша ствар

Све је теже и теже разликовати реченице које генерише вештачка интелигенција (АИ) и људи.

Добра вест је да нови рад показује да људи могу да науче да уоче разлику између текста генерисаног вештачком интелигенцијом и текста који је написао човек. Способност да се утврди да ли рачунари праве информације на мрежи постаје критична са порастом великих језичких модела као што је ЦхатГПТ, за које многи предвиђају да ће дотакнути готово сваки наш кутак живи.

„Ако примите текстуалне поруке које сугеришу да су вашој баки хитно потребна средства за медицинску процедуру, желели бисте да знате да ли је у питању масовна превара са вештачком интелигенцијом или прави члан породице“, Кентаро Тоиама

, професор информација о заједници на Универзитет у Мичигенуи аутор књиге "Штреберска јерес: Спасавање друштвених промена од култа технологије“, рекао је за Лифевире у интервјуу е-поштом. „И у тренуцима када је стварна људска веза важна, желели бисмо да чујемо стварне људе, а не машине.

Указивање на разлику између Реала и ЦхатГПТ-а

Истраживачи са Универзитета у Пенсилванији написали су свој рад испитивањем података прикупљених коришћењем „Прави или лажни текст?“, веб-базиране игре за обуку. Од учесника се тражи да наведу да ли је машина произвела дати текст на начин да или не. Овај задатак укључује класификовање текста као стварног или лажног и бодовање одговора као тачних или нетачних. Студија је открила да су учесници постигли знатно бољи резултат од случајне шансе.

„Наш метод не само да гамификује задатак, чинећи га привлачнијим, већ и пружа реалистичнији контекст за обуку“, рекао је Лиам Дуга, један од аутора студије. Саопштење за штампу. „Генерисани текстови, попут оних које производи ЦхатГПТ, почињу упитима које даје човек.“

Тојама је рекао да постоји много разлога зашто је важно научити разликовати текст генерисан од рачунара и људско писање. На пример, наставници би желели да знају да ли ученици шаљу есеје које су сами написали или текст написан делимично или у потпуности на рачунару. Напоменуо је да је недавно Универзитет Вандербилт послао е-маил написао ЦхатГПТ својој заједници повезујући трагедију пуцњаве у држави Мичиген са напорима кампуса ка инклузији. Дошло је до брзе реакције.

„Има много других таквих ситуација“, додао је он. „У ствари, верујем да је један суштински облик регулисања АИ да закон треба да захтева било шта текст, слика, аудио, видео или други креативни резултат који генерише рачунар да се јасно означи као такав“.

Уочавање текста генерисаног вештачком интелигенцијом

Тојама је песимиста да људи могу доследно да уоче разлику између текста генерисаног вештачком интелигенцијом и текста који је генерисао људи, рекавши, „на дужи рок, то ће постати практично немогуће јер ће АИ постајати све боља и боља“. Он је указао до неформални експерименти што указује на то да чак и искусни наставници имају потешкоћа да разликују писање ученика од ЦхатГПТ-а.

„Имам колегу који тврди да је уочио два случаја ЦхатГПТ поднесака јер је писање студената имало изненада драматично побољшан—али, ЦхатГПТ може бити усмерен да пише на различитим нивоима способности или да унесе грешке“, додао је он.

Рачунари се могу користити за идентификацију да ли је одређени текст направљен од стране људи. Параг Арора, извршни директор Квегг, систем АИ садржаја, рекао је за Лифевире у интервјуу е-поштом да је истраживање у току за развој програма који уочавају писање генерисано машинама.

„АИ класификатори које лансирају истраживачке организације, укључујући и сам ОпенАИ, изгледају обећавајуће“, додао је он. „Међутим, чини се да је напредак ГПТ-а увек корак испред њих, а по природи истраживања, класификатори су увек најмање једну генерацију иза генератора. Одређени посао је обављен на остављању криптичних потписа као политике за сваки ГПТ генератор, што може бити сигуран корак ка решавању овог проблема."

Постоје неки начини на које корисници могу уочити машински генерисани текст, Роберт Брандл, извршни директор Тоолтестер, рекао је у интервјуу мејлом. Он предлаже да испробате АИ алате као што је ЦхатГПТ да бисте видели какву врсту садржаја генеришу да бисте се боље упознали са њима. Међу поклонима су формулаичне структуре у којима реченице почињу са „Прво” и „Друго”, итд., и недостатак сарказма или хумора у тексту.

"Како се АИ развија, међутим, алати који су дизајнирани да уоче АИ текст ће такође научити", додао је он. „Заиста, може доћи до тачке у којој ће људи морати да се ослоне на ове алате да би разумели када се АИ користи, то јест, ако издавачи ионако не открију отворено коришћење АИ.