Амазон Ецхо АИ асистенти изазивају забринутост због приватности

Са Амазоновим Алека уређајима све је лакше разговарати, али нова технологија доноси забринутост за приватност.

Компанија је открила значајно побољшање АИ за Алека, који утиче на све Ецхо производе од 2014. Ова надоградња софтвера омогућава Алека-и да настави разговоре без будне речи. Повећава Алека-ину способност да брзо одговори, разуме преференције корисника и управља додатним питањима. Штавише, Алека ће сада моћи да промени свој тон на основу теме разговора, па чак и деле мишљења, као што је причање о филмовима који су требали да добију Оскара. Међутим, употреба вештачке интелигенције такође подиже црвене заставице.

„Разговорну вештачку интелигенцију могу користити лоши глумци у различитим контекстима,“ Алисса Девине

, оснивач Пурпле Фок Легал и адвокат који ради у области приватности и вештачке интелигенције, рекао је за Лифевире у интервјуу е-поштом. „Подаци прикупљени конверзацијским АИ могу се користити за креирање детаљних профила корисника који се могу продати у рекламне сврхе или уновчити на други начин без експлицитне сагласности корисника. Што је још горе, ове податке потенцијално могу користити лоши актери да почине превару или крађу идентитета."

Цхаттиер Алека

Ажурирана Алека има глас који одражава људски говор и може да се укључи у течне разговоре без потребе за будном речју. Са сваком интеракцијом, постаје све ближе својим корисницима.

Слично као и ЦхатГПТ и друге генеративне АИ платформе, Алека сада може креирати поруке за кориснике и слати их према захтеву.

„Такође смо се фокусирали на смањење кашњења како би разговори текли природно, без паузе, а одговори су одговарајуће дужине за глас – а не еквивалент слушања параграфа за параграфом који се чита наглас“, написао је Даниел Раусцх, потпредседник компаније за Алека и Фире ТВ на веб страници компаније. „Када тражите најновије вести о тренду, добијате сажет одговор са само најрелевантнијим информацијама. Ако желите да сазнате више, можете пратити."

Али Алекине нове способности може отворити прозор за цурење података. Биће важно да прочитате ситна слова и разумете како Амазон користи ваше интеракције са Алека и Ецхо уређајима за обуку и изградњу својих модела и препознавање говорног разговора мотор, Мелиса Бишопинг, директор истраживања безбедности крајњих тачака у фирми за сајбер безбедност Танијум, наведено је у е-поруци за Лифевире.

„За неке кориснике ово може представљати забринутост због приватности да би Амазон чуо или прегледао њихове разговоре истраживачи или – у најгорем случају – потенцијално откривени путем конверзацијског облика брзе ињекције у будућности,“ додао је он. „Амазон није пружио детаље о постављеним заштитним оградама ради заштите приватности, тако да ће бити интересантно видети који детаљи и политике се појављују на ову тему.

Еван Мацмиллан, извршни директор Гридспаце, фирма која обезбеђује АИ гласовне агенте за компаније, умањила је забринутост за приватност. Он је истакао да се АИ агенти могу наложити да забораве личне податке. Али, рекао је, како конверзацијски АИ интерфејси расту у популарности и постају дигитална улазна врата за више услуга, више лоших момака ће покушати да провали.

„Компаније треба да наставе да буду будне у вези са аутентификацијом и намерно о томе чему конверзацијски АИ интерфејси имају приступ“, додао је он.

Како се заштитити

Већина уређаја побољшаних вештачком интелигенцијом као што је Амазонов Ецхо користи мобилну апликацију за проверу претплате и информација о корисницима и ажурирање софтвера, Моникуе Беценти, директор маркетинга производа у сајбер безбедности Зимпериум, наведено је у е-поруци за Лифевире. Предложила је да пре преузимања апликација проверите продавницу апликација да бисте проверили како ће апликација користити ваше податке и да ли ће ваши подаци бити повезани са вашим идентитетом.

„Поред тога, омогућите минимални ниво за дозволе у ​​подешавањима апликације да бисте ограничили време када апликација може да приступи личним уређајима“, додала је она. „Као и сваки софтвер, конверзацијски АИ може имати рањивости које нападачи могу искористити.

Ако сте заиста забринути за приватност АИ асистента у вашем дому, најбоља заштита би била да га не користите, приметио је Бишопинг. Рекла је да треба претпоставити да се ваши разговори снимају и анализирају.

„Као и било шта на свету, ако не плаћате производ, ви сте производ“, додала је она. "И треба да будете свесни како и где одлучите да примените ову врсту технологије."