Kan AI lära oss att bli mer mänskliga?

Föreställ dig att du arbetar i ett callcenter och en kund ringer. Du svarar, och genast börjar det gå dåligt. Kunden är arg och spänningarna ökar.

Du börjar säga saker som du senare kan ångra. Plötsligt visas ett meddelande på din datorskärm. "Empathy Cue - Tänk på hur kunden mår. Försök att relatera."

Det är inte en riktig person som säger åt dig vad du ska göra. Det är ett meddelande från Cogito, ett program för artificiell intelligens utformad för att hjälpa arbetare att känna empati med frustrerade uppringare och förbättra prestanda. Cogito är ett av ett växande antal AI-program som försöker lära människor empati.

Det finns en uppenbar ironi här. Mänskliga forskare har i årtionden försökt göra mer verklighetstrogna datorer. Nu berättar maskinerna för oss hur vi ska bete oss. Men kan programvara verkligen lära oss hur vi kan vara mer empatiska? Det är en fråga som kan få djupgående konsekvenser när artificiell intelligens börjar genomsyra det dagliga livet.

AI efterliknar mänskligt beteende

Ur teknisk synvinkel är det uppenbart att AI kan fånga upp ledtrådar om hur människor känner och ge feedback.

"AI och maskininlärningssystem är mycket bra på att hitta mönster i data," Adam Poliak, en postdoktor i datavetenskap vid Barnard College, sade i en e-postintervju.

"Om vi ​​ger en AI massor av exempel på empatisk text kan AI: n upptäcka mönster och signaler som framkallar eller visar empati."

AI som analyserar mänskliga reaktioner kan hjälpa till att överbrygga den växande klyftan mellan människor när vi kommunicerar digitalt, Bret Greenstein, en AI-expert på Cognizant Digital Business, sa i en e-postintervju.

"Under det senaste året växte realtid, video, röst och meddelanden snabbare än någon kunde ha föreställt sig, och med det kom enorma utmaningar i att skapa verkligt empatiska relationer utan att faktiskt spendera fysisk tid med människor", han Lagt till.

AI kan hjälpa till att analysera och bedöma egenskaper som ton och känslor i tal, sa Greenstein. "Detta kan hjälpa personen som tar emot kommunikation att bättre förstå vad som menades, och hjälper personen som "talar" genom att visa hur meddelanden kan tolkas", tillade han.

Medan företag skyndar sig att tjäna pengar på AI-träningsprogram som Cogito, är frågan om huruvida AI kan lära människor empati fortfarande öppen. Och svaret kan ha lika mycket att göra med filosofi som teknik.

Ilia Delio är teolog vid Villanova University vars arbete fokuserar på skärningspunkten mellan tro och vetenskap. Hon tror att AI kan lära ut empati.

Delio påpekade att en team på MIT har byggt robotar som kan efterlikna mänskliga känslor som glädje, sorg och medkänsla. "Medan robotkänslorna är programmerade kan robotarna interagera med människor och på så sätt etablera eller förstärka neurala mönster," sa hon.

Kan en maskin förstå empati?

Experter definierar minst tre former av empati, alla involverar förmågan att förstå och relatera till en annan person, sa Karla Erickson, sociolog vid Grinnell College i Iowa och författare till den kommande boken, Messy Humans: A Sociology of Human/Machine Relations, som utforskar våra relationer med teknik.

"Att relatera är inget AI kan göra, och det är grunden för empati", sa Erickson i en e-postintervju.

"AI kan vara programmerad att bryta ner några av de mänskliga beteenden som följer med empati och påminna människor om att utföra dem, men det är inte att lära ut empati. Att relatera, särskilt när det gäller empati, skulle kräva att lyssnaren har det nödvändiga sammanhanget relatera – med detta menar jag att en AIs 'liv' inte inkluderar förlust, längtan, hopp, smärta eller död."

Men experter krockar om huruvida AI kan lära oss hur man empati. En del av problemet är att inte alla är överens om vad "empati" eller "AI" ens betyder. Termen artificiell intelligens slängs runt mycket, men det är för närvarande inte den typ av intelligens vi tänker på som mänsklig.

"De "empatiska signalerna" har ingenting med empati att göra," Michael Spezio, en professor i psykologi, neurovetenskap och datavetenskap vid Scripps College, sade i en e-postintervju.

"De är signaler från röster som mänskliga bedömare har klassificerat som röster från människor som är irriterade/irriterade. Så det är bara att använda mänsklig expertis i en matematisk modell och sedan hävda att modellen – byggd på mänsklig expertis – är intelligent. Begränsade metoder för maskininlärning som detta hypas ofta som AI utan att vara intelligenta."

Vid Rensselaer Polytechnic Institute, Selmer Bringsjords laboratorium bygger matematiska modeller av mänskliga känslor. Forskningen är avsedd att skapa en AI som kan få höga poäng på emotionella intelligenstester och tillämpa dem på människor. Men Bringsjord, en AI-expert, säger att all undervisning som AI gör är oavsiktlig.

"Men det här är rent ingenjörsarbete, och jag har ingen sådan illusion att AI: n i fråga själv har känslor eller verkligen förstår känslor", sa han i en e-postintervju.

Vad kan gå fel?

Medan företag som Cogito ser en ljus framtid för AI-träning av människor, är andra observatörer mer försiktiga.

Supportiv, en onlinetjänst för mental hälsa, använder AI för att dirigera varje användare, baserat på varje enskild tanke de uttrycker, i realtid, till en ämnesspecifik peer-supportgrupp som dynamiskt samlas för användare med liknande frågor.

Varje grupp har en "superdriven" mänsklig moderator som håller den textbaserade chatten säker och trollfri och kan få fram, återigen genom AI, relevanta resurser, rekommendationer och hänvisningar rakt in i gruppen konversation. Med hjälp av AI utbildar Supportiv sina moderatorer att vara skickliga på att upptäcka intensiteten i känslomässiga behov.

"Empati är en muskel vi bygger", sa Zara Dana, en dataforskare på Supportiv, i en e-postintervju.

"Om vi ​​börjar använda en krycka för att gå, kommer våra muskler att atrofieras. Jag kan inte låta bli att undra, skulle en beroende arbetare känna sig säker om AI-systemet inte är online en dag? Kan hon göra sitt jobb effektivt? Vilka är de långsiktiga effekterna på arbetarna? Hur skulle de navigera i komplexa sociala situationer där AI saknas?"

Även om det fungerar att använda AI för att lära ut empati, vad händer när vi börjar lita för mycket på AI för att träna känslor? En möjlig nackdel är att människor kan bli mer fästa vid robotar än till andra människor eftersom robotar inte kan välja mot sitt program, påpekade Delio.

"Den mänskliga förmågan till fri vilja placerar mänsklig handlingsfrihet i en mer tvetydig position", sa Delio. "En person kan vara medkännande ena dagen och hänsynslös nästa; en robot kommer att förbli konsekvent medkännande om inte tränad att göra något annat."

Det finns mycket som kan gå fel om AI lär människor hur man beter sig som människor, säger experter.

"Utan mänsklig tillsyn kan eleven lära sig något helt galet," sa Bringsjord.

"Ton och tonhöjd är bara beteendemässiga korrelat, utan något innehåll. Dollar till munkar min röst när jag undervisar i klassrummet skulle läsas av många...som ett tecken på att jag är upprörd, medan jag i verkligheten bara är passionerad och i det minsta behov av empati."

Om AI-träning av människor blomstrar kan vi komma att lita på det. Och det är inte nödvändigtvis bra.

"Den här utbildningen nedvärderar mänskliga färdigheter, som är betydande, och flyttar uppmärksamheten mot AI som om det vore de med expertis," sa Erickson. "Vi har utvecklats till att vara sociala djur, och vår empati är central för vår förmåga att få kontakt med andra och bry oss om de kollektiv som vi tillhör."