AI가 선택을 조작하는 방법

전문가들은 인공 지능(AI)과 기계 학습 알고리즘이 사용자 행동에 영향을 미치는 방법을 점점 더 많이 배우고 있다고 말합니다.

호주 국립 과학 기관의 연구원들은 최근 AI를 사용하여 사람들이 선택하는 방식에서 취약점을 찾아 악용하는 방법을 만들었습니다. 최신 연구는 인간의 의사 결정을 조작하도록 설계된 AI 기반 시스템의 물결 중 하나일 뿐입니다.

켄타로 토야마 교수는 "AI가 이미 행동에 영향을 미치고 있는 많은 방식에는 끝이 없다"고 말했다. 미시간대학교 정보대학 의 저자 괴짜 이단: 기술 숭배에서 사회 변화 구출, 이메일 인터뷰에서 말했다.

"사실, 구글 검색을 한 적이 있고 링크에 대한 후속 조치를 취한 적이 있다면, 당신은 당신의 관심사를 추측하고 당신과 가장 관련이 있다고 생각되는 결과를 반환하는 AI 시스템의 영향을 받았을 것입니다."

AI 대 인간

에 발표된 호주 연구에서 최근 논문, 인간 참가자는 다양한 실험에서 컴퓨터와 게임을 했습니다. 첫 번째 실험에서는 참가자들이 돈을 받기 위해 빨간색 또는 파란색 상자를 클릭하게 했습니다.

AI는 약 70%의 시간 동안 성공했으며 참가자의 선택 패턴을 학습하고 특정 선택으로 안내했습니다.

다른 실험에서 참가자들은 화면을 보고 특정 기호가 표시될 때 버튼을 누르거나 다른 기호가 제공될 때 누르지 않았습니다. AI는 기호를 재배열하는 법을 배웠으므로 참가자는 더 많은 오류를 범했습니다.

연구원들은 실험 결과 AI가 참가자의 반응을 통해 학습했다고 결론지었습니다. 그런 다음 기계는 사람들의 의사 결정에서 취약점을 식별하고 표적으로 삼았습니다. 실제로 AI는 참가자를 조작하여 특정 작업을 수행할 수 있습니다.

인공 지능이나 기계 학습이 사람을 조작할 수 있다는 사실은 놀라운 일이 아니라고 관찰자들은 말합니다.

펜실베니아 요크 칼리지(York College of Pennsylvania)의 사이버 보안 및 경영학 조교수인 타마라 슈워츠(Tamara Schwartz)는 이메일 인터뷰에서 "AI는 매일 우리의 행동에 영향을 미치고 있다"고 말했다.

"우리는 Facebook이나 Twitter와 같은 소셜 미디어 애플리케이션의 알고리즘에 대해 항상 듣습니다. 이러한 알고리즘은 우리의 주의를 관련 콘텐츠로 이끌고 '반향실' 효과를 만들어 우리의 행동에 영향을 줍니다."

틱톡이 보고 있다

현재 가장 정교한 소셜 미디어 알고리즘은 TikTok이라고 Schwartz는 말했습니다. 앱은 사용자가 관심 있는 항목, 시청 시간 및 건너뛰는 속도를 분석한 다음 계속 시청할 수 있도록 서비스를 개선합니다.

"TikTok은 사용자가 무엇을 좋아하는지, 어떻게 배우고, 정보를 선택하는지 이해하는 이 AI 알고리즘 덕분에 다른 플랫폼보다 훨씬 더 중독성이 있습니다."라고 그녀는 덧붙였습니다. "사용자가 TikTok에서 보내는 평균 시간이 52분이기 때문에 우리는 이것을 알고 있습니다."

AI 회사 Pathmind의 CEO인 Chris Nicholson은 이메일 인터뷰에서 인공 지능에 의한 인간 행동의 조작은 긍정적인 용도를 가질 수 있다고 주장했습니다. 예를 들어 공중 보건 기관은 AI를 사용하여 사람들이 더 나은 결정을 내리도록 장려할 수 있습니다.

"그러나 소셜 미디어, 비디오 게임 제작자, 광고주 및 권위주의 정권은 사람들이 최선의 이익이 아닌 결정을 내리도록 하고, 이는 그들에게 그렇게 할 수 있는 새로운 도구를 제공할 것입니다." 추가했습니다.

행동에 영향을 미치는 AI의 윤리적 문제는 종종 어느 정도 수준이라고 Toyama는 말했습니다. AI는 개인의 취향과 약점을 악용할 수 있는 집중 광고를 허용합니다.

그는 "예를 들어 AI 시스템이 금연을 시도하는 사람들을 식별하고 유혹적인 담배 광고를 퍼붓는 것이 가능하다"고 덧붙였다.

AI가 인간 행동을 조작하는 것이 문제가 있다는 데 모두가 동의하는 것은 아닙니다. 고전 심리학과 AI는 모두 데이터를 관찰한다고 Jason J. 코르소 감독 스티븐스 인공 지능 연구소, 이메일 인터뷰에서.

"인간 과학자들은 아마도 관찰을 일반화하고 인간 행동에 대한 이론을 정제하는 데 더 나을 것입니다. AI 모델은 문제별 뉘앙스를 식별하는 데 더 순응하는 반면 더 광범위하게 적용할 수 있습니다." Corso 말했다.

"윤리적 관점에서 나는 이것들 사이에 차이가 없다고 봅니다."