新しいプロファイリングソフトウェアがプライバシーの懸念を引き起こす理由
重要なポイント
- 人工知能を使用して人々のプロファイルを作成するソフトウェアは、プライバシーの懸念を引き起こしています。
- Cryfeは、行動分析手法と人工知能を組み合わせています。
- 中国企業のアリババは、そのソフトウェアがウイグル人やその他の少数民族を検出できると報じられた後、最近批判に直面した。
雇用主が従業員のプロファイルを作成することを目的とした人工知能を搭載した新しいソフトウェアは、プライバシーの懸念を引き起こしています。
1つの新しいソフトウェアプラットフォーム、 クライフと呼ばれる、行動分析技術と人工知能を組み合わせたものです。 開発者は、細かい手がかりを分析することで、ソフトウェアがインタビュー中に人々の意図を明らかにできると主張しています。 しかし、一部のオブザーバーは、行動を分析するCryfeやその他の種類のソフトウェアがプライバシーを侵害する可能性があると述べています。
「企業はプロファイリングのためにAIにますます依存しています」 AIエキスパートのVaclavVincale メールインタビューで言った。 「しかし、これらのアルゴリズムをコーディングする人間でさえ、電話で連絡をとるカスタマーサポート担当者でさえ、なぜ彼らが特定の推奨を行うのかをあなたに伝えることができませんでした。」
言葉以上
Cryfeは、従業員がFBIによってプロファイリング技術のトレーニングを受けたスイスの会社によって開発されました。 「Cryfeは、すべての対人コミュニケーションにおいて、言葉を聞くだけでなく、人間が発する他の信号を識別します 感情、微妙な表情、すべてのジェスチャーなど」と、Cryfeの創設者であるCarolineMatteucci氏は電子メールのインタビューで述べています。
「たとえば、採用時に、これにより、対話者の本当の個性を探しに行くことができます。」
Matteucci氏によると、同社はソフトウェアの動作について透明性があるため、ユーザーのプライバシーは保護されているという。 「ユーザーは、プラットフォームを使用する前に、一般的な条件を受け入れる必要があります」と彼女は言いました。
「そこでは、ユーザーは、対話者の書面による同意を得ずに、分析のためにインタビューを提出してはならないことが明記されています。」
人間の行動を分析することを目的としたAIを利用したソフトウェアはCryfeだけではありません。 消費者行動を分析すると主張するHumanticもあります。 「Humanticの画期的なテクノロジーは、性格検査を受ける必要なしに、すべての人の行動を予測します」と、 会社のウェブサイト.
同社は、AIを使用して、履歴書、カバーレター、LinkedInプロフィール、および応募者が提出するその他のテキストで使用する単語に基づいて、応募者の心理的プロフィールを作成すると主張しています。
行動ソフトウェアは、過去に法的な問題に直面しました。 2019年、 ブルームバーグ法 報告 Equal Employment Opportunity Commission（EEOC）は、アルゴリズムを利用したHR関連の決定による違法な差別の疑いのある事例を調査したこと。
「採用の未来はAIであるため、これはすべて解決する必要がある」と弁護士のブラッドフォード・ニューマン氏はブルームバーグに語った。
一部のオブザーバーは、行動追跡ソフトウェアが十分に正確ではないため、それを使用している企業に問題を抱えています。 インタビューの中で、専門サービス会社EYの世界的な人工知能リーダーであるNigelDuffyは次のように語っています。 InformationWeek 彼はソーシャルメディアのクイズを使用して検出に影響を与えるソフトウェアに悩まされていること。
「感情検出の可能性については本当に説得力のある文献があると思いますが、私の理解では、実装される方法はしばしばかなり素朴です」と彼は言いました。
「人々は、誰かが潜在的に誰かであると判断することなど、科学が実際にはサポートしていないという推論を引き出しています。 彼らはたくさん笑っているので良い従業員または彼らが笑っているので誰かがあなたの製品を好きだと決めたので 多く。"
伝えられるところによると、中国企業は少数派を紹介している
一部の人権団体によると、行動追跡にはもっと不吉な目的もある可能性があります。 中国では、オンラインマーケットプレイスの巨人アリババが最近騒ぎを起こしました 伝えられるところによると主張 そのソフトウェアがウイグル人や他の少数民族を検出できること。
ニューヨークタイムズ 同社のクラウドコンピューティングビジネスには、画像や動画をスキャンするソフトウェアがあると報告されています。
「しかし、これらのアルゴリズムをコーディングする人間でさえ...なぜ彼らが与えられた推奨をするのかをあなたに伝えることができませんでした。」
ワシントンポスト また 最近報告された 別の中国の技術会社であるHuaweiは、監視カメラがUighurの顔を検出したときに法執行機関に警告できるソフトウェアをテストしました。
Huaweiによる2018年の特許出願 伝えられるところによると主張 顔認識技術では「歩行者属性の特定が非常に重要」であること。 「ターゲットオブジェクトの属性は、性別（男性、女性）、年齢（10代、中年、老人など）[または]人種（ハン、ウイグル）である可能性があります」とアプリケーションは述べています。
Huaweiのスポークスマン CNNビジネスに語った 民族識別機能は「アプリケーションの一部になったことがない」はずです。
膨大な量のデータを分類するための人工知能の急増する使用は、プライバシーの懸念を引き起こすに違いありません。 次回就職の面接に行くとき、誰が、何があなたを分析しているのかわからないかもしれません。