AI犯罪予測は間違った人々を非難する可能性があります

あなたのオンライン情報は、あなたが犯罪を犯す可能性があるかどうかを予測するために使用される可能性があります。

VoyagerLabsは伝えられるところによると ソーシャルメディア情報の収集 セキュリティリスクをもたらす人々を特定するために使用できるプロファイルを作成するため。 これは、潜在的な犯罪者を調査するために人工知能（AI）を使用する取り組みの一環です。 しかし、一部の専門家は、運動には潜在的な問題がたくさんあると言います。

「人間の行動を予測するのは非常に難しい」 マシュー・カーAtumcell Groupのセキュリティ研究者である、は、電子メールのインタビューでLifewireに語った。 「他人の行動は言うまでもなく、自分の行動を予測することすらできません。 将来的にはこの目的でAIを利用できる可能性もあると思いますが、現時点ではまだまだ先のことです。」

プロファイルの作成

として 保護者 最近報告されたように、ロサンゼルス警察はVoyagerLabの犯罪予測ソフトウェアの使用を検討しました。 会社 また発表 それが日本の政府機関との重要な契約を結んだこと。

日本の協定は、政府機関に、オープンで深いデータを含む、あらゆるソースからの大量の情報を分析するAIベースの調査プラットフォームを提供します。

「テロや犯罪との闘いに協力できることをうれしく思います」と、VoyagerLabsのAPACマネージングディレクターであるDivyaKhangarot氏はニュースリリースで述べています。 「VoyagerLabの最先端のインテリジェンスソリューションを使用することで、クライアントは潜在的な脅威をプロアクティブに特定して混乱させる独自の機能を手に入れることができます。 AI、機械学習、OSINTを組み合わせて、隠れた痕跡、侵害された情報、悪意のある人物を明らかにすることで、さらに深い調査洞察を提供します。」

それほど賢くない？

しかし、電子メールのインタビューでは、 マットハイジー、またAIを使用して犯罪者を予測するFerret.aiの共同創設者は、VoyagerLabsの主張のいくつかに疑問を投げかけています。

「たとえば、逮捕記録と将来の犯罪行為との間には、検査と腫瘍の発生に黒い斑点があるので、明確な関連性がありますか？」 彼は言った。 「その逮捕に巻き込まれたすべての潜在的な混乱を考えてみてください。その人が住んでいた近所、その地域の警察の量と質、さらには偏見です。 その人の年齢、性別、容貌、それらすべてがその可能性に交差する影響を及ぼします 私たちが試みている犯罪を犯す実際の傾向から完全に分離された逮捕記録を持っている人 予測する。"

ハイジー氏によると、弁護士が優れている被告は、記録が公に利用可能になるのを抑制することができる可能性が高いという。 一部の管轄区域では、被告人を保護するために、マグショットまたは逮捕記録の公開を制限しています。

「これらすべてがアルゴリズムにさらなるバイアスを加える」と彼は付け加えた。 「コンピューターは、あなたが与えたデータに基づいて学習し、そのデータ収集に取り入れられたすべてのバイアスを学習と解釈に組み込みます。」

AIを予測する犯罪を作成するためのいくつかの試みがあり、しばしばスキャンダラスな結果をもたらした、とHeisie氏は述べています。

COMPAS、法執行機関が使用するアルゴリズム 再犯を予測する、判決と保釈を決定する際によく使用されます。 それは人種的偏見のために2016年に遡るスキャンダルに直面しており、黒人の被告は実際よりも再犯のリスクが高く、白人の被告はその逆であると予測しています。

ハーバード、MIT、グーグル、マイクロソフトの学者やAI専門家を含む、1,000人を超える技術者や学者。 2020年に論文に対して発言した 研究者が人の そのような研究を発表することは、刑事司法制度における既存の人種的偏見を強化すると言って、顔を向ける、ハイジー 了解しました。

中国は、主に民間企業への広範なアクセスにより、このタイプのテクノロジーの最大かつ最も急成長している市場です。 2億台以上の監視カメラと、この問題に長年焦点を当てた高度なAI研究を備えたデータ、Heisie 言った。 CloudWalkのPoliceCloudなどのシステムは、現在、犯罪者を予測および追跡し、法執行機関を特定するために使用されています。

「しかし、そこにもかなりのバイアスが報告されている」とハイジー氏は語った。

ハイジー氏は、彼の会社は、「より客観的な基準に焦点を合わせて」、マグショットや逮捕記録を使用せずに、入ってくるデータを注意深く管理していると付け加えました。

「私たちのAIは厳選されたデータから学びましたが、さらに重要なことに、AIは人々からも学びます。 彼ら自身が記録を分析、キュレート、評価し、他者との相互作用について教えてくれます。」 彼が追加した。 「また、アプリケーションへの完全な透明性と無料のパブリックアクセスを維持し（ベータ版にできる限り迅速に）、プロセスと手順への洞察を歓迎します。」