学校は AI を使用して生徒を監視している可能性があります - その理由は次のとおりです

学校は監視カメラを超えて生徒を監視することが増えています。

ダラス・モーニング・ニュースによる新しい報道 明らかにした 生徒を監視するための人工知能 (AI) の使用が全国の学校で普及しているということです。 多くのキャンパスは、自分自身や他人に危害を加える危険がある学生の命を守り、命を救うためにコンピュータ監視が必要であると主張している。 しかし、一部の観察者は嫌悪感を抱いている。

「生徒たちは自分たちがAIで監視されていると知ると、オンラインで本当の考えを共有する可能性が低くなり、何を検索するかについてより慎重になります。」 ニル・クシェトリの教授 ノースカロライナ大学グリーンズボロ校デジタルコミュニティを研究している同氏は電子メールでLifewireに語った。 「これにより、精神的健康上の問題を抱える学生など、弱い立場にある人々が必要なサービスを受けることを妨げる可能性があります。 自分の一挙手一投足や読み書きのすべてが監視されていると生徒が知ると、高いレベルの自信を持った大人に成長する可能性も低くなります。」

学生を見守る

報道によると、Social Sentinel社は生徒からのソーシャルメディア投稿をスキャンする技術を学校に提供したという。 2015 年以来、少なくとも 37 の大学が Social Sentinel を使用しています。 Social Sentinelは、自社のサービスは抗議活動の監視には使用できないと主張していたが、報告書ではその目的で使用されていたことが判明した。

「イベント中、脅威アラートは、法との対決を望んでいる可能性のある指導者や扇動者に関する重要な洞察を提供します。 取り締まり、群衆の一般的な気候、群衆の増加の可能性」とソーシャルセンチネルは電子メールで書いた。 報告。 Navigate360 は、2020 年に Social Sentinel を買収した会社です。 調査を呼び掛けた 不正確で時代遅れです。

業界関係者の中には、監視目的でのAI利用の増加は避けられないと言う人もいる。 「ソーシャルメディアの矛盾は、私たちのデジタルフットプリントが増大するにつれて、ソーシャルメディアの使用も増大するということです。」 クリス・ピチェとCCTVとソフトウェア定義のAIカメラを接続する企業Smarter AIの創設者はLifewireの電子メールインタビューで語った。 「ここでは政府の規制が重要な役割を果たします。 たとえば、ヨーロッパとアメリカの政府は、GDPR、CCPA、その他の米国の州規制に基づいて忘れられる権利を導入しました。」

AI の顕微鏡下にあるマイノリティ

クシェトリ氏は、AIを利用して学生を監視することは少数派に不当な影響を与える可能性があると述べた。 黒人の学生が停学処分を受ける可能性は、白人の学生に比べて3倍以上高いという。

「ベンダーは報告されたコンテンツを評価した後、懸念事項を学校関係者に報告し、学校関係者はケースバイケースで懲戒処分を行う」と同氏は付け加えた。 「学校によるこれらのツールの使用に対する監督の欠如は、少数派の生徒にさらなる被害をもたらす可能性があります。」

クシェトリ氏によると、主要なAIモデルは、アフリカ系アメリカ人が書いたツイートは他の人が書いたツイートよりも「攻撃的」とフラグを立てる可能性が50％高いという。 アフリカ系アメリカ人のスラングで書かれたツイートにフラグを立てる可能性は 2.2 倍高くなります。

「これらのツールは性的少数者や性的少数者にさらに悪影響を及ぼします」と彼は付け加えた。 Gaggle 社は、「『ゲイ』、『レズビアン』、その他の LGBTQ 関連の用語にフラグを立てたと報告されている。 この用語はポルノを表現するためによく使用されますが、それらはポルノと関連付けられています。 身元。"

クシェトリ氏によると、監視システムベンダーはハッカーが悪用できる安全でないシステムを使用しているという。 2021 年 3 月、コンピューター セキュリティ ソフトウェア会社マカフィーは次のことを発見しました。 学生監視システムのいくつかの脆弱性 ベンダー Netop の Vision Pro Education ソフトウェア。 たとえば、Netop は、不正アクセスをブロックするために教師と生徒の間の通信を暗号化しませんでした。

「このソフトウェアは世界中の 9,000 以上の学校で数百万人の生徒を監視するために使用されています」とクシェトリ氏 この脆弱性により、ハッカーは生徒の教室のウェブカメラとマイクを制御できるようになりました。」 コンピューター。」

多くの企業が、インターネット経由で生徒を監視する方法を学校に提供しています。 ソーシャルメディアプラットフォームには、たとえばボットやスパムを検出してブロックするための独自の監視ソフトウェアがあるとピシェ氏は指摘した。 大学、企業、政府は、Hootsuite、Sprout Social、Zoho Social などのベンダーが提供するソーシャル メディア監視ソフトウェア (略して SMMS) を使用しています。

「街の広場と同じように、ソーシャルメディアは公共のフォーラムであり、私的なフォーラムではありません」と彼は付け加えた。 「私たちがソーシャルメディアを使用するときは常に、ソーシャルメディアによって共有され、販売されるデジタル足跡を残します。 たとえば、Twitter はイーロン・マスクに、Facebook はケンブリッジ・アナリティカに、プラットフォームをサードパーティに提供します。」