プラチナ社会研究会 新産業は、人が輝く暮らしから

インターネットハラスメントと戦うジグゾー社のソフトウェア「Perspective」

 

インターネットハラスメントと戦うジグゾー社のソフトウェア「Perspective」

協力 Rapid Access International, Inc. 2017年2月

始めに

インターネットは、想像しうる事項のほぼすべてに関して、アイディアの共有や意見の発言を行う最大の媒体となった。また、インターネットには、嫌がらせ(ハラスメント)や感情的な反応の挑発を意図した、根拠がなく悪意を持ったコメントを掲載するような人でも溢れている。このような人は「インターネット・トロール」とも呼ばれている。Data and Society Research Institute(データ・社会研究所)1によると、米国人の半数がインターネット・ハラスメントの被害経験がある。また、このような問題への啓発を目的として、「Hack Harassment」のようなハラスメント対策団体が複数設立されている。2 ハラスメント対策団体の主唱者が技術系企業に対し、利用者を保護する製品の開発を要望したことに応え、Google系列の技術インキュベータであるJigsawと、Googleの乱用対策技術チーム(Counter Abuse Technology Team)が新しいソフトウェア「Perspective」の開発を開始した。

「Perspective」ツール

Alphabet(Googleの親会社)の子会社であるJigsawは2月23日、インターネット・ハラスメント対策を目的に「Perspective」を立ち上げた。ここで用いられるアプリケーションプログラミングインターフェース(API)は、Jigsawの「Conversation AI」(会話人工知能)というインターネットスイートのツールであり、ソーシャルメディアやウェブフォーラムでのハラスメント行為を捜し当てるのに用いられる。3「Perspective」は適応性の人工知能(adaptive artificial intelligence)を用いて、インターネット・コンテンツをリアルタイムで精査し、悪意のある発言を検索したうえで、独自の「有害度」に基づきフラグ付け、等級付けがされる。利用者は、ウェブフォーラムの「有害度」4を参照でき、それに参加したいかを自ら決定することができる。ウェブアドミニストレータは「有害度」統計を使って、フォーラムからの個人の締め出しや、悪意のあるコメントや投稿の削除ができる。

開発

Jigsawの開発チームは、ニューヨークタイムズ、ウィキペディア、ハラスメント対策団体に投稿されたコメント数百万件をマイニングし、ハラスメントの事案を検索した。Google従業員数千人がこのようなコメント欄を綿密に調査し、投稿が「有害」か「非有害」かを記録していった。Jigsawのチームはこの結果を用いて「有害度」等級を開発し、これが「Perspective」プロジェクトの中核となっている。5

「Perspective」は、適応性の人工知能を用いて構築されており、使用する度に「学習」していくシステムとなっている。あるコメントが「有害」と判定されると、データが収集されスキャニングアルゴリズムが高度化されていく。「Perspective」が誤って「有害」の投稿と判定した場合には、利用者がその旨報告できるようになっており、学習システムが今後に向けて再訓練されていく。Jigsawの発表によると、現在「Perspective」の確度は92%、誤謬率は10%である。6「Perspective」は今後時間をかけて、ハラスメント認識の効率、精度を向上させていくことになる。

検閲の懸念

「Perspective」はこのような「有害」な投稿を排除するのではない、という点には注意が肝要である。JigsawのJared Cohen社長は、人間の判断を回避したくはないとの考えであり、目標は、判断が容易にできるような印付けをして、モデレータが「有害」な投稿の取り扱い方を決定できるようにすることである、としている。ウェブアドミニストレータは悪意のある投稿はどれかという「Perspective」の判定を見ることができ、コンテンツを除去するかの決定はこのようなウェブアドミニストレータに任されている。

どのコンテンツを削除すべきかの決定には、問題に陥る危険も伴う。一部のコメントを選んで削除する行為は、言論の自由という基本的原則を蹂躙する検閲となりうるためだ。オンライン上の市民の自由及び人権の擁護を目的とした非営利法人である「Center for Democracy & Technology (CDT)」において「Free Expression Project(表現の自由プロジェクト)」を指揮するEmma Llanso氏は、このツールの使用に関して警鐘を鳴らしており、「自動検出システムを導入すれば、時間・資源を費やしてまで誤認を確認しないままに全件削除するという選択肢の可能性を開くことになりかねない」と主張している。「Perspective」の代表者は、現在のウェブ・モデレーティング・システムは、コンテンツのブロックまたは除去のみを目的としたものであり、「Perspective」は会話の質を向上させるためのツールと捉えるべきだ、と述べている。

終わりに

「Perspective」は、Jigsawの「Conversation AI」(会話人工知能)スイートのツールの一つに過ぎず、現状では完成には程遠い状態だ。複雑な情報環境からハラスメントが発生する新たな経路が形成していくにつれ、「Perspective」が学習し会話環境に順応できる能力は重要性を増していく。「インターネット・トロール」と戦うことで、個人がハラスメントを恐れずに会話に参加することが促され、議論やアイディア創出が活発に行われるような、開かれた建設的な環境の構築が望まれる。

-----------------------------------------------------------------

株式会社三菱総合研究所理事長 小宮山宏

アンケート

このページのトップへ

三菱総合研究所関連リンク: MRI大学関連事業

Text Resize

-A A +A

小宮山宏 講演録