迅速に行動し、問題を解決する：ソーシャルウェブが製品について異なる考え方を始める必要がある理由

ソーシャルメディアを創り出した人々や企業は、それが世界を一つにし、人々の違いを理解する民主化の力となると語りました。しかし実際には、ソーシャルメディアは歴史の流れを変える非常に効果的なツールであることが分かりました。

巨大テック企業にとって、今週は厳しい週だった。議会議員らに厳しく問われ、ロシアが後援する大規模な偽情報キャンペーンに米国の登録有権者の大部分が晒されるに至った経緯を説明せざるを得なかったのだ。議会公聴会は通常、効果的というよりは芝居がかったものになりがちだが、Facebook、Google、Twitterが二つの別々の委員会の前で取らざるを得なかった防御姿勢は、世界を変えるこれらの企業の代表者にとって明らかに不快なものだった。

「あなた方に責任があります」と、来週の再選を目指すカリフォルニア州選出の民主党上院議員ダイアン・ファインスタイン氏は今週の公聴会で述べた。「あなた方がこれらのプラットフォームを作ったのに、今やそれらは悪用されています。あなた方が何らかの対策を講じなければ、私たちは何もできません。」

https://twitter.com/athertonkd/status/925767547626053633

Facebook 社はすでに、この問題に資金を投入する意向を示している。これは昔ながらの手法だが、その支出は、これらの製品のオープンで接続された性質を武器にして世界中の何億人もの人々を混乱させ、惑わすプロの詐欺師軍団に対して、Facebook 社や他の企業が一歩先を行く方法を見つけられることを前提としている。

マイクロソフトのCEO、サティア・ナデラ氏は先月、GeekWireサミットに登壇した際、「プラットフォーム企業の責任」について語りました。Facebook、Google、Twitterがその責任を真剣に受け止めるならば、あるいは議会がそうするように強制するならば、彼らは自らの本質に反する製品戦略の変更を迫られることになるでしょう。

契約条件

Google、Facebook、Twitterは、インターネット上で情報を配信することで、膨大なオーディエンスを獲得するビジネスを展開しています。ユーザーエンゲージメントは、このようなビジネスを運営する上で最も重要な指標の一つです。

こうした測定方法の多くは比較的単純で、クリックやタップがエンゲージメントの基本単位であると考えられます。しかし、コミュニティ指向の地味な技術ニュース サイトでも、ユーザーがサイトにどれだけ長く滞在しているか、モバイル フィードをどれだけ速くスクロールしているか、実際にここまで読んでいるかどうかなどを把握できます。

大手ウェブ企業は、それよりもはるかに多くのユーザーの行動を測定しています。ある時点で、Facebook は実際に、ユーザーがステータス更新ボックスに入力したものの何らかの理由で投稿しないことにした内容をすべて追跡していました。また、ニュースフィード内のコンテンツの表示方法を変更して、ユーザーの感情的な反応を引き起こすかどうかを実験していました。

私たちはそれぞれ少しずつ異なる方法でGoogleとFacebookを利用しており、そのデータはすべて、サイトをユーザーにどのように表示するかを決定するために活用されています。エンゲージメントが最も高いものが勝利する傾向があり、GoogleとFacebookが21世紀で最も強力な企業の一つであるのは、これらの決定を誰よりも迅速かつ的確に行う方法を見つけ出したことが大きな理由です。

同時に、両社は技術インフラ設計においても重要なブレークスルーを達成し、魅力的なサイトが常に利用可能で、常にスムーズに表示されるようにしています。さらに、次世代の技術開発に数十億ドルを投じ、サイト上でよりパーソナライズされた体験を促進できる人工知能システムの開発を進めています。

しかし、エンゲージメントは品質の尺度ではなく、ましてや真実の尺度でもありません。情報製品において、最も評価の高いバージョンやベストセラーのバージョンが、人々が最高と評価するバージョンと重なることは稀です。

過去1年間で学んだように、コンピューターは事実と虚構を区別するのがあまり得意ではありません。そして、以前から知られているように、人間はコンピューターシステムの弱点を悪用するのが得意です。

Googleの当初の検索アルゴリズムは、多くのウェブサイトが特定のウェブサイトにリンクしている場合、それは優れたウェブサイトであるという考えに基づいていました。実際、かなり長い間、それは真実でした。

しかし、リンクファーム、キーワードスタッフィング、そして検索エンジン最適化（SEO）業界の闇の術が登場しました。Googleはすぐに、最も悪質な違反者を嗅ぎ分け、最悪の違反者にペナルティを課すように検索レシピを変更する方法を学びました。そして現在では、検索結果の順位付けに数十ものシグナルを利用しています。

クマに餌を与えないでください

Facebook は現在、同様の問題を抱えている。

ロシアは過去1年間、Facebookのオープンな性質と巨大なリーチを悪用し、意図的に誤解を招く、あるいは扇動的なコンテンツをサイトに氾濫させることで、米国と欧州で混乱を招こうと試みてきました。その際、こうした投稿へのエンゲージメントを高めるために設計された荒らしやボットの軍団が加担しました。それほど悪質ではないものの、依然として危険なグループは、金銭目的のためだけに偽情報ビジネスに携わっています。Snopesの共同所有者兼オペレーション担当副社長であるヴィニー・グリーンは、GeekWire Summitで彼らを「プロフィットガンディスト（利己主義）」と呼びました。

Getty Imagesからの埋め込み

これらのウェブ企業がこうした取り組みから利益を得ていることに対してかなりの批判が寄せられているが、Apple CEO のティム・クック氏が述べたように、Facebook 上の広告は実際のところ問題ではない。

「より大きな問題は、こうしたツールの一部が人々を分断し、操作し、偽のニュースを広く人々に届け、人々の思考に影響を与えるために使われていることです」とクック氏は今週述べた。「そして、私にとってこれが10番目に重要な問題です。」

偽情報は古くからある戦術ですが、現代のソーシャルメディアのリーチ、スピード、そして粘着性によって、状況は一変しました。FacebookやTwitterは単なるグローバルな街の広場ではなく、グローバルな街の新聞であり、グローバルな街のゴシップ工場でもあります。サイト上の情報がどれも似たり寄ったりだと、読解力のある冷静な人でさえ、巧妙な偽情報に惑わされてしまう可能性があります。

これらのサイトが偽情報キャンペーンに利用されていたことは、約1年前から確実に分かっていました。しかし、迅速な対応と破壊的な行動で知られるこれらの企業は、根本的な問題への対処をほとんど行っていなかったようです。Twitterを例に挙げましょう。同社は、プラットフォームを乗っ取ろうとする大規模な組織的攻撃に対し、アルゴリズムに基づいて厳選されたフィードをユーザーに配信する取り組みを強化しました。これにより、ボットや荒らし行為を利用してフィードに偽ニュースを拡散する動機が高まりました。

Googleの状況は少し異なります。ニューヨーク・タイムズの記事は、Googleが競争力のあるソーシャルネットワークを構築できなかったという、よく知られた失敗が2017年には逆に利益につながったという内容で、最近よく聞くような悲しくも驚きの笑い方で私を笑わせてくれました。しかし、Googleは特定のトピックの検索結果の上位にフェイクニュースを表示することが多く、YouTubeには大量の偽情報やプロパガンダが溢れています。

ポッタリーバーンのルール

ワールドワイドウェブ上で情報ビジネスを展開する企業は、今後数年間の製品ロードマップを考えるにあたり、2つの同様に厄介な現実に直面しなければならない。1つ目は、彼ら自身が作り出したものではない。人間の本性として、利用可能なあらゆる手段を使って仲間の人間に苦痛を与える者がいる。公聴会では、ロシアの偽情報キャンペーンで実際に使用された画像の一部が示されたが、なぜそれが本物だと信じられるのか理解に苦しむものがあった。

しかし、2つ目は、ソーシャルメディア運営側は、有権者の心を動かすことを目的とした大規模なスパム行為を検出するためのより優れた方法を開発する必要があるということです。なぜなら、現在のツールではそれが十分に機能していないからです。

Google、Facebook、Twitter が、客観的な「真実」を決定するビジネスに携わるべきではないと主張するのは正しい。その理由は、その権限を企業に委ねることのほうが恐ろしいからというだけでなく、これらの企業の従業員があまりにも均質的であるため、数十億人のユーザーが直面している現実を理解できないからである。

https://twitter.com/noUpside/status/926251878022811648

しかし、彼らは厳しい選択に直面しています。これらの問題を取り締まるための技術的アプローチが大きな失敗を犯したことを認め、より多くの人間を投入するか、プラットフォーム上で意図的に偽情報を拡散する者を排除する技術的な方法を迅速に見つけるかです。Twitterの元エンジニアリングリーダーは、人工知能と人間の編集者を組み合わせるのが最善の策だと考えており、その第一歩としてTwitterモーメントを挙げています。

2018年の選挙サイクルは、アメリカ近代史において最も厳しい監視を受ける中間選挙の一つとなるでしょう。Facebook、Google、Twitterが本当に世界をより良い場所にしたいのであれば、今すぐこのことを理解し、医師なら誰もが知っている「まず第一に、害を与えないこと」という原則をテクノロジー版で実現する必要があります。

(編集者注: この投稿は、Snopes の Vinny Green の肩書きを修正するために更新されました。 )