Facebook の幹部は、サイトの分裂を減らすための努力を打ち切りました

このプレゼンテーションは、Facebook の創業以来の疑問の核心に迫るものでした。

Facebook は、そのプラットフォームがユーザーの行動をどのように形成するか、また、会社が潜在的な害にどのように対処するかを理解するための内部努力を開始しました。

広告

しかし、最終的にFacebookの関心は一時的なものでした。

変更案の審査で中心的な役割を果たした Facebook のポリシーチーフ Joel Kaplan 氏は、当時、プラットフォーム上の会話をより市民的にするための努力は「父性的」であると主張していたと、同氏の発言を知る人は語っています。

Facebook CEOのマーク・ザッカーバーグ氏(右)とFacebookポリシーチーフのジョエル・カプラン氏(2018年)。

Facebook CEOのマーク・ザッカーバーグ氏(右)とFacebookポリシーチーフのジョエル・カプラン氏(2018年)

Photo: Christophe Morin/Bloomberg News

もう1つの懸念は、彼らや他の人々は、いくつかの提案された変更が、右派からの政治的偏向の非難に直面している時に、保守的なユーザーやパブリッシャーに不均衡な影響を与えるだろうということだと言いました。

Facebookはこの取り組みについてほとんど詳細を明らかにしておらず、その結果についてもほとんど明らかにしていません。

広告

要するに、Facebookは世界をより分断させていると非難されているのです。 自社の専門家の多くは、フェイスブックが多くの問題を軽減できると考え、同意しているように見えました。

Kaplan氏は最近のインタビューで、市民の議論を改善するための特定の変更を、自分と他の幹部が承認したと述べました。

社内的には、この審査プロセスは「Eat Your Veggies」というニックネームで呼ばれています。

ソーシャルメディアが誕生する前から、アメリカ人は社会の基本的な問題についてバラバラになっていたことが、Pew Research Centerの数十年にわたる調査で明らかになりました。

広告

フェイスブックでは、「2016年以降、『困ったな、私たちが本当に世界をめちゃくちゃにしてしまったらどうしよう』と真剣に考える、魂の探求の時期がありました。 “

パリサー氏によると、それが変わり始めたのは、政治分析のスタートアップであるケンブリッジ・アナリティカが数千万人のFacebookデータを不適切に入手したことを公表してFacebookが話題になった2018年3月以降だという。 このシフトはその後、勢いを増しているという。 “社内の振り子は、『何をやってもメディアに嫌われるから、いっそのことバトンタッチしてしまおう』という方向に激しく振れました」。 “

ザッカーバーグ氏は1月、会社がどれほど大きく動いたかを示すために、「ソーシャルメディア上で形成される新しいタイプのコミュニティが私たちを分断していると言う人たちに立ち向かう」と述べました。

ザッカーバーグ氏は、たとえ不快なコンテンツであっても、ソーシャルメディアは言論の自由を守る役割を果たしていると主張しています。

広告

「Integrity Teams」

Facebookは、「世界をつなぐ」というミッションが社会にとって良いことなのかどうか悩んでいた時に、分裂的なコンテンツと行動に関する調査を開始しました。

このプロジェクトでは、「ユーザーエンゲージメント」の優先順位を検討する必要がありました。この指標は、滞在時間、「いいね!」、シェア、コメントなどを含むもので、長年にわたってFacebookのシステムの柱となっていました。

2017年に行われた下院情報委員会の公聴会で、ソーシャルメディアの投稿を表示しているディスプレイ。

2017年に行われた下院情報委員会の公聴会で、ソーシャルメディアの投稿を表示するディスプレイ。

Photo: Andrew Harrer/Bloomberg News

チームが2017年に作成する前から、Facebookの研究者はトラブルの兆候を見つけていました。 著者としてフェイスブックの研究者で社会学者のモニカ・リーの名前を挙げた2016年の発表では、プラットフォーム上のドイツの大規模な政治グループの3分の1以上で過激なコンテンツが盛んになっていることがわかりました。 人種差別的、陰謀論的、親ロシア的なコンテンツが氾濫しており、これらのグループは一部の過激なユーザーの影響を不均衡に受けていた、と発表されています。

過激派グループの数が多いことは気になります。 さらに悪いことに、フェイスブックのアルゴリズムが彼らの成長に責任があると気づいたのです。 2016年のプレゼンテーションでは、「すべての過激派グループの参加の64%は、当社の推奨ツールによるものです」とし、その活動のほとんどは、プラットフォームの「あなたが参加すべきグループ」と「発見」アルゴリズムから来ているとしています:「当社の推奨システムが問題を大きくしています」

フェイスブックに残っているリー氏は、問い合わせに答えていません。 フェイスブックは、プレゼンテーションで問題にどのように対処したかについての質問には答えていませんが、他の従業員は、ドイツやグループス製品に特有の問題ではないと述べています。 ザッカーバーグ氏は、2月に開催された国際セキュリティ会議でのプレゼンテーションで、同社のルールに違反したり、偏向的なグループを推奨しないようにしていると述べています。

「2016年から多くのことを学び、今の会社とは違う」とFacebookの広報担当者は述べています。 “堅牢なインテグリティチームを構築し、有害なコンテンツを制限するためのポリシーとプラクティスを強化し、調査によってプラットフォームが社会に与える影響を理解し、改善を続けています。”

「Common Ground」チームは、偏向問題に直接取り組もうとしたと、チーム関係者は語っています。 このチームに参加したデータサイエンティストたちは、いくつかの利益団体(多くの場合、明確なイデオロギーの整合性がない趣味ベースのグループ)が、異なる背景を持つ人々を建設的に結び付けていることを発見しました。

Share Your Thoughts

Facebook やその他のソーシャルメディアの大手企業は、ユーザー間の偏向を減らすために何をすべきでしょうか。

Facebook の中立性へのコミットメントに従い、チームは、Facebook が人々の意見を取り締まったり、プラットフォーム上の対立を止めたり、人々がコミュニティを形成するのを妨げたりすべきではないと決定しました。

「私たちは、人々の信念を変えようとする製品を作るつもりはないことを明確にしています」と、2018年のある文書に書かれています。 “

「私たちは、人々の信念を変えようとする製品を作るつもりはありません。 “

話題の問題

チームに詳しい人や内部文書によると、話題の問題で脱線したグループの会話を救い出そうとする提案がありました。

もう 1 つのアイデアは、推薦アルゴリズムを微調整して、通常人々が遭遇するよりも幅広い Facebook グループを提案するというものでした(文書)。

これらの機能を構築し、偏向に対抗することは、エンゲージメントの低下という代償を払うことになるかもしれないと、Common Groundチームは2018年半ばの文書で警告しています。自分たちの提案の一部を「反成長」と表現し、Facebookに「道徳的なスタンスを取る」ことを求めています。 これは、2016年の大統領選挙後、同社が論争に明け暮れる中で難しくなっていました。

「人々は私たちを信頼していません」と、2018年夏に作成されたプレゼンテーションに書かれていました。

Chris Cox(前Facebook最高製品責任者)2018年の様子

Chris Cox(前Facebook最高製品責任者)2018年の様子。

Photo: stephen lam/Reuters

フェイスブックのインテグリティチームに所属するエンジニアやデータサイエンティスト、中でもユーザーがフェイスブックにアクセスした際に表示される投稿や写真のストリームであるニュースフィードを担当したサイエンティストは、チームに詳しい人によると、間接的に偏向問題にたどり着いたとのことです。 フェイクニュース、スパム、クリックベイト、認証されていないユーザーに対抗することを求められた彼らは、これらの問題の影響力を弱める方法を模索しました。 初期の発見のひとつは

米国では、極右のアカウントとパブリッシャーのインフラが極左よりも大きいことがわかりました。 これは、外部の研究者も同じ現象を記録していました。

このギャップは、「You Won’t Believe What Happened Next」のようなクリックベイトの見出しの拡散を抑えるといった、一見政治的ではない行動であっても、全体としてはリベラルなコンテンツよりも保守的な言論に影響を与えることを意味していました。 ジョージ・W・ブッシュ大統領の副参謀だったKaplan氏は、2016年にFacebookが保守系のニュース記事を抑制していたという疑惑が浮上してから、コンテンツランキングの決定に深く関わるようになりました。 内部調査の結果、偏見の主張は立証されませんでしたが、保守派の間でのフェイスブックの評判は悪化していました。

2018年、議会の公聴会のためにキャピトル・ヒルを訪れたザッカーバーグ氏

2018年、議会の公聴会のためにキャピトル・ヒルを訪れたザッカーバーグ氏

Photo: Erin Scott/Zuma Press

重要な新しいインテグリティランキングの取り組みは、エンジニアリングマネージャーだけでなく、パブリックポリシー、法務、マーケティング、広報の各部門の代表者にも承認を求めなければなりませんでした。

「Eat Your Veggies」プロセスの立ち上げに携わった元FacebookプロダクトマーケティングディレクターのLindsey Shepard氏によると、このプロセスは、熱狂的なエンジニアが政治的な影響をプラットフォームに与えてしまうのではないかという、合理的な懸念から生まれたものだといいます。 ミーティングは、それを抑制するのに役立ちました。 “

プロジェクトの失敗

カプラン氏のチームやFacebookのコミュニケーション部門からの不承認により、プロジェクトが失敗に終わる可能性があると、この取り組みに詳しい人々は言います。 政策チームからの否定的な評価により、超偏向コンテンツの分類システムを構築する取り組みは頓挫しました。 同様に、「Eat Your Veggies」プロセスでは、他のトピックよりも政治に関するクリックベイトを抑制する取り組みが停止しました。 コックス氏は2017年1月、Netflix Inc.のレコメンデーションシステムの元責任者であるカルロス・ゴメス・ウリベ氏をニュースフィード・インテグリティ・チームのリーダーに招聘した。

Facebookのエンゲージメントベースの指標では、1,500件のコンテンツに「いいね!」、「シェア」、「コメント」をしたユーザーは、わずか15件の投稿に反応したユーザーよりも、プラットフォームとそのアルゴリズムに大きな影響力を持ち、「スーパーシェアラー」がアクティブでないユーザーをかき消すことができます。 積極的に関与しているアカウントは、通常のFacebookユーザーよりもはるかに党派性が高く、疑わしい行動をとる傾向があり、1日に20時間もプラットフォームに現れたり、スパムのような行動をとることもありました。

ウリベ氏のチームが提唱した「Sparing Sharing」という提案は、関係者によると、多動なユーザーが偏って好むコンテンツの拡散を抑えるものだそうです。 その効果は、極右や極左のユーザーが好むコンテンツに最も強く現れるでしょう。 中道のユーザーは影響力を増すでしょう。

2018年、上院情報委員会の公聴会に出席したFacebook COOのシェリル・サンドバーグ。

2018年、上院情報委員会の公聴会に出席したFacebook COOのシェリル・サンドバーグ。

Photo: jim lo scalzo/EPA/

ウリベ氏はそれを「幸せな顔」と呼んでいた、と何人かの人が言っていました。

カプラン氏をはじめとするフェイスブックの上級幹部は、仮想のガールスカウト部隊に害を与えるかもしれないという理由で反発したと、同氏の発言を知る関係者は語っています。 カプラン氏は、少女たちがクッキーを宣伝するためにFacebookのスーパーシェアラーになったとしたらどうか、と質問しました。

Kaplan氏は最近のインタビューで、ガールスカウトの例を挙げたことは覚えていないが、たまたま熱狂的なファンを持っていたパブリッシャーへの影響を懸念していたと述べています。

この議論はザッカーバーグ氏に持ち越され、ザッカーバーグ氏は短い会議で双方の意見を聞きました。 ザッカーバーグ氏はこう答えました。

その結果、ザッカーバーグ氏は、短い会議で双方の意見を聞き、人々に説明しました。

ウリベ氏は1年以内にフェイスブックとテクノロジー業界を去りました。 彼は、フェイスブックでの仕事について詳しく語ることは避けましたが、「Sparing Sharing」の提案を支持していることを確認しました。 ウリベ氏によると、フェイスブックを辞めた理由は、フェイスブックの幹部が、誠実さの変化がアメリカの政治にどのような影響を与えるかに焦点を絞っていることに不満を感じたからだそうです。 彼のような提案は、アメリカでは保守派に不均衡な影響を与えているが、他の国では逆だという。

From the Archives

ジョージタウン大学でのスピーチで、マーク・ザッカーバーグは、Facebookが言論の自由へのコミットメントを維持しながら、政治的な広告を出すことができる人のコントロールを強化する方法について述べました。 ビデオ Facebook / photo: NICK WASS/ASSOCIATED PRESS (Originally published Oct. 17, 2019) The Wall Street Journal Interactive Edition

他のプロジェクトもSparing Sharingの運命に会いました:殺されるのではなく、弱められました。 部分的な勝利としては、パルチザンだけでなく幅広いユーザー層からのエンゲージメントを集めるニュースストーリーを促進する取り組みや、虚偽のニュースを繰り返しシェアしたり、ユーザーをアドチョークページに誘導したりしたパブリッシャーに対するペナルティなどがありました。

この綱引きは、ケンブリッジ・アナリティカのスキャンダルをめぐる騒動の拡大によって一部解決しました。 2018年9月に行われたフェイスブックのニュースフィードチームの再編成では、マネージャーが従業員に対して、会社の優先順位が「社会的利益から個人の価値へ」とシフトしていることを伝えたと、この議論に出席した人々は述べています。 ユーザーが自分の気に入らないグループに関する敵対的なコンテンツを日常的に閲覧したり投稿したりしたいと思っても、そのコンテンツが会社のルールに特に違反していなければ、フェイスブックはそれを抑制しないだろう。

カリフォルニア州メンロパークにあるフェイスブック本社。

カリフォルニア州メンローパークにあるFacebook本社。

Photo: john g. mabanglo/EPA/

コックス氏は、Facebookが暗号化されたプライベートなメッセージングに移行したことに関して意見の相違があり、数ヵ月後に会社を去りました。

コモン グラウンド チームは解散しました。

ザッカーバーグ氏は2019年に、Facebookは特定の基準に違反したコンテンツを削除するが、明らかに基準に違反していない素材の取り締まりについては、可能な限り手を加えないアプローチをとると発表しました。

「寛容さをトップダウンで押し付けることはできません」と、10月にジョージタウン大学で行った講演で述べました。 “寛容さは、人々が心を開き、経験を共有し、自分もその一員であると感じられるような社会のための共有のストーリーを構築することから生まれるものです。

Write to Jeff Horwitz at [email protected] and Deepa Seetharaman at [email protected]

コメントする

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です