『ザックド』を超えて、著者ロジャー・マクナミーが最も懸念していることはテクノロジーの未来について
ロジャー・マクナミー氏はシリコンバレーのベテラン投資家であり、フェイスブックに最も早く投資した人物の一人であり、マーク・ザッカーバーグ氏が若きCEOだった頃にはアドバイスも提供していた。
長年フェイスブックのファンであるマクナミー氏は、2016年初頭に自分のフィードに表示される選挙に関する投稿を懸念するようになった。彼の懸念はすぐに、偽情報の拡散におけるフェイスブックの役割とその結果についての独自の調査へと発展し、その調査結果は彼の最新著書『Zucked: Waking Up to the Facebook Catastrophe』で紹介されており、私たちも先週レビューした。
彼によれば、これまでのところ彼の本の反響は「素晴らしい」とのことで、1週間後にはニューヨークタイムズのハードカバーノンフィクションベストセラーリストに載ったそうです。
「これはまさにその時が来た問題です」とマクナミー氏は述べた。「 Zuckedに対する反応をめぐる証拠は、世間に多くの懸念があり、問題の原因が何なのかについて多くの不確実性があることを裏付けています。」
以下、マクナミー氏がこの本に書かれた他のいくつかの大きな構想について私たちとさらに詳しく話します。
より大きな公共の利益に対するテクノロジー企業の力と責任という大きな問題については…
これはFacebookやマーク・ザッカーバーグの話ではありません。FacebookやGoogleの話ですらありません。実のところ、これは20年近くにわたり、イノベーションと破壊を自由に起こす権限を与えられてきたシリコンバレーの文化の話なのです。
彼らはそれを非常に成功させたため、それが世界的な影響を及ぼし始め、今では変化を必要とする予期せぬ結果が生じています。
FacebookとGoogleは、人類史上最も優れたスタートアップ企業の一つです。両社には称賛すべき点が多く、多くの良い成果を生み出してきました。しかし、シリコンバレーの文化と、両社を成長に導いたビジネスモデルが相まって、彼らは予想外の政治的権力を蓄積してしまいました。しかし、その権力は現在、規制も説明責任も果たされていません。そのため、両社の経営者にとって、政治問題とビジネス問題を区別することは非常に困難になっています。
ところで、私もその気持ちには共感します。こういうビジネスを運営するのは本当に大変です。私たちが愛するものが予期せぬ結果をもたらすような状況に陥っています。何かを諦めなければなりません。私の役割は、この議論を促進することです。答えは持っていません。むしろ、疑問を抱いているだけです。
Facebook が行動に及ぼす影響について
いいえ、それはあなたの注意を操作するためのものです。リアルタイムのフィードバックループがあれば、何ができるでしょうか？まず、通知や「いいね！」ボタンなどを使って、誰もが持つ報酬への本能的な欲求に訴えかけ、戻ってきてもらうのです。サイトに長く滞在してもらいたいなら、恐怖や怒りといった爬虫類脳的な感情に訴えかけるのが理にかなっています。
問題は、高度にパーソナライズされた体験に顧客を戻らせると、ビジネスには良い習慣が形成される一方で、多くの場合、それが行動依存症に変わり、外部の誰かによって操作されてしまうことです。外部から広告ツールを使って社会的責任を果たさないことをさせようとする人々による操作を考えてみてください。
明らかに、これらのプラットフォームはどれも意図的にそのような状況を作り出すことを目指していませんでした。これらの企業の創業者にとって、ここで困難だったことの一つは、人々が彼らの意図とは異なる方法で製品を使用することだったと思います。なぜ彼らは誰かが選挙を操作しようとしていると考えるのでしょうか？なぜ誰かがそんなことをするのでしょうか？それは分かります。
Amazon やその他のスマートホーム デバイスに関するデータとプライバシーの懸念について…
Alexaベースの製品について考えてみましょう。Amazon EchoのAlexaやGoogle Homeを音声制御として利用するIoTデバイスには、3つのレベルの懸念があります。1つ目は、常に聞き耳を立てているデバイスを、警戒心が薄れ、聞き耳を立てられることに不快感を覚えるような状況に置くことになるということです。
Amazonは「ヘイ、アレクサ」と言わなければ録音しないという約束をそのまま信じていますが、この分野の課題は、Amazon以外にも多くの企業が同じ方式を採用していることだと指摘します。データが収集されると、新たなユースケースが生まれ、A地点で約束したことがC地点で忘れられてしまう、といった問題が常に存在します。
Amazonは今のところ誠実だと思いますが、もしビジネスユースケースでより多くの情報を記録したり保持したりすることが魅力的になったとしても、私たちがそれをリアルタイムで耳にすることはないかもしれません。Amazonが悪いのではなく、ただそれを重要視していないだけなのです。
第二に、そのハードウェアはすべて、我が国の諜報機関が潜在的に敵対的であると指摘している中国企業によって製造されている。
そして3つ目に、これらはすべてAndroidベースで、比較的ハッキングされやすいです。先週、Nestホームセキュリティシステムがハッキングされたのをご存知でしたか？市場に出るすべての製品において、どのような動作が適切で、どのような制限を設けられるのかという基準は存在しません。そうなる前に、しっかりと議論を重ねていく必要があります。
AIによる支配について…
AIさん、あなたは別の問題を抱えていますね。上位3つのユースケースは何でしょうか？上位3つは、ホワイトカラーの仕事をなくすこと、フィルターバブルで人々に何を考えさせるかを伝えること、そしてレコメンデーションエンジンで何を買うか、何を楽しむかを伝えることだと思います。
これら 3 つはすべて誰かへのサービスであると想像できますが、それらのことによって損害を受ける可能性のある非常に重要なグループも想像できます。
私たちと私たちの違いは何でしょうか？私たちは異なる種類の仕事をしています。異なる信念を持ち、異なるものを楽しんでいるかもしれません。AIの最適な活用法は、私たちの仕事、考え方、そして好きなものを置き換えることでしょうか？
私も他の人と同じように便利さが好きです。スティーブ・ジョブズはよく、テクノロジーを使って人々を力づける、つまり「心のための自転車」について語っていました。でも、それは私たちを力づけるようなユースケースには思えません。
テクノロジー企業への規制強化について…
企業は賢明な行動を取り、行動を認めるべきです。規制は鈍い手段です。特にGoogleは欧州の動向を読み間違えました。検索サービスでのデータ利用をやめるよう丁寧に求められたにもかかわらず、「気にしない」と答え、史上最高額となる50億ドルの独占禁止法違反の罰金を科せられました。
基本的なメッセージは、人々があなたの行動が不適切だと判断したら、最初の提案を受け入れるべきだということです。彼らの立場からすれば、最初はあなたの行動を変えさせようと全力を尽くし、親切にさせようとしますが、その後、さらに大きな圧力をかけてくるでしょう。ヨーロッパでは、Googleはこれを理解していません。
90年代半ば、司法省が反トラスト法訴訟でマイクロソフトに接触した時のことを彷彿とさせます。最初の問い合わせにインテルが含まれていたことを覚えている人は誰もいません。インテルは「何でもやります」と答えました。マイクロソフトはあらゆる手段を講じて抵抗し、かなりの打撃を受けます。これが現実です。少なくとも今のところ、彼らは歴史の教訓を学んでいないようです。
テクノロジーによるビジネスの未来について…
私は基本的にテクノロジー楽観主義者です。AIは21世紀にこそ必要だと信じていますが、ルールとは何かを理解する必要があります。
なぜ企業は未成年者のデータを収集することが許されているのでしょうか？クレジットカード取引のデータを販売することは許されているのでしょうか？携帯電話会社の位置情報データは何に使われているのでしょうか？それを販売することは許されているのでしょうか？
この全体における私の役割、そして私はキャリアを通じてこの仕事に携わってきましたが、これは50年間うまく機能してきた文化哲学を持つ人々のことではありません。世紀の変わり目以降、基盤となる技術に対する制約が突然なくなったことで、大きな変化が起こりました。帯域幅、メモリ、ストレージが十分に確保され、やりたいことは何でもできるようになりました。突如として、これまで不可能だったグローバルなビジネスモデルを構築できるようになったのです。
長きにわたる自由放任主義の時代が続き、彼らはやりたい放題でした。この道を歩み続けるのは理にかなっていないと思います。私たちはデータ、マーケティング、広告という従来のモデルを採用してきました。顧客からデータを収集し、製品やサービスを改善するという、古いモデルです。そして今、私たちはそれを監視ベースのものに転換しました。これは、製品やサービスを改善するためというより、むしろ、自分たちにとってメリットのない新しい製品やサービスを生み出すためにデータを収集する、という目的がほとんどです。
ロジャー・マクナミー著『Zucked: Waking Up to the Facebook Catastrophe』が発売されました。マクナミー氏は3月30日にシアトルのタウンホールで講演します。
