このスタートアップはAIを活用して偽コンテンツをターゲットにし、著名人のデジタルIDを保護する方法
ボアズ・アシュケナージ著
ルーク・アリゴニは、AIがストーリーテリングや人々の世界との関わり方を変革する可能性に熱心に取り組んでいます。しかし、彼はAIの欠点も認識しています。そして、彼はAIを活用して、その最大の欠点の一つに対処しようとしています。
アリゴニ氏はシアトルを拠点とするスタートアップ企業LotiのCEOです。同社はAIを駆使し、著名人、アスリート、政治家といった著名人を含む顧客の偽画像や動画を検出・特定しています。そして、様々な手法を用いて、顧客に代わってインターネットから偽コンテンツを削除しています。
Shift AI Podcast のこのエピソードでは、Arrigoni 氏とホストの Boaz Ashkenazy 氏が、ストーリーテリングに対する AI の変革的影響、AI スタートアップ企業設立の課題、プロアクティブな評判管理の重要性、ディープフェイクや欺瞞的コンテンツの時代におけるデジタル ID の保護について話し合います。
以下をお聴きください。ハイライト部分は文脈と分かりやすさを考慮して編集されていますので、ぜひ読み進めてください。Shift AI Podcastに登録して、ShiftAIPodcast.comで他のエピソードもお聴きください。
政治におけるディープフェイク：「当社はどちらか一方に偏りたいとは思っていません。民主党や共和党を支援しようとしているわけではありません。有権者が誰を支持するかを決める手助けをしたいのです。偽のスピーチや支持表明に圧倒されることなく。プラットフォームに人々を呼び込むには正しい順序があり、政治について語る時、それがこれほど明確に示されたことはかつてないほどです。メッセージのバランスを正しく保ち、誰もがロティが特定の政治家ではなく選挙に注目しているように感じるようにしなければなりません。」
無許可コンテンツの削除：「長年、私たちは『一度インターネット上に投稿されたものは永遠にインターネット上に残る』と言ってきました。『削除』は存在せず、インターネット上には永遠に残る永久的な過ちがあるという考え方に、私たちは異議を唱えます。もし誰かがあなたの不適切な写真をアップロードしたとしても、私たちの技術を使えば見つけられることを証明しました。顔認識、音声認識、ディープフェイク検出、自動DMCA、削除ツールなどを活用しています。私たちの技術を使ってあなたを見つけ出し、インターネット上であなたの居場所を特定し、削除命令を出します。すべて自動で行われます。」
ネット上の著名人の保護：「現在、当社の主な顧客は著名人です。俳優、ミュージシャン、政治家、アスリートなど、第一線で活躍する方々です。こうした分野への需要が高まっているのは、世間に発信される情報が評判を落とす可能性があるためです。当社はロサンゼルスで最も高給取りの人材を数名代理しています。長年注目されてきた才能豊かな人材、それぞれの分野で頂点に立つ人材が、ディープフェイクを作られることを心配することなく、自分の技術を向上させることに集中したいと思っているのです。」
AIスタートアップの課題：「AI関連のプロジェクトは週末にできるものではありません。ネットワーク、エンジニアリング、稼働率のSLAなど、あらゆる制約があります。さらに、現在極めて制約が厳しいリソース、つまりコンピューティングリソースも存在します。コンピューティングリソースは安価ではありません。自分で購入するだけでも大変です。誰かからレンタルするとなると、たとえ世界中の資金を持っていたとしても、NVIDIAのバックオーダーに悩まされることになります。これは非常に興味深い問題であり、ここ数年の半導体不足によってさらに悪化しています。」
社内意思決定へのアプローチ：「私には本当に素晴らしいチームがいます。彼らなしでは、この仕事は不可能です。陳腐に聞こえるかもしれませんが、そこには多くの真実があります。私にとって、自分が間違っている点に耳を傾け、自分がすべきことについてチームの意見に耳を傾け、彼らの立場や立場を理解しようと努めることが、これまでの成功に繋がってきたと思います。必ずしも正しい判断をする必要はないのですが、正しい判断を下す必要があるのです。」
仕事の未来と社会の未来を2つの言葉で表すとしたら？：「慎重な楽観主義です。GenAIから生まれるあらゆるものを見るのが楽しみです。GenAIは人間の物語の伝え方を変革するでしょう。慎重なのは、私たち人類がそれをどのように消化し、どのように摂取するかということです。もしいつでもどこでもどんな物語でも作れるとしたら、現実とそうでないものをどうやって区別するのでしょうか？」
Loti CEO の Luke Arrigoni 氏による Shift AI の全エピソードをこちらで聞いてください。
