サイバーストーカー被害に遭った経験を持つテック創業者が、ディープフェイクコンテンツと戦うスタートアップを立ち上げた
リサ・スティフラー著
1月、テイラー・スウィフトのポルノディープフェイク画像が、Xなどのソーシャルメディアプラットフォーム上で数百万人に閲覧されましたが、その後、サイト側は対策を講じました。人工知能（AI）ツールを用いてスウィフトの生々しく、時に暴力的な画像を作成したとして、身元が特定され、起訴された人物はいません。テクノロジー業界からの反応は限られています。
メリッサ・ハッチンズにとって、このエピソードは残念なものではあったが、驚くことではなかった。
調査によると、こうした搾取の被害者は圧倒的に女性と少女が多い。しかし、悪意のあるディープフェイクの阻止への注目は、政治候補者や政治問題に集中しているとハッチンズ氏は指摘する。これは非常に重要ではあるものの、この技術の被害者の大多数を見落としている。
そこでハッチンズ氏は、ディープフェイクの悪質な行為者の標的となった少女や女性を特定し、被害を軽減する技術を開発しているシアトルのスタートアップ企業、Certifi AIを設立した。
彼女の動機は個人的なものだ。
5年前、ルームメイトの夫が彼女に迷惑で不適切なテキストメッセージを送り始めました。事態はエスカレートし、ハッチンズさんは家を出て接近禁止命令を受けました。男のサイバーストーカー行為は激化し、ハッチンズさんが法的措置を取ろうとするにつれ、男は攻撃範囲を拡大し、ハッチンズさんの身近な人々や事件を担当する法執行機関に、暴力や殺害を脅迫するメッセージを数千件も送りつけました。サイバーセキュリティコンサルタントである男は、自分の行動を隠そうとしました。
「活動を止める方法がほとんどない場合、治癒のプロセスは困難になります。」
– メリッサ・ハッチンズ、Certifi AI CEO兼共同創設者
先月、彼はサイバーストーカー行為で有罪判決を受け、判決を待っている。この罪は最長5年の懲役刑に処せられる可能性がある。
ハッチンズさんは、この経験で自分が「無力」だと感じたと語った。
「こうした憎悪と悪意に満ちたキャンペーンの背後にいる人物は、大抵の場合、自らの目的に非常に熱心で、被害者を辱め、権力を行使することに専心しています」とハッチンズ氏は述べた。「こうした活動を止める方法がほとんどない場合、回復のプロセスは困難を極めます。」
被害者が利用できる法的手段は限られている。ワシントン州議会は今年、児童ポルノ規制を拡大し、未成年者を巻き込んだディープフェイク画像の作成、所持、共有を犯罪とする法案を可決した。クロスカットによると、少なくとも10州が同様の法案を可決している。
ハッチンズ氏は、こうしたディープフェイクの悪用に対処するのに役立つ技術を提供したいと考えています。Certifi AIは、ディープフェイク画像や動画を識別するモデルをトレーニングし、法執行機関や刑事訴追のためのツールを開発しています。また、メディアプラットフォームが不適切かつ違法なディープフェイクコンテンツを迅速に認識・削除できるように支援しています。
ハッチンズ氏は、最終的には、標的となっている少女や女性たちにこのツールを提供し、彼女たちが自分自身と自分の身元を守れるようにしたいと考えている。
このスタートアップは2023年8月に設立されました。Certifi AIのCEO兼共同創業者であるハッチンズ氏は、同社を自力で立ち上げ、現在は同社唯一のフルタイム従業員です。彼女は以前、ディズニー・カンパニーとエクスペディアでプロダクトマネジメントを務めていました。
他の2人の共同創業者は最高技術責任者（CTO）とリードデータアーキテクトで、どちらも9時から5時までの勤務です。ハッチンズ氏は、2人をフルタイムで雇用するために資金調達に取り組んでいます。Certifi AIは、今年後半に最初の製品をリリースする予定です。
ディープフェイク分野で活動している組織は他にもあり、その中にはシアトルを拠点とする非営利団体TrueMediaも含まれる。TrueMediaは、ワシントン大学教授でアレンAI研究所の元CEOであるオーレン・エツィオーニ氏が率いる、政治的な偽情報に焦点を当てた活動だ。ハッチンズ氏はエツィオーニ氏と話し合い、意義のある分野で他の組織と協力することに意欲的だ。
ハッチンズ氏は、この問題に関する自身の経験が、この問題に対する貴重で独自の洞察をもたらしていると述べた。彼女は、攻撃の主な標的となっている女性たちを鑑みて、この分野でより多くの女性が主導権を握り、活動を立ち上げることを望んでいる。
「この業界の他のCEOや競合他社は、このような問題のある分野で女性であることの辛さだけでなく、法的保護を求めるシステムや、乗り越えなければならない様々な困難をすべて知ることがどんなことなのかを決して理解できないだろう」とハッチンズ氏は語った。
