AI時代のサイバーセキュリティ：Amazon最高セキュリティ責任者スティーブ・シュミット氏との対話
トッド・ビショップ著
今週の GeekWire ポッドキャスト:シアトルのクラウド大手にとって、それぞれにまったく異なる形ではあったものの、サイバーセキュリティにとって重要な 1 週間でした。
マイクロソフト社長のブラッド・スミス氏はワシントン DC を訪れ、米国下院国土安全保障委員会でマイクロソフトのセキュリティ上の課題について証言しました。番組の最後にハイライトをお伝えしますので、どうぞお楽しみに。
Amazonはフィラデルフィアで毎年恒例のクラウドセキュリティカンファレンス「AWS re:Inforce」を開催しました。ジェネレーティブAIはサイバーセキュリティに大きな新たな潮流をもたらしており、今週のAWSイベントで基調講演を行ったAmazonの最高セキュリティ責任者、スティーブ・シュミット氏との最近の会話でも、この点が主要な話題の一つでした。
以下を聞いて、文脈と明瞭さを考慮して編集されたハイライトを読み続けてください。
Apple Podcasts、Spotify、またはお好きな場所でGeekWireを購読してください。
生成AIがセキュリティ環境をどのように変えているのか：「生成AIは、確かに攻撃者がいくつかの分野でより効果的に攻撃することを可能にします。例えば、より効果的なフィッシングメールを作成したり、リンクをクリックさせるような誘導文を作成したりといったことが可能になります。これは攻撃者の能力を大幅に向上させるのは間違いありません。」
「しかし、生成AIは防御側にもメリットをもたらします。生成AIを活用することで、セキュリティエンジニアリングスタッフの効率性が向上します。これまでエンジニアが担っていた、差別化を伴わない重労働の多くをエンジニアから解放し、人間が最も得意とする、曖昧なグレーゾーンに着目し、一見意味不明な小さな断片をふるいにかけ、それらをパズルのように組み合わせることで、『なるほど。これで何が起こっているのか分かった』と思わせるような作業をエンジニアに任せることができるのです。」
「多くの場合、私たちがセキュリティ業務にジェネレーティブAIを適用すると、結果としてセキュリティエンジニアの満足度が向上します。なぜなら、彼らは退屈で面倒な作業には乗りたくないからです。彼らは頭を使いたいのです。自分たちが取り組んでいる作業の興味深い側面、つまりジェネレーティブAIでは現時点ではできないことについて考えたいのです。」
セキュリティ分野における生成AIのユースケースの一つ：「簡単な例としては、非常に複雑な事象を平易な言葉で要約することです。私がここで担っているセキュリティ関連の仕事を考えてみると、その多くは、ごくわずかな技術データを集めて、何が起こっているのかを物語としてまとめ上げることです。
ストーリーを作成し、その情報を取得して経営者に伝えることは、すべてのセキュリティ専門家が行うべきことです。これは間違いなく私たちの仕事の中で最も難しい部分の一つです。非常に複雑で技術的、そして微妙なニュアンスを持つ情報を、最高財務責任者（CFO）や最高経営責任者（CEO）が理解できる言葉で伝えるのです。生成AIは、この分野で非常に有用であることが実際に証明されています。
生成 AI を安全に導入するために企業が自問すべき 3 つの重要な質問:
- データはどこにありますか？「ビジネスチームは、トレーニング、モデルの構築とカスタマイズ、あるいはモデルを使用する際のクエリ処理のために、LLMにデータを送信しています。そのワークフロー全体を通して、データはどのように処理されているのでしょうか？どのように保護されているのでしょうか？これらを理解することは非常に重要です。」
- クエリと関連データはどうなるのでしょうか？「ユーザーが生成AIやLLMを活用し始める際に、考慮すべき機密データセットはトレーニングデータだけではありません。ユーザーがAIアプリケーションにクエリを実行した場合、そのクエリの出力とその結果に対するユーザーの反応は、モデルのさらなるトレーニングに使用されますか？ユーザーがクエリの一部として送信したファイルはどうなりますか？」
- これらのモデルの出力は十分に正確でしょうか？「これらのモデルの出力の品質は着実に向上しています。セキュリティチームは、課題に対処するためのツールの一つとして生成AIを活用できます。セキュリティの観点から言えば、相対的なリスクを定義するのは、まさにユースケースなのです。」
シュミット氏のFBIでの過去の経験が、彼のアプローチにどう影響を与えているか。「FBIでの経験から最も学んだのは、不利な行動の背後にいる人物に焦点を当てたことです。例えば、私のキャリアの大部分は、ロシアと中国の防諜活動に焦点を当てていました。古典的なスパイ活動の動機を見てみると、それはまさに今のハッカーの動機と同じです。それは金銭、イデオロギー、強制、あるいはエゴです。」
救急救命士と消防士としてのボランティア活動から彼が得るもの：「人間はフィードバックを渇望します。成功を実感したい、自分の行動が重要だと実感したいのです。しかし、コンピューターの世界では、私たちが扱うものの多くは仮想的なものです。そのため、自分の行動の結果を見るのは非常に困難です。私のように何億台もの機械を見ている分野では、個人の行動がどのような影響を与えているかを目に見える形で確認するのも非常に困難です。」
ボランティア消防士、そして高度救急救命士として働くということは、自分の仕事をきちんとこなすことで、目に見える、触れることのできる一人ひとりの人間がより良い一日を過ごせるようにするということです。そして、コンピューターからは得られない、生身の人間からのフィードバックを得られるのです。それは信じられないほどの満足感を与えてくれます。一人の人間として、私はこの活動に個人的に価値をもたらしていると自覚しています。人生最悪の日だったかもしれない状況にある人を助け、より良い一日にしてあげられるのです。
上記の会話の全文を聞くか、Apple Podcasts、Spotify、またはお好きな場所で GeekWire Podcast を購読してください。
オーディオ編集はCurt Miltonが担当しました。
