マイクロソフトとOpenAIは、ロシアと中国のハッカーによるAIの利用を監視し、阻止していると述べている。
トッド・ビショップ著
国家と関係のあるオンライン攻撃者は、ChatGPT やその他の AI ツールが生産性の向上や作業の効率化および加速化に役立つことに気づいていますが、このテクノロジーの潜在能力をまだ十分に発揮できていません。
Microsoft と OpenAI は、そのような事態が起きないように最善を尽くしていると述べている。
これは、中国、ロシア、北朝鮮、イランと連携する国家レベルの攻撃者による大規模言語モデルの使用について詳述した、今朝各社が発表した新たな調査レポートの要点である。
「これらの攻撃者は一般的に、オープンソース情報のクエリ、翻訳、コーディングエラーの発見、基本的なコーディングタスクの実行にOpenAIのサービスを利用しようとしていた」とOpenAIは水曜日の朝の投稿で述べた。
サンフランシスコに本社を置く同社は、マイクロソフトと協力し、5つの州関連団体に関連するアカウントを特定し、削除したと発表した。
マイクロソフトは自社の投稿で、「国家関連の脅威アクターは、AIの活用によって生じた、特に斬新または独特なAIを活用した攻撃や悪用手法をまだ確認していない」と述べている。「しかしながら、マイクロソフトとパートナーは引き続きこの状況を綿密に調査していく」
マイクロソフトは、AI技術とAPIの悪意ある利用を阻止するためのいくつかの原則を発表しました。国家と関係のある脅威アクターのアカウントを検知・停止するだけでなく、他のサービスプロバイダーにも通知し、主要な関係者と協力し、調査結果に関する公開レポートを発行するとしています。
レドモンドのマイクロソフト社は、AIがオンライン攻撃の防御にどのように役立つかについても説明しました。現在顧客プレビュー段階にある同社のCopilot for Security製品は、「攻撃者が使用するスクリプトの特定、インシデントレポートの作成、適切な修復手順の特定といった一般的なタスクにおいて、セキュリティアナリストの専門知識レベルに関わらず、速度と精度が向上した」と述べています。
