生成AIが都市にもたらすもの：自治体のテクノロジーリーダーは、職場や政策における特有の課題に直面している
トッド・ビショップ著
職場での生成 AI の使用がまだ十分に複雑でないと思われる場合は、大都市やその他の政府機関にとってそれが何を意味するかを考えてみましょう。
アルゴリズムの偏りや知的財産の帰属など、一般的な AI の問題の影響は公共部門では拡大され、公的記録の保存や作成などの特有の課題によってさらに複雑になります。
シアトル市の暫定最高技術責任者であるジム・ロター氏は、同市初の生成型 AI 政策をこの春チームとともに作成する中で、こうした問題に取り組みました。
ロター氏は最近、オハイオ州コロンバスで開催された全米市長会議の年次総会でこのテーマについて講演した。シアトル市長のブルース・ハレル氏は、同会議の技術・イノベーション委員会の委員長を務めている。
まず、シアトル市の方針では、市職員が業務の一環として生成AIを使用する前に、シアトル市の情報技術部門の許可を得ることを義務付けています。市はこれを「あらゆる新規または非標準技術」に対する標準的な運用慣行としています。
公的記録は検討事項の重要な部分となります。
「特定のソフトウェアツールの使用を開始したいと相談に来る市職員と最もよく交わされる会話の一つは、『このツールを使って作成する記録の管理戦略はどのようなものですか？ また、情報公開担当者が要求に応じて記録にアクセスできるようにするにはどうすればいいですか？』というものです」と、ロター氏はGeekWire Podcastの新エピソードで語っています。
これは仮説的な検討ではないと彼は説明し、市職員がChatGPTとやり取りしたあらゆる使用状況について市がすでに公開記録の要求を受けていると指摘した。
市職員はどのようなAIの活用を検討しているのでしょうか？ロター氏がポッドキャストで挙げた例をいくつかご紹介します。
- 市の通信の最初の草稿。
- 文書およびレポートの分析。
- 国民のための言語翻訳。
ロター氏が全米市長会議で行ったプレゼンテーションで述べられているように、生成型AIは自治体にとって多くの新たなリスクと懸念を引き起こします。このリストは彼のプレゼンテーションからの抜粋です。
- モデルのソースデータに関する透明性の欠如
- アルゴリズムの透明性も依然として問題である
- 知的財産権侵害に対する責任
- 出力の正確性を評価するのが難しい
- ソースデータとアルゴリズムの偏りは、出力に影響を与えたり歪めたり、既存の偏見を具体化したりする可能性があります。
- 悪意のある人物が、誤った情報やプロパガンダなどでデータ ソースを「汚染」する可能性があります。
- 安全とセキュリティに対する新たな脅威（偽の声、偽のビデオ）
- AI技術の所有権と管理の統合
「これらの生成AIツールを見ると、信頼、コミュニティ、そして透明性が本当に欠如していることがわかります」とロター氏はポッドキャストで述べた。「データ層への洞察も、アプリケーションの基盤層への洞察もありません。製品層にアクセスできず、どのように実装されているのかも理解できません。また、これらのツールの開発や検証に関与する、信頼できるコミュニティも存在しません。」
彼は続けて、「新たなカテゴリーリスクをもたらすわけではないかもしれない。しかし、第三者や外部の情報源からコンテンツを入手する場合に既に存在するリスクのレベルがさらに高まることになる」と述べた。
都市は生成型AIに責任を持ってどのようにアプローチできるでしょうか？ロター氏のプレゼンテーションの要約をご紹介します。
生成されたコンテンツのレビューに責任を求める
- 著作権/知的財産
- 真実/ファクトチェック
- 帰属表示 – このコンテンツは AI が書いたものであると伝える
- 偏見をスクリーニングする
特定の検証済みの使用を推奨する
- データ: パターンを特定し、決定を下さない
- ライティング：報告書や法案の要約を作成する。書く必要はない。
- 検索: 一般データではなく、市が管理するデータのクエリ/操作
- コーディング: バグの発見や最適化の提案を手伝いますが、ソフトウェアは書きません
既知の良質製品に対してA/Bテストを実行する
- 既知の良品に対してA/Bテストを実行する
AI製品の透明性と説明可能性を推進する
- モデルの構築に使用されるデータ ソースは何ですか?
- 決定はどのように行われますか?
- ソースコンテンツはどのように選択、評価、管理されますか?
- 違法行為はどのように監視および管理されますか?
- ベンダーが AI サービスのライセンスを供与している場合、その契約内容は何ですか。また、ベンダーは標準を強制する準備をどのように整えているのですか。
最後の点について、シアトル市はマイクロソフトの提携先であり、OpenAI を利用したテクノロジーを Microsoft 365 やその他のマイクロソフト製品に組み込むにあたり、安全対策の必要性はシアトル市がマイクロソフトと話し合っている課題の 1 つであるとロター氏は説明しています。
また、ポッドキャストでは、デジタル公平性の取り組みや、公平なブロードバンドアクセスを実現するために地方自治体がインターネット サービス プロバイダーに対して権限を行使する際に先手を打たれないようにするための取り組みについても話します。
Apple Podcasts、Spotify、またはお好きな場所でGeekWireを購読してください。
