マイクロソフトのブラッド・スミス氏は、ボーイング社の危機を知能機械の教訓として挙げ、AIキルスイッチの必要性を訴えた。
モニカ・ニッケルズバーグ著
数十年にわたり、SF映画は人間が知能機械の制御を失い、大混乱に陥る未来を予言してきました。人工知能を描いたこうした終末的な描写は、遠い未来、あるいは非現実的な未来のように思えるかもしれません。しかし、人間が自ら開発した機械の制御を失うという現実の種は、今まさに蒔かれつつあるのです。
これは、シアトルで開催される年次テクノロジーカンファレンス「GeekWire Summit」で、マイクロソフト社長ブラッド・スミス氏がシンプルな質問で聴衆を困惑させた言葉です。「2019年にピュージェット湾の経済に影響を与える最大のソフトウェア関連の問題は何ですか？」
「飛行機のコックピットにあるソフトウェア、パイロットがオフにできないソフトウェアです」とスミス氏は語った。
スミス氏は、ボーイング社の737 MAXのソフトウェアに欠陥があり、2度の墜落事故で346人が死亡したことによる数十億ドル規模の損害について言及していた。ボーイング社の製造拠点はワシントン州レントンにある。同社は事故関連で80億ドル以上の損害を発表しており、航空会社とサプライヤーへの損害はそれをはるかに上回っている。
伝えられるところによると、この飛行機が墜落したのは、飛行データが不正確だったためにソフトウェアが機首を繰り返し下げようとし、パイロットが間に合ううちに問題に対処できなかったためだという。
「これは私たちに訴えかけるものです」とスミス氏は述べた。「これはただ一つの企業や一つの業界だけに当てはまるものではありません。社会のあらゆる場所で、テクノロジーを創造し、テクノロジーを使うすべての人々に当てはまるはずです。そして、これは私たちが忘れてはならない教訓です。私たちは優れたテクノロジーを創造する能力と、それを止める能力を持たなければなりません。」
スミス氏は談話会と新著『ツールと武器』の中で、テクノロジー業界と政府が協力して人工知能と機械学習の差し迫った脅威に対処するよう訴えた。
「私たちは、機械がどのように意思決定を行うのか、どのような倫理原則に基づいて意思決定を行うのかを決める最初の世代です」と彼は述べた。「プレッシャーはありませんが、正しく理解することが重要です。」
