AI2の研究者がAI関連論文の長期的な影響を称える「Test-of-Time」賞を受賞

人工知能と計算言語学の分野は、ここ数十年で驚異的な進歩を遂げてきました。そのため、かつて斬新だったアプローチが、より新しいイノベーションに急速に取って代わられることも少なくありません。

このため、計算言語学会が開催する世界最高峰の国際 NLP カンファレンスでは、特に長期にわたる影響とインパクトを与えた画期的な研究を毎年表彰しています。 

今週、アレン人工知能研究所の研究者、CEO のオーレン・エツィオーニ氏と研究科学者のジェシー・ドッジ氏が、2012 年に発表された 2 つの別々の論文に対して ACL の 10 年間のTest-of-Time 論文賞を受賞した。

エツィオーニ氏は、AI2のエンジニアリングディレクターであるマイケル・シュミッツ氏を含むチームと共に、「情報抽出のためのオープン言語学習」で賞を受賞しました。ドッジ氏と共著者は、「Midge: コンピュータービジョン検出からの画像記述の生成」で同部門の賞を受賞しました。両論文とも過去10年間で多くの引用があり、非常に影響力のある引用は数百件に上ります。

「この賞をいただき、大変光栄です」とエツィオーニ氏は述べた。「5年以上にわたり集中的に取り組んできたプロジェクト、そしてオープン情報抽出という斬新なアイデアを世に送り出したプロジェクトが受賞できたことを大変嬉しく思います。」

論文発表当時、エツィオーニ氏はワシントン大学でコンピュータサイエンスの教授を務め、マドローナ・ベンチャー・グループのベンチャーパートナーであり、複数のスタートアップ企業の創業者でもありました。翌年、故マイクロソフト共同創業者のポール・アレン氏が資金提供した当時新設されたAI研究機関「AI2」の所長に任命されました。エツィオーニ氏は2020年10月にワシントン大学の名誉教授に就任しました。

エツィオーニのチームは画期的な論文で、事前に指定された語彙を必要とせずに、名詞や形容詞などを媒介としたテキスト内の関係性を抽出するシステム「OLLIE」を発表しました。このプロセスに続いて、テキストから文脈情報を取り込むことで精度を向上させる、第二段階の文脈分析が行われました。当時としては斬新なこのアプローチは、OLLIEが周囲の文に含まれる文脈情報を活用し、これまで他の情報抽出（IE）システムでは利用されていなかった品詞情報も活用することを可能にしました。

その結果は、ReVerb や WOE などの当時の最先端の IE システムを大幅に改善し、それ以降の情報抽出の分野に変革をもたらしました。

「論文は生まれては消えていきますが、記憶に残るのはほんの一握りです」とエツィオーニ氏は述べた。「研究者としての私の目標は、AI分野、そして最終的には有益なAI技術の創出に永続的な影響を与えることです。この研究プロジェクトは、私のキャリアの中で他のどの研究プロジェクトよりも、その成果の一部を達成したと言えるでしょう。ですから、この賞を受賞できたことを大変嬉しく思います。」

この2012年の論文は、2007年に発表された論文「Webからのオープン情報抽出」を基にしており、この論文は3,000回近く引用されています。この研究は、2017年に逝去したスティーブン・ソーダーランド氏を含むワシントン大学コンピュータサイエンス学部のチームによって行われました。現在インド工科大学デリー校でコンピュータサイエンスの教授を務める研究チームメンバーのモーサム氏が受賞し、ソーダーランド氏に捧げました。

ドッジ氏のチームが発表した論文では、画像キャプション生成システム「Midge」が紹介されています。これは、この種のシステムとしては先駆的なものの一つでした。Midgeは、人間が注釈を付けたデータを使用する代わりに、コンピュータービジョンモデルによる検出結果から自然言語による説明を生成しました。論文が発表された当時は、画像キャプションの自動生成はまだ黎明期であり、そのため、このような研究成果を主要な計算言語学会議に採択することは困難でした。しかし、この論文の成功もあって、画像キャプション生成は数年後、はるかに権威のある分野へと成長しました。

Midgeは、画像キャプションに「トリプル」を用いた興味深いアプローチを採用しています。このアプローチでは、画像内のオブジェクト、アクション、空間関係を、画像の説明文に含まれる名詞、動詞、前置詞にマッピングします。

このシステムは、70万枚のFlickr画像とそれに関連する説明文を用いて学習されました。その結果、「自然なバリエーションを持つ、構文的・意味的に整形式の説明文を生成する、完全に自動化された視覚言語変換システム」が誕生しました。繰り返しになりますが、このアプローチは当時利用可能な他のAI手法を大きく改善するものでした。

「当時、自然言語生成に関する研究はコミュニティ内であまり評価されていませんでしたが、私たちは自然言語生成に非常に関心を持っていました」とドッジ氏は語る。「主要な自然言語処理学会で生成に関する論文を発表するのは非常に困難でしたが、マーガレット・ミッチェル氏（筆頭著者）が素晴らしい論文をまとめ上げ、論文は採択されました。」

ダッジ氏はさらにこう付け加えた。「マーガレットは長年にわたり画像キャプションの研究を主導し、やがて他の人々もこの研究に取り組むようになりました。彼女がこのテーマに取り組み続けたことが、今回の受賞につながったのです。」

これらの賞は、近年AI2が長年にわたり受賞してきた長期的な影響力のある賞の連続です。2021年には、上級研究員でワシントン大学教授のイェジン・チェ氏と共著者が、「想像を絶する欺瞞的意見スパムの発見」でACL 10年テスト・オブ・タイム賞を受賞しました。この論文では、欺瞞的意見スパムを非常に高い精度で検出できる分類器が紹介されました。

チェイ氏を含む別のチームも、2011年の論文「赤ちゃん言葉：簡単な画像説明の理解と生成」でコンピュータビジョン財団の2021年ロンゲ・ヒギンズ賞を受賞した。この論文は、画像の正確で関連性のある自然言語による説明を自動的に作成するという探求を継続したものである。

今年初め、オーレン・エツィオーニ氏と共著者は、2003年に発表した重要な論文「データベースへの自然言語インターフェースの理論に向けて」が評価され、IUI 2022において最優秀論文賞を受賞しました。この論文は、信頼性の高い自然言語インターフェースの理論的枠組みと、自然言語インターフェースにおける意味解釈の課題をグラフマッチング問題へと簡略化する「Precise NLI」と呼ばれる新システムを紹介しました。幅広い自然言語の質問に対し、自然言語の質問を対応するSQLクエリに巧みにマッピングすることで、この研究は今日のデータベースへのアクセスと対話方法の基礎となりました。 

最近のもう一つの栄誉として、 IUI 2019のMost Impact Paper Awardが、 AI2セマンティック・スカラーのチーフサイエンティスト兼ゼネラルマネージャーであるダン・ウェルド氏と、共著者のクリストフ・ガヨシュ氏に贈られました。2004年の論文「SUPPLE：ユーザーインターフェースの自動生成」が受賞しました。SUPPLEは、人の運動能力や視覚能力に適応したユーザーインターフェースを生成するアルゴリズムを導入し、ユーザーの特定のニーズに応じてソフトウェアインターフェースを自動的に調整することで、身体に障害を持つユーザーに革新的なメリットをもたらしました。

言及されている研究と論文はすべてAI2に関連していますが、これらのプロジェクトには提携大学の著者が参加しています。「情報抽出のためのオープン言語学習」の著者5人全員は、研究が実施され論文が発表された時点でワシントン大学に在籍していました。

「ミッジ」の著者10人全員が当時大学に在籍していました。ジェシー・ダッジはワシントン大学に在籍し、他の著者はアバディーン大学、ストーニーブルック大学、メリーランド大学、コロンビア大学、そしてMITに在籍していました。ここで言及した他の論文も同様の傾向を示しており、この研究の多くにおいて大学が果たす重要な役割を浮き彫りにしています。

これらはAI2で受賞した24件の論文のうちのほんの一部です。エツィオーニ氏は研究所の成功を振り返りました。

「AI2では、私がかつて所属していたワシントン大学コンピュータサイエンス学部（現アレン・スクール）と同じくらいオープンで協力的な環境を目指してきました。同時に、インパクトを徹底的に重視してきました」と彼は述べた。「これが、協調性と革新性を兼ね備えたチームを惹きつけているのです。」

「Open Language Learning For Information Extraction」は、Mausam、Michael Schmitz、Robert Bart、Stephen Soderland、Oren EtzioniのチームによってEMNLPに掲載されました。「Midge: Generating Image Descriptions From Computer Vision Detections」は、Margaret Mitchell、Jesse Dodge、Amit Goyal、Kota Yamaguchi、K. Stratos、Xufeng Han、Alyssa C. Mensch、A. Berg、Tamara L. Berg、Hal DauméによってEACLに掲載されました。