人工知能が結果を理解する必要がある理由

ニール・サベージは、マサチューセッツ州ローウェル在住のフリーライターです。

PubMed Google Scholar でこの著者を検索することもできます

クレジット: ニール・ウェッブ

この記事には所属機関を通じて完全にアクセスできます。

Rohit Bhattacharya がコンピュータ サイエンスの博士号を取得し始めたとき、彼の目標は、医師が免疫療法によく反応するがん患者を特定するのに役立つツールを構築することでした。 この治療法は、体の免疫システムが腫瘍と戦うのを助け、免疫細胞が結合できるタンパク質を生成する悪性腫瘍に対して最も効果的です。 バタチャリヤ氏のアイデアは、腫瘍と人の免疫系の両方の遺伝的特徴をプロファイリングし、どの人が治療の恩恵を受ける可能性が高いかを予測できるニューラル ネットワークを作成することでした。

しかし、彼は自分のアルゴリズムがその役割を果たしていないことに気づきました。 彼は免疫応答に相関する遺伝子のパターンを特定できましたが、それだけでは十分ではありませんでした1。 「この特定の結合パターンや遺伝子の特定の発現が、免疫療法に対する患者の反応の原因決定要因であるとは言えません」と彼は説明する。

自然の展望の一部: ロボット工学と人工知能

バタチャリヤ氏は、相関関係は因果関係と等しくないという古くからの格言に悩まされていました。これは人工知能 (AI) の根本的な障害です。 コンピューターは、人間が見逃してしまうような微妙なパターンであっても、データ内のパターンを見つけるように訓練することができます。 そして、コンピューターはそれらのパターンを使用して予測を行うことができます。たとえば、肺の X 線写真上のスポットが腫瘍を示しているなどです2。 しかし、原因と結果に関して言えば、機械は通常、途方に暮れます。 彼らは、人々がその世界で生きているだけで得られる、世界がどのように機能するかについての常識的な理解を欠いています。 たとえば、肺の X 線写真で病気を特定するように訓練された AI プログラムは、画像の右側のラベル付けに使用されるマークに照準を合わせて誤ってしまうことがあります3。 X線写真上の文字「R」のスタイルや配置と肺疾患の兆候との間に因果関係がないことは、少なくとも人間にとっては明らかです。 しかし、その理解がなければ、そのようなマーキングの描画方法や位置の違いだけで、マシンを間違った方向に導く可能性があります。

インディアナ州ウェストラファイエットにあるパデュー大学の電気技師ムラット・コカオグル氏は、コンピューターが何らかの意思決定を行うためには、因果関係を理解する必要があると語る。 「予測を超えるものには、何らかの因果関係の理解が必要です」と彼は言います。 「何かを計画したい場合、最適な政策を見つけたい場合は、ある種の因果推論モジュールが必要です。」

原因と結果のモデルを機械学習アルゴリズムに組み込むことは、モバイル自律機械が世界をどのように移動するかについての決定を下すのにも役立つ可能性があります。 「もしあなたがロボットなら、この角度やあの角度でここに一歩を踏み出すと、あるいは物体を押すと何が起こるかを知りたいと思うでしょう」とコカオグル氏は言う。

バタチャリヤさんの場合、システムが強調表示していた遺伝子の一部が、治療に対する反応の改善に関与している可能性がありました。 しかし、因果関係の理解が不足しているということは、治療が遺伝子発現に影響を与えている可能性、あるいは別の隠れた要因が両方に影響を与えている可能性もあるということを意味していました。 この問題に対する潜在的な解決策は、因果推論として知られるもの、つまりある変数が別の変数に影響を与えるかどうかを確認する正式な数学的方法にあります。

マサチューセッツ州ウィリアムズタウンのウィリアムズ大学のコンピューター科学者ロヒット・バタチャリヤ氏（奥）と彼のチームが、機械学習を因果推論に適応させることについて議論している。クレジット: マーク・ホプキンス

因果推論は、経済学者や疫学者によって因果関係についての考えをテストするために長い間使用されてきました。 2021年のノーベル経済学賞は、因果推論を用いて、最低賃金の上昇が雇用の減少につながるのか、1年間余分に学校教育を受けると将来の収入にどのような影響があるのか​​などの疑問を投げかけた3人の研究者に贈られた。 現在、バタチャリヤ氏は、因果関係と AI を融合させて、そのような問題に対処できる能力を機械に与え、機械がより適切な意思決定をし、より効率的に学習し、変化に適応できるように支援する、ますます多くのコンピューター科学者の一人です。

原因と結果の概念は、世界を通して人間を導くのに役立ちます。 「たとえ不完全なものであっても、世界の因果モデルを持つことで、私たちはより確実な意思決定と予測を行うことができるのです」と、ケベック人工知能研究所とミラの共同研究を指揮するコンピュータ科学者ヨシュア・ベンジオは言う。カナダのモントリオールにある 4 つの大学。 人間による因果関係の把握は、想像力や後悔などの属性をサポートします。 コンピューターに同様の機能を与えると、その機能が変わる可能性があります。

過去 10 年間の AI の目立った成功（さまざまな競技ゲームで人間に勝利したり、画像のコンテンツを識別したり、過去数年間では、書かれたプロンプトに応じてテキストや画像を生成したりするなど）は、ディープラーニングによるものでした。 このようなシステムは、一連のデータを研究することで、あるものが他のものとどのように相関するかを学習します。 これらの学習された関連付けは、その後使用することができます。 しかし、これは、より高い目標に向けたはしごの最初の段にすぎません。コンピューター科学者であり、カリフォルニア大学ロサンゼルス校の認知システム研究室所長であるジューデア・パール氏が「深い理解」と呼ぶものです。

2011 年、パール氏は、確率的推論と因果的推論を可能にする微積分を開発した業績により、コンピュータ サイエンスのノーベル賞とも呼ばれる AM チューリング賞を受賞しました。 彼は推論の 3 つのレベルの階層について説明しています4。 基本レベルは「見る」、つまり物事の間の関連付けを行う能力です。 今日の AI システムはこの点で非常に優れています。 パール氏は次のレベルを「実行」、つまり何かに変更を加え、何が起こるかを記録することと呼んでいます。 ここで因果関係が登場します。

コンピューターは、介入を調べることによって、つまりある変数の変化が他の変数にどのような影響を与えるかという因果モデルを開発できます。 現在の AI のように、変数間の関係の統計モデルを 1 つ作成するのではなく、コンピューターは多数の統計モデルを作成します。 それぞれの変数間の関係は同じままですが、1 つまたは複数の変数の値が変更されます。 その変化が新たな結果を生むかもしれません。 これらはすべて、確率と統計の数学を使用して評価できます。 「私の考えでは、因果推論とは、人間がどのように意思決定を行うかを数学化することにすぎません」とバタチャリヤ氏は言います。

カナダ、モントリオールのケベック人工知能研究所でミラを指揮するヨシュア・ベンジオ (手前)。クレジット: ミラ・ケベック AI 研究所

深層学習に関する研究で 2018 年に AM チューリング賞を受賞したベンジオ氏と彼の生徒たちは、因果関係を表現する方法である因果グラフ 5 を生成するニューラル ネットワークをトレーニングしました。 最も単純には、ある変数が別の変数を引き起こす場合、それを一方から他方へ走る矢印で示すことができます。 因果関係の方向が逆であれば、矢印も逆になります。 そして、この 2 つに関連性がない場合、それらを結ぶ矢印は表示されません。 Bengio のニューラル ネットワークは、これらのグラフの 1 つをランダムに生成し、それが特定のデータ セットとどの程度互換性があるかをチェックするように設計されています。 データによりよく適合するグラフは正確である可能性が高いため、ニューラル ネットワークはそれらに類似したグラフをさらに生成することを学習し、データに最も適合するグラフを検索します。

このアプローチは、人が何かを解決する方法に似ています。人は考えられる因果関係を生成し、観察に最も適合するものが真実に最も近いと想定します。 たとえば、コンクリートの上にガラスを落としたときにガラスが砕けるのを見ると、硬い表面への衝撃によってガラスが割れるのではないかと考える人がいるかもしれません。 さまざまな高さから他の物体をコンクリートの上に落としたり、柔らかいカーペットにグラスをぶつけたりすることで、人は関係のモデルを改良し、将来の失敗の結果をより正確に予測できるようになります。

因果推論の主な利点は、AI が状況の変化にさらに対処できるようになる可能性があることです。 データ内の関連性のみに基づいて予測を行う既存の AI システムは、変数の関連性が変化すると非常に脆弱になります。 学習された関係性の統計的分布が変化すると、時間の経過、人間の行動、またはその他の外部要因によるものであっても、AI の精度は低下します。

ロボット工学と AI に関する Nature のニュースレターに登録する

たとえば、ベンジオがモントリオールの地元の道路で自動運転車を訓練すれば、AI が車両を安全に操作できるようになるかもしれません。 しかし、同じシステムをロンドンに輸出すると、単純な理由ですぐに壊れてしまいます。カナダでは車は右側通行で、英国では左側通行なので、AI が学習した関係性の一部は逆になるということです。 ロンドンのデータを使用して AI をゼロから再トレーニングすることもできますが、それには時間がかかり、新しいモデルが古いモデルに置き換わるため、そのソフトウェアはモントリオールでは機能しなくなることを意味します。

一方、因果モデルを使用すると、システムは多くの考えられる関係について学習できます。 「観察できるすべてのものの間には 1 セットの関係があるだけではなく、無限の数が存在します」とベンジオ氏は言います。 「環境内の変数の 1 つに何らかの変化があった場合に何が起こるかを説明するモデルがあります。」

人間はこのような因果モデルに基づいて行動するため、変化に迅速に適応できます。 カナダのドライバーはロンドンまで飛行機で行き、少し時間をかけて調整した後、道路の左側を完璧にうまく運転できるでしょう。 英国の高速道路法では、カナダとは異なり、右折には交通を横断する必要がありますが、ドライバーがハンドルを切ったときに何が起こるか、またはタイヤが道路とどのように相互作用するかには影響しません。 「私たちが世界について知っていることはすべて、本質的には同じです」とベンジオ氏は言う。 因果モデリングにより、システムは介入の効果を特定し、それを世界の既存の理解の中で説明できるようになり、すべてを最初から学習し直す必要がなくなります。

カリフォルニア大学ロサンゼルス校認知システム研究所所長のジューデア・パール氏が 2011 年 AM チューリング賞を受賞しました。クレジット: UCLA サムエリ工学部

私たちが知っているものをすべて破棄することなく変化に対処するこの能力により、人間はファンタジー映画などの現実ではない状況を理解することもできます。 「私たちの脳は、何かが変化した人工的な環境に自分自身を投影することができます」とベンジオ氏は言う。 「物理法則が違ったり、モンスターがいたりするけど、それ以外は同じです。」

想像力の能力は、パールの因果推論の階層の最上位にあります。 ここで重要なのは、実行されなかった行動の結果について推測することだとバタチャリヤ氏は言います。

バタチャリヤは、ロバート・フロストの「選ばれなかった道」を読んで、そのような反事実を生徒たちに説明するのが好きです。 この詩の中で語り手は、森の中を通る 2 つの道のどちらかを選ばなければならないことについて語り、もう一方の道がどこに通じているのか分からないことへの残念さを表明しています。 「彼は、ある道と別の道を歩むとしたら、自分の人生がどうなるかを想像しています」とバタチャリヤさんは言う。 これは、コンピューター科学者が因果推論が可能なマシンで再現したいと考えているものであり、「もしも」の質問をする能力です。

もし別の行動をとっていたら、結果がより良くなったのか、それとも悪くなっていたのかを想像することは、人間が学習する重要な方法です。 バタチャリヤ氏は、いわゆる「反事実的後悔」に対して同様の能力をAIに植え付けることが有用だろうと述べている。 マシンは、行わなかった選択に基づいてシナリオを実行し、別の選択をした方が良かったかどうかを定量化できます。 科学者の中には、すでに反事実的な後悔を利用して、コンピュータのポーカー プレイの向上を支援している人もいます6。

さまざまなシナリオを想像する能力は、まれなイベントに反応することの難しさなど、既存の AI の制限の一部を克服するのにも役立つ可能性があります。 ベンジオ氏によると、定義上、稀なイベントは、システムがトレーニングされるデータに現れるとしても、まばらにしか現れないため、AI はそれらについて学習することができません。 車を運転している人は、小型飛行機が道路に着陸するなど、見たことのない出来事を想像し、物事がどのように機能するかを理解して、その特定の事態に対処するための潜在的な戦略を考案することができます。 しかし、因果関係を推論する機能を持たない自動運転車は、せいぜい道路上の物体に対する一般的な反応をデフォルトにすることしかできません。 反事実を使用して物事がどのように機能するかのルールを学習することで、自動車はまれな出来事に対してより適切に備えることができる可能性があります。 以前の例のリストではなく因果関係のルールに基づいて作業することで、最終的にシステムの汎用性が高まります。

因果関係を利用して想像力をコンピューターにプログラムすることは、自動化された科学者の誕生につながる可能性さえあります。 Microsoft Researchが主催する2021年のオンラインサミットで、パール氏は、このようなシステムが仮説を生成し、その仮説をテストするために最適な観察を選択し、その後どの実験でその観察が得られるかを決定できる可能性があると示唆した。

しかし現時点では、これはまだ先のことだ。 因果推論の理論と基本的な数学は十分に確立されていますが、AI が介入や反事実を実現する方法はまだ初期段階にあります。 「これはまだ非常に基礎的な研究です」とベンジオ氏は言う。 「私たちは、非常に基本的な方法でアルゴリズムを理解する段階にいます。」 研究者がこれらの基本を理解したら、アルゴリズムを最適化して効率的に実行する必要があります。 これにどれくらいの時間がかかるかは不明です。 「この問題を解決するための概念的なツールはすべて揃っていると感じています。ほんの数年の問題ですが、通常、予想よりも時間がかかります」とベンジオ氏は言います。 「むしろ数十年かかるかもしれない。」

Nature Outlook の詳細

バタチャリヤ氏は、研究者は機械学習から手を引くべきだと考えている。機械学習の急速な普及の一因は、プログラマーがアルゴリズムを作成するための基本ツールに他の人がアクセスできるオープンソース ソフトウェアを開発していることだ。 因果推論用の同等のツールも同様の効果をもたらす可能性があります。 「近年、多くのエキサイティングな開発が行われています」とバタチャリヤ氏は言います。その中には、テクノロジー大手マイクロソフトやペンシルバニア州ピッツバーグのカーネギーメロン大学からのオープンソース パッケージも含まれます。 彼と彼の同僚は、Ananke と呼ばれるオープンソースの因果関係モジュールも開発しました。 しかし、これらのソフトウェア パッケージはまだ開発中です。

バタチャリヤ氏はまた、因果推論の概念がコンピューター教育の初期段階で導入されることを望んでいます。 同氏によれば、現在このテーマは主に大学院レベルで教えられているが、機械学習は学部の訓練で一般的に行われているという。 「因果推論は非常に基本的なものであるため、高校レベルでも何らかの簡略化された形で導入されることを期待しています」と彼は言います。

これらの研究者がコンピューティングに因果関係を組み込むことに成功すれば、AI がまったく新しいレベルの洗練度に到達する可能性があります。 ロボットは世界をより簡単に移動できるようになるでしょう。 自動運転車の信頼性はさらに高まる可能性があります。 遺伝子の活性を評価するプログラムは、生物学的メカニズムの新たな理解につながる可能性があり、それにより、より優れた新薬の開発が可能になる可能性があります。 「それは医療を変える可能性があります」とベンジオ氏は言う。

あたかも人間が書いたかのようなテキストを生成する人気の自然言語ジェネレーターである ChatGPT のようなものでも、因果関係を組み込むことで恩恵を受ける可能性があります。 現時点では、アルゴリズムは、それ自体に矛盾し、世界について私たちが真実であると知っていることに反する明確に書かれた散文を生成することで、自分自身を裏切っています。 因果関係により、ChatGPT は、言おうとしていることに対する一貫した計画を構築し、それが私たちが知っている事実と一貫していることを保証できます。

それによって作家が廃業するのではないかとの質問に対し、ベンジオ氏は時間がかかるかもしれないと答えた。 「しかし、10年後に仕事を失っても、ガンやアルツハイマー病からは救われるというのはどうでしょうか」と彼は言う。 「それはいいことだよ。」

土井: https://doi.org/10.1038/d41586-023-00577-1

この記事は、第三者の資金援助を受けて作成された編集上独立した付録である Nature Outlook: Robotics and AI の一部です。 この内容について。

Shao、X.M.ら。 がん免疫。 Res. 8、396–408 (2020)。

論文 PubMed Google Scholar

Chiu, H.-Y.、Chao, H.-S. & チェン、Y.-M. Cancers 14、1370 (2022)。

論文 PubMed Google Scholar

デグレイブ、AJ、ジャニゼク、JD、リー、S.-I。 ネイチャーマッハ。 知性。 3、610–619 (2021)。

記事 Google Scholar

パール、Ｊ．コミューン。 ACM 62、54–60 (2019)。

記事 Google Scholar

Deleu、T. et al. https://arxiv.org/abs/2202.13903 (2022) でプレプリント。

Brown, N.、Lerer, A.、Gross, S.、Sandholm, T. https://arxiv.org/abs/1811.00164 (2019) のプレプリント。

リファレンスをダウンロードする

放棄: ニューロテクノロジーの失敗による人的コスト

生物からインスピレーションを得たロボットは、歩き、泳ぎ、滑り、飛行します

一生かけて学ぶ

ロボットに触覚を教える

人工知能のブラックボックスに侵入する

SF の世界から飛び出した小型医療ロボット

ChatGPT: 責任ある使用のための標準報告ガイドライン

通信 06 6月 23

ChatGPT を使用したコーディングを改善するための 6 つのヒント

テクノロジー特集 05 6月 23

転移学習によりネットワーク生物学の予測が可能になる

第31条 5月23日

ChatGPT を使用したコーディングを改善するための 6 つのヒント

テクノロジー特集 05 6月 23

量子機械学習に向けて

スポットライト 24 5 月 23 日

量子コンピューター: 何に役立つのですか?

スポットライト 24 5 月 23 日

ChatGPT を使用したコーディングを改善するための 6 つのヒント

テクノロジー特集 05 6月 23

量子コンピューターの設計図を書き換える

展望24 5月23日

量子コンピューターを段階的に商用化

展望24 5月23日

これは全教職員と学生の共同の努力と、社会のあらゆる分野からの多大な支援に基づいています。

中国、北京

北京師範大学水科学学院

動植物保健庁 (APHA) は、環境・食糧・農村省の執行機関であり、動物と植物の保健庁を代表して活動しています。

サリー州アドルストーン

動植物保健庁

最先端の科学技術が影響力のある洞察の発見を推進する学際的な研究組織

上海浦東新区

ベイジーン研究所

南京林業大学は南京市の東部に位置する総合大学です。

南京、江蘇省（CN）

南京林業大学 (NFU)

新しい化学物質の評価のための多機能専門家チームのDMPK/PD代表

中国広東省広州

株式会社ベイジーン