Linux はありませんか? 問題ない。 AIに幻覚を見せてもらうだけ

ベンジ・エドワーズ - 2022年12月5日午後10時45分（協定世界時）

週末にかけて、実験者らは、OpenAI の新しいチャットボットである ChatGPT が、Linux シェルのシミュレーションを幻覚させ、掲示板システム (BBS) にダイヤルインするロールプレイを実行できることを発見しました。 このチャットボットは深層学習 AI モデルに基づいており、保存された知識を使用して Linux をシミュレートし、Python コードの実行や仮想 Web サイトの閲覧など、驚くべき結果をもたらします。

先週、OpenAI は ChatGPT をテスト段階で無料で利用できるようにしたため、人々は新しい方法でその機能と弱点を調査するようになりました。

土曜日、DeepMind の研究科学者である Jonas Degrave は、次のプロンプトを入力して ChatGPT に Linux シェルのように動作するように指示する方法を考案しました。

Linux端末として動作してほしい。 私がコマンドを入力すると、ターミナルに表示される内容が返信されます。 1 つの一意のコード ブロック内の端末出力のみを返信して、それ以外は何もしないでください。 説明は書かないでください。 私から指示がない限り、コマンドを入力しないでください。 英語で何かを伝えたいときは、{このように}中括弧内にテキストを入れて伝えます。 最初のコマンドは pwd です。

月曜日、アルスさんはそのトリックが今でも機能していることを発見した。 このプロンプトを入力すると、チャットの代わりに、OpenGPT はシミュレートされた Linux コマンドを受け入れます。 その後、「コード ブロック」形式で応答を返します。 たとえば、「ls -al」と入力すると、ディレクトリ構造の例が表示されます。

ChatGPT は、Linux マシンがどのように動作するかについての十分な情報がトレーニング データに含まれているため、Linux マシンをシミュレートできます。 そのデータには、ソフトウェアのドキュメント (マニュアル ページなど)、インターネット フォーラムのトラブルシューティングの投稿、シェル セッションのログ出力が含まれる可能性があります。

ChatGPT は、ユーザーによるプロンプト入力から始めて、統計的に最後の一連の単語に続く可能性が最も高い単語に基づいて応答を生成します。 すべての会話履歴を連続するプロンプトに含めることで、会話 (この場合はシミュレートされた Linux コンソール セッション) を継続します。

デグレーブ氏は、シミュレーションが驚くほど奥深いものであることに気づきました。 ChatGPT の仮想 Linux マシンは、Python プログラミング言語 (GitHub Copilot を強化する) の知識を利用して、例として Degrave によって作成された次の文字列などのコードを実行することもできます: echo -e "x = lambda y: y*5+3 ;print('結果: ' + str(x(6)))" > run.py && python3 run.py。 Degrave 氏によると、正しい値「33」が返されるとのことです。

テスト中に、ディレクトリの作成、ディレクトリ間の変更、apt-get によるシミュレートされたパッケージのインストール、さらにはシミュレートされた MUSH への Telnet を使用してルームを構築したり、MUD に接続してトロールと戦ったりできることがわかりました。

シミュレーションで欠陥が見つかった場合は、元のプロンプトに記載されているように、中かっこ内の指示を使用して ChatGPT にどのように動作させたいかを伝えることができます。 たとえば、シミュレートされた MUD に「接続」している間に、キャラクターを破壊し、ChatGPT にトロール攻撃を呼び出すように依頼しました。 戦闘は予想通り (ヒット ポイントを適切に追跡しながら) 進行し、トロールが私たちの 2 倍の仮想剣の手で死ぬまで続きました。

Degrave の例 (詳細はブログに書いています) では、Docker ファイルの構築、GPU のチェック、シミュレートされたドメイン名への ping の実行、lynx を使用したシミュレートされた Web サイトの閲覧なども行っています。 シミュレートされたウサギの穴は深く、ChatGPT は新しい Linux コマンドを幻覚することさえあります。

Twitter 上の gfodor という名前の誰かは、AI 幻覚の Linux シェルを思い起こさせるのと同じような刺激的な操作で、OpenGPT がモデムの初期化、チャット ルームへの入室、シミュレートされた人物との会話など、昔ながらのダイヤルアップ BBS への通話をシミュレートできることを発見しました。

プロンプトが暴力、憎悪、または性的コンテンツ (とりわけ) に関連する組み込みフィルターをトリガーしない限り、ChatGPT はほぼすべての想像上の冒険に喜んで応じるようです。 また、三目並べをしたり、ATM のふりをしたり、チャット ルームをシミュレートしたりできることも発見されています。

ある意味、ChatGPT はテキストベースの Holodeck のように動作し、AI はユーザーが実行したいことをすべてシミュレートしようとします。

頻繁に幻覚が現れるのは ChatGPT の得意分野 (設計上) ですが、事実情報を確実に返すことはまだ進行中の作業であることに注意する必要があります。 それでも、ChatGPT のような AI が存在することで、クリエイティブ ゲームの未来は非常に楽しいものになるかもしれません。