詐欺師は注意してください: ChatGPT メーカーが AI 検出ツールをリリース

サンフランシスコ (AP通信) -- ChatGPT のメーカーは、その宿題を生徒か人工知能が書いたかどうかを教師が検出できる新しいツールを使用して、自由奔放な不正行為マシンとしての評判を抑えようとしている。

OpenAIが火曜日に発表した新しいAI Text Classifierは、コマンドに応じてほぼ何でも書き込むことができるChatGPTの能力が学術的不正を助長し、学習を妨げる可能性があるという懸念を巡って学校や大学で数週間に及ぶ議論を経たものである。

OpenAIは、その新しいツールは、すでに利用可能な他のツールと同様に、絶対確実ではないと警告している。 AIが書いたテキストを検出する方法は「不完全であり、場合によっては間違ってしまう」とシステムの安全性を高めるOpenAI調整チームの責任者ジャン・ライケ氏は語る。

「そのため、意思決定をする際にそれだけに頼るべきではない」とライケ氏は語った。

ChatGPT が OpenAI の Web サイトで無料アプリケーションとして 11 月 30 日に公開されて以来、ChatGPT を実験し始めた何百万人もの人々の中には、10 代の若者や大学生も含まれていました。そして、多くの人がそれを創造的かつ無害に使用する方法を見つけましたが、持ち帰りのテストの問題に答えたり、他の課題を支援したりできる簡単さは、一部の教育者の間でパニックを引き起こしました。

新年に学校が始まるまでに、ニューヨーク市、ロサンゼルス、その他の大きな公立学区は教室や学校の端末での使用を禁止し始めました。

シアトル公立学校学区は当初、12月にすべての学校端末でChatGPTをブロックしたが、その後、ChatGPTを教育ツールとして使用したい教育者にアクセスを開放したと学区広報担当のティム・ロビンソン氏は述べた。

「それを無視するわけにはいかない」とロビンソン氏は語った。

同学区はまた、ChatGPTの使用を教室に拡大し、教師が生徒をより優れた批判的思考者になるように訓練するために使用したり、生徒がアプリケーションを「個人教師」として使用したり、課題に取り組む際に新しいアイデアを生み出すのに役立てたりできるようにする可能性についても議論している。とロビンソンは語った。

全国の学区は、ChatGPT に関する会話が急速に進化しているのを目の当たりにしていると述べています。

メリーランド州カルバート郡公立学区の技術専門家、デビン・ペイジ氏は、「最初の反応は『なんてことだ、ChatGPTで起こるだろう不正行為の流れをどうやって食い止めればいいんだろう』というものだった」と語った。現在、「これが未来だ」という認識が広まっており、それを阻止することは解決策ではないと同氏は述べた。

「このツールがもたらす危険性を認識していなかったとしたら、私たちは世間知らずだったと思います。しかし、生徒たちと私たちがこのツールの潜在的な力のすべてを使用することを禁止すれば、生徒たちへのサービスも果たせなくなるでしょう」とペイジ氏は語った。彼自身と同様、特に同社の検出サービスが導入されれば、最終的には ChatGPT のブロックを解除するでしょう。

OpenAIは火曜日のブログ投稿で検出ツールの限界を強調したが、盗作の阻止に加えて、自動化された偽情報キャンペーンや人間を模倣するその他のAIの悪用を検出するのに役立つ可能性があると述べた。

テキストの一節が長ければ長いほど、ツールは AI または人間が何かを書いたかどうかを検出する能力が高くなります。大学入学のエッセイやラルフ・エリソンの『透明人間』の文学的分析など、任意のテキストを入力すると、ツールはそれを「非常に可能性が低い、可能性が低い、可能性があるかどうか不明、可能性がある、または可能性が高い」AI のいずれかに分類します。 -生成された。

しかし、デジタル化された書籍、新聞、オンライン文書の膨大な量を基にトレーニングされたものの、多くの場合自信を持って虚偽やナンセンスを吐き出す ChatGPT 自体と同様に、それがどのように結果を導き出したのかを解釈するのは簡単ではありません。

「私たちは、それがどのようなパターンに注目しているのか、あるいは内部でどのように機能しているのか、基本的にはわかっていません」とライク氏は言う。「分類器が実際にどのように機能するかについて、現時点で言えることはあまりありません。」

世界中の高等教育機関も、AI テクノロジーの責任ある使用について議論を始めています。フランスで最も名門大学の一つであるポリ科学院は先週、その使用を禁止し、ChatGPTやその他のAIツールを密かに使用して書面や口頭による著作物を作成したことが判明した者は誰でも、ポリ科学院やその他の機関から追放される可能性があると警告した。

反発に応えて、OpenAIは教育者を支援するための新しいガイドラインを作成するために数週間取り組んできたと述べた。

OpenAI政策研究者のラマ・アーマド氏は、「他の多くのテクノロジーと同様、ある学区が教室での使用には不適切だと判断する可能性がある」と述べた。「私たちは、彼らに何らかの方法で強制するつもりはありません。私たちは、彼らが正しい決定を下せるようにするために必要な情報を提供したいだけです。」

研究志向のサンフランシスコの新興企業にとって、これは異例の公的役割であり、現在パートナーのマイクロソフトから数十億ドルの投資を受けており、国民や政府からの関心の高まりに直面している。

フランスのデジタル経済大臣ジャンノエル・バロー氏は最近カリフォルニアでサム・アルトマン最高経営責任者（CEO）を含むOpenAI幹部と会談し、その1週間後にスイスのダボスで開催された世界経済フォーラムの聴衆に対し、同テクノロジーについて楽観的であると語った。しかし、マサチューセッツ工科大学とパリのフランスのビジネススクールHECの元教授である同政府大臣は、対処する必要がある難しい倫理的問題もあると述べた。

「したがって、法学部に所属している場合は、懸念の余地があります。なぜなら、他のツールの中でも特にChatGPTは、比較的印象的な試験を提供できることは明らかだからです」と彼は言いました。「あなたが経済学部に所属している場合は、問題ありません。なぜなら、ChatGPT は、大学院レベルの経済学部に所属している場合に期待されるものを見つけたり提供したりするのに苦労するからです。」

同氏は、ユーザーがどのようなバイアスが存在するかを知るために、これらのシステムの仕組みの基本を理解することがますます重要になるだろうと述べた。

—-

オブライエン氏はロードアイランド州プロビデンスから報告した。 AP通信記者のジョン・レスター氏がパリからこのレポートに寄稿した。