AI の幻覚: 成功するのと同じくらい失敗するのであれば、AI を使用する価値はありますか?

人工知能の思考

私たちは毎週毎週、何か新しいことについての新しいニュースがない瞬間にいます。 人工知能。グーグル?比較的冷静に受け止めているとはいえ、すでにいくつかのことを発表している。マンザナ? iOS 18は、そのAI、おそらくApple GPTの史上最大のリリースになると言われています。マイクロソフト?唯一欠けているのは、次のオペレーティング システムが Windows 12 であるということです。しかし、現時点では、これらすべてに共通の問題があるようです。

最近、新しい検索エンジンについて読んだのですが、その機能は、入力内容に応じて Web を調べ、最も関連性の高いデータを含む記事を作成し、すぐに読めるように表示するというものです。問題はそれです 時々失敗するので確認する必要があります 彼が私たちに示しているものは真実であるということ。したがって、これは私の言葉ではありませんが、私も同意しますが、それは「無駄」です。

人工知能は物事を発明する傾向があります

彼らがうまくやっている点はたくさんありますが、人工知能によって生成されたものがその主張どおりであると考える必要はありません。幻覚は以下に関連していると思われる問題です 正しいかどうかに関係なく応答する。 AIは、答えが正確であることよりも、答えを提供することを重視します。質問されたときに「分かりません」と答えることは不可能です。

これは新しいことではありませんが、AI に依存するものを使用するときは常に心に留めておくことが重要です。今一番人気があるのは、 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、成功すると同時に失敗するツールでもあります。最近、2023 年末に XNUMX 人のアスリートがチャットボットに自分自身について質問している動画を見たことがありますが、その動画ではそのうちの XNUMX 人がトライアスロンのファンであるとさえ主張していました。彼は「私はどうだろう?」と自問しました。そしてそれはどこから来たのですか?

の問題 幻覚 これはバグではありませんが、バグのように動作します。あたかも PC ソフトウェアが 9823798279827×825928377 を計算するように要求したかのようですが、それは実行できず、XNUMX つの結果を返す代わりに別の結果を返し、何かを伝えなければならないため、ランダムなビデオさえ開きました。私たちは計算をすることができないので(はい、できます、これは一例です)、それを信じてそれを良いものとして受け入れるか、セカンドオピニオンを求めることができます。

さらに検索する必要がある場合、計算は役に立ちません。

私たちは分析し、自分たちが知性を持っていることを証明しなければなりません...本物

これらの AI の 1 つと初めてチャットしたときのことを覚えています。 やったよ You.com で、後でソース (ChatGPT) にジャンプします。マスエフェクト三部作を読み終えて、考えられる結末について彼に尋ねたのを覚えています。それは、これ以上 80 時間もプレイする気はなかったからで、同じチャットボットが使われていたからです。 あることとその反対のことを私に言いました。結局いつものように、Google で何かを検索し、YouTube でエンディングを見ました。 ChatGPT で問題を解決しようとして費やした時間は時間の無駄でした。もうそんなことは起こらない。

私は人工知能の使用についていくつかの記事を書きましたが、最終的にはいつも同じ結論に達します。つまり、OpenAI がすでに警告していること、その答えが正確ではない可能性があることを認識しておく必要があり、もしそうであれば、OpenAI はすでに警告していることを認識しておく必要があります。役に立たないこと。はい、もちろんありますが、まれなケースです。たとえば、開発中。 ChatGPT が Reddit や スタックオーバーフロー はい、興味深いです。でも彼には気をつけてね プロンプト、物を頼むときのテキストを使用しないと、多くの時間を無駄にする可能性があります。

私たちは知性を持っていることを証明しなければなりません…本物です。 Google で病気について検索したときに、最初に見つかった内容 (おそらく自分が深刻な病気にかかっている可能性がある) を信じないときと同じです。このような場合に AI が優れているのは、最終的には医師に相談して確認する価値があると教えてくれることです。

ただし、幻覚には注意してください。 MotoGP ライダーがトライアスロンのファンであったことや、インタビューでの発言から曲の歌詞の内容を発明できたとしたら、何が断言できないでしょうか?

更新しました: それで Bard がスペインで利用可能になりました、AIが「幻覚を見る」ことを確認すること以上のことはできません。それを証明するために、2024年XNUMX月にリリースされるアマランテの次のアルバムについて彼に尋ねたところ、彼は他のアーティストも含めて曲リストを作成してくれました。言うまでもなく、私は彼に直接質問するための URL を持っているかどうか尋ねましたが、持っていないことを認める前に、彼は Google のものでもないページへの URL を私に送ってきました。私たちは進歩しています。


優先ソースとして追加