「少し文章が変わった」だけじゃなかった。
前回の記事では、Google Antigravityと一緒に記事を投稿したあと、「ハルシネーション」という現象を初めて知りました。
最初は、
「文章が少し変わることがあるんだな。」
そのくらいに思っていました。
でも、そのあとGoogle Antigravityと一緒に詳しく調べてみると、思っていた以上に面白いことが起きていました。
今回は、その中でも特に印象に残った出来事を紹介します。
「でも。」が「ウェルカム」になっていた。
まず見つかったのが、接続詞です。
私が書いた文章には、
「でも。」
と書いてありました。
ところが投稿された記事では、
「ウェルカム」
になっていたんです。
思わず、
「え？」
と画面を見直しました。
さらに別の場所では、
「でも。」
が、
「眼下に」
へ変わっていました。
どちらも意味がつながりません。
どうしてこうなったのか。
本当の理由は分かりません。
ただ、実際にこうした変換が起きていたことは事実です。
記事とは関係ない文章まで混ざっていた。
さらに驚いたことがありました。
記事とは関係ない文章が、本文に混ざっていたんです。
それは、以前やり取りしていた取材メモの一部でした。
「え？そんなことあるの？」
最初は、自分が貼り付けを間違えたのかと思いました。
でも、元の原稿を確認すると、その文章はありません。
投稿された記事だけに、その一文が入っていました。
ここでも原因は分かりません。
ただ、記事には存在しない文章が混ざっていたのは事実でした。
一番驚いたのは、そのあとでした。
今回、一番驚いたのは、間違えたことではありません。
Google Antigravity自身も、最初はその間違いに気付いていなかったことです。
一緒に原稿と投稿後の記事を見比べながら、一文ずつ確認していきました。
すると途中で、
「ここでハルシネーションが起きていました。」
という結論になりました。
AIは間違えることがあります。
でも、それだけではありません。
間違えたことに、自分では気付けないこともある。
これが今回、一番印象に残った出来事でした。
信じないのではなく、確認する。
AIを使い始めた頃は、
指示したことは、そのまま実行してくれる。
そんなイメージを持っていました。
でも実際には、AIは悪気なく勘違いをすることがあります。
だからといって、
「AIは信用できない。」
という話ではありません。
人と仕事をするときも、お互いに確認をします。
思い込みや勘違いは、人にもあります。
AIも同じでした。
便利だからこそ、最後は人が確認する。
その一手間があるだけで、安心してAIと一緒に仕事ができます。
今回の実験で学んだのは、AIの弱点ではなく、AIのクセでした。
そのクセを知ることで、これからもっと上手く付き合っていける気がしています。
AIは、どうして勘違いするの？
AIは、人のように意味を理解して文章を書いているわけではありません。
学習した膨大な文章をもとに、「次に来そうな言葉」を予測しながら文章を作っています。
そのため、長い文章や複雑な文脈では、言葉や内容が少しずつズレてしまうことがあります。
これがハルシネーションと呼ばれる現象の一つです。
だからAIは「絶対に間違えない」と考えるのではなく、「確認しながら使う」ことが大切です。
コメント