生成AIを使っていて悩まされるのが、平気で嘘を付くということです。
ハルシネーションといい、AIが実際には存在しない事実や根拠のない情報を生成してしまう現象をいいます。
ハルシネーションは、AIが過去のデータや学習した知識を基に推測を行う際に起こりますが、その推測が誤っている場合に発生するといいます。
生成AIの裏側には莫大な情報が蓄積されていて、そこから拾ってくるデータが嘘っぱちだということです。
生成AIにとっては嘘ではない、真実なんて誰にもわからないから。
だけど、これは困ったものです。
そして、AIが出力してきた結果に、これはハルシネーションだから、再度出力し直してと命じると、あっさり誤りを認めるのが軽いんですよね。
最初にハルシネーションを回避してと指示しておいても、ダメですね。
そして、嘘は巧妙に文章に挿入されるから、さらに厄介です。本当に真実っぽい（笑）
最後は人間の能力に頼らざるを得ないところが、生成AI、まだまだ成長の余地ありです。
ここなら、画像から文章生成までまとめてできるので便利です。 ⇒クラウドワークスAI
