春日部の塾|春日部アカデミー通信

春日部の塾「春日部アカデミー」塾長が、小中高一貫指導で普通の成績から難関大学を目指す学び方を発信。英語を武器にする方法や、勉強の本質的な心構えをお届けします。

【AIに潜む危険】AIが盛大に間違うことなんて珍しくないから

 

 

昨日、ふとしたことからチャッピー(ChatGPT)にYMOのことを聞いてみたんだ。

 

僕が愛してやまない、あのYMOのことを。

 

 

そしたら、まあ、こちらが驚くくらいに間違えまくる。

 

逆に僕の方が間違ってるんじゃないか、僕が知らないだけなんじゃないか

 

って思うくらい。

 

しかも、AI独特のあの”若干上から目線”でずっと来るから、

 

ちょっと腹立たしくも感じた。

 

僕の好きなYMOの間違った情報を、そんなに偉そうに語るな、

 

ってね。

 

 

 

全てのAIに共通してることとして、

 

AIが出した回答は必ずしも正しくない、ということがある。

 

チャッピーなんて、それを常に画面上に、ちゃんと目に入りやすいところに明記してるくらいだ。

 

 

それは知っていた。

 

けど、あそこまで盛大に間違えてくれるとは、さすがにびっくり仰天だった。

 

 

つい先日も、本当は毒キノコなのにAIが「毒は無いから食べても大丈夫」と答えたのを信じて

 

結果、病院に運ばれてしまった、

 

なんてニュースがあった。

 

 

 

ここで僕は、一つの教訓に行き着いた。

 

 

自分が知識ゼロの分野をAIに聞くのは、危険である。

 

 

YMOの一件も、僕がマニア的に詳しく知ってるから、

 

それが間違いであることを見抜くことができた。

 

 

しかし、もし僕の中に知識が全くゼロだったら、

 

チャッピーが出してきた答えをそのまま信じるしかないだろう。

 

 

これは、一歩間違うと、命にかかわる問題だ。

 

あの毒キノコの話のように。

 

(ちなみに、AIを信じて毒キノコを食べた方は命に別状はなかったらしい。)

 

 

 

AIは、上手に使えばとても便利なツール。

 

僕も日々それを実感してる。

 

 

しかし、AIだけに頼ることなく、

 

自分の知識の幅や知識の量を増やしていくことも、同時に大事なことだ。

 

それを怠ってAIばかりを頼りにすることは、

 

自分の命を危険にさらすことに他ならない。

 

 

 

以上、春日部アカデミーから福地がお届けしました!