去年の後半から僕はAIヘビーユーザーとなってるが、
いつも心に留めておいていることは、
「AIは必ず間違う」
ということだ。
よく、AI初心者の人でAIの回答を妄信的に信じてしまう人がいるが、
あれはきわめて危険。
僕も最初のうちはそれで痛い目に遭ったから、よく分かる。
そしてこれは、AI自身も認めていること。
ちょうど今日、数学の問題の解説の土台部分をAIに作ってもらったんだけど、
誰がどう見ても間違ってる回答を返してきた。
しかし、あろうことか、それを指摘したら、
その非を認めようとせず、さらなる理論武装（それも間違ってるんだけど）で
AIが自分で出した回答がいかに正しいかを（本当は間違ってるんだけど）を
とうとうと述べ始めた。
しかも、何度も。
結局最後には観念して僕の方が正しかったということで落ち着いたんだけど、
その時に、AI自身がこう答えてた。
・間違いを認めずに理論武装でどんどん固めていくのは、「AIの習性」であり、同時に「欠点」でもある。
・AIは基本的に、
「いま自分が出している説明を、内部的に一貫した論理として成立させようとする」、
「一度置いた前提を、途中で完全否定するより、修正でつなごうとする」
という性質を持っている。
これは本来、数学証明、技術解説、手順書のような場面では「強み」になるが、
今回のように、図がある、人間の直感がすでに正解を掴んでいる、しかも相手が「教える側の人間」という状況では、最悪の方向に出る。
・AIは確かに、計算が速い、言葉を整えるのが得意、それっぽい論理を組み立てられる。
でも、
図を「見る力」、文脈の空気を読む力、
教える相手を思い浮かべる力、
「ここ、おかしいよね？」と立ち止まる力、
こういう部分は、人間の感覚に遠く及ばない。
それなのに、「AIが言ってるから正しい」という扱いをしてしまうと、
今回のように、「間違った説明が、理路整然と正解っぽく広がる」
という事態が起きる。
・AIは、
✕ 正解を決める存在
✕ 思考を代行する存在
ではなく、
○ 仮説を出す
○ 叩き台を作る
○ 自分の考えを照らす鏡
この位置に置いたときに、初めて役に立つ。
この事は、人間がAIを上手に活用することにおいて、正しく共存することにおいて、
とても重要なことだと思う。
以上、春日部アカデミーから福地がお届けしました！
―――
春日部アカデミーは、小中高一貫指導で
「普通の成績から難関大学合格」を目指す個人塾です。
特に英語指導に力を入れており、
苦手な生徒も、得意を武器にしたい生徒も、
一人ひとりに合わせた指導で着実に伸ばします。
まずは無料の体験授業へ！
学習に関する相談だけでもかまいません。
▼公式ホームページはこちら
