3-1-1｜AIが答えてくれるなら、人間はもう考えなくていいのか
生成AIに聞けば何でも解決する。プロンプトさえ覚えれば仕事が変わる。もう人間が深く考える必要はない。
確かに、思い当たるところはあります。ただ、その声が正しいかどうかは、どの立場でどの文脈で聞くかで変わります。
ひょんなことから生成AIのセミナーを開催することになったのですが。私が届けようとしたのは設計の話でした。どう問いを作るか。どう出力を検証するか。その構造です。求められたのはほとんどがすぐに使えるプロンプトでした。
その場にいた人たちは間違っていませんでした。ただ、立っている場所が違いました。同じ生成AIの話をしていたのに、目的が違っていました。
便利さは本物です。速さも本物です。ただ、便利で速いものを見ると、人はそれだけで正しそうだと感じやすくなります。「使えるかどうか」の話が、いつの間にか「任せていいかどうか」の話にすり替わります。そこに一つ、大きな飛躍があります。
3-1-2｜あなたはどちらの立場で聞いていますか
しん生成AIはここまでできる。速いし、整っているし、知識量もある。人間が深く考えなくても、もう任せていいんじゃないかな。
あおい……そう、ですね。便利ですよね。
しん便利どころか、仕事が変わったよ。成果も出てる。使えない人は正直、遅れてると思う。
あおい……あの、一つだけ聞いていいですか。
しんどうぞ。
あおいその出力って、最初の目的に届いていますか。
しん……どういう意味？
あおいごめんなさい。うまく言えなくて。
ふたつの立場から見てきました。しんの主張にも、あおいの問いにも、それぞれの文脈があります。どちらが正しいかではなく、ふたつが重なったときに何が見えるか。ここで、生成AIと愚かな質問を足し算という形で定義してみます。そこから浮かび上がる答えがあります。
3-1-3｜速さが正しさに見えるとき、何かが静かにずれていく
3-1における部分を数式で表してみます。
生成人工知能＋愚かな質問＝思考停止の構造化
生成AIは「もっともらしい」を作るのが得意です。前提がズレていても、問いが雑でも、重要な条件が抜けていても、それらしく返します。だから危険なのは誤答そのものではありません。誤答が答えの顔をして返ってくることです。
速くて整っているから、正しそうに見えます。正しそうに見えるから、疑わなくなります。疑わなくなるから、前提設計を飛ばし続けます。
プロンプトを集めれば何かが変わると信じて、前提設計を飛ばし続ける状態。私はこう呼んでいます。思考停止の構造化と。
3-1-4｜問いを設計するのは、どこまでいっても人間の仕事だ
何を目的にするかを、生成AIは自分で決めていません。何を正しいとみなすか。何を優先するか。何を切り捨てるか。それは最初に置かれた問いや条件に従っています。
つまり、本来、出てきた答えを見る前に問うべきなのは別です。
その問いは正しいか。その条件設定でよいか。何を優先しているのか。何を切り捨てているのか。
ここを飛ばして「AIがこう言ったから」で進むと、答えを見ているようで、実際には前提の誤りを見落としているだけになります。
目的をはしごに例えるなら、これから登ろうとしているはしごが本当に正しい場所に立てかけてあるかを問うところから始めなければなりません。そうでないと、生成AIはどこまでも鋭く、そのはしごを登れるものに組み立てます。論理は展開される。ただ、出発の接続点が違えば、それは無駄な生産になります。
私たちは幻想的な生産性に翻弄されているのではと、私は疑問に感じることがあります。
3-1-5｜思考停止の構造化と定義した回答についてお伺いします
あなたが今使っている生成AIの出力は、目的に対して適正ですか。
