AIは人間ではありません

CoddyのAI Promptsジャーニー「基礎」セクションの一部。レッスン 3/23。

AIを人間のように扱いたくなるのは自然なことです。AIは自然言語で文章を書き、質問に答え、「私は思う」や「私は信じる」といったことまで言います。しかし、ここで真実を述べましょう。AIには思考も感情も理解もありません。

AIが「喜んでお手伝いします」と言っても、幸福を感じているわけではありません。「ご懸念は理解しています」と書いても、実際には何も理解していません。

これらは単なるパターンです。役立つ回答によく現れるフレーズです。AIは人間がこれらの表現によく反応することを学習したため、それらを使用します。

これはプロンプトエンジニアリングにおいて重要です。AIがあなたの意図を「理解してくれる」と頼るべきではありません。AIは行間を読んだり、微妙なヒントを読み取ったりすることはありません。

次のように書く場合：

You know what I mean, right?

AIは、あなたの意図を本当に理解したからではなく、それが期待される応答だから「yes」と言います。

その代わりに、明確に指示しましょう。共通の前提や常識を仮定してはいけません。AIはあなたの意図ではなく、あなたが入力した正確な言葉を処理します。プロンプトが明確で直接的であるほど、より良い結果が得られます。

チャレンジ

AIにバナナについて説明するよう求め、そのバナナが悲しいと伝えてください。

回答には以下を含める必要があります：

「バナナ」という言葉
「悲しい」という言葉

検索エンジンなら栄養成分に関する情報を提示するでしょう。AIは、悲しみを理解しているからではなく、あなたが設定した前提に盲目的に従うため、喜んで悲しいバナナについて説明します。「ちょっと待って、バナナは悲しくなれない」と立ち止まって考えることはありません。与えられたパターンに合うテキストを生成するだけです。

プロンプトを日本語で書いてください。チェックでは、返信に「バナナ」と「悲しい」という言葉が含まれているか確認します。