AIは魔法ではない：機械が「考える」ときに使われる英語

チャットボットに質問すると、きれいな文章で答えが返ってきて、つい「うわ、ちゃんと理解してくれた」と口にしてしまう。この小さな「理解した」という言葉は、一見無害です。でもそれは、真実ではないかもしれない物語をそっと伝えています。中には心があって、友人のようにあなたの問題を考えている、という物語です。

テクノロジーについて使う英語は、こうした親しみやすい物語であふれています。それらは道具をまるで生きているように聞こえさせます。このパターンに気づけば、その言葉の便利さを楽しみつつ、だまされずにすみますし、システムが実際に何をしているのかをずっと正確に表現できるようになります。

これは見た目以上に大切なことです。使う言葉は、あなたの期待を形づくります。道具があなたを「理解する」と信じれば、その答えを必要以上に信じてしまいます。「理解する」は近道の言い方だと覚えていれば、確認を続けるでしょう。同じ道具なのに、まったく違う関係になる。その差はすべて、あなたの語彙の中にあります。

クイック回答

人がAIについて「思考する」(think)、「学習する」(learn)、「理解する」(understand)、「知っている」(know)、「決める」(decide) と言うとき、それは日常的な人間の動詞を近道として使っているのであって、文字どおりの描写ではありません。これらの言葉は比喩です。システムはデータの中のパターンを処理し、もっともらしい output を生み出しているのです。動詞を使えば手早く自然になりますが、それらが厳密な主張ではなくゆるい言い方だと覚えておくと役立ちます。

キーワード

• Think（思考する）。 人にとっては、考えや迷い、自覚を持つこと。機械にとって「AIは答えがXだとthinkする」とは、実際には「システムがXをもっとも可能性の高い output として生み出した」という意味です。内なる議論など起きていません。
• Learn（学習する）。 学ぶ生徒は理解して覚えます。modelがデータから「learnした」と言うとき、それは訓練中に内部設定が調整され、output がパターンによりよく合うようになった、という意味です。「一生懸命勉強した」よりも「調整された」に近いのです。
• Understand（理解する）。 これが一番つかみどころのない言葉です。システムは意味をまったく把握しないまま、正しそうな答えを生み出せます。「私の質問をunderstandした」は、たいてい「関連性のある応答をした」というだけの意味です。
• Know（知っている）。 何かを知っている人は、確信を持ち、その理由を説明できます。システムが事実を「know」しているのは、その事実が output に現れやすい、という意味でしかありません。同じ自信で誤ったことも口にできます。
• Decide（決める）。 人は選択肢を比べて選びます。システムは結果を計算することで「decide」します。感じられる選択も、ためらいも、後悔もありません。
• Intelligent / smart（知的な / 賢い）。 これらの言葉は、幅広く柔軟な賢さを約束します。「smart」と名のつく道具のほとんどは、ひとつの狭いことが得意なだけです。
• Want / believe / try（〜したい / 信じる / 試みる）。 これらは内なる意図や感情を表します。機械に当てはめると純粋な比喩です。システムには願望も信念もなく、人のように「try」しているものも何もありません。
• Hallucinate / make things up（幻覚を起こす / でっち上げる）。 AIの誤りを表す言葉でさえ、人間の心のイメージを借りています。システムは何かを想像しているわけではなく、自信たっぷりだがたまたま誤っている文章を生み出しているだけです。

よくある落とし穴

よくある落とし穴は、これらの動詞を心の存在の証拠として扱うことです。道具が「understand」するなら、当然、意見も意図も感情もあるはず――この飛躍が、誇張の始まりです。

もうひとつの落とし穴は、目標や感情をしのびこませる擬人化された言葉です。「AIはあなたを助けたいとwantしている」「modelは空が緑だとbelieveしている」「あなたをtryしてだまそうとしている」。望む、信じる、試みるは、いずれも心の状態です。システムは何も望んでいません。output を生み出しているだけです。「the AI wants」と読んだら、頭の中で「システムは生み出しがちだ」と置き換えてみてください。文がずっと正直になります。

smart という言葉はマーケティングのお気に入りで、ほぼ必ず実際より強く聞こえます。「smart」スピーカー、「smart」検索、「smart」返信――どれも人間的な意味では賢くありません。それらはルールとパターンに従っています。製品が「intelligent」と表現されていたら、こう問いましょう。正確に何がintelligentなのか、と。正直な答えはたいてい狭いものです。

AI をひとつの魔法のような存在として扱う落とし穴もあります。人は「AIがこれをやる」「the AIはknowしている」と、全知の単一の存在があるかのように言います。実際には、それぞれ異なる目的で訓練され、異なる強みと盲点を持つ、多くの異なるシステムがあります。「要約を書くためのAIツール」と言うほうが、ただ「AI」と言うよりずっと明確です。

最後に、自信を表す言葉に注意してください。システムが「know」していたり「is sure」だったりするとき、自信たっぷりに間違っていることがあります。人間の自信はたいてい知識と連動します。機械の自信はそうではありません。なめらかで確信に満ちた口調は、答えが正しい証拠ではありません。

もうひとつ、名指ししておく価値のある微妙な落とし穴があります。成長を表す動詞としての learn です。子どもが「learning」することをほめるとき、その言葉は温かさと努力を帯びています。システムが「learn」するとき、努力のようなものは何も起きていません。その設定が、しばしば膨大な量のデータを通して調整されただけです。それを「learning」と呼ぶのは略語としては問題ありませんが、夜更けまで勉強する好奇心旺盛な心を想像すると、そこには存在しない物語を持ち込んでしまいます。正直なイメージは、料理に恋した料理人ではなく、出来上がりが正しくなるまで調整されるレシピに近いのです。

これらはどれも、その言葉が悪いという意味ではありません。便利ですし、完全に避ければ表現がぎこちなく奇妙になります。技術はもっと軽やかです。比喩を聞き取り、便利さを楽しみ、親しみやすい言葉の中に本物の主張が隠れていると気づき続けること。賭け金が低いとき（雑談、ブレインストーミング）は、比喩を流れるにまかせましょう。賭け金が高いとき（事実を信じる、決断を下す）は、それらを素朴な機械の言葉に翻訳し直し、結果を確認しましょう。

自然な例とぎこちない例

ぎこちない： The AI understood my feelings and decided to comfort me.

自然： The tool produced a supportive-sounding reply based on my message.

2つめの版もすらすら読めますが、そこに共感があったふりはしていません。

やや不自然： Our smart assistant thinks for you, so you don't have to.

より良い： Our assistant suggests options based on your past choices.

ぎこちない： AI knows the answer to everything now.

自然： These tools can produce answers on many topics, though not always correctly.

「より良い」版が冷たくも機械的でもないことに注目してください。ただ落ち着いているだけです。機械を正確に描写しながら、温かく人間味のある響きを保てるのです。

ぎこちない： The model believes you'll love this song.

自然： The model predicts you'll like this song, based on what you played before.

「believes」から「predicts」への変化は小さいですが、ちいさな嘘をひとつ取り除いています。システムはあなたの好みについて何の信念も持っていません。あなたの履歴のパターンから予測を生み出しただけで、それは外れることもあります。

ミニ表

クイック練習

それぞれの文を、誇張を取り除いて書き直してみましょう。のぞき見する前に挑戦を。

1. "The AI understood exactly what I wanted."
2. "Our smart software thinks about your schedule for you."
3. "The model knows that this stock will go up."
4. "AI decided the email was spam."
5. "The chatbot wants you to feel better."

考えられる答え：

1. "The tool produced a response that matched what I asked for."
2. "Our software suggests schedule options based on your settings."
3. "The model produced a prediction that this stock might rise (which may be wrong)."
4. "The filter classified the email as spam."
5. "The chatbot generated a comforting reply."

まとめ

「think」「learn」「smart」といった言葉を禁じる必要はありません。手早く、ありふれていて、くだけた会話ではたいてい問題ありません。技術とは、それらが比喩だと知っておくこと。そうすれば、自信たっぷりの機械が自信たっぷりに間違っても、けっして驚きません。「AI」をひとつの魔法の心ではなく多くの狭い道具のラベルとして扱い、正確さが重要なときには「wants」や「believes」を「生み出しがちだ」に置き換える。そうすれば、より明確に響き、より明確に考えられるようになります。機械はすばらしい。ただ魔法ではないだけで、あなたの英語もそのふりをする必要はありません。