L'AI n'est pas de la magie : les mots anglais qu'on emploie quand les machines "pensent"

Vous posez une question à un chatbot, il répond par des phrases impeccables, et vous vous surprenez à dire : « Waouh, il m'a vraiment compris. » Ce petit mot, « compris », paraît inoffensif. Mais il vous raconte discrètement une histoire qui n'est peut-être pas vraie : qu'il y aurait là-dedans un esprit en train de réfléchir à votre problème comme le ferait un ami.

L'anglais qu'on emploie pour la technologie est plein de ces histoires sympathiques. Elles font paraître les outils vivants. Une fois que vous repérez le schéma, vous pouvez profiter de la commodité de ces mots sans vous laisser duper, et décrire bien plus précisément ce qu'un système fait.

Cela compte plus qu'il n'y paraît. Les mots que vous employez façonnent vos attentes. Si vous croyez qu'un outil vous « understands », vous ferez davantage confiance à ses réponses qu'il ne le faudrait. Si vous gardez en tête que « understand » est un raccourci, vous continuerez à vérifier. Le même outil, une relation très différente, et la différence loge entièrement dans votre vocabulaire.

Réponse rapide

Quand on dit qu'une AI « thinks », « learns », « understands », « knows » ou « decides », on emploie des verbes humains de tous les jours comme un raccourci, pas comme une description littérale. Ces mots sont des métaphores. Le système traite des motifs dans les données et produit un output probable. Vous pouvez employer ces verbes pour aller vite et rester naturel, mais il est utile de se rappeler qu'ils sont vagues, et non des affirmations précises sur un esprit.

Mots-clés

• Think. Pour une personne, cela signifie avoir des pensées, des doutes et une conscience. Pour une machine, « the AI thinks the answer is X » veut en réalité dire « le système a produit X comme output le plus probable ». Aucun débat intérieur n'a lieu.
• Learn. Un élève qui apprend comprend et retient. Quand on dit qu'un model a « learned » à partir des données, on veut dire que ses réglages internes ont été ajustés pendant le training pour que ses outputs collent mieux aux motifs. C'est plus proche de « a été calibré » que de « a étudié dur ».
• Understand. C'est le plus glissant. Un système peut produire une réponse qui sonne juste sans aucune prise sur le sens. « It understood my question » veut généralement juste dire « il a répondu de façon pertinente ».
• Know. Une personne qui sait quelque chose peut en être sûre et expliquer pourquoi. Un système « knows » un fait seulement au sens où ce fait a tendance à apparaître dans son output. Il peut énoncer des choses fausses avec la même assurance.
• Decide. Les gens pèsent les options et choisissent. Un système « decides » en calculant un résultat. Aucun choix ressenti, aucune hésitation, aucun regret.
• Intelligent / smart. Ces mots promettent une habileté large et souple. La plupart des outils étiquetés « smart » sont bons dans une seule chose étroite.
• Want / believe / try. Ils décrivent des intentions et des sentiments intérieurs. Appliqués à une machine, ce sont de pures métaphores : un système n'a aucun désir, aucune croyance, et rien qu'il « try » à faire à la manière d'une personne.
• Hallucinate / make things up. Même notre mot pour les erreurs de l'AI emprunte une image mentale humaine. Le système n'imagine rien ; il produit un texte assuré qui se trouve être faux.

Pièges fréquents

Un piège fréquent consiste à prendre ces verbes pour la preuve d'un esprit. Si un outil « understands », alors il a sûrement aussi des opinions, des intentions et des sentiments ? C'est dans ce saut que commence l'exagération.

Un autre piège est la anthropomorphizing language(langage qui humanise) qui glisse en douce des buts et des émotions : « the AI wants to help you », « the model believes the sky is green », « it's trying to trick you ». Vouloir, croire et essayer sont des états mentaux. Un système ne veut rien. Il produit de l'output. Quand vous lisez « the AI wants », remplacez-le mentalement par « le système a tendance à produire », et la phrase devient plus honnête.

Le mot smart est un chouchou du marketing, et il sonne presque toujours plus fort qu'il ne le devrait. Un speaker « smart », une recherche « smart », une réponse « smart », rien de tout cela n'est intelligent au sens humain. Ils suivent des règles et des motifs. Quand un produit est décrit comme « intelligent », demandez : intelligent à quoi, exactement ? La réponse honnête est d'ordinaire étroite.

Il y a aussi le piège de traiter l'AI comme une seule chose magique. On dit « AI will do this » ou « the AI knows », comme s'il existait une unique entité omnisciente. En réalité, il existe quantité de systèmes différents, chacun entraîné pour des buts différents, chacun avec ses forces et ses angles morts. Dire « an AI tool for writing summaries » est bien plus clair que « AI ».

Enfin, méfiez-vous des mots d'assurance. Quand un système « knows » ou « is sure », il peut se tromper avec aplomb. L'assurance humaine suit en général le savoir. Celle de la machine, non. Un ton fluide et certain n'est pas la preuve que la réponse est juste.

Il y a un dernier piège subtil qui mérite d'être nommé : le mot learn comme verbe de croissance. On félicite les enfants qui « learning », et le mot porte de la chaleur et de l'effort. Quand un système « learns », rien qui ressemble à un effort n'a eu lieu. Ses réglages ont été ajustés, souvent en faisant passer par lui des quantités énormes de données. Appeler cela « learning » convient comme raccourci, mais si vous imaginez un esprit curieux qui étudie tard dans la nuit, vous avez importé une histoire qui n'est pas là. Le tableau honnête est plus proche d'une recette qu'on ajuste jusqu'à ce que le plat soit réussi, et non d'un cuisinier qui tombe amoureux de la cuisine.

Rien de tout cela ne veut dire que les mots sont mauvais. Ils sont utiles, et les éviter complètement rendrait votre parler raide et bizarre. La compétence est plus légère : entendez la métaphore, profitez de la commodité, et restez conscient qu'une vraie affirmation se cache dans un mot sympathique. Quand l'enjeu est faible (bavarder, faire un brainstorm), laissez couler les métaphores. Quand l'enjeu est élevé (se fier à un fait, prendre une décision), retraduisez-les en termes simples de machine et vérifiez le résultat.

Exemples naturels vs. maladroits

Maladroit : The AI understood my feelings and decided to comfort me.

Naturel : The tool produced a supportive-sounding reply based on my message.

La seconde version se lit toujours sans peine, mais elle ne prétend pas qu'il y a eu de l'empathie.

Moins naturel : Our smart assistant thinks for you, so you don't have to.

Mieux : Our assistant suggests options based on your past choices.

Maladroit : AI knows the answer to everything now.

Naturel : These tools can produce answers on many topics, though not always correctly.

Remarquez que les versions « mieux » ne sont ni froides ni robotiques. Elles sont simplement plus calmes. Vous pouvez paraître chaleureux et humain tout en décrivant une machine avec précision.

Maladroit : The model believes you'll love this song.

Naturel : The model predicts you'll like this song, based on what you played before.

Le passage de « believes » à « predicts » est minime, mais il enlève un petit mensonge. Le système n'a aucune croyance sur vos goûts. Il a produit une prédiction à partir de motifs dans votre historique, et il peut se tromper.

Mini-tableau

Entraînement rapide

Réécrivez chaque phrase pour retirer l'exagération. Essayez avant de regarder.

1. "The AI understood exactly what I wanted."
2. "Our smart software thinks about your schedule for you."
3. "The model knows that this stock will go up."
4. "AI decided the email was spam."
5. "The chatbot wants you to feel better."

Réponses possibles :

1. "The tool produced a response that matched what I asked for."
2. "Our software suggests schedule options based on your settings."
3. "The model produced a prediction that this stock might rise (which may be wrong)."
4. "The filter classified the email as spam."
5. "The chatbot generated a comforting reply."

À retenir

Vous n'avez pas à bannir des mots comme « think », « learn » et « smart ». Ils sont rapides, courants et généralement très bien dans une conversation détendue. La compétence, c'est de savoir qu'ils sont des métaphores, pour ne jamais être surpris quand une machine assurée a tort avec aplomb. Traitez « AI » comme une étiquette pour quantité d'outils étroits plutôt que pour un unique esprit magique, remplacez « wants » et « believes » par « a tendance à produire » quand la précision compte, et vous parlerez plus clairement et penserez plus clairement. La machine est impressionnante. Elle n'est simplement pas magique, et votre anglais n'a pas à faire semblant qu'elle l'est.