L’IA se trompe avec aplomb. Comment lui apprendre à douter ?

Bonjour à toutes et à tous,

Dans la dernière newsletter, je vous parlais de la manière dont on pouvait utiliser l’IA comme coach d’apprentissage. Aujourd’hui, on parle discernement. Comprendre l’IA, c’est bien ; savoir discerner, contredire, vérifier, c’est encore mieux !

Critique de rigueur

On peut manipuler un outil IA et manquer de discernement. Cette compétence, c’est la partie la plus fine de l’esprit critique :

mettre en doute une réponse trop lisse ;

repérer l’exemple bancal, le chiffre invraisemblable, la formule toute faite ;

décider quand vérifier ailleurs, reformuler, ou s’arrêter.

En pratique, on découpe les productions de l’IA, on les commente, on les compare, on les corrige. Comme l’autopsie d’une copie : qu’est-ce qui est personnel ? Qu’est-ce qui sonne creux ? Qu’est-ce qui nourrit vraiment la réflexion ?

Et surtout, on réaffirme une idée simple : penser sans l’IA est un prérequis.

L’école du “gut check”

Même avec la calculatrice : on continue d’enseigner les opérations “à la main” pour

sentir un résultat aberrant,

choisir la bonne modélisation,

vérifier l’outil.

Même chose avec l’IA. Il faut renforcer le “gut check” : ce petit signal intérieur qui murmure « hmm, ça ne colle pas tout à fait… »

Pour ce faire, il faut :

des connaissances personnelles (ordres de grandeur, règles, contre-exemples)

de l’expérience à résoudre seul, même lentement

l’habitude de demander : « Si l’IA se trompait ici, à quoi le verrais-je ? »

L’IA est plus faillible qu’une calculatrice : elle peut inventer, mélanger, raisonner joliment… mais faux. D’où l’impératif : apprendre à vérifier. Pas une chasse aux erreurs, plutôt une posture : « Je considère cette réponse comme une hypothèse ; je la teste, je la confronte à d’autres sources et à mon raisonnement. »

Apprendre aussi accessoirement à penser soit même, faire des enchaînements logiques, de longs développements, des plans élaborés, brefs structurer une pensée, pour ne pas se faire avoir par des réflexions hâtives, vraisemblables mais erronées (pour l’heure je ne vois pas ce qui permet de développer ça au Collège, du moins en 4éme dans celui de mon fils, est cela commence à me frustrer sérieusement…).

Ateliers de discernement (prêts à l’emploi)

1) « IA ou pas ? » - le jeu des différences

Deux versions d’un même texte : une humaine, une générée.

L’enfant repère le trop lisse, le manque de vécu, les erreurs factuelles.

Mini-débat : qu’est-ce qui sonne IA ? qu’est-ce qui sonne humain ?

Objectif : muscler le regard et toucher la singularité d’une pensée humaine.

2) « Autopsie de réponse » - découper pour mieux voir

Découper une réponse IA : intro / arguments / exemples / conclusion.

Pour chaque morceau : Je valide (vrai, pertinent ?), Je nuance (que préciser ?), Je rejette (faux, hors-sujet ?).

Code couleur simple : vert (on garde), jaune (on discute), rouge (on écarte).

Message clé : une réponse d’IA est une matière première, pas un produit fini.

3) « Réparer la machine » - quand l’IA se trompe

Partir d’une réponse volontairement imparfaite (erreur, généralités, formulation faible).

L’enfant repère, réécrit, puis explique : « Pourquoi ma version est meilleure ? »

Conclusion : l’élève pilote, l’IA assiste.

Accompagner autrement

Côté adultes, on déplace le curseur :

valoriser la discussion d’une réponse plutôt que le sans faute ;

féliciter « je ne suis pas sûr, je vais vérifier » autant que « j’ai tout bon » ;

normaliser les erreurs de l’IA et en faire des enquêtes utiles.

La vraie question n’est plus « as-tu utilisé l’IA ? » mais « comment l’as-tu utilisée et qu’en as-tu pensé ? »

Mini-défi de la semaine

Choisissez une question scolaire (histoire, sciences, français…).

Demandez à une IA de rédiger une réponse.

Autopsiez ensemble : vert (fiable), jaune (à discuter), rouge (à écarter).

L’enfant écrit une version améliorée et conclut :

« Voici ce que l’IA m’a apporté… et voici ce que j’ai dû faire moi-même. »

Si vous testez ce défi, racontez-nous : qu’est-ce qui a surpris les enfants ? quelles erreurs ont-ils débusquées ? qu’est-ce que cela a changé dans leur confiance - en eux, et en l’IA ?

Et la suite ?

La semaine prochaine, on parle de comment utiliser l’IA pour le problem solving 👀

Bon week-end à toutes et à tous !

Bonjour à tous,

J’espère que vous avez passé de belles vacances, reposantes et inspirantes, et que vous revenez en pleine forme.

Pour cette nouvelle année, je vous souhaite encore et toujours de continuer à grandir avec vos enfants, de les accompagner et quand c’est possible de vous laisser accompagner par eux. Je ne parle pas seulement d’IA, même si en la matière cet accompagnement réciproque me paraît pertinent et nécéssaire.

Cette semaine je reviens sur une lecture de vacances, qui m’a évoqué de lointains souvenirs et des réflexions malheureusement toujours d’actualité.

Le mois dernier, WIRED revenait sur l’histoire de familles séduites par Alpha School, une “micro-school” texane qui promet 2 heures d’apprentissages “personnalisés” grâce à l’IA, du temps en plus pour le développement des soft skills… et surtout des résultats spectaculaires.

Sauf que, sur le terrain, le constat est plus mitigé.

Une mère décrit sa fille de 9 ans coincée sur IXL (le logiciel de maths), sommée d’enchaîner des dizaines d’exercices jusqu’à “réussir”, sans possibilité humaine d’adapter vraiment l’exigence à son état du moment. Les enfants, parfois pris dans une spirale d’échec, retournent à la maison le moral dans les chaussettes, et l’estime de soi au plus bas.

Quant à l’ambiance générale : une salle silencieuse, casques sur les oreilles, des écrans partout, et des “guides” qui, de l’aveu même de la direction de l’école, “ne font pas d’enseignement”.

Ajoutez à ça des outils de surveillance (enregistrement d’écran, clavier/souris, parfois eye-tracking), et un manuel qui rappelle qu’il n’y a “pas d’attente de vie privée” sur le campus. Parce que pour mesurer et optimiser, il faut surveiller…

La même erreur depuis 10 ans !

Ça m’a immédiatement rappelé AltSchool (2016 !) : l’idée d’une école pilotée par la data, capable de “personnaliser” finement les parcours grâce à des profils, des plans individualisés… et une collecte massive d’informations (jusqu’à caméras/micros en classe, selon plusieurs descriptions).

Même promesse, même tentation d’optimiser ce qui est mesurable… et de perdre ce qui compte.

C’est exactement ce que je pointais dans Préparons nos enfants à demain : La leçon d’AltSchool n’est pas que la technologie aurait échoué, mais qu’elle a été pensée comme une fin en soi. En cherchant à rendre l’apprentissage plus efficace, plus mesurable, plus scalable, le projet a oublié une évidence : apprendre n’est pas un processus industriel. C’est une expérience humaine, relationnelle, imparfaite, faite de détours, de résistances et parfois d’ennui - précisément ce que les algorithmes savent mal gérer.

AltSchool révèle une confusion profonde entre apprendre et performer. En remplaçant progressivement la relation pédagogique par des outils d’optimisation, on obtient peut-être des trajectoires plus rapides sur le papier, mais on fragilise ce qui permet aux enfants de durer : le sens, la confiance, et le lien à un adulte qui incarne l’exigence.

Autrement dit : le danger n’est pas “l’IA” en soi. C’est l’IA sans discernement - et sans pédagogues ou parents aux manettes.

Les leçons à retenir

Un logiciel peut adapter le niveau… pas la relation. “Apprendre” n’est pas juste “réussir 90% d’un module”.

Les métriques fabriquent des comportements. Récompenses, pression, honte, contournements : on finit par éduquer à l’objectif, pas au savoir.

Surveiller n’est pas accompagner. La confiance et l’autonomie ne naissent pas sous webcam.

L’“AI-first” en mode startup confond souvent scaler avec éduquer (et l’enfant devient le produit).

De meilleures approches (IA oui - mais “child-first”)

Certaines écoles font l’inverse : elles partent d’une philosophie, construisent une culture de confiance, puis seulement des pratiques (avec des enseignants qui restent centraux).

Concrètement :

IA comme appui, jamais comme substitut (ex : feedback, entraînement, simulation), et toujours adossée au prof. Appui aussi pour brainstormer, j’en ai déjà parlé, donner des idées, des avis, d’autres regards.

Évaluation du processus, pas seulement du résultat : “Peux-tu expliquer ta démarche ?”

Place au rapport à l’apprentissage : confiance, désir, droit à l’erreur - ce que les KPI capturent mal, mais que la pédagogie travaille très bien.

La question qui reste, au fond, est simple :

veut-on des enfants “optimisés”… ou des enfants qui apprennent à se construire ? Dans le monde de plus ou plus complexe où nous vivons, la réponse va de soi, car pour évoluer nos enfants doivent savoir apprendre - en continu, dans la joie et la bonne humeur !

Bon week-end à toutes et à tous !