Pensée critique et IA : quels enjeux ?

La possibilité d’utiliser les intelligences artificielles dès l’école interroge sur de nombreux aspects.
Il y a bien entendu des questions techniques, des questions d’équité : si l’IA va devenir un assistant dans de très nombreuses tâches, il faut s’assurer que tous les jeunes y aient accès et soient formé·es pour l’utiliser.
Les questions de souveraineté se posent également : quelle IA, quel LLM, quelle plateforme utiliser ? Sachant que tous les systèmes gardent les données que nous utilisons pour interroger.
Mais une autre question interpelle plus urgemment : comment s’assurer que le vrai reste discernable, que des jeunes soient à même de questionner la véracité de la réponse, sans pour autant tomber dans l’excès de ne plus accepter aucune vérité ? La question est rendue complexe par de nombreux facteurs :

• Tout d’abord, les IA génératives peuvent avoir tendance à inventer. Elles créent des textes plausibles, mais pas nécessairement vrais. On parle dans ce cas d’hallucinations. Dans certains cas, les erreurs sont évidentes, mais le sont-elles vraiment pour tout le monde ? La qualité généralement reconnue des styles fait qu’on est facilement bluffé·e. Et quand il s’agit d’un thème sur lequel on n’est pas expert·e, il est très difficile de faire la part des choses.

• En second lieu, il faut admettre qu’il est difficile de détecter automatiquement -c’est-à-dire avec des algorithmes- les erreurs des IA génératives. De même qu’il est difficile tout simplement de savoir si une IA est à l’origine d’un texte ou d’une image. Ces derniers mois, des informations très discutées montraient que des photos gagnantes de concours ou des livres primés étaient l’œuvre, au moins partielle d’IA.

• En troisième lieu parce qu’au-delà des erreurs de la machine, il va devenir de plus en plus facile de s’aider de la machine pour construire des textes, images et vidéos qui véhiculent un message particulier, tout en maintenant l’illusion du vrai.

Savoir se poser les bonnes questions et avoir des stratégies pour savoir quelle confiance accorder à un texte ou une image, c’est faire preuve de pensée critique. Et c’est peut-être ce qu’il est le plus urgent d’envisager d’apprendre maintenant.

C’est bien pour parler de ces questions que nous avons accepté d’aller à l’Assemblée nationale, rencontrer les député·es de la Commission des Affaires Culturelles et de l’Éducation, le 11 juin.

Nous partagerons sur ce blog nos impressions et les activités effectuées avec les député·es.

À suivre, donc.