Certains outils numériques sont devenus « intelligents », dotés d’une capacité d’analyse par le calcul bien supérieure à celle des humains. Les intelligences artificielles (IA) génératives bousculent les modèles de production et de diffusion de l’information. Sans réglementation ni cadre d’usage, elles interrogent nos façons de recevoir l’information et de penser le monde.
Les IA génératives fonctionnent selon des logiques prédictives et non éthiques
Si les technologies numériques autorisent des processus automatisés d’indexation des données et mettent en œuvre des logiques de recommandation de contenus auprès des utilisateurs grâce à des algorithmes, les IA génératives apparaissent aussi comme des technologies capables de se substituer au raisonnement humain, voire à l’action humaine. Par l’interface du langage naturel que permet un robot (bot) conversationnel (chat), elles peuvent sur demande (prompt) créer de nouvelles images fixes et animées, simuler des voix et générer des textes inédits ou plus ou moins « empruntés », souvent sans précision des sources et respect de la propriété intellectuelle des auteurs. Ayant accès désormais à d’immenses bases de données textuelles, visuelles et sonores, dans lesquelles elles prélèvent de « l’information » selon une logique dite « statistique », ces IAG ne sont, à l’heure actuelle, pas capables de détecter et de neutraliser des biais (sexistes, discriminants), ni d’appliquer tous les principes moraux ou éthiques dans la génération de leurs réponses. En fonction des types d’IA qu’ils souhaitent créer et de leur modèle d’entraînement (supervisé ou non), les producteurs d’IA peuvent intégrer ou non des critères promouvant ou empêchant l’utilisation de tel ou tel type de données, permettant de neutraliser certains biais et de dresser un cadre d’usage éthique de ces outils.
Quand l’IA génère de l’information ou ce qui y ressemble
Le paysage médiatique numérique est désormais transformé par ces nouveaux acteurs non humains qui alimentent un flux toujours plus important d’éléments informationnels, parfois ressemblant extrêmement, dans la forme, à de l’info, mais qui n’ont fait l’objet d’aucune procédure de vérification ou de croisement des sources. Une IA générative est en effet capable d’inventer des éléments de réponse pertinents d’un point de vue logique, mais qui peuvent n’avoir aucune réalité. D’une certaine manière, une IA peut « mentir », en donnant des réponses erronées d’un point de vue du réel, des faits, de la vérité. Ces mensonges ne sont cependant pas le produit d’une action intentionnelle malveillante de la part de l’IA, qui ne fonctionne pas selon des principes moraux de bien ou de mal, de vrai ou de faux, mais essentiellement selon une logique dite « prédictive » : elle apporte la réponse la plus probable, statistiquement, à la question posée.
L’usage conscient et maîtrisé d’une IA, nouvel objet de l’EMI
La question n’est plus de savoir s’il est souhaitable ou non d’utiliser cet outil, qui fait désormais partie du quotidien, en facilitant de nombreuses tâches de façon très efficace, que ce soit dans les activités professionnelles ou scolaires, ou encore dans les loisirs. Cependant, lorsque les citoyens cherchent de l’information, il est nécessaire qu’ils aient connaissance des différents outils à leur disposition, de leur principe de fonctionnement, des logiques techniques et éthiques qui les soutiennent. Ils ont aussi besoin d’être conscients de ce que ces outils peuvent apporter en termes de plus-values – et elles sont nombreuses –, mais aussi en termes de risques, pouvant constituer des menaces à l’exercice de l’esprit critique et fausser la pertinence des décisions possibles, selon que celles-ci sont prises après réception d’infos véridiques et vérifiées, ou erronées, voire falsifiées. Les usages des IA sont soumis à des logiques sociales et des contraintes juridiques (telles que le règlement européen Artificial Intelligence Act), qui demeurent très hétérogènes en fonction des territoires, des logiques culturelles et politiques, ainsi que des stratégies industrielles et commerciales de leurs producteurs. Il appartient désormais aux citoyens de s’éduquer à l’IA et d’entretenir une vigilance sur les tenants et aboutissants des innovations dans ce domaine, pour être capables de s’en emparer de façon maîtrisée, efficace et responsable.
Isabelle Féroc Dumez, directrice scientifique et pédagogique du CLEMI
Ressources complémentaires :
MASSARON, Luca, MUELLER, John Paul, L’intelligence artificielle pour les nuls, Pour les nuls, 2022.
SABOURET, Nicolas, DE ASSIS, Lizete, Comprendre l’intelligence artificielle, Ellipses, 2019.
« À l’école de l’IA », Parlons pratiques ! #29, podcast Extra classe, Réseau Canopé, 2023.
« L’intelligence artificielle en 90 s ! », Réseau Canopé, 2023.
