IA et information : Google, OpenAI et Anthropic face au Sénat

📋 En bref

🎯 Une audition sous serment : le contexte

Ce n’est pas un débat de plateau télé. La mission d’information sénatoriale est dotée des prérogatives d’une commission d’enquête : les trois représentants ont prêté serment, un faux témoignage les exposant aux peines des articles 434-13, 14 et 15 du code pénal. L’audition, diffusée en direct sur le site du Sénat, s’inscrit dans des travaux au long cours sur les « zones grises » de l’information numérique.

Trois inquiétudes structurent les questions des sénateurs sur le terrain IA et information :

• La fiabilité : un LLM interrogé sur l’actualité distingue-t-il une source fiable d’une source volontairement polluée ? Quels mécanismes de vérification s’appliquent aux réponses produites ?
• La désinformation industrialisée : deepfakes, faux sites d’information locaux, myriades de faux comptes générant de faux commentaires — l’IA produit de l’information comme de l’intoxication, à l’échelle.
• L’économie des médias : les modèles ont été entraînés sur des millions d’articles de presse sans réel partage de la valeur, pendant que le modèle économique du journalisme est en péril.

📊 Hallucinations : ce que les trois acteurs admettent

Le passage le plus pédagogique de l’audition revient à Anthropic, qui explique sans détour pourquoi une IA se trompe : un grand modèle de langage génère sa réponse en prédisant statistiquement la suite la plus probable, par association et probabilité, non en consultant une base de faits établie. Voilà pourquoi un modèle peut affirmer avec aplomb quelque chose d’inexact. Si ces notions de LLM, de tokens ou de fenêtre de contexte restent floues pour vous, je les détaille dans mes 30 concepts IA vitaux.

Anthropic mesure deux familles d’hallucinations : les hallucinations factuelles (une date erronée, une situation inventée) et les hallucinations situationnelles (répondre à une pièce jointe qui n’existe pas). Sur les deux, Claude Opus 4.8, sorti la semaine précédant l’audition, affiche un taux de réponses incorrectes inférieur aux modèles précédents.

OpenAI met en avant deux leviers : la recherche web avec citation des sources, et les modèles de raisonnement — le « système 1 / système 2 » du prix Nobel Daniel Kahneman appliqué à l’IA. En confrontant sa réponse à son code de conduite avant de la produire (le Model Spec, publié en 2024 et affiné avec plus de 1000 experts), le modèle pratique un alignement délibératif qui réduit hallucinations et biais. Google insiste sur son fine-tuning supervisé, l’apprentissage par retour humain (RLHF) et ses tests d’intrusion éthique en red teaming.

Les trois publient leurs résultats dans des system cards accessibles publiquement. Tendance commune : amélioration nette, jamais zéro. Pour choisir le bon assistant selon vos tâches, ma méthode est dans le comparatif ChatGPT vs Claude vs Gemini.

Comment chaque acteur traite-t-il le couple IA et information ?

🔍 Contenus synthétiques : la course à la traçabilité

Face à l’hyperréalisme des contenus générés, la réponse commune s’appelle provenance. Google déploie SynthID, un tatouage numérique (watermarking) intégré dans chaque pixel d’une image, chaque élément d’un texte ou chaque onde d’un fichier audio générés par ses IA. Invisible à l’œil nu, il reste détectable même après recadrage, altération ou capture d’écran.

Les acteurs participent à la coalition C2PA, qui réunit entreprises technologiques, fabricants d’appareils photo et médias autour de standards de métadonnées universels — une « étiquette nutritionnelle » du contenu en ligne, selon l’expression utilisée pendant l’audition. OpenAI intègre ces métadonnées d’identification depuis 2023. Google y ajoute des outils de contextualisation : « À propos de cette image » et l’expérimental Backstory, qui retracent l’historique d’une image, sa date de première indexation et son éventuel usage trompeur passé.

La limite, assumée : la chaîne de valeur de l’information traverse plusieurs strates, et les producteurs de modèles ne contrôlent pas la diffusion. Tant que l’ensemble de l’écosystème — réseaux sociaux compris — n’adopte pas ces standards interopérables, le marquage ne suffit pas. En matière d’IA et information, la traçabilité reste un chantier, pas un acquis.

⚠️ Désinformation : faux comptes et réseau Pravda

L’aveu le plus concret vient d’Anthropic : un opérateur d’« influence as a service » a utilisé Claude pour orchestrer plus de 100 faux comptes automatisés sur les réseaux sociaux, dans plusieurs pays et plusieurs langues. Comptes bannis, techniques rendues publiques, enseignements partagés avec les pairs — la transparence revendiquée jusque dans l’inconfortable.

Chaque acteur décrit ensuite son arsenal : politiques d’utilisation interdisant désinformation et ingérence électorale, classifieurs automatisés de détection, équipes dédiées d’analyse des menaces, rapports de transparence au titre du règlement européen DSA. Google signale aussi un risque émergent propre aux agents IA : la prompt injection, ces instructions invisibles glissées dans une page web pour détourner l’agent qui la résume. Côté autorités françaises, les équipes échangent avec Viginum, le service de vigilance contre les ingérences numériques étrangères.

Le moment gênant de l’audition

Puis le sénateur dégaine un dossier précis : un audit NewsGuard a montré que les dix principaux outils d’IA générative répétaient de fausses affirmations du réseau pro-russe Pravda dans un tiers des cas, et les travaux du DFRLab et de Check First ont documenté la contamination par le réseau Portal Kombat, signalé par Viginum. Comment avez-vous réagi ? Réponse : aucun des trois représentants ne connaissait suffisamment le dossier pour répondre en séance. Sur un sujet aussi documenté d’IA et information, ce blanc en dit long sur l’écart entre les process déclarés et le suivi opérationnel.

En période électorale, les garde-fous se durcissent toutefois : bandeaux d’information électorale chez Anthropic depuis 2024, partenariat de Google avec le Parlement européen pour les élections de 2024, exigence d’autorité renforcée vers les sources officielles (dates de scrutin, bureaux de vote).

💰 Droits voisins et statut d’éditeur : les questions qui fâchent

Sur la rémunération de la presse, trois situations contrastées. Google revendique plus de 500 accords de droits voisins depuis 2021 et le rang de premier contributeur privé de la presse en France, plus un accord distinct avec Reddit pour l’entraînement de ses modèles. OpenAI aligne Le Monde, le Financial Times, Axel Springer, Prisa Media, Associated Press et le réseau WAN-IFRA, tout en se présentant comme une jeune entreprise aux équipes limitées, plus proche d’un Mistral que d’un géant établi. Anthropic assume sa différence : la presse n’occupe pas une place centrale dans des usages dominés par le travail technique en entreprise ; ses partenariats de contenu passent par le protocole MCP avec des éditeurs scientifiques.

Le vrai point de friction surgit sur le statut juridique : un fournisseur d’IA est-il un éditeur ? Les trois répondent non — pas de communication publique de contenu, une relation conversationnelle individuelle, un contenu piloté par l’instruction de l’utilisateur. Le sénateur retourne l’argument : posez la même question aux trois modèles, vous obtenez trois réponses différentes. Données d’entraînement, algorithmes, méthodes — chaque entreprise façonne différemment l’information restituée. N’est-ce pas, en creux, une ligne éditoriale ? Les trois s’en défendent ; l’un concède que la frontière entre réseau social, presse et IA mériterait d’être précisée juridiquement.

Même prudence sur la responsabilité pénale en cas de fausse information relayée : aucun ne s’aventure sur le terrain du droit, tous renvoient aux progrès mesurables de leurs garde-fous documentés dans les system cards.

🎓 Ce que j’en retiens pour vos usages pro

Détail piquant : les trois acteurs relativisent l’enjeu en rappelant que l’actualité pèse peu dans leurs usages. OpenAI renvoie à ses données publiques d’utilisation, Anthropic à son Economic Index — où le travail technique (programmation, analyse de données) domine, suivi par la rédaction et la recherche en entreprise. Sans doute. Mais la tendance chez les moins de 35 ans dit l’inverse de la marginalité, et c’est bien elle qui inquiète les sénateurs.

Dans mes formations, la question « peut-on faire confiance aux réponses ? » revient à chaque session. Voici les 4 réflexes que cette audition conforte, et que j’enseigne aux dirigeants de TPE-PME comme aux équipes que j’accompagne en acculturation IA :

1. Exigez les sources, et cliquez dessus. Les trois modèles citent désormais leurs sources sur l’actualité : c’est fait pour être vérifié, pas pour décorer la réponse.
2. Croisez systématiquement sur les sujets sensibles. Sources officielles d’abord (élections, santé, droit), presse établie ensuite, IA comme outil de synthèse — jamais l’inverse.
3. Redoublez de prudence sur les événements récents. Les modèles sont entraînés à refléter l’incertitude, mais l’audit Pravda prouve que la contamination existe : sur l’information fraîche, doublez la vérification.
4. Formez vos équipes à la littératie IA. Google chiffre son effort mondial d’éducation à 120 millions de dollars ; à l’échelle d’une PME, quelques heures de formation suffisent à installer les bons réflexes.

C’est le cœur de mes formations IA certifiées Qualiopi : 80 % de pratique sur vos cas réels, dont ce tri entre IA et information fiable. Et pour mesurer d’abord où en sont vos usages, commencez par un audit IA.

Mon verdict de praticien : des garde-fous réels et documentés, une transparence inégale dès qu’on entre dans le concret, et une certitude — la fiabilité de l’information assistée par IA progresse, mais elle se gagne aussi de votre côté de l’écran.