L’intelligence artificielle s’est largement intégrée à notre quotidien, mais un récent scandale médiatique aux États-Unis révèle ses limites lorsqu’il s’agit de recherches d’informations fiables.
1. Un scandale révélateur des faiblesses de l’IA
Tout a commencé sur CNN lors d’un débat sur les grâces présidentielles familiales. La commentatrice Ana Navarro-Cardenas a affirmé que le président Woodrow Wilson avait gracié son prétendu beau-frère, un certain Hunter deButts. Cette information, rapidement reprise par d’autres médias et relayée sur les réseaux sociaux, semblait crédible.
Cependant, face aux questions sur ses sources, Navarro-Cardenas a expliqué qu’elle s’était appuyée sur ChatGPT. Une enquête a révélé que :
- Hunter deButts n’a jamais existé.
- D’autres anecdotes relayées étaient également fausses, comme la prétendue grâce de George H.W. Bush à son fils Neil ou de Jimmy Carter à son frère Billy.
2. Des erreurs fréquentes dans les réponses des IA
Cette affaire n’est pas un cas isolé. Des études montrent que les IA génératives comme ChatGPT se trompent dans plus de 75 % des cas lorsqu’elles citent des sources spécifiques. Cela pose problème, car ces outils sont de plus en plus utilisés par des journalistes, chercheurs et étudiants.
Un exemple marquant est celui de Jeff Hancock, fondateur du Stanford Social Media Lab et expert en désinformation. En utilisant GPT-4 pour générer des références bibliographiques, il s’est retrouvé avec des citations inexistantes dans un document officiel. Si des experts peuvent être trompés, le risque est encore plus grand pour le grand public.
3. IA vs moteurs de recherche traditionnels
La différence entre une recherche sur Google et une requête via une IA est fondamentale :
- Google Search fournit des liens vers des sources primaires que vous pouvez consulter et vérifier.
- Les IA génératives produisent des réponses directes qui semblent crédibles, mais qui sont souvent invérifiables.
Cette facilité d’accès à une réponse immédiate encourage la paresse intellectuelle : pourquoi prendre le temps de vérifier les faits quand une IA semble nous donner une réponse toute faite ?
4. Un risque pour la qualité de l’information
Cette tendance a des conséquences graves :
- La propagation de fausses informations s’accélère.
- La capacité du public à distinguer le vrai du faux s’affaiblit.
Des erreurs, même anodines, comme affirmer que les renards mâles sont monogames, peuvent nuire à notre compréhension du monde. Mais lorsqu’il s’agit d’événements d’actualité, ces erreurs deviennent préoccupantes.
5. Prudence et vigilance
En attendant que les IA génératives s’améliorent, il est conseillé de :
- Privilégier des moteurs de recherche traditionnels comme Google.
- Croiser les informations et vérifier les sources vous-même.
L’IA est un outil puissant, mais elle ne doit pas remplacer votre esprit critique.
