L’IA se trompe — parfois avec un aplomb déconcertant. Comprendre pourquoi permet de s’en protéger.

Les hallucinations

Comme l’IA prédit du texte plausible, elle peut inventer des faits, des citations, des références qui n’existent pas. Toujours vérifier les informations factuelles importantes (chiffres, dates, sources juridiques, médicales).

Les biais

L’IA a appris sur des données produites par des humains : elle peut reproduire des stéréotypes (de genre, culturels…). Un formateur doit y sensibiliser et encourager le regard critique.

La règle « confiance mais vérification »

• Pour créer, brainstormer, reformuler : l’IA est excellente, faible risque.
• Pour des faits vérifiables : croisez avec une source fiable.
• Pour des décisions sensibles (santé, droit, argent) : l’IA aide à réfléchir, elle ne décide pas.

Message clé à transmettre : l’IA est un assistant, pas un oracle. L’humain garde la responsabilité finale.