Ce que l'IA fait mal

Les outils d'IA produisent des textes, des images et des résumés fluides et assurés. Assuré ne veut pas dire exact.

• Faits inventés. L'IA peut inventer des chiffres, des citations, des sources, de la jurisprudence ou des caractéristiques de produits qui semblent réels.
• Réponses dépassées. Beaucoup d'outils ignorent les changements récents de prix, de règles ou de produits.
• Biais. Le résultat peut reproduire des schémas injustes présents dans les données d'apprentissage de l'outil, par exemple liés au genre, à l'âge ou à la nationalité.
• Contexte manquant. L'outil ne connaît ni votre client, ni votre contrat, ni les règles de votre entreprise si vous ne les lui indiquez pas, et il ne peut pas savoir ce qu'on ne lui a pas dit.
• Sens perdu. Les résumés et les traductions peuvent omettre justement la phrase qui comptait.

Considérez le résultat de l'IA comme un premier jet rédigé par un assistant rapide mais peu fiable : utile, mais c'est toujours à vous de le vérifier.