Faut- il faire confiance aux informations données par les intelligences artificielles?

[Atelstan]

Bonjour !

J’espère ne pas faire tâches sur ce Forum étant donné que je ne fais que me lancer dans l’univers des IA. Je pense avoir vaguement compris ce qu’il y a de nouveau avec l’IA c’est le fait qu’elle puisse générer une information sous différents formats (vidéo, son, texte) grâce à une base d’apprentissage.

J’ai installé, comme beaucoup de personnes maintenant, l’application chat GPT que j’utilise très régulièrement quand je me pose des questions sur un domaine que je ne connais pas bien. Je trouve ça géniale car chat gpt comprend très vite l’essence même de mon interrogation. et le fait de pouvoir faire une discussion longue fait que je peux creuser au maximum.

Par exemple, j’ai eu une discussion autour de la radiologie très poussée et une autre sur les relations entre les grandes entreprises et les pays en guerre. Tout cela m’en apprend beaucoup et est très accessible.

Mais je me pose la question de la fiabilité des informations que l’IA me donne.

Ma question est donc, est-il nécessaire de fournir un effort de vérification des informations (de la même manière qu’avec les information donné par le web ou même les journaux) ou est ce que je peux me contenter des informations que me donne l’IA

(excusez moi pour les fautes s’il y’en à ce n’est pas mon fort)

[ID-Box]

Bienvenue @Atelstan sur le forum de l’IA !

Ne t’inquiète pas, tout le monde commence quelque part, et c’est super que tu t’intéresses à l’IA.

Tu as bien compris, l’IA peut générer des informations sous différents formats (images, vidéos, voix, musique, texte, etc) grâce à des modèles d’apprentissage. C’est surprenant voire bluffant de voir comment elle peut répondre à des questions complexes en quelques secondes et engager des discussions approfondies.

Concernant la fiabilité des informations fournies par l’IA, c’est une excellente question. Comme pour toute source d’information, il est toujours bon de vérifier les faits, surtout pour des sujets importants ou sensibles, en fonction de l’enjeu il faut y consacrer plus ou moins du temps. L’IA, comme ChatGPT, est un outil puissant, mais elle peut parfois se tromper ou fournir des informations incomplètes voire fausses on dit qu’elle a des hallucinations. Donc, oui, il est recommandé de faire un effort de vérification, tout comme tu le ferais avec des informations trouvées sur le web ou dans les journaux.

N’hésite pas à poser d’autres questions ou à partager tes expériences avec l’IA. C’est en échangeant que nous apprenons tous ensemble !

(excuse-moi pour les fautes s’il y en a, ce n’est pas mon fort non plus )

À très vite sur ForumIA !

[Ber]

@Atelstan

est-il nécessaire de fournir un effort de vérification des informations (de la même manière qu’avec les information donné par le web ou même les journaux)

Bonjour@atl=elsan

J’ai été interpellé par ta question car je me souviens très bien me l’être posée moi-même lors de mes débuts avec les IA.

N’ayant certainement pas la prétention d’être un expert (ce qui tombe plutôt bien, tant il est vrai que trop d’experts consacrent une grande partie de leur énergie à montrer l’étendue de leur expertise ), je peux juste te dire comment je procède pour ma part.

À chaque fois que je veux explorer un nouveau sujet, ou un aspect de l’actualité, j’ai l’habitude de lancer sur mon navigateur une nouvelle fenêtre comportant 5 ou 6 onglets, chacun d’entre eux étant consacré à une IA bien spécifique (ChatGPT, Perplexity, Mistral, Copilot, Gemini…). En pareil cas, je « copie-colle » ma question d’origine sur chacun de mes onglets IA, ce qui me permet de me faire une idée quant aux éventuels décalages ou divergences, lorsqu’il s’en présente. Et lorsqu’effectivement il y en a, je ne manque pas de leur en faire part, carrément, ce qui ne manque pas de m’apporter de nouveaux éclairages. Et c’est toujours constructif. Jamais en effet je n’ai assisté à des « querelles d’IA » comme il peut y avoir des querelles d’experts ( ). Bien au contraire, toutes sont très « classe » dans leur réactions, sur un mode « Tu as bien raison, c’est toujours salutaire de recouper les informations […] »). Et à l’arrivée, cela fait toujours avancer la question.

Alors bien entendu, ce système n’est pas une garantie, et on peut très bien imaginer que plusieurs IA soient (que ce soit voulu par leurs concepteurs ou non) victimes des mêmes « biais », en quelque sorte, mais bon, il me semble que ça fait bien le ménage en tout cas, et que ça limite bien les dégâts, même si je suis conscient que ce n’est pas une garantie. Sans compter que la plupart es IA citent désormais (sous forme de note de bas de page) les sources sur lesquelles elles s’appuient pour avancer leur dires, ce qui permet d’approfondir le sujet. Après c’est toujours pareil, tout est dans la confiances que nous accordons (…ou pas) dans lesdites sources.

Concernant les « hallucinations », il m’est déjà arrivé plusieurs fois de poser carrément la question « es-tu sûr que ce que tu viens d’affirmer ne provient pas d’une hallucination ? », et à ma grande surprise, l’IA m’a le plus souvent répondu « Oui, en effet », avant de rectifier le tir…

Voilà. J’espère que ma réponse pourra t’aider, mais encore une fois je n’ai aucunement prétention à faire autorité en la matière.

Les IA peuvent ressembler à un paradis… ou un enfer. Il me semble que, chacun de nous, à notre niveau, nous y pouvons quelque-chose. Pour ma part il s’agit globalement d’'une aventure passionnante… pour peu qu’on garde les yeux bien ouverts

Bien à toi.

[Dan229]

Bonjour,
Je me sers de l’IA pour coder en HTML et créer des sites, pour faire des recherches, pour dessiner, pour corriger mon style, pour traduire. Justement, concernant les traductions, elle prétend traduire dans toutes les langues du monde. Hé bien, parfois, c’est catastrophique si c’est une langue rare comme je l’ai vu en fongbe du Bénin.