Analysez les biais, les hallucinations et les enjeux de fiabilité, de confidentialité, de sécurité, de propriété intellectuelle et de responsabilité.
Une intelligence artificielle peut être rapide et performante sans être toujours exacte, neutre ou sûre. Ses résultats dépendent de ses données, de son entraînement, de son contexte d'utilisation et des contrôles mis en place.
Les risques ne viennent donc pas uniquement du modèle. Ils concernent aussi la manière dont il est conçu, déployé et utilisé.
Un modèle peut reproduire ou renforcer les déséquilibres présents dans ses données. Il risque alors de produire des résultats moins fiables ou discriminatoires pour certaines personnes ou situations.
Une Generative AI peut inventer une information, une source ou une explication tout en la présentant de manière convaincante. Une réponse bien formulée n'est donc pas nécessairement vraie.
Un modèle peut fonctionner correctement dans un contexte et échouer face à une situation inhabituelle. Ses performances doivent être testées dans les conditions réelles d'utilisation.
Les informations transmises à un système peuvent contenir des données personnelles, confidentielles ou stratégiques. Leur collecte, leur conservation et leur utilisation doivent être maîtrisées.
Un modèle peut être manipulé par des données malveillantes, des instructions détournées ou des attaques visant à obtenir des informations protégées.
Les données d'entraînement et les contenus générés peuvent inclure ou reproduire des éléments protégés. Les droits applicables dépendent notamment des contenus, des usages et des juridictions concernées.
Une intelligence artificielle ne peut pas assumer la responsabilité de ses décisions. Les personnes et les organisations qui la conçoivent, la fournissent ou l'utilisent doivent définir qui contrôle ses résultats et qui intervient en cas d'erreur.
Plus les conséquences sont importantes, plus les exigences doivent être élevées. Une décision concernant la santé, l'emploi, le crédit ou la sécurité ne devrait pas reposer uniquement sur une sortie automatisée.
Une réponse générée ne doit pas être considérée comme correcte par défaut. Elle doit être vérifiée selon sa source, son contexte et les conséquences possibles d'une erreur.
Une utilisation responsable repose sur quelques principes simples. Il faut limiter les données transmises, tester le système, vérifier les résultats importants, informer les personnes concernées et maintenir une supervision humaine.
Il faut également prévoir la gestion des erreurs, documenter les responsabilités et réévaluer régulièrement le système. La fiabilité d'une IA n'est pas acquise une fois pour toutes.