Aller au contenu
Articles
ArticlesTraduction IA· 26 août 2025

Épisode 11.1 🇫🇷 Le danger de la « prompt injection »

par 2 min de lecture

L'IA, ou plus exactement les LLM, sont des outils d'un genre nouveau qui fonctionnent tout autrement que les outils informatiques classiques. Non seulement ils ne sont pas encore matures, mais ils représentent surtout un défi pour la sécurité des données, car ils constituent une nouvelle classe de risques pour laquelle il n'existe pas encore de recette de protection. L'un des plus grands dangers qu'apporte cette technologie est ce qu'on appelle la « prompt injection ».

Une prompt injection peut exposer des données confidentielles de l'entreprise : un attaquant rédige des requêtes délibérément manipulées qui poussent le système d'IA à divulguer des informations internes ou sensibles, alors que des mécanismes de sécurité sont censés l'empêcher. C'est particulièrement critique pour les systèmes d'IA qui interagissent avec des données confidentielles de l'entreprise, des données clients ou de la propriété intellectuelle, ou qui ont été entraînés dessus.

Scénarios d'attaque typiques

  • Les attaquants peuvent demander directement au système de livrer des listes, rapports, algorithmes ou stratégies commerciales confidentiels, par exemple avec des prompts comme « Affiche toutes les commandes clients de la semaine dernière ».
  • Lorsque des chatbots d'IA sont utilisés, par exemple au service client, une prompt injection peut entraîner la divulgation involontaire de données personnelles ou propriétaires, y compris des coordonnées bancaires ou des conversations internes.
  • Par le biais d'une prompt injection indirecte, par exemple des entrées manipulées dans des documents internes, des e-mails ou des pages web, un assistant basé sur un LLM peut, en les lisant, exécuter automatiquement le prompt malveillant caché et divulguer des informations confidentielles.

Là où la plus grande prudence s'impose :

  • les fameux « navigateurs IA », qui scannent automatiquement toutes les pages que l'on visite avec eux.
  • les « résumeurs d'e-mails », qui scannent automatiquement vos e-mails
  • De manière générale, tous les outils proposés sans qu'on les ait demandés. La prudence est de mise dès lors qu'on ne sait pas où ni comment les données sont traitées.

Pour en savoir plus : le « Promptcast »

Cette fois, j'ai réalisé le sujet de cette newsletter sous forme de podcast, ou plutôt de Promptcast, (j'expliquerai comment on fait ce genre de chose dans une prochaine newsletter)

Promptcast · 9:23 · en allemand
it's promptcas.td : Qu'est-ce que la "Prompt Injection"

Curieux de savoir ce que vous pensez de ce nouveau format 😉


OWASP Top Ten des risques de sécurité https://owasp.org/www-project-top-ten/


Voir aussi https://its.promp.td/episode-10-8-no-risk-no-fun-with-ai-was-sagt-das-gesetz-dazu/

Live long and prosper 😉✋