Nous vivons une époque fascinante, mais aussi absurde. Si l'on observe l'évolution de la société numérique, le web social a établi une toute nouvelle métrique de la « compétence »: la portée et les likes l'emportent aujourd'hui bien plus souvent sur une expertise solide, fondée sur des années de recherche et de pratique. C'était déjà un problème avant la vague actuelle de l'IA. Mais avec le déferlement de cette vague est apparue une nouvelle itération, qui était déjà l'objet du premier article ici sur it's promp.td: la Simplicity Trap.
Episode 10 - The Turing effect and the simplicity trapDocIsInDaHouse
Et c'est précisément dans ce piège dans lequel beaucoup sont tombés, ce qui nous vaut cette nouvelle vague de pseudo-expertise.
L'analyse: le tsunami de la pseudo-expertise en IA
Autrefois, un beau parleur sans vraie compétence se faisait repérer assez facilement, car il lui manquait le vocabulaire, la cohérence ou le savoir-faire. Sa portée était limitée et, dès le lendemain, on avait oublié son bavardage inepte, parce qu'il n'était ni publié, ni « shared » ou "liké" nulle part. Aujourd'hui? Aujourd'hui, avec l'un de ces chatbots IA/copilotes/whatever qui s'imposent à nous presque partout dans le monde numérique, il est encouragé à démultiplier son syndrome de Dunning-Kruger.
Car l'une des caractéristiques les plus remarquables de cette innovation – son extrême facilité d'utilisation – est en même temps sa plus grande malédiction. N'importe qui peut aujourd'hui, avec des prompts sommaires, générer des textes pompeux et apparemment plausibles, des analyses qui semblent profondes ou des graphiques impressionnants, que des algorithmes subversifs diffusent ensuite un peu partout.
Par exemple:
Faites défiler LinkedIn aujourd'hui (encore un de ces outils qui incitent chacun à utiliser l'IA sans réfléchir). Vous tomberez inévitablement sur une foule d'« évangélistes de l'IA et gourous du prompt » qui veulent vous vendre en un seul post le framework ultime pour l'implémentation d'agents IA autonomes dans des entreprises. Le fait que cette personne (si c'est bien une personne et non un quelconque bot automatisé) n'ait jamais de sa vie vu de l'intérieur un projet complexe de "change management", ni porté la responsabilité d'un budget de plusieurs millions, bref, son incompétence disparaît derrière une façade apparemment parfaite, tissée par des algorithmes.
Parce que le battage médiatique des réseaux sociaux se nourrit de buzzwords et de vacarme permanent, un tsunami d'« experts en IA » déferle désormais sur nous, prêts à nous expliquer avec une certitude absolue comment fonctionne le nouveau monde.
La réalité: l'expertise n'est pas un prompt
Nous devons sans cesse nous rappeler une chose:
La véritable expertise et la compétence ne surgissent pas spontanément de l'éther numérique. Elles sont le fruit d'une formation solide, associée à des années d'expérience pratique, souvent douloureuse. L'expertise est le distillat du talent, du travail acharné et – c'est essentiel – des erreurs que l'on a commises soi-même et dont on a tiré des leçons.
Replaçons cela dans le contexte du battage actuel autour de l'IA:
Le coup d'envoi de cette folie (ChatGPT) date d'à peine trois ans. La technologie sous-jacente est encore immature, pas vraiment fiable et évolue à une vitesse fulgurante. Il est tout simplement impossible d'avoir des années d'expérience dans l'intégration d'IA en contexte d'entreprise.
Les personnes qui construisent ici une véritable expertise se trouvent actuellement, la plupart du temps, dans la salle des machines des entreprises. Elles expérimentent, échouent, réajustent. Elles savent qu'elles ne détiennent pas encore la vérité absolue – précisément parce que la technologie est encore en pleine mutation.
Le résultat: une confusion maximale
Cette dissonance explique le plus grand problème que j'observe actuellement dans de nombreux projets de consulting: la vague de l'IA est moins portée par des faits rationnels que par le battage marketing et par des pseudo-experts tombés dans la Simplicity Trap. Ils confondent la facilité de la génération de textes avec une réelle compréhension de la matière.
Le résultat, pour les entreprises et la société, c'est la confusion.
Il y a trop de bruit et vachement peu de véritables repères ou guides.
Le paradoxe: une innovation majeure entre de mauvaises mains mène plutôt à la perdition qu'à la béatitude
C'est précisément cette confusion qui nous amène à un autre phénomène, que l'on peut également observer quotidiennement dans un paysage médiatique déroutant. Les actualités économiques regorgent de titres contradictoires: d'un côté, des promesses de salut invraisemblables; de l'autre, des rapports de plus en plus sombres sur des projets d'IA ayant échoué de manière spectaculaire, des budgets de millions de tokens partis en fumée ou l'éclatement imminent de la bulle de l'IA. Presque tragi-comiques aussi, ces annonces régulières d'entreprises qui, dans un pur activisme IA, licencient précipitamment des collaborateurs, pour réembaucher piteusement les mêmes personnes quelques mois plus tard – parce que l'IA « autonome » promise ne s'en sort décidément pas sans une véritable expertise humaine.
C'est le résultat direct de cette pseudo-expertise toxique et omniprésente. Lorsque les décideurs cherchent conseil auprès des gourous les plus bruyants des réseaux sociaux, des attentes totalement irréalistes sont créées. Ces « experts » vendent l'intégration transparente de l'IA comme un bouton magique sur lequel il suffirait d'appuyer. La réalité, amère, frappe ensuite dans les projets: problèmes de protection des données, modèles qui hallucinent, coûts d'API exorbitants et collaborateurs qui corrompent le système avec une « Shadow IT » subversive.
Le paradoxe: l'IA est incontestablement l'une des innovations les plus importantes de notre époque. Mais entre les mains d'acteurs qui ne connaissent pas la différence entre un prompt ChatGPT astucieux et l'intégration sécurisée de systèmes probabilistes dans des processus d'entreprise déterministes, elle devient une coûteuse boule de démolition. Les outils en eux-mêmes sont puissants, mais nombre de ces architectes autoproclamés n'ont pas la moindre notion de la statique du bâtiment.
Du scepticisme plutôt que du FOMO
Chez beaucoup, c'est cette peur de rater le coche – le classique Fear Of Missing Out – qui les rend aveugles aux signaux d'alerte et les jette directement dans les bras des bruyants prophètes du salut. Or, au lieu de courir avec panique après chaque tendance, c'est exactement l'inverse qui s'impose.
Si vous suivez assidûment ce blog, vous le savez sans doute déjà: nous sommes confrontés à une technologie extrêmement complexe, terriblement gourmande en ressources et souvent imprévisible, pour laquelle il n'existe pour l'instant ni standards uniformes ni règles du jeu définitives. La masse de gens qui s'épinglent l'étiquette « IA » sur LinkedIn ou sur les grandes scènes est sans commune mesure avec la réalité. Le nombre de têtes qui comprennent vraiment ce qui se passe sous le capot de ces algorithmes, comment les évaluer d'un point de vue éthique et comment les intégrer de manière créatrice de valeur dans le monde réel, est effroyablement petit.
Seule une infime partie de ceux qui parlent aujourd'hui sans relâche d'IA possèdent l'expertise technique, processuelle et stratégique nécessaire. Celle-ci ne s'acquiert pas en quelques mois.
Alors, si quelqu'un veut vous vendre des certitudes absolues en matière d'IA, méfiez-vous. Quiconque, dans un marché dont les règles du jeu changent tous les mois, prétend savoir exactement où en seront les choses dans cinq ans, ment. Dans le meilleur des cas, il ne ment qu'à lui-même, prisonnier de la Simplicity Trap.
Dans le pire des cas, il brûle votre budget et vous envoie devant les tribunaux.
Live long and prosper 😉🖖
