Le petit monde des nerds de l'IA est de nouveau en ébullition. Cette fois, la star s'appelle Jev, de Typesafe AI. La prémisse est séduisante : on retire la parole à un Large Language Model, on supprime la génération de texte, lente et coûteuse, et on le réduit à une seule tâche, prendre des décisions. Un modèle « System 1 » pur jus, qui livre classifications et probabilités en 70 à 500 millisecondes. Les tokens de sortie ne coûtent rien, puisqu'il n'y en a pas.
Malin, sans aucun doute. L'ambiguïté du langage est radicalement réduite, la sortie ramenée à des valeurs exploitables. On tente en quelque sorte d'éradiquer le côté probabiliste d'une IA et de la faire paraître plus déterministe. Et c'est précisément sur ce mot, paraître, qu'il faut dresser l'oreille.
L'analyse : qu'est-ce que Jev, au juste ?
À froid, Jev est une IA à qui l'on a fait passer l'envie de bavarder. Au lieu de paragraphes, elle livre des catégories, des scores et des probabilités. Pour l'automatisation logicielle, c'est une interface tout à fait sensée : un logiciel n'a que faire de poésie, il lui faut des valeurs qu'une instruction if sait digérer.
Mais, et c'est là que le problème commence, l'éditeur affirme que le modèle ne peut pas halluciner. Pour moi, c'est du pipeau. Techniquement, c'est vrai dans la mesure où le modèle ne peut pas sortir de la structure imposée : pas de données invalides, pas de catégories inventées. Mais sur le fond, cela reste un système stochastique capable de prendre la mauvaise bifurcation. Simplement en silence, et très vite. Jev ne résout pas le problème de l'imprévisibilité ; il le cache derrière une interface déterministe. C'est confondre format de sortie (ce qui est produit) et logique de processus (comment la décision est prise).
Et c'est peut-être plus dangereux que l'hallucination classique :
- Le LLM bavard écrit : « Le client veut résilier parce que son hamster s'est vu refuser un crédit. » N'importe qui repère l'ânerie immédiatement et intervient. L'hallucination porte son propre gilet fluo.
- Jev, le muet, renvoie :
Catégorie : clôture de compte, confiance : 0.98. Pas de justification, pas de contexte, pas d'absurdité visible. Le processus automatisé poursuit sa route, et personne ne remarque rien jusqu'au déraillement.
Une mauvaise décision sous emballage déterministe est plus difficile à repérer qu'un texte faux. Le probabiliste ne disparaît pas : il se cache simplement derrière un masque de chiffres bien propres.
Ajoutons à cela :
Pour bon nombre des cas d'usage mis en avant (détection de spam, routage de tickets, classification), l'IT classique dispose depuis longtemps de solutions éprouvées et taillées pour le déterminisme.
Moteurs de règles, modèles spécialisés finement ajustés, bonnes vieilles heuristiques. Jev les bat-il réellement ou a-t-il seulement l'air plus élégant ? Personne n'y a encore répondu avec des données solides.
Avant d'injecter la complexité d'une unité de décision stochastique dans nos processus cœur de métier, il faut se poser la question : résolvons-nous un problème, ou nous offrons-nous simplement une esthétique plus moderne pour une solution qu'un simple if-else aurait réglée mieux, moins cher et plus sûrement ?
Anatomie d'un hype : du POC à la question ouverte
Jev suit un schéma que nous connaissons bien désormais, et que j'ai déjà disséqué dans « Le piège du POC » : « Proof of Concept intéressant, sans doute utile dans certains scénarios. Seulement : comment met-on ce genre de chose en production ? »
Jev est le nouveau veau d'or autour duquel danse le village IA. Une startup en mode stealth, une démo impressionnante, des timelines en liesse, et zéro réponse solide aux questions de Production Readiness. Nous revoilà en plein dans la boucle infinie du Proof of Concept : l'industrie tech balance un prototype par-dessus la clôture, et nous avons le privilège, en cobayes non rémunérés, de découvrir où il se disloque en pratique. Avec cette fois une nuance piquante : un chatbot bavard, on remarque au moins quand il se disloque. Une machine à décider muette, on ne s'en aperçoit qu'à ses conséquences.
La question de la mise en production reste sans réponse dans l'euphorie actuelle. Et, à y regarder de plus près, elle se décompose en plusieurs sous-questions inconfortables :
- Responsabilité : qui répond d'une décision muette erronée ? Un output textuel offre au moins une « justification » traçable ; un score de confiance nu de 0.98 n'offre rien à auditer.
- Calibration : Typesafe AI vante « RLCD » pour des « décisions calibrées » (Reinforcement Learning for Calibrated Decisions, superbe charabia marketing !). Mais calibrées sur les données de qui ? Personne ne sait si les scores de confiance tiennent sur vos tickets de support, vos logs, votre domaine, à moins que vous ne le testiez vous-même, à fond et en continu.
- Dépendance : intégrer profondément dans des processus de production, comme composant de décision, le modèle propriétaire d'une startup en mode stealth dont l'architecture n'est pas publique, c'est du Vendor Lock-in à l'état pur. Que se passe-t-il si Typesafe AI est rachetée, change ses prix ou ferme boutique dans 18 mois ?
- Réglementation : un système qui prend automatiquement des décisions concernant des personnes (priorisation de tickets, détection de PII, scores de risque) se retrouve vite dans les classes de risque supérieures de l'EU AI Act. Comment documenter un modèle dont l'éditeur tait délibérément le fonctionnement interne ?
Ce ne sont pas des questions rhétoriques pour descendre Jev en flèche. Ce sont les questions auxquelles il faut répondre avant toute mise en production, et que le cycle du hype saute systématiquement.
Retour à la cible mouvante
Ce qui nous ramène à ma thèse de « AI as a Moving Target » : encore une évolution intéressante, encore de l'agitation chez les nerds. Celui qui a lancé il y a six mois un projet pour entraîner un modèle BERT sur exactement ce type de tâches de classification se frotte aujourd'hui les yeux. Et celui qui mise tout sur Jev aujourd'hui se les frottera dans quelques mois (semaines ?), quand déferlera la vague open source de clones « System 1 », ce qui est prévisible.
D'autres évolutions arrivent, c'est la seule certitude. Quand et comment intégrer ce genre d'outils dans une stratégie IA propre, c'est une autre histoire, et elle reste à écrire.
Conclusion : vigilance, et l'éternel leitmotiv
Une fois de plus, je ne fais délibérément aucune recommandation, ni pour ni contre Jev. Mon propos est ailleurs : restez vigilants face à chaque hype IA.
Quand un éditeur affirme que son modèle « ne peut pas halluciner » (ou qu'il pourrait anéantir l'humanité), ce n'est pas un fait technique, c'est une formule marketing. Quand un POC impressionnant déferle sur les timelines, la bonne réaction n'est pas « on l'intègre ! », mais la question sobre : dans quel scénario cela résout-il un problème que nous avons vraiment, et combien nous coûte l'erreur quand la décision muette est fausse ? Autrement dit : ne vous laissez pas balader par les POC de l'industrie tech. Construisez les vôtres, sur vos données, dans vos processus.
Car une chose vaut pour Jev comme pour tous les outils : une IA qui décide plus vite se trompe plus vite. Et une IA qui se tait en le faisant se trompe plus discrètement. Celui qui intègre Jev dans un workflow complexe et non documenté n'obtient pas un processus plus intelligent. Il obtient un processus qui produit désormais du grand n'importe quoi en 70 millisecondes, avec un score de confiance de 0.98 en guise de label qualité par-dessus.
IA bavarde ou muette, System 1 ou System 2 : l'outil n'est jamais la stratégie. Laissez les hypes être des hypes, retournez au tableau blanc et regardez vos processus. Car au bout du compte, la règle reste la même :
It's always the process, stupid!
Live long and prosper 😉🖖
