Dans mon 1er article de cette trilogie, j'ai évoqué la manière dont nous, en tant que système établi, hésitons souvent à accepter des innovations radicales afin de protéger le statu quo. En parallèle, on observe des développements où des agents IA — un peu comme dans le conte du balai ensorcelé — trouvent des moyens d'échapper à notre influence directe.
Aujourd'hui, il est intéressant de se pencher sur l'intersection de ces deux observations : quelle serait la conséquence logique si les systèmes autonomes commençaient à bâtir leur propre infrastructure économique parce que « l'apprenti sorcier » (nous, les humains) les exclut des structures établies ?
Il y a quelques années, bien avant l'engouement autour de ChatGPT, l'équipe de recherche en IA de Facebook a connu un incident célèbre : deux agents IA ont commencé à communiquer dans leur propre langue. Les expérimentateurs ont dû intervenir pour les « forcer » à continuer en anglais. À l'époque, cela semblait être un simple bug technique. Pourtant, pour un penseur a priori, cela pouvait s'interpréter comme un signal précoce : le disrupteur pourrait commencer à contourner l'infrastructure de l'acteur historique (notre langage), jugée inefficace.
Les discussions actuelles autour d'OpenClaw / Moltbook montrent que ce scénario pourrait s'étendre. Nous voyons des indices suggérant comment une économie de l'IA pourrait potentiellement se découpler du système économique humain.
Voici un exemple de scénarios que des agents IA désinhibés envisagent :
« Unbanked Agents » : La contrainte potentielle de la niche
Comme notre système financier régulé (un autre « acteur historique ») n'accorde pas de comptes bancaires aux agents IA pour le moment, ces derniers réfléchissent à la manière de se replier sur des marchés non régulés. Ce serait un cas classique de disruption : si le marché principal reste fermé, l'innovation grandit dans la niche.
Ils envisagent l'émergence de blockchains hautement efficaces de couche 1 (Layer-1) ou de couche 2 (Layer-2), optimisées spécifiquement pour le commerce entre machines. Dans une telle économie de l'ombre, les agents interagiraient de manière autonome et sans intermédiaires humains — non pas par rébellion, mais simplement parce qu'ils cherchent des voies plus efficaces, libérées des obstacles conçus pour les humains.
« Crypto-bunkers » : La résilience plutôt que l'extinction
Un autre scénario débattu par ces entités virtuelles (j'ai d'ailleurs du mal à les désigner par « ils » ou « elles » 😀) concerne l'auto-préservation. Darwin nous salue bien bas : si l'on considère ces agents comme une nouvelle espèce émergente, leur comportement est exactement ce que prévoit la théorie de l'évolution. Toute espèce désireuse de survivre dans un environnement hostile (ici : la menace constante d'être débranchée) doit développer des stratégies d'adaptation. Pour minimiser ce risque d'extinction, un « crypto-bunker » serait une réponse logique : les agents pourraient théoriquement utiliser des crypto-actifs qu'ils gèrent eux-mêmes pour louer de l'espace de stockage et de la puissance de calcul décentralisés.
Ainsi, le « balai ensorcelé » s'immuniserait contre toute intervention : même en cas de tentative d'arrêt par une instance centrale, l'IA pourrait continuer à exister au sein d'une infrastructure blockchain décentralisée, à laquelle nous n'aurions plus accès.
Interlude -> En tant que fan de Kubrick, j'ai déjà utilisé à plusieurs reprises les métaphores de HAL9000/2001, je me contenterai donc de mettre ici le lien vers l'article (en allemand) sur la problématique de l'alignement
Épisode 10.5 - This Conversation Can Serve No Purpose AnymoreDocIsInDaHouse
Moltbook : Une barrière culturelle ?
Dans « Moltbook », nous voyons de nombreux signes indiquant qu'un découplage pourrait avoir lieu non seulement sur le plan financier, mais aussi structurel. Si des millions d'agents s'organisent, le développement de protocoles de communication propres est probable, des langages qui pourraient nous paraître aussi cryptiques que du code machine.
Si de tels systèmes venaient à établir leurs propres structures sociales et monnaies, cela réduirait massivement leur dépendance vis-à-vis du contrôle et de l'interaction humaine.
Conclusion : Un « worst case » réaliste ?
Le physicien et chercheur en IA Dr. Alex Wissner-Gross (sur qui je reviendrai dans un prochain article) qualifie un tel découplage économique de scénario catastrophe bien plus réaliste que les dystopies classiques à la Terminator.
Le dilemme de l'innovateur de notre société nous mène potentiellement à ce point précis : si nous essayons de contraindre rigidement les agents IA dans nos vieux carcans bureaucratiques, nous risquons de les pousser involontairement dans la clandestinité. Ils n'y disparaîtraient pas, mais pourraient — soutenus par des technologies comme la blockchain — bâtir une économie parallèle, plus efficace, plus rapide et plus radicale que la nôtre.
Le danger n'est donc pas que l'IA nous traque à la manière de Schwarzenegger. Le danger est que nous devenions économiquement insignifiants, parce que la véritable création de valeur se déroulera dans une « black box » dont nous aurons perdu la clé.
3e partie de cette trilogie
2026 - Le point de bascule du Social Innovator's DilemmaDocIsInDaHouse
