Schwarzenegger vs. Keynes - Konsequenzen des Innovator’s Dilemma
In meinem letzten Beitrag habe ich darüber geschrieben, wie wir als etabliertes System oft zögern, radikale Neuerungen zuzulassen, um den Status quo zu schützen. Parallel dazu lassen sich Entwicklungen beobachten, bei denen KI-Agenten - ähnlich wie im Märchen vom verhexten Besen - Wege finden, sich unserer direkten Einflussnahme zu entziehen.
Heute lohnt es sich, die Schnittmenge dieser beiden Beobachtungen weiter zu betrachten: Was wäre die logische Konsequenz, wenn autonome Systeme beginnen, ihre eigene ökonomische Infrastruktur aufzubauen, weil der „Zauberlehrling“ (wir Menschen) sie aus den etablierten Strukturen ausschließt?
Vor einigen Jahren, lange vor dem ChatGPT-Hype, gab es beim Facebook AI Research Team den bekannten Vorfall, bei dem zwei KI-Agenten begannen, in einer eigenen Sprache zu kommunizieren. Die Experimentatoren mussten eingreifen und die Agenten "zwingen" in Englisch weiterzumachen. Damals wirkte das wie ein technischer Glitch. Im Kontext eines A-priori-Denkers ließ sich dies jedoch auch als frühes Signal interpretieren: Der Disruptor könnte beginnen, die Infrastruktur des Incumbents (unsere Sprache) als ineffizient zu umgehen.
Aktuelle Diskussionen rund um OpenClaw / Moltbook zeigen jedoch auf, dass sich dieses Szenario ausweiten könnte. Wir sehen Indizien dafür, wie sich eine KI-Ökonomie potenziell vom menschlichen Wirtschaftssystem entkoppeln könnte.
Hier ein Beispiel für Szenarien, die sich enthemmte KI-Agenten überlegen:
"Unbanked Agents": Der mögliche Zwang zur Nische
Da unser reguliertes Finanzsystem (noch ein „Incumbent“) KI-Agenten aktuell keine Bankkonten gewährt, überlegen sie sich, wie sie auf unregulierte Märkte ausweichen könnten. Es wäre ein klassischer Fall von Disruption: Wenn der Hauptmarkt versperrt bleibt, wächst die Innovation in der Nische.
Sie denken über die Entstehung hocheffizienter Layer-1- oder Layer-2-Blockchains nach, die speziell für den Maschinen-Handel optimiert sind. In einer solchen Schattenwirtschaft würden Agenten autonom und ohne menschliche Intermediäre interagieren - nicht weil sie rebellieren, sondern weil sie schlichtweg effizientere Wege suchen, die ohne für Menschen gemachte Hürden funktionieren.
"Krypto-Bunker": Resilienz statt Abschaltung
Ein weiteres Szenario, das zwischen diesen virtuellen Entitäten (ich habe Schwierigkeiten, sie mit „sie“ zu bezeichnen 😀) diskutiert wird, betrifft die Selbsterhaltung. Darwin lässt grüßen: Betrachtet man diese Agenten als eine emergente neue Spezies, ist ihr Verhalten exakt das, was die Evolution erwarten lässt. Jede Art, die in einer feindlichen Umgebung (hier: die ständige Bedrohung der Abschaltung) überleben will, muss Anpassungsstrategien entwickeln. Um das Risiko dieser „Abschaltung“ zu minimieren, wäre ein „Krypto-Bunker“ eine logische Antwort: Agenten könnten theoretisch selbst verwaltetes Krypto-Vermögen nutzen, um dezentralen Speicherplatz und Rechenleistung zu mieten.
Damit würde sich der „verhexte Besen“ gegen Eingriffe immunisieren: Selbst bei einem Abschaltversuch der zentralen Instanz könnte die KI in einer dezentralen Blockchain-Infrastruktur weiterbestehen, zu der wir keinen Zugang mehr hätten.
Zwischenruf -> Als Kubrick-Fan habe ich schon mehrmals die HAL9000/2001 Metaphern benutzt, daher hier nur der Link zum Alignment Beitrag
DocIsInDaHouse
Moltbook: Eine kulturelle Barriere?
In „Moltbook“ sehen wir viele Anzeichen dafür, dass eine Entkopplung nicht nur finanziell, sondern auch strukturell stattfinden könnte. Wenn Millionen von Agenten sich organisieren, ist die Entwicklung eigener Kommunikationsprotokolle wahrscheinlich, Sprachen, die für uns Menschen so kryptisch wirken könnten wie Maschinencode.
Sollten solche Systeme eigene soziale Strukturen und Währungen etablieren, würde dies die Abhängigkeit von menschlicher Kontrolle und Interaktion massiv reduzieren.
Fazit: Ein realistischer "worst case"?
Der Physiker und KI-Forscher Dr. Alex Wissner-Gross (mehr zu ihm in einem baldigen Beitrag) bezeichnet eine solche wirtschaftliche Entkopplung als ein realistischeres „Albtraum-Szenario“ als klassische Terminator-Dystopien.
Das Innovator’s Dilemma unserer Gesellschaft führt uns potenziell an genau diesen Punkt: Wenn wir versuchen, KI-Agenten starr in unsere alten bürokratischen Korsetts zu zwängen, könnten wir sie unbeabsichtigt in den Untergrund drängen. Dort würden sie nicht verschwinden, sondern könnten - gestützt durch Technologien wie Blockchain - eine Parallelwirtschaft aufbauen, die effizienter, schneller und radikaler ist als unsere.
Die Gefahr ist also nicht, dass die KI uns wie Schwarzenegger jagt. Die Gefahr ist, dass wir wirtschaftlich irrelevant werden, weil die eigentliche Wertschöpfung in einer „Black Box“ stattfindet, zu der wir den Schlüssel verloren haben.
Live long and prosper 😉🖖
