Die gefährliche Illusion von Kompetenz
Und warum wir in KI-Pseudo-Expertise ertrinken
Wir leben in einer faszinierenden, aber auch absurden Zeit. Wenn wir die Evolution der digitalen Gesellschaft betrachten, hat das Social-Web eine völlig neue Metrik für "Kompetenz" etabliert: Reichweite und Likes stechen heute nur allzu oft fundierte, auf jahrelanger Forschung und Praxis basierende Expertise aus. Das war schon vor der aktuellen KI-Welle ein Problem. Doch mit dem Start dieser Welle kam eine neue Iteration dazu, die schon Thema des ersten Beitrages hier auf it's promp.td war: Die Simplicity Trap.
DocIsInDaHouse
Und in genau diese Falle sind viele hereingefallen, was uns diese neue Welle der Pseudo-Expertise beschert hat.
Die Analyse: Der Tsunami der KI-Pseudo-Expertise
Früher fiel ein Dummbabler leichter auf, weil ihm das Vokabular oder die handwerkliche Fähigkeit fehlte. Seine Reichweite war gering und am nächsten Tag hatte man das dumme Geplapper vergessen, weil es nicht irgendwo festgeschrieben und "geshared" wurde. Heute? Heute wird er mit einem dieser KI-Chatbots/Copiloten/schieß-mich-tot, die sich uns fast überall in der digitalen Welt aufdrängen, dazu ermutigt sein Dunning-Kruger-Syndrom zu potenzieren.
Denn eines der herausragendsten Merkmale dieser Innovation – ihre extrem einfache Bedienbarkeit – ist gleichzeitig ihr größter Fluch. Jeder kann heute mit einfach formulierten Prompts hochtrabende, plausibel klingende Texte, scheinbar tiefgründige Analysen oder beeindruckende Grafiken generieren, die von subversiven Algorithmen überall verteilt werden.
Ein Beispiel aus der echten Welt:
Scrollen Sie heute durch LinkedIn (noch so ein Tool, das jeden dazu aufruft, KI hirnlos zu nutzen). Sie werden unweigerlich auf massig viele "AI-Evangelisten & Prompt-Gurus" stoßen, die Ihnen in einem Post das ultimative Framework für die Implementierung autonomer KI-Agenten in Großkonzernen verkaufen wollen. Dass diese Person (wenn es eine Person ist und nicht irgendein automatisierter bot) noch nie in ihrem Leben ein kritisches Change-Management-Projekt von innen gesehen oder die Verantwortung für ein Millionenbudget getragen hat, verschwindet hinter einer scheinbar perfekten, von Algorithmen gestrickten Fassade.
Weil der Social-Media-Hype von Buzzwords und ständiger Lautstärke lebt, rollt nun ein Tsunami an "KI-Experten" über uns hinweg, die uns mit absoluter Gewissheit erklären wollen, wie die neue Welt funktioniert.
Die Realität: Expertise ist kein Prompt
Wir müssen uns eines immer wieder in Erinnerung rufen:
Echte Expertise und Kompetenz entstehen nicht spontan aus dem digitalen Äther. Sie sind das Resultat einer handfesten Ausbildung, gepaart mit jahrelanger, oft schmerzhafter praktischer Erfahrung. Expertise ist das Destillat aus Talent, harter Arbeit und – ganz wichtig – aus Fehlern, die man selbst gemacht und aus denen man gelernt hat.
Setzen wir das in den Kontext des aktuellen KI-Hypes:
Der Startschuss für diesen Wahnsinn (ChatGPT) ist gerade mal drei Jahre her. Die zugrundeliegende Technologie ist immer noch unreif, unzuverlässig und verändert sich mit rasender Geschwindigkeit. Es ist schlicht unmöglich, jahrelange Erfahrung in der Anwendung von LLMs im Unternehmenskontext zu haben.
Menschen, die hier echte Expertise aufbauen, sind derzeit meistens im Maschinenraum der Unternehmen zu finden. Sie experimentieren, scheitern, justieren nach. Sie wissen, dass sie die absolute Wahrheit noch nicht kennen – eben weil die Technologie im Wandel ist.
Das Resultat: Maximale Verwirrung
Diese Diskrepanz erklärt das größte Problem, das ich aktuell in vielen Beratungsprojekten sehe: Die KI-Welle wird weniger von rationalen Fakten getrieben, als vielmehr von Marketing-Hype und Pseudo-Experten, die der Simplicity Trap verfallen sind. Sie verwechseln die Leichtigkeit der Texterstellung mit tatsächlichem Begreifen der Materie.
Das Resultat für Unternehmen und Gesellschaft ist Konfusion.
Es gibt zu viel Lärm und verdammt wenig echte Anleitung.
Das Paradoxon: Eine wichtige Innovation in den falschen Händen führt eher ins Verderben als zur Seligkeit
Genau diese Konfusion bringt uns zu einem anderen Phänomen, das wir auch aktuell täglich in der verwirrenden Medienlandschaft beobachten können. Die Wirtschaftsnachrichten sind voll von widersprüchlichen Schlagzeilen: Auf der einen Seite unglaubliche Heilsversprechen, auf der anderen Seite immer mehr düstere Berichte über grandios gescheiterte KI-Projekte, verbrannte millionen Token-Budgets oder das baldige Platzen der KI-Blase. Fast schon tragikomisch sind auch die regelmäßigen Meldungen von Unternehmen, die im puren KI-Aktionismus hastig Mitarbeiter entlassen, nur um die gleichen Leute wenige Monate später kleinlaut wieder einzustellen – weil die versprochene "autonome" KI ohne echte menschliche Expertise doch nichts auf die Reihe kriegt.
Es ist das direkte Resultat dieser allgegenwärtigen toxischen Pseudo-Expertise. Wenn Entscheidungsträger ihren Rat bei den lautesten Social-Media-Gurus suchen, werden völlig unrealistische Erwartungen geweckt. Diese "Experten" verkaufen die nahtlose KI-Integration als magischen Knopf, den man nur drücken muss. Die bittere Realität schlägt dann in den Projekten zu: Datenschutzprobleme, halluzinierende Modelle, horrende API-Kosten und Mitarbeiter, die das System mit subversiver "Schatten-IT" korrumpieren.
Das Paradoxe daran: KI ist unbestritten eine der wichtigsten Innovationen dieser Zeit. Aber in den Händen von Akteuren, die den Unterschied zwischen einem cleveren ChatGPT-Prompt und der sicheren Integration von probabilistischen Systemen in deterministische Unternehmensprozesse nicht kennen, wird sie zur teuren Abrissbirne. Die Werkzeuge an sich sind mächtig, doch viele dieser selbsternannten Architekten haben nicht das geringste Verständnis für die Statik des Gebäudes.
Skepsis statt FOMO
Bei vielen ist diese Angst, den Anschluss zu verpassen – die klassische Fear Of Missing Out –, die sie blind für die Warnsignale macht und direkt in die Arme der lauten Heilsbringer treibt. Doch anstatt panisch jedem Trend hinterherzurennen, ist genau das Gegenteil gefragt.
Wenn Sie diesen Blog eifrig mitlesen, wissen Sie es meistens schon: Wir hantieren hier mit einer hochkomplexen, extrem ressourcenfressenden und oft unberechenbaren Technologie, für die es momentan weder einheitliche Standards noch endgültige Spielregeln gibt. Die schiere Masse an Menschen, die sich auf LinkedIn oder großen Bühnen das KI-Label anheften, steht in keinem Verhältnis zur Realität. Die Anzahl der Köpfe, die wirklich verstehen, was unter der Haube dieser Algorithmen passiert, wie man sie ethisch bewertet und wie man sie wertschöpfend in der echten Welt integriert, ist erschreckend klein.
Nur ein Bruchteil derer, die heute pausenlos über KI reden, haben die dazu nötige technische, prozessuale und strategische Expertise. Diese kann man sich nicht in ein paar Monaten erarbeiten.
Wenn Ihnen also jemand absolute Gewissheit in Sachen KI verkaufen will, seien Sie misstrauisch. Wer in einem Markt, dessen Spielregeln sich monatlich ändern, behauptet genau zu wissen, wo der Hase in fünf Jahren hinläuft, lügt. Im besten Fall lügt er sich nur selbst in die Tasche, gefangen in der Simplicity Trap.
Im schlimmsten Fall verbrennt er Ihr Budget und bringt Sie vor den Kadi.
Live long and prosper 😉🖖
