Eine Reddit-Diskussion darüber, dass Menschen das Vertrauen in KI-Agenten verlieren. Es hat mich getroffen. Weil das, was ich täglich in der Praxis sehe, jeden Satz davon bestätigt.
Ich arbeite lange genug in der Tech-Branche, um Bullshit zu erkennen, wenn ich ihn sehe. Und gerade? Der KI-Agenten-Bereich ist voll davon.
Jede einzelne Woche gibt es ein neues Startup, das behauptet, ihr Agent könne "deinen kompletten Geschäftsworkflow autonom managen." Wirklich? Ich habe letzten Monat einen ausprobiert, der nicht mal eine einfache E-Mail verschicken konnte, ohne die Empfängerliste zu zerschießen. Tolle Erfahrung.
„Das Schlimmste sind nicht die technischen Limitierungen. Es ist die Unehrlichkeit darüber."
Unternehmen wissen, dass ihre Agenten ständig versagen — und erwähnen es einfach nicht. Gar nicht. Das ist keine Produkteinschränkung. Das ist ein Vertrauensproblem.
In einer kürzlichen Präsentation sagte Karpathy das, was viele von uns denken: Der vollständig autonome Agent ist gerade größtenteils Fantasie. Wir sollten Werkzeuge bauen, die Menschen helfen — nicht versuchen, sie komplett zu ersetzen.
Auf X folgen →Er hat recht. Aber das verkauft sich nicht so gut an Investoren, oder?
Hier ist, was mich am aktuellen Stand von KI-Agenten wirklich stört:
Dieses Muster haben wir schon einmal gesehen.
Alles würde durch Blockchain "revolutioniert." Lieferketten, Gesundheit, Wahlen, Banking. Wie hat das für die meisten Unternehmen geendet?
Alles wird "autonom gemanagt." Abläufe, Workflows, Kundenservice, Content — alles. Wir sehen denselben Film noch einmal.
Vielleicht gibt es da draußen ein paar anständige Agenten, die wirklich nützliche Arbeit leisten. Aber das Signal-Rausch-Verhältnis ist gerade miserabel. Zu viel Hype, zu wenig Ehrlichkeit darüber, was tatsächlich funktioniert.
Ich musste letzten Woche meinem Team erklären, warum der "revolutionäre KI-Agent", den wir für unseren eigenen Content-Workflow ausprobiert haben, mehr Probleme geschaffen hat als gelöst. Das war ein interessantes Gespräch. Und wir sind ein Unternehmen, das KI täglich über 7+ Marken hinweg einsetzt — wenn es bei uns nicht funktioniert, funktioniert es wahrscheinlich bei den meisten nicht.
Vielleicht ist das eine deutsche Eigenart. Wir neigen zur Skepsis gegenüber Übertreibungen. Das kommt wahrscheinlich aus dem Ingenieurshintergrund — wir mögen Dinge, die tatsächlich funktionieren, nicht nur solche, die in einer PowerPoint gut klingen.
Das autonome Agenten-Ding ist komplett aus dem Ruder gelaufen. Und die Leute, die still und leise verlässliche, human-in-the-loop KI-Tools bauen? Die werden am Ende gewinnen.
Erlebt das sonst jemand — oder werde ich nur alt und grummelig gegenüber neuen Technologien?