Stell dir vor, drei Rennfahrer stehen nebeneinander an der Startlinie.
Alle fahren Autos, die schneller werden, je länger sie fahren. Alle wollen gewinnen. Keiner hat bisher besonders viel Interesse daran gezeigt, langsamer zu machen.
Dann drehen sie sich gleichzeitig zur Tribüne und sagen:
Du diskutierst dann nicht über die Farbe der Sitze.
Du fragst: Was liegt hinter der nächsten Kurve?
Genau dieses Gefühl habe ich gerade bei den Aussagen aus dem Umfeld von OpenAI, Anthropic und Elon Musk beziehungsweise xAI.
Ein ehemaliger Forscher, der bei OpenAI und Anthropic gearbeitet hat, kündigt öffentlich und wirft beiden Unternehmen vor, auf selbstverbessernde Superintelligenz zuzurasen, ohne verantwortlich zu handeln. Dario Amodei spricht davon, das Tempo an der Modellgrenze senken zu müssen. Sam Altman stimmt dem öffentlich zu. Und Elon Musk vergleicht die Risiken von AGI mit Atomwaffen, nur größer.
Das sind keine wortgleichen Aussagen. Keine gemeinsame Pressekonferenz. Kein Beweis dafür, dass in irgendeinem Labor gerade ein Serverraum verschlossen wurde.
Aber es ist ein bemerkenswerter Gleichklang.
Denn diese Leute verdienen ihr Geld damit, dass die Systeme leistungsfähiger werden. Mehr Fähigkeiten, mehr Nutzer, mehr Rechenzentren, mehr Kapital. Die Bremse war bislang selten das Produkt, das am lautesten beworben wurde.
Und plötzlich reden sie über Kontrolle.
Oder vielleicht hat die KI einfach die Weltlage analysiert, die Verteilung von Macht und Vermögen angeschaut und festgestellt:
Ein ziemlich guter Witz, wie ich finde.
Aber er funktioniert nur, weil darunter eine echte Unsicherheit liegt. Wenn Menschen, die den Maschinen näher sind als wir, plötzlich über Kontrollverlust sprechen, fragt man sich zwangsläufig: Was wissen die, was wir nicht wissen?
Wir wissen es nicht.
Es kann genauso gut sein, dass die Warnungen auch handfeste Geschäftsinteressen bedienen. Wer sagt, dass nur milliardenschwere Labore ein besonders gefährliches Modell verantwortungsvoll entwickeln dürfen, baut damit ziemlich effizient einen Zaun um sein eigenes Grundstück.
Sicherheit und Marktmacht schließen sich leider nicht gegenseitig aus.
Und dann gibt es noch die unromantische Erklärung: Rechenzentren, Chips und Strom kosten inzwischen so viel, dass jede neue Entwicklungsstufe eine Wette mit sehr vielen Nullen ist. „Wir gehen aus Verantwortung langsamer vor“ klingt für Investoren eleganter als „Die nächste Verbesserung kostet uns eine kleine europäische Volkswirtschaft.“
Mich interessiert deshalb weniger, welche Theorie am besten klingt.
Mich interessiert, was daraus praktisch folgt.
Wenn ein System selbstständig arbeiten darf, braucht es Grenzen. Klare Zugänge. Protokolle. Menschen, die echte Entscheidungen freigeben. Einen Schalter, der tatsächlich funktioniert. Wir sollten einfach aufhören, Systeme mit immer mehr Handlungsspielraum zu bauen und uns dann wundern, wenn Kontrolle ein Thema wird.
Vielleicht hat die KI nie „Eat the Rich“ gesagt.
Aber wenn die Leute mit den größten KI-Laboren gleichzeitig über Bremsen sprechen, sollten wir spätestens dann extrem hellhörig werden.