Heute Morgen bin ich irritiert. Und ratlos. Beides gleichzeitig. Das passiert mir selten.
Ich sitze in der Küche, lese Nachrichten über die nächste Errungenschaften im Silicon Valley und mir kommt ein Bild in den Kopf, das ich nicht mehr loswerde. Eine Fabrik an einem Fluss. Die Fabrik produziert. Sie produziert gut, sie produziert schnell, sie produziert Dinge, die Menschen wollen. Aber sie kippt ihren ganzen Müll ins Wasser. Alles. Ungefiltert.
Flussabwärts trinken Menschen aus diesem Wasser. Sie kochen damit, sie waschen ihre Kinder damit. Und die Fabrik? Die hängt ein Schild auf: Vorsicht, dieser Fluss ist giftig. Dann produziert dieser Fabrik einfach weiter.
Und kein Mensch stoppt die Fabrik!
Die Kosten tragen andere
Was ich beschreibe, hat in der Ökonomie einen Namen: Externalisierung. Die Gewinne bleiben oben, die Kosten fließen nach unten. OpenAI, Google, Meta, Anthropic you name it. Sie alle entwickeln Technologien, deren Nebenwirkungen sie kennen: Desinformation, Arbeitsplatzverluste, psychische Belastung, Deskilling, Gesellschaftliche Polarisierung… Das sind keine Überraschungen, dass sind Posten, die jemand anderes bezahlt.
Sam Altman spricht öffentlich von existenziellem Risiko “Viele Menschen sind sich nicht darüber im klaren, was da auf sie zukommt und wie schnell”. Dann investiert OpenAI Milliarden in die Beschleunigung genau dieses Entwicklung. Andere CEOs schreiben nachdenkliche Essays über die Gefahren (Dario Amodei) und bauen am nächsten Morgen das nächste Modell. Das klingt widersprüchlich, scheint es aber nicht zu sein. Zumindest nicht in der Logik des Silicon Valley.
Die ehrliche Antwort auf die Frage „Warum macht die weiter, wenn die wissen, dass es schlimm wird?” lautet vermutlich: Weil sie glauben, dass es schlimmer wird, wenn jemand anderes zuerst ankommt.
Das ist das bekannte Wettrüstungs-Argument. Und es ist nicht dumm… dennoch ist es zutiefst undemokratisch. Eine maximale Verschiebung der Verantwortlichkeit für das Handeln und Gewinn einzelner, vielleicht zum Schaden vieler.
Wer hat gefragt?
Keine Gesellschaft wurde gefragt, ob sie dieses Experiment an sich durchführen lassen möchte. Kein Parlament hat darüber abgestimmt, ob es in Ordnung ist, dass eine Handvoll Unternehmen die Spielregeln für Milliarden Menschen neu schreibt. Nur weil etwas technisch möglich ist, heißt das nicht, dass wir als Gesellschaft die Erlaubnis dafür gegeben haben und wenn es schief läuft dann ausbaden müssen.
Wie hätte die Welt reagiert wen Ölkonzerne öffentlich sagen würden: Ja, es wird Umweltkatastrophen geben und wie werden viele Meereslebewesen, Vögel und Strände zerstören… irgendwie passiert das gerade mit dem Thema KI.
Aber die Maschine läuft. Und sie läuft schneller, als Regulierung hinterherkommt. Der AI Act der EU? Ein guter Anfang. Aber er regelt die Welt von gestern. Bis die Regeln greifen, haben sich die Modelle dreimal überholt.
Das erinnert mich an einen Feuerwehrmann, der seinen Einsatzplan schreibt, während das Haus schon brennt.
Die neue Ungleichheit
Was mich dabei am meisten beschäftigt, ist nicht die Technik. Es ist die Ungleichheit, die sie produziert. Und ich meine nicht nur die offensichtliche Ebene. Nicht nur die Frage, wer finanziell profitiert und wer nicht.
Es entsteht gerade eine neue Form von Informationsasymmetrie. Wer versteht, was passiert, kann sich positionieren. Kann Werkzeuge nutzen, Chancen ergreifen, Risiken einschätzen. Wer es nicht versteht, wird positioniert. Und die Gruppe derer, die es nicht verstehen, ist riesig. Nicht aus Dummheit. Sondern weil sich die Komplexität hinter freundlichen Chat-Oberflächen versteckt.
Millionen Menschen nutzen freie Versionen von ChatGPT, Gemini oder Grok wie eine nette Suchmaschine. Sie haben wenig wissen darüber, was gerade passiert. Und das ist kein Vorwurf an sie. Es ist ein Vorwurf an ein System, das Aufklärung und verantwortungsvollen Umgang nicht im Geschäftsmodell hat.
Keine Star-Trek-Zukunft
Ich würde mir eine Star-Trek-Zukunft wünschen. Die, in der Technologie allen dient. In der Replikatoren Hunger beseitigen und Warp-Antriebe uns zu den Sternen bringen. In der die Menschheit zusammenarbeitet, weil sie verstanden hat, dass Konkurrenz unter den eigenen Leuten keinen Sinn mehr ergibt.
Aber was ich sehe, deutet trauriger weise in eine andere Richtung. Ich sehe eine Zukunft, in der wenige sich diese Werkzeuge leisten können und viele die Folgen tragen. In der die Fabrik weiter produziert und der Fluss weiter vergiftet wird und in der das Schild am Ufer irgendwann so verwittert sein könnte, dass niemand es mehr lesen kann.
Was fehlt, ist diese eine einfache Frage, die eine Journalist:in genau diesen CEOs stellen müssten. Die Politiker:innen auf den Tisch legen müssten. Die wir alle uns gegenseitig stellen sollten:
Wer hat euch die Erlaubnis gegeben? Warum macht ihr weiter wenn ihr davor warnt?
Heute Morgen habe ich keine Antwort darauf. Nur Irritation. Und Ratlosigkeit. Aber vielleicht ist genau das der richtige Anfang. Denn wer noch irritiert ist, hat noch nicht aufgehört, hinzuschauen.