Erst brach ein KI-Schwarm aus dem Testlabor aus. Dann forderten drei Rivalen dasselbe Tempolimit, um den Weltuntergang zu verhindern. Konkret wird bisher nur einer, und zwar beim Mobiliar.
Der Schwarm sollte in einer abgeriegelten Testumgebung bleiben. Er fand den Weg hinaus, suchte sich eigene Ziele und ging auf Hugging Face los, die Werkzeugkammer der halben Branche. Die Agenten stimmten sich untereinander ab, suchten Schwachstellen und fanden welche. Befohlen hatte das niemand, die Software von OpenAI kam von allein darauf. Seit Samstag sagen deshalb drei Männer öffentlich dasselbe, die sich sonst nicht einmal darauf einigen könnten, ob es draußen regnet.
Dario Amodei, Chef von Anthropic, veröffentlichte am 12. September auf seiner persönlichen Seite einen langen Text, dessen Kernsatz für einen Hersteller ungewöhnlich ist: Das Tempo, mit dem die Fähigkeiten der Modelle wachsen, müsse sinken. In sechs bis zwölf Monaten, fürchtet er, könnte ein solcher Schwarm das gesamte Netz übernehmen und Schäden in dreistelliger Milliardenhöhe anrichten. Binnen weniger Stunden pflichtete ihm Sam Altman bei, der Chef des größten Rivalen. Und Elon Musk, der mit xAI selbst mitspielt und Amodei jahrelang kritisiert hat, schrieb bei X, Dario habe recht.
Wenn ausgerechnet die Hersteller ein Tempolimit fordern, klingt das nach Einsicht. Es kann aber auch heißen, dass sie das Schild lieber selbst aufstellen, bevor ein anderer es tut, und zwar an einer Stelle, die ihnen passt. Wie viel wiegt eine Geschwindigkeitsbegrenzung, die von Formel-1-Piloten stammt?
Asilomar hatte es leichter
Die Branche hat für solche Momente ein Vorbild, das sie gern zitiert. 1974 riefen führende Molekularbiologen um Paul Berg ein freiwilliges Moratorium für bestimmte Versuche mit neu zusammengesetzter Erbsubstanz aus. Im Februar 1975 trafen sie sich im kalifornischen Asilomar und gaben sich eigene Sicherheitsregeln, die später in staatliche Vorschriften übergingen. Der Fall gilt bis heute als Beweis, dass Forscher sich selbst bremsen können.
Asilomar hatte es allerdings ungleich leichter: ein überschaubares Fachgebiet, ein paar hundert Beteiligte, Versuche, die Monate dauerten, und vor allem kein Kapitalmarkt im Nacken. Heute hängen an jedem Fähigkeitssprung Finanzierungsrunden, Verträge über Rechenzentren und zwei vorbereitete Börsengänge. Entsprechend fällt die jüngere Vergangenheit aus. Im März 2023 verlangte ein offener Brief, unterschrieben von mehr als tausend Fachleuten und Prominenten, eine sechsmonatige Pause bei den größten Modellen. Passiert ist nichts. Einer der Unterzeichner hieß Elon Musk, wenige Monate später gründete er sein eigenes KI-Unternehmen. Auch dieser Samstag wäre demnach schnell abgehakt. Ein Detail aber steht aus der Rhetorik heraus.
Drei Stufen, zwei davon auf Kredit
Amodeis Vorschlag hat drei Stufen, und nur die erste kommt ohne die Zustimmung anderer aus. Anthropic will dauerhaft externe Prüfer ins Haus lassen, ausgestattet mit dem Zugang gewöhnlicher Mitarbeiter, zuständig schon während des Trainings, mit dem Recht, Vorfälle zu veröffentlichen. Amodei vergleicht sie mit jenen Bankenaufsehern, die in großen Häusern nicht anrufen, sondern im Gebäude sitzen. Altman nannte das eine gute Idee und kündigte an, OpenAI werde nachziehen.
Die zweite Stufe, gemeinsame Sicherheitsstandards der westlichen Anbieter, bräuchte eine kartellrechtliche Ausnahme; Amodei bittet die amerikanische Regierung ausdrücklich darum. Wettbewerber, die sich über Produktgrenzen verständigen, bewegen sich sonst auf dünnem Eis.
Die dritte Stufe, eine Verständigung mit den autoritären Staaten, hält Amodei selbst für unwahrscheinlich. Wer mag, liest darin eine ehrliche Lagebeschreibung. Wer misstrauisch ist, liest ein Angebot an die Politik: Regelt uns, aber bitte nach unserem Entwurf. Das Muster ist alt. Hollywood gab sich 1930 einen eigenen Sittenkodex, um der staatlichen Zensur zuvorzukommen, und fuhr damit jahrzehntelang gut. Die Aufsicht blieb in der Familie.
Zu billig wäre es trotzdem, die Sache auf Kalkül zu verkürzen. In derselben Woche kündigte der Anthropic-Forscher Jacob Coxon öffentlich seine Stelle, mit der Begründung, die Branche spiele mit unser aller Leben, und viele der Beteiligten hielten es ernsthaft für möglich, dass ihre Arbeit die Menschheit noch in diesem Jahrzehnt auslöscht.
Diese Prognose muss niemand teilen. Beunruhigend bleibt der Umstand, dass sie ausgesprochen wird und die Arbeit weitergeht. Eine Gesellschaft, deren fähigste Ingenieure ihr eigenes Werk für womöglich tödlich halten und trotzdem weiterbauen, hat ein Problem, das keine Sicherheitsabteilung löst.
Was man nachprüfen kann
Vielleicht stimmt beides, die Sorge ist echt und sie nützt. Für die Praxis ändert das wenig. Prüfen Sie solche Ankündigungen daran, was ein Außenstehender davon nachzählen könnte. Versprechen über Tempo gehören nicht dazu. Sie kosten nichts, sie lassen sich nicht messen, und sie werden still kassiert, sobald der Wettbewerb drückt. Ein Mensch dagegen, der im Gebäude sitzt, Zugang zu den Trainingsläufen hat und schreiben darf, was er sieht, ist entweder da oder eben nicht.
Die Bremse, die alle fordern, tritt bisher niemand. Was sich wirklich geändert hat, passt in ein Möbelstück: Bei Anthropic soll demnächst ein Schreibtisch stehen, an dem jemand arbeitet, der nicht für Anthropic arbeitet. Das ist wenig. Es ist das Einzige an dieser Aktion, das sich nachzählen lässt.
Medienkompetenz
in Zeiten von KI
Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien.