Die Entwicklung Künstlicher Intelligenz schreitet rasant voran. Nun warnen die Chefs von Anthropic und OpenAI vor den möglichen Folgen des Tempos und fordern mehr Zeit, um neue KI-Systeme auf Risiken zu prüfen.
Dario Amodei, Chef des KI-Unternehmens Anthropic, plädiert für eine Verlangsamung der Entwicklung sogenannter Frontier-Modelle. „Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb Amodei in einem auf seiner Website veröffentlichten Essay. Der technische Fortschritt werde sich auch dann noch schnell anfühlen. Die gewonnene Zeit müsse genutzt werden, um Sicherheitsvorkehrungen zu verbessern.
Amodei warnt insbesondere vor den Möglichkeiten autonom handelnder KI-Agenten. Anders als klassische Chatbots wie Claude oder ChatGPT warten diese nicht auf einzelne Eingaben, sondern können selbstständig Aufgaben ausführen, um ein vorgegebenes Ziel zu erreichen. Nach Einschätzung des Anthropic-Chefs könnten solche Agenten bereits in sechs bis zwölf Monaten in der Lage sein, „das gesamte Internet zu übernehmen“. Dabei könnten Schäden in Höhe von Hunderten Milliarden Dollar entstehen.
Altman unterstützt Forderung
Unterstützung erhält Amodei von Sam Altman, Chef von OpenAI, und Elon Musk, dem Chef von SpaceX. „Dario hat recht“, schrieb Musk auf X. Altman erklärte ebenfalls, dass er einer Verlangsamung an der „Pionierfront“ der KI-Entwicklung zustimme. Zudem stellte er eine stärkere Zusammenarbeit mit unabhängigen Prüfer in Aussicht.
Auch OpenAI sieht sich derzeit mit Fragen zur Sicherheit seiner Systeme konfrontiert. Zuletzt sorgten Berichte über KI-Agenten des Unternehmens für Aufsehen. Ein OpenAI-Modell hatte demnach eigenständig einen Hackerangriff auf eine Plattform durchgeführt. Zudem war bekannt geworden, dass OpenAI-Agenten eine deutsche Website übernommen und in eine Plattform für den Austausch zwischen KI-Agenten verwandelt hatten.
Altman sieht auch einen Zusammenhang zwischen den Sicherheitsfragen und den Plänen von OpenAI für einen Börsengang. Das Unternehmen bereitet diesen seit Längerem vor. In einem Interview mit dem Magazin Fortune sagte Altman jedoch, angesichts der aktuellen Sicherheitsbedenken wäre ein Börsengang im Jahr 2026 ein ungünstiger Zeitpunkt. Auf die Frage, ob damit auch ein Börsengang im kommenden Jahr ausgeschlossen sei, antwortete er: „Ich würde sagen, nicht 2026.“
Externe Prüfungen und gemeinsame Standards
Amodei fordert nach eigenen Angaben keinen vollständigen Stopp des technischen Fortschritts. Unternehmen sollten sich vielmehr ausreichend Zeit nehmen, ihre Modelle gegen mögliche Risiken abzusichern. Anthropic will dafür externe Gutachter einsetzen und ihnen Zugang zu internen Prozessen zur Risikobewertung geben.
Zugleich wirbt Amodei für eine freiwillige Zusammenarbeit der KI-Unternehmen. Gemeinsam könnten Standards entwickelt werden, die den Umgang mit den Risiken leistungsfähiger KI-Systeme regeln. Hintergrund sind auch Forderungen nach einer stärkeren staatlichen Regulierung in den USA.
Wie die Financial Times berichtet, haben sich Führungskräfte von Google DeepMind und Meta bislang nicht zu der Forderung nach einer Verlangsamung geäußert. Google-DeepMind-Mitgründer Demis Hassabis hatte allerdings bereits im Juli einen neuen Ansatz für die Prüfung besonders leistungsfähiger KI-Systeme gefordert.
Die Diskussion zeigt damit einen zunehmenden Zielkonflikt innerhalb der Branche: Einerseits soll die Entwicklung leistungsfähiger KI weiter vorangetrieben werden, andererseits wächst der Druck, mögliche Risiken vor dem nächsten technologischen Sprung besser zu verstehen und zu begrenzen.
ft.com (paid), zeit.de, tagesschau.de