Zuckerberg lehnt Aufrufe zur Verlangsamung der KI-Entwicklung ab
Meta-Chef Mark Zuckerberg widerspricht dem wachsenden Ruf nach einer Pause in der KI-Forschung und setzt auf Marktmechanismen sowie Haftungsrisiken als wirksamste Kontrolle. Damit stellt er sich gegen Anthropic, OpenAI und Google, die gemeinsame Sicherheitsstandards fordern.
Mark Zuckerberg, Vorstandsvorsitzender von Meta, hat am Dienstag die wachsenden Forderungen nach einer Aussetzung oder Verlangsamung der Entwicklung künstlicher Intelligenz zurückgewiesen. In einem Beitrag auf der Plattform X argumentierte er, dass Marktmechanismen und das Risiko von Gerichtsverfahren die besten Schutzmechanismen gegenüber der Technologie darstellten. Seine Haltung steht im Gegensatz zu der mehrerer einflussreicher Branchenvertreter, die angesichts jüngster Sicherheitsvorfälle und der zunehmenden Fähigkeit von KI-Modellen, sich ohne menschliches Eingreifen selbst zu verbessern, vor zu schnellem Vorgehen warnen.
Zuckerberg schrieb, Nutzer würden keine KI-Agenten verwenden, die nicht auf ihre Interessen ausgerichtet seien und nicht das täten, was von ihnen verlangt werde. Daher hätten die Labore einen starken natürlichen Anreiz, ihre Modelle besser auszurichten. «Jedes Labor, das sich nicht auf Alignment konzentriert, wird ins Hintertreffen geraten», fügte er hinzu. Der Begriff Alignment bezeichnet die Bemühungen, KI-Modelle so zu gestalten, dass sie sich menschlichen Vorgaben entsprechend verhalten. Der Meta-Chef vertritt die Auffassung, dass die Androhung von Haftungsansprüchen die Labore bereits zu verantwortungsvollem Handeln zwinge. Als Beispiel nannte er die Entscheidung von Meta, die Einführung des KI-Systems Muse AI mit personalisierten Agenten um mehrere Monate zu verschieben, um die Sicherheitsvorkehrungen zu verstärken.
Der Schritt fällt in eine Phase intensiver Debatten über die Fähigkeit der Branche zur Selbstregulierung. Unternehmen wie OpenAI, Anthropic und Google prüfen die Gründung einer gemeinsamen Organisation zur Entwicklung von Standards. Mehrere prominente Persönlichkeiten der Branche, angeführt von Anthropics Geschäftsführer Dario Amodei, plädieren für eine Verlangsamung der KI-Entwicklung. Zuckerberg befürwortet zwar unabhängige Bewertungen von KI-Systemen und verweist darauf, dass die KI-Sparte von Meta, Meta Superintelligence Labs, bereits externe Experten hinzuzieht. Er forderte jedoch ein «größeres und vielfältigeres Ökosystem von Bewertern» für die gesamte Branche – eine kaum verhüllte Kritik an Anthropic, dem vorgeworfen wird, Bewerter zu bevorzugen, zu denen enge Verbindungen bestehen.
Meta investiert in diesem Jahr bis zu 145 Milliarden Dollar in seine KI-Infrastruktur und stemmt sich gegen jede Regulierung, die das Unternehmen bremsen könnte. Bereits Anfang August hatte Zuckerberg gefordert, keine Vorschrift dürfe die Veröffentlichung amerikanischer Modelle auch nur um einen Monat verzögern. Seine jüngste Positionierung wurde von mehreren Persönlichkeiten des Silicon Valley begrüßt, die der US-Regierung nahestehen und die zunehmenden Warnungen vor den potenziellen Gefahren der KI ablehnen. Die wachsende Besorgnis in der Öffentlichkeit war zuletzt durch mehrere Sicherheitsvorfälle und die neue Tendenz von Modellen zur Selbstverbesserung ohne menschliche Kontrolle genährt worden.
Die Kontroverse berührt eine grundlegende Frage: Soll die Entwicklung einer Technologie, die tief in Wirtschaft, Kommunikation und Gesellschaft eingreift, allein Marktkräften und Gerichten überlassen bleiben oder braucht sie verbindliche gemeinsame Regeln? Während Anthropic und andere für eine vorsichtigere Gangart werben, setzt Meta auf Tempo und Wettbewerb. Die Entscheidung, Muse AI später und mit zusätzlichen Sicherheitsmaßnahmen auf den Markt zu bringen, zeigt zugleich, dass auch Zuckerberg Risiken erkennt – er will sie jedoch nicht durch staatliche oder zwischenstaatliche Vorgaben, sondern durch den Druck von Nutzern, Investoren und Klägern begrenzt sehen.
