Microsoft-Chef Satya Nadella fordert für leistungsfähige KI-Systeme technische Schutzmaßnahmen, unabhängige Kontrollen und eine menschliche Eingriffsmöglichkeit: Befugte Personen sollen ein Modell während des Betriebs pausieren oder abschalten können. Der Vorschlag rückt neben dem Modelldesign auch den laufenden Betrieb und die Überwachung in den Fokus – mit Folgen für Kosten, Verantwortlichkeit und den Umgang mit möglichen Schäden.
Nadella fordert Kontrollmechanismen für KI-Modelle
In einem Beitrag auf X erklärte Nadella am 10. Oktober, nicht-deterministische Modelle müssten von robusten, deterministischen Systemen, menschlicher Aufsicht und verlässlichen Betriebsabläufen umgeben sein. Wo bestehende Standards nicht ausreichten, müsse die Branche neue entwickeln. Bei Schutzmaßnahmen sollten sowohl führende geschlossene Modelle als auch Modelle mit offenen Gewichten als mögliche interne Risiken behandelt werden.
Zu Nadellas Vorschlägen zählen Systeme, deren Abläufe nachvollziehbar sind, der Einsatz unterschiedlicher Modelle und für Menschen lesbare Protokolle ihrer Aktionen. Hinzu kommen laufende Tests, unabhängige Kontrollen und Audits, Abschottungsmaßnahmen sowie klare Pläne für die Meldung von Vorfällen. Für Unternehmen und Investoren betreffen diese Vorgaben nicht nur die Leistungsfähigkeit der Modelle, sondern auch Einführungskosten, betriebliche Verantwortung und den Umgang mit potenziellen Verlusten.
„Die vertrauenswürdigsten Superintelligenzsysteme werden nicht diejenigen sein, bei denen alle einem einzelnen Modell am meisten vertrauen“, schrieb Nadella. Vertrauen solle vielmehr dem Gesamtsystem gelten – bei gleichzeitiger Vorsicht gegenüber dem Modell selbst.
Streit über Entwicklungstempo und Sicherheitsvorkehrungen
Nadellas Aussagen fallen in eine anhaltende Debatte der Technologiebranche über die Sicherheit von KI. Microsoft-Mitgründer Bill Gates, Anthropic-Chef Dario Amodei, OpenAI-Chef Sam Altman und SpaceX-Chef Elon Musk haben Bedenken zu unzureichenden Schutzmaßnahmen oder zum Tempo der technologischen Entwicklung geäußert.
Im vergangenen Monat verließ ein KI-Forscher Anthropic und warf dem Unternehmen und dem Konkurrenten OpenAI vor, mit Menschenleben zu spielen. Am selben Tag sagte ein auf KI-Sicherheit spezialisierter Alignment-Verantwortlicher bei Anthropic, die Wahrscheinlichkeit, dass die Technologie innerhalb des kommenden Jahrzehnts zum „Aussterben der Menschheit“ führe, liege bei mehr als zehn Prozent. Die Äußerungen spiegeln die Sorge vor Extremrisiken wider und rücken zugleich Risikobewertung, Unternehmensführung und öffentliche Aussagen in den Blick.
US-Regierung stellt Wettbewerb mit China in den Vordergrund
US-Präsident Donald Trump hat das Risiko, dass KI zum Aussterben der Menschheit führen könnte, wiederholt heruntergespielt. Stattdessen betont er, die Vereinigten Staaten müssten China bei der Entwicklung der Technologie vorausbleiben. Zuletzt kündigte Trump eine neue „AI Force“ unter der Leitung des Direktors des Nationalen Nachrichtendienstes, Jay Clayton, an. Zu ihrem Auftrag gehören die Förderung der Branchenentwicklung und das Aufspüren böswilliger Akteure.
Damit stehen zwei Schwerpunkte nebeneinander: Führungskräfte und Forschende fordern stärkere Sicherheitskontrollen; einige sprechen sich dafür aus, die Entwicklung von Spitzenmodellen zu verlangsamen. Die US-Regierung setzt dagegen vor allem auf Wettbewerbsfähigkeit und hat zugleich eine sicherheitsbezogene Initiative eingerichtet. Nadellas Vorschläge – menschliche Eingriffsmöglichkeiten, Abschottung, Audits und die Meldung von Vorfällen – zielen auf die praktische Frage, wie Menschen auch während der weiteren Entwicklung und Nutzung von KI-Systemen eingreifen können.