Microsoft-Präsident Brad Smith fordert weltweit geltende Sicherheitsregeln für künstliche Intelligenz. Dazu zählen Notabschaltungen, verpflichtende Meldungen bei Vorfällen und unabhängige Prüfungen bestimmter Produkte vor ihrer Markteinführung. Smith sieht bei KI bislang weniger verbindliche Sicherheitsauflagen als etwa bei Waschmaschinen oder Milchprodukten. Damit stellt sich auch die Frage, welche Verantwortung Unternehmen bei Fehlfunktionen tragen und wann Betroffene informiert werden müssen.
Smith fordert Meldepflichten und Notabschaltungen
In einem Interview mit der BBC-Sendung Big Boss Interview bezeichnete Smith KI sowohl als „Werkzeug“ als auch als „Waffe“. Die Regulierung müsse jetzt beginnen, sagte er. Unternehmen sollten Systeme anhalten oder verlangsamen können, wenn diese fehlerhaft arbeiten oder schwerwiegende Probleme verursachen. Ein solcher Mechanismus wird häufig als „Kill Switch“ bezeichnet.
Smith sprach sich außerdem für gesetzlich vorgeschriebene Meldungen aus. Verursacht ein KI-Agent einen Schaden oder wird ein System kompromittiert, sollten die betroffenen Menschen informiert werden. Bei bestimmten neuen KI-Produkten könnten unabhängige staatliche Prüfer die Systeme bewerten, bevor sie auf den Markt kommen.
Als mögliches Vorbild nannte Smith bestehende Vorschriften zur Produktsicherheit. „Heute gelten für Waschmaschinen mehr Sicherheitsregeln als für KI“, sagte er. „Jeder Milchkarton im Supermarkt muss Sicherheitsvorschriften erfüllen und kontrolliert werden.“
USA und Großbritannien setzen unterschiedliche Akzente
Smiths Forderungen stehen im Gegensatz zur Haltung von US-Präsident Donald Trump, der vor allem auf eine Selbstregulierung der Branche setzt. Trump argumentiert, US-Unternehmen dürften im Wettbewerb mit China nicht durch Vorschriften gebremst werden. Wiederholt sagte er, „wer KI gewinnt, besitzt alles“.
Freiwillige Kontrollen reichten allein nicht aus, sagte Smith – besonders dann nicht, wenn Unternehmen keine Verantwortung übernehmen wollten. Die Diskussion über das Tempo der KI-Entwicklung und notwendige Schutzmaßnahmen hat sich zuletzt verschärft. Führungskräfte bei den US-Unternehmen Anthropic, OpenAI und Google DeepMind unterstützen Vorschläge, die Entwicklung zu verlangsamen. Trump lehnt das ab.
Smith warnte, Regeln seien nötig, falls KI-Agenten sich der menschlichen Kontrolle entzögen oder so leistungsfähig würden, dass sie die globale Cybersicherheit gefährdeten. Großbritannien könne die internationalen Gespräche vorantreiben, sagte er, und verwies auf die dortige Forschung zur KI-Sicherheit. Das unter dem früheren Premierminister Rishi Sunak gegründete AI Safety Institute heißt inzwischen AI Security Institute. Fachleute aus der Technologiebranche sähen Großbritannien bei den relevanten technischen Fähigkeiten als führend, so Smith.
Ob Washington Regeln akzeptieren würde, die von Großbritannien ausgehen, beantwortete Smith mit einem Vergleich: US-Politiker sähen London anders als Brüssel. Deshalb könnten britische Vorschläge in den USA eher auf Zustimmung stoßen. Eine Einigung der beiden Länder auf ein konkretes Regelwerk verkündete er nicht.
Smith hält freiwillige Zusage aus dem Weißen Haus für unzureichend
Ende vergangenen Monats traf Trump im Weißen Haus Führungskräfte von OpenAI, Anthropic, Nvidia, SpaceX, Meta und Google. Die Unternehmen unterzeichneten eine freiwillige, an ethischen Grundsätzen ausgerichtete Zusage. Sie wollen mit „unabhängigen Prüfern“ zusammenarbeiten, um zu kontrollieren, ob ihre KI-Systeme wie vorgesehen funktionieren und nicht unbeabsichtigt auf technische Infrastruktur zugreifen oder in diese eindringen.
Smith nannte die Zusage einen „guten und notwendigen Schritt“ und erklärte, Microsoft sei bereit, sie zu unterzeichnen. Freiwillige Verpflichtungen reichten inzwischen jedoch nicht mehr aus. Unternehmen, die Compliance bereits ernst nähmen, würden Schutzmaßnahmen wahrscheinlich umsetzen. Schwieriger sei der Umgang mit Firmen, die sich nicht selbst regulierten.
Die politische Debatte dreht sich daher nicht nur darum, wie KI-Modelle geprüft werden. Offen ist auch, wer diese Prüfungen vornimmt, welche Vorfälle Unternehmen melden und offenlegen müssen und ob Vorschriften auch für Firmen gelten können, die auf Selbstregulierung verzichten. Smiths Forderung nach globalen KI-Sicherheitsregeln ist bislang ein Vorschlag; konkrete Regelungen stehen noch aus.