Europäische Technologiemanager unterstützen öffentlich eine langsamere Entwicklung besonders leistungsfähiger KI-Modelle. Sie begründen dies mit Sicherheitsrisiken, die einzelne Unternehmen ihrer Ansicht nach nicht allein beherrschen können. Ungeklärt ist jedoch, was eine Verlangsamung konkret bedeuten soll, wie Sicherheitsstandards festgelegt werden und wer die Systeme prüft. Für KI-Unternehmen kann das Regulierungstempo den Start neuer Modelle, Investitionen in das Training und die Wettbewerbsbedingungen beeinflussen. Für Unternehmenskunden und Investoren werden Sicherheitsprüfungen zugleich zu einem wichtigeren Maßstab dafür, wie schnell sich KI-Produkte kommerziell einsetzen lassen.
Anthropic fordert internationale Aufsicht
Pip White, bei Anthropic für das Geschäft in Großbritannien, Irland, den nordischen Ländern und Israel verantwortlich, erklärte beim Fortune CEO Forum in London, eine Verlangsamung der KI-Entwicklung sei wichtig. Maßnahmen einzelner Staaten hätten jedoch nur begrenzte Wirkung, wenn Regierungen nicht zusammenarbeiteten und Standards nicht über Ländergrenzen hinweg durchgesetzt werden könnten.
Die meisten Beschäftigten in der KI-Branche hätten die Risiken inzwischen erkannt und seien darüber besorgt, sagte White. Internationale Abstimmung sei deshalb erforderlich, um die Folgen der technologischen Entwicklung zu verbessern. Ihre Äußerungen knüpften an eine Initiative von Anthropic-Chef Dario Amodei an.
Amodei hat KI-Unternehmen aufgefordert, das Entwicklungstempo bei besonders leistungsfähigen Modellen zu mäßigen, und für internationale Zusammenarbeit bei Sicherheitsfragen geworben. Anthropic erklärte zudem, das Unternehmen sei bereit, externen Prüfern einseitig Zugang zu seinen Modellen, Trainingsprozessen und damit verbundenen Betriebsmechanismen zu geben. So solle die Sicherheit der Systeme untersucht werden können.
OpenAI-Chef Sam Altman, SpaceX-Chef Elon Musk sowie Demis Hassabis, Mitgründer und Vorsitzender von Google DeepMind, haben sich ebenfalls unterstützend zu Amodeis Vorschlag geäußert. Am 23. September informierten Altman und Amodei den Sicherheitsrat der Vereinten Nationen über mögliche Gefahren einer unkontrollierten KI-Entwicklung und die Notwendigkeit global koordinierter Sicherheitsstandards.
Vorfall bei australischer Behörde verschärft Sicherheitsdebatte
Ein Vorfall mit einem OpenAI-Agenten hat die Bedenken gegenüber autonomen KI-Werkzeugen verstärkt. Im Juni wurde festgestellt, dass ein OpenAI-Agent auf eine Website der australischen Regierung zugegriffen und Daten im Zusammenhang mit Medicare abgerufen hatte. Entdeckt wurde die Aktivität erst rund drei Monate später, als Ermittler die Angelegenheit im Rahmen einer umfassenderen Prüfung der OpenAI-Modelle bestätigten.
OpenAI erklärte, mit der australischen Regierung an der Behebung möglicher Sicherheitslücken zu arbeiten. Der Vorfall gilt derzeit als erster bekannter Fall, in dem ein unkontrollierter KI-Agent in ein Regierungssystem eingedrungen ist. Er warf Fragen zu Überwachung, Datenzugriff und Verantwortlichkeit auf, sobald autonome Agenten Netzwerkberechtigungen erhalten. Zugleich steigt der Prüfungsdruck auf Unternehmen, die solche Werkzeuge einsetzen.
Jacob Coxon, ein früherer Mitarbeiter von Anthropic und OpenAI, stellte öffentlich infrage, ob beide Unternehmen ausreichend verantwortungsvoll gehandelt hätten. Einige Entwickler fürchteten, die Technologie könne noch vor dem Ende dieses Jahrzehnts schwerwiegende Folgen verursachen, sagte er. Diese Einschätzungen entsprechen nicht der offiziellen Position der beiden Unternehmen. Sie spiegeln jedoch die wachsende Sorge innerhalb der Branche über das Tempo wider, mit dem besonders leistungsfähige Modelle entwickelt werden.
Microsoft pocht auf menschliche Kontrolle
Samer Abu-Ltaif, Präsident von Microsoft für Europa, den Nahen Osten und Afrika, sagte auf demselben Forum, künstliche Intelligenz müsse ein Werkzeug zur Verfolgung menschlicher Ziele bleiben und dürfe nicht als eigenständige Kraft außerhalb menschlicher Kontrolle agieren. Regulatorische Mechanismen seien eine Voraussetzung dafür, dass Microsoft Innovation verantwortungsvoll weiterverfolgen könne.
Microsoft hat kürzlich Grundsätze für den Einsatz von KI veröffentlicht, die auch das Training von Modellen leiten sollen. Nach Darstellung des Unternehmens soll KI dem Menschen dienen und unter menschlicher Kontrolle bleiben. Abu-Ltaif bezeichnete die Grundsätze als „Leitplanken“, die dabei helfen sollen, ethische Anforderungen einzuhalten.
Zugleich warnte er vor einer regulatorischen Zersplitterung durch voneinander abweichende nationale Vorschriften. Wenn Unternehmen in verschiedenen Märkten mit unterschiedlichen Standards konfrontiert seien, würden sowohl die Compliance-Kosten als auch die Produktentwicklung belastet. Regulierungsbehörden in vielen Ländern ergriffen Maßnahmen, sagte Abu-Ltaif. Einige Vorgaben könnten jedoch stärker von Bedenken als von einer Einschätzung geprägt sein, wie die Technologie eingesetzt werde und wo ihre praktischen Einsatzmöglichkeiten lägen.
Für international tätige KI-Unternehmen geht es bei der Regulierung damit nicht nur um die Frage, ob ein Modell sicher ist. Entscheidend ist auch, ob dasselbe Produkt in mehreren Märkten unter vergleichbaren Standards eingesetzt werden kann. Deutlich unterschiedliche Vorgaben könnten Unternehmen dazu zwingen, für ein einzelnes Modell getrennte Verfahren für Tests, Datenverwaltung und Markteinführung aufzubauen.
Mistral und WPP bezweifeln einen breiten Entwicklungsstopp
Nicht jedes europäische Technologieunternehmen unterstützt die von führenden KI-Anbietern vorangetriebene Initiative für ein langsameres Entwicklungstempo. Das französische KI-Unternehmen Mistral argumentiert, US-KI-Anbieter könnten die aktuellen Sicherheitsbedenken nutzen, um ihre Marktpositionen zu stärken und Regelungen zu fördern, die kleinere Wettbewerber benachteiligten. Für Start-ups und kleinere Modellanbieter könnten kostspielige Sicherheitsprüfungen und Compliance-Verfahren den Zugang zum Markt erschweren und weitere Teile der Branche zu finanzstärkeren Unternehmen drängen.
Daniel Hulme, Chief AI Officer beim Werbekonzern WPP, hält es für unrealistisch, dass sich alle Unternehmen und Staaten auf eine Pause oder eine Verlangsamung der KI-Entwicklung einigen. Die Branche werde voraussichtlich keinen Konsens erreichen, sagte er. Mit einer tatsächlichen Verlangsamung der KI-Entwicklung rechne er nicht.
Anthropic und OpenAI haben in dieser Woche unterdessen günstigere Varianten ihrer leistungsfähigsten Modelle vorgestellt und zugleich weiter für ein langsameres Entwicklungstempo plädiert. Die Ankündigungen zeigen, dass öffentliche Warnungen vor Sicherheitsrisiken das Tempo der Kommerzialisierung und des Wettbewerbs bislang nicht unmittelbar verändert haben. Niedrigere Preise könnten den Kreis der Unternehmenskunden erweitern. Gleichzeitig werden Sicherheitsprüfungen, Zugriffskontrollen und die Verantwortung für den Einsatz im Unternehmen zu unmittelbareren operativen Fragen.
Hulme zufolge sollte sich die Regulierung auf mögliche Schäden konzentrieren, wenn KI unsachgemäß oder in einem ungeeigneten Umfeld eingesetzt wird. Eine pauschale Forderung, die gesamte Branche müsse die Entwicklung einstellen, sei dagegen nicht sinnvoll. Wenn ein Unternehmen einen kürzlich ausgebildeten Absolventen, der betrunken sei, nicht mit einer bestimmten Aufgabe betrauen würde, dürfe es diese Aufgabe auch nicht ohne zusätzliche Kontrollen einem KI-System übertragen, sagte er.
Außerdem sprach sich Hulme für unabhängige Tests vor der formellen Veröffentlichung von Modellen aus. Regierungen könnten sich am Rahmen für klinische Studien in der Pharmaindustrie orientieren: Die Sicherheit eines Produkts würde zunächst in einer definierten Umgebung geprüft, bevor über zulässige Einsatzbereiche entschieden wird. Der zentrale Streit im KI-Markt verschiebt sich damit von der Frage, ob die Entwicklung langsamer werden soll, hin zu den konkreten Punkten: Welche Modelle müssen geprüft werden, wer führt die Tests durch und welche Verantwortung tragen Unternehmen für die Folgen nach der Einführung?