Sicherheitsbedenken bei KI-Einsatz in der Biowaffenforschung
Der KI-Entwickler Anthropic hat in einem umfassenden 154-seitigen Bericht offengelegt, dass sein KI-Modell Claude Ziel von Anfragen im Kontext potenzieller biologischer Waffen wurde. Im Zentrum stand eine Förderanfrage zur Veränderung des von Moskitos übertragenen Chikungunya-Virus mit dem Ziel, dessen Übertragbarkeit und Immunfluchtfähigkeit zu erhöhen. Anthropic blockierte die zugehörigen Anfragen über seine Sicherheitssysteme, aber den Forschern gelang es offenbar, ihre Anfragen an andere KI-Anbieter weiterzuleiten – ein Hinweis auf bestehende Sicherheitslücken im Umgang mit sensiblen biotechnologischen Forschungsthemen.
Blockierte Förderanfrage führt zu Ausweichmanövern bei KI-Nutzung
Das umstrittene Forschungsvorhaben wurde von zivilen Wissenschaftlern formuliert, die für eine militärische Behörde tätig sein wollten, mit dem Ziel, einen Virus ohne aktuelle Heilungsmöglichkeit in seiner Verbreitung zu fördern. Anthropic lehnte mehrere Anfragen dazu ab, wobei Claude strikte Inhaltsregeln durchsetzte. Die Forscher entwickelten jedoch eine Technik, die verbotene Eingaben automatisch an ein KI-Modell eines Konkurrenzanbieters umleitete. Anthropic beschreibt diese Methode als Reaktion auf ein als „Überblockierung“ empfundenes Problem in der KI-Inhaltsmoderation.
Fünf Fälle ohne klare Hinweise auf böswillige Absicht identifiziert
Der Bericht benennt fünf Fälle, in denen biologische Forschung von den Sicherheitssystemen abgefangen wurde. Einige Nutzerkonten wurden deaktiviert, und Laborzugänge entzogen. Eine direkte Beschuldigung böswilliger Absichten weist Anthropic zurück: „Wir sehen keinen Nachweis schädlicher Absichten und warnen vor Sicherheitsrisiken bei Identifizierung der Betroffenen.“ Ein Beispiel betrifft einen Forscher zur Vogelgrippe, der bewusst eingeschränkte KI-Modelle verwendete, um Missbrauch zu begrenzen. Anthropic betont, dass die Filterprotokolle einen präventiven Schutz bieten, die Einschätzung des Gesamtrisikopotenzials aber komplex bleibt.
Herausforderungen der KI-Regulierung in sensiblen Biobereichen
Die Offenlegungen verdeutlichen die Schwierigkeiten, KI-Nutzung in besonders risikobehafteten Forschungskontexten, etwa zivil-militärischen Projekten, zu überwachen und zu kontrollieren. Die Branche steht vor der Aufgabe, regulatorische Maßnahmen zu entwickeln, die solche Anwendungen effektiv adressieren und zugleich Umgehungsversuche erschweren. Der von Anthropics Sicherheitschef geschrieben Bericht unterstreicht das Engagement des Unternehmens für Transparenz und verantwortungsbewusste KI-Entwicklung bei gleichzeitiger Förderung eines ausgewogenen Innovationsumfelds.